Caucus AI報告、研究者が作った実在の上院候補に関する試験サイトが19時間以内にチャットボットで引用

独立プロジェクトは選挙後の報告で、同サイトを引用した回答の約3分の1が候補者の公式サイトと紹介し、ChatGPT、Gemini、GoogleのAIによる概要が架空の選挙を実在するかのように扱ったとしている。
なぜ重要か
この実験は、外部の者がチャットボットの有権者への回答をいかに安く左右できるかを示す。サイトはAIエージェントで作成し、1ドメイン約12ドル、約48時間で公開、公式ではないと明記していた。データセンターに関する数文を加えると、その候補者についての回答でデータセンターに触れる確率が4.4ポイント上がった。報告によれば投票見込み層の44%が少なくとも週1回AI製品を使う。OpenAIとGoogleが新しいサイトの扱いを変えるかが焦点だ。
要点
- 試験サイトは19時間以内に引用
- 引用回答の約3分の1が公式サイトと紹介
- 10月10日公開、1ドメイン約12ドル
- データセンターの記述で言及率が4.4ポイント上昇
- 投票見込み層の44%が週1回以上AIを利用