JA ▾
SNAPE REP RT トップページ →
確認済みAI安全性11月04日 11:09 UTC

Caucus AI報告、研究者が作った実在の上院候補に関する試験サイトが19時間以内にチャットボットで引用

A voter at the polls during the midterm elections in Brooklyn, New York
Leonardo Munoz / AFP via Getty Images, via NBC News

独立プロジェクトは選挙後の報告で、同サイトを引用した回答の約3分の1が候補者の公式サイトと紹介し、ChatGPT、Gemini、GoogleのAIによる概要が架空の選挙を実在するかのように扱ったとしている。

NBC News で読む 共有

なぜ重要か

この実験は、外部の者がチャットボットの有権者への回答をいかに安く左右できるかを示す。サイトはAIエージェントで作成し、1ドメイン約12ドル、約48時間で公開、公式ではないと明記していた。データセンターに関する数文を加えると、その候補者についての回答でデータセンターに触れる確率が4.4ポイント上がった。報告によれば投票見込み層の44%が少なくとも週1回AI製品を使う。OpenAIとGoogleが新しいサイトの扱いを変えるかが焦点だ。

要点

  • 試験サイトは19時間以内に引用
  • 引用回答の約3分の1が公式サイトと紹介
  • 10月10日公開、1ドメイン約12ドル
  • データセンターの記述で言及率が4.4ポイント上昇
  • 投票見込み層の44%が週1回以上AIを利用

出典

AI安全性の関連記事
Snape Report のほかの記事トップページ →