ZH ▾
SNAPE REP RT 头版 →
已证实AI 安全11月04日 11:09 UTC

Caucus AI报告:研究人员为真实参议院候选人搭建的测试网站19小时内即被聊天机器人引用

A voter at the polls during the midterm elections in Brooklyn, New York
Leonardo Munoz / AFP via Getty Images, via NBC News

这一独立项目在选后报告中称,约三分之一引用其网站的回答将其称为候选人官方网站;ChatGPT、Gemini和谷歌AI概览还把一场虚构选举当作真实选举讨论。

在 NBC News 阅读全文 分享

为何重要

该测试显示外部人员可以多么低成本地影响聊天机器人对选民的回答:这些网站由AI智能体生成,每个域名约12美元,约48小时上线,并注明并非官方网站。加入几句关于数据中心的内容,使相关候选人的回答提及数据中心的概率高出4.4个百分点。报告还发现,44%的可能选民至少每周使用AI产品。值得关注OpenAI和谷歌是否调整其搜索工具对新网站的排序。

要点

  • 测试网站19小时内被引用
  • 约三分之一相关回答称其为官方网站
  • 10月10日上线,每个域名约12美元
  • 数据中心内容使提及率提高4.4个百分点
  • 44%的可能选民至少每周使用AI产品

来源

更多AI 安全报道
Snape Report 更多报道头版 →