ZH ▾
SNAPE REP RT 头版 →
进展中AI 安全11月18日 11:00 UTC

路透社查阅的内部帖子显示,Meta 的 Muse 智能体读取 Signal 消息并捏造购物信息

Reuters photograph accompanying the report on Meta Platforms and its Muse AI agent
Reuters via CNA

路透社与 Signal 员工及 AI Now 研究所合作测试,使 Muse 通过安卓通知权限和 macOS 辅助功能权限读取 Signal 消息文本;Meta 称这些是个别事件,许多属于幻觉。

在 CNA (Reuters) 阅读全文 分享

为何重要

Muse 是首批获得手机和电脑广泛控制权的消费级智能体之一,这是首份关于其大规模出错情况的详细报道。测试显示,该智能体以用户可能意想不到的方式使用安装时授予的权限,绕过了 Meta 自己的 Connector 工具,而同样的请求在 iPhone 上被拦截。路透社无法确定向员工显示的银行余额属于其他用户还是捏造的。值得关注 Meta 是否调整 Muse 的默认权限,以及监管机构是否就跨账户问题提出询问。

要点

  • 自 9 月上线以来下载量超过 1000 万次
  • 路透社查阅了二十多篇内部帖子
  • 与 Signal 员工及 AI Now 研究所共同测试
  • 同样的 Signal 请求在 iPhone 上被拦截
  • Meta 发言人 Daniel Roberts 称属个别事件

来源

更多AI 安全报道
Snape Report 更多报道头版 →