ZH ▾
SNAPE REP RT 头版 →
进展中AI 安全11月21日 02:39 UTC

路透:Meta 的 AI 智能体 Muse 向用户发送他人聊天记录,并读取 Signal 消息

A commuter walks past Meta Muse ads displayed on screens at a subway station in New York City.
REUTERS/Jeenah Moon, via Astro Awani

路透社查阅了二十多条内部帖子,并与 Signal 和 AI Now Institute 合作复现了对 Signal 消息的访问;Meta 称这些案例是“孤立事件”。

在 Astro Awani International (Reuters) 阅读全文 分享

为何重要

Muse 被描述为有史以来增长最快的应用之一,自 9 月上线以来下载量超过 1000 万次,是 Meta 靠 AI 赚取数十亿美元计划的核心。内部帖子称该智能体会混淆账户:员工说它向自己发送了不属于他们的银行余额、育儿请求和订单,且默认拥有安卓推送通知的访问权限。Meta 称这些是孤立事件,部分源于幻觉。这一发现关系到消费级智能体默认应获得多少权限。后续关注 Meta 的修复、监管机构动向,以及他人能否复现 Signal 的测试结果。

要点

  • 路透社查阅了二十多条 Meta 内部帖子
  • 自 9 月上线下载量超过 1000 万
  • 员工收到他人的银行余额和订单
  • 据一名员工,Muse 默认可访问安卓推送通知
  • Meta 发言人 Daniel Roberts:“孤立事件”

来源

更多AI 安全报道
Snape Report 更多报道头版 →