ZH ▾
SNAPE REP RT 头版 →
进展中AI 安全11月21日 03:54 UTC

OpenRouter 警告:发送给 MiniMax 模型的提示词可能已被第三方读取

Ars Technica illustration for its report on secrets leaking through the AI model supply chain.
Ars Technica

此前一名研究人员发现,放入提示词中的唯一测试网址在请求发出 40 至 130 小时后被访问;目前尚不清楚是谁读取了这些内容。

在 RuntimeWire 阅读全文 分享

为何重要

OpenRouter 这类路由服务会把用户提示词以明文转交给托管模型的服务商,因此任何一家服务商泄露,都会暴露用户从未直接发给它的数据。Ars Technica 报道的 HD Moore“金丝雀”实验在近两百万条提示词中植入可追踪的秘密,发现了遭入侵的托管商以及违反隐私条款的抓取行为。OpenRouter 的通知是首次点名具体模型系列。接下来要看 MiniMax 的回应,以及其他路由服务是否通知客户。

要点

  • 测试网址在请求后 40 至 130 小时被访问
  • 通知涉及发给 MiniMax 模型的提示词和输出
  • MiniMax 是中国 AI 实验室
  • HD Moore 植入近两百万条提示词
  • 发现三家托管服务商遭入侵

来源

更多AI 安全报道
Snape Report 更多报道头版 →