JA ▾
SNAPE REP RT トップページ →
続報AI安全性11月21日 03:54 UTC

OpenRouter、MiniMaxモデルに送ったプロンプトが第三者に読まれた可能性と警告

Ars Technica illustration for its report on secrets leaking through the AI model supply chain.
Ars Technica

研究者がプロンプトに埋め込んだ固有のテストURLが、送信の40〜130時間後にアクセスされていたことを受けた通知で、誰が読んだかは特定されていない。

RuntimeWire で読む 共有

なぜ重要か

OpenRouterのようなルーターは、ユーザーのプロンプトを平文のまま各モデルをホストする事業者に渡すため、どこか1社で漏洩すれば、ユーザーが直接送っていない事業者からもデータが流出する。Ars Technicaが報じたHD Mooreのカナリア実験は、追跡可能な秘密を含む約200万件のプロンプトを送り、侵害されたホストやプライバシー規約違反の収集を見つけた。OpenRouterの通知はモデル系列を名指しした初の例だ。MiniMaxの対応と、他のルーターが顧客に通知するかが焦点となる。

要点

  • テストURLは送信の40〜130時間後にアクセス
  • 通知はMiniMaxモデルへのプロンプトと出力が対象
  • MiniMaxは中国のAIラボ
  • HD Mooreは約200万件のプロンプトを送信
  • 3つのホスティング事業者の侵害が判明

出典

AI安全性の関連記事
Snape Report のほかの記事トップページ →