Anthropic、Claudeに自らの各会話の安全性を自己評価させ、オフラインの悪用監視に活用

AnthropicのSafeguardsチームによると、Claude Fable 5では、より強力な分類器が有害の可能性ありと判定した会話の78%、優先度の高い会話の94%を誤検知率1%で検出し、推論計算の増加は2%未満。Fable 5以降の全モデルで稼働し、会話は遮断せず、本気の攻撃者には耐えられないとしている。