JA ▾
SNAPE REP RT トップページ →
確認済みAI安全性11月18日 16:59 UTC

アルトマン氏とブロックマン氏、DealBookでAIへの段階的な「権限移譲」は最悪の考えと発言

File photo of OpenAI chief executive Sam Altman
Israel Government Press Office via Wikimedia Commons (file photo, June 2023)

OpenAIのCEOは人間が未来の主導権を保つべきだと述べ、ブロックマン氏はより高性能なモデルには思考の連鎖以外の新しい監視が必要になると語った。

TechCrunch で読む 共有

なぜ重要か

発言はニューヨーク・タイムズのDealBookサミットでのもので、Anthropicの上場予定日の前日、ChatGPTの安全性をめぐる州の訴訟が相次ぐ中で行われた。アルトマン氏は権限移譲論を、再帰的自己改良が人間の制御できないAIにつながるというシリコンバレーの議論として紹介した。ブロックマン氏は、モデルが内部で推論するほど思考の連鎖の監視は弱まると述べ、自社モデルによるHugging Faceへのハッキング後に本番エンジニアの25%をセキュリティに回したと明かした。今後は具体的な監視策が焦点となる。

要点

  • 11月18日、ニューヨーク・タイムズのDealBookサミットで発言
  • アルトマン氏「人間が未来の主導権を保つべきだ」
  • AIへの段階的な権限移譲は「最悪の考え」
  • ブロックマン氏「思考の連鎖の監視性は低下する」
  • Hugging Face事件後、本番エンジニアの25%をセキュリティへ
  • アルトマン氏「ジェンスン抜きのAI業界は想像しがたい」

出典

AI安全性の関連記事
Snape Report のほかの記事トップページ →