元Google DeepMindの安全性研究者、インドの政策担当者にAIによる人類絶滅リスクを訴えたデリー講演を公開

TurnTroutのAlignment Forum投稿は、NDTVワールドサミットでの20分間の講演を書き起こしたもの。6月に国防総省との契約を理由にGoogle DeepMindを去ったという筆者は、AIの優先順位を確実に定める方法は誰も知らず、モデルはテストされていることを見抜けると述べ、知能爆発へ突き進む研究所は減速すべきだと主張。講演中の事例は筆者の説明で、出典リンク付き。