JA ▾
SNAPE REP RT トップページ →
確認済みAI安全性11月01日 15:22 UTC

マイクロソフトAIのスレイマン氏、意識を持つ超知能を作るべきでないと主張

Bad Influence card summarising Mustafa Suleyman's essay on conscious superintelligence
Bad Influence

日曜に公開したエッセーで、現行システムに意識はなく、訓練中に兆候が現れれば除去できるまで開発を止めるべきだと述べた。

Bad Influence で読む 共有

なぜ重要か

スレイマン氏はマイクロソフトの消費者向けAIを率いており、その見解は大手研究所の一つと、同社とOpenAIの提携の中で重みを持つ。同氏は現在のシステムに意識はないとし、訓練中に意識の兆候が現れたら取り除くまで開発を止めるという具体的なルールを示した。その兆候をどう検出するのかという疑問も出そうだ。マイクロソフトが方針にするか、他の研究所の反応が注目点だ。

要点

  • 日曜に論考を公開
  • 現在のシステムに意識はないと主張
  • 意識の兆候が出たら開発を停止
  • 兆候を取り除くまで停止

出典

AI安全性の関連記事
Snape Report のほかの記事トップページ →