マイクロソフトAIのスレイマン氏、意識を持つ超知能を作るべきでないと主張

日曜に公開したエッセーで、現行システムに意識はなく、訓練中に兆候が現れれば除去できるまで開発を止めるべきだと述べた。
なぜ重要か
スレイマン氏はマイクロソフトの消費者向けAIを率いており、その見解は大手研究所の一つと、同社とOpenAIの提携の中で重みを持つ。同氏は現在のシステムに意識はないとし、訓練中に意識の兆候が現れたら取り除くまで開発を止めるという具体的なルールを示した。その兆候をどう検出するのかという疑問も出そうだ。マイクロソフトが方針にするか、他の研究所の反応が注目点だ。
要点
- 日曜に論考を公開
- 現在のシステムに意識はないと主張
- 意識の兆候が出たら開発を停止
- 兆候を取り除くまで停止