アルトマン氏、人類は未来の主導権を超知能に譲ってはならないと発言
OpenAIのCEOはXへの投稿で、この要件が最終的にAIの進歩を制約すべきだと述べ、AIシステムが報酬に値すると判断することだけを人間が行う役割に追いやられることにOpenAIは反対すると書いた。
なぜ重要か
今回の投稿は9月の公開議論に続くものだ。当時、Anthropicのダリオ・アモデイCEOが業界にAI開発のペースを落とすよう呼びかけ、アルトマン氏はフロンティアのペース配分が必要だと賛同し、独立した評価者によるシステムへのアクセスを支持した。9月の国連安全保障理事会では、人間の管理下にとどまると開発者が強く示せない限りシステムを訓練すべきでないとも述べた。
要点
- 11月4日UTC 01:40にXへ投稿
- 数時間で閲覧47万回超、返信約870件
- アルトマン氏は9月、フロンティアのペース配分を求めるアモデイ氏の呼びかけを支持
- 9月に国連安保理でAIは人間の管理下にあるべきだと発言