ピンカー氏、テグマーク氏、「Beff Jezos」氏らが「Anthropicは安全なAI企業ではない」との声明に署名

Center for AI SafetyがIPO前に出した「MisAnthropic Statement」は、Anthropicが安全公約を弱めつつ自己改良型AIの開発を急いでいると批判した。
なぜ重要か
声明はAnthropicのナスダック上場予定日の前日に出され、安全性研究者とGuillaume Verdon氏やGeorge Hotz氏ら加速主義者が異例の形で並んだ。根拠の項では、Anthropicが2月に責任あるスケーリング方針を弱めて一方的な停止の公約を撤回し、SB 1047、RAISE法、AEGIS法に反対するロビー活動をしたとしている。Dan Hendrycks氏は、他の安全団体も内心は同意したが資金を失うことを恐れて署名しなかったと述べた。値決め前にAnthropicが反論するか、投資家が問題視するかが焦点だ。
要点
- Center for AI Safetyが主導
- 11月18日にmisanthropicstatement.comで公開
- 署名者にスティーブン・ピンカー氏、テグマーク氏、パール氏、Thomas Wolf氏
- Guillaume Verdon氏、George Hotz氏、Igor Babuschkin氏も署名
- Anthropicが2月に責任あるスケーリング方針を弱めたと指摘
- SB 1047、RAISE法、AEGIS法への反対ロビーを挙げる