平克、泰格马克与“Beff Jezos”联署声明,称 Anthropic“不是一家安全的 AI 公司”

人工智能安全中心在 IPO 前发布“MisAnthropic 声明”,称 Anthropic 一边削弱安全承诺,一边竞相打造可自我改进的 AI。
为何重要
该声明在 Anthropic 预计登陆纳斯达克的前一天发布,罕见地把安全研究者与 Guillaume Verdon、George Hotz 等加速主义者聚在一起。其证据部分称,Anthropic 今年 2 月削弱了“负责任扩展政策”,放弃单方面暂停承诺,并游说反对 SB 1047、RAISE 法案和 AEGIS 法案。Dan Hendrycks 表示,其他安全团体私下认同,但担心失去资助而未签名。接下来要看 Anthropic 是否在定价前回应,以及 IPO 投资者是否追问。
要点
- 由人工智能安全中心(CAIS)发起
- 11 月 18 日发布于 misanthropicstatement.com
- 签署者包括史蒂芬·平克、泰格马克、朱迪亚·珀尔、Thomas Wolf
- 还有 Guillaume Verdon、George Hotz 和 Igor Babuschkin
- 称 Anthropic 2 月削弱了负责任扩展政策
- 指其游说反对 SB 1047、RAISE 法案和 AEGIS 法案