Pinker, Tegmark e 'Beff Jezos' assinam texto que chama a Anthropic de 'empresa de IA não segura'

A MisAnthropic Statement do Center for AI Safety, divulgada antes do IPO, diz que a Anthropic corre para criar IA que se autoaprimora enquanto enfraquece seus compromissos de segurança.
Por que importa
A declaração sai um dia antes da esperada estreia da Anthropic na Nasdaq e une, de forma incomum, pesquisadores de segurança e aceleracionistas como Guillaume Verdon e George Hotz. Segundo sua seção de evidências, a Anthropic enfraqueceu em fevereiro sua Responsible Scaling Policy, abandonando compromissos unilaterais de pausa, e fez lobby contra o SB 1047, o RAISE Act e o AEGIS Act. Dan Hendrycks diz que outros grupos de segurança concordaram em privado, mas não assinaram por medo de perder financiamento. Resta ver se a Anthropic responde antes da precificação e se investidores levantam o tema.
Fatos principais
- Organizada pelo Center for AI Safety
- Publicada em misanthropicstatement.com em 18 de novembro
- Assinam Steven Pinker, Max Tegmark, Judea Pearl e Thomas Wolf
- Também Guillaume Verdon, George Hotz e Igor Babuschkin
- Diz que a Anthropic enfraqueceu sua Responsible Scaling Policy em fevereiro
- Cita lobby contra o SB 1047, o RAISE Act e o AEGIS Act