PT ▾
SNAPE REP RT Primeira página →
ConfirmadoSegurança da IA18 de nov., 15:04 UTC

Pinker, Tegmark e 'Beff Jezos' assinam texto que chama a Anthropic de 'empresa de IA não segura'

File image of the Anthropic logo
File image via Wikimedia Commons

A MisAnthropic Statement do Center for AI Safety, divulgada antes do IPO, diz que a Anthropic corre para criar IA que se autoaprimora enquanto enfraquece seus compromissos de segurança.

Ler em The MisAnthropic Statement (Center for AI Safety) Compartilhar

Por que importa

A declaração sai um dia antes da esperada estreia da Anthropic na Nasdaq e une, de forma incomum, pesquisadores de segurança e aceleracionistas como Guillaume Verdon e George Hotz. Segundo sua seção de evidências, a Anthropic enfraqueceu em fevereiro sua Responsible Scaling Policy, abandonando compromissos unilaterais de pausa, e fez lobby contra o SB 1047, o RAISE Act e o AEGIS Act. Dan Hendrycks diz que outros grupos de segurança concordaram em privado, mas não assinaram por medo de perder financiamento. Resta ver se a Anthropic responde antes da precificação e se investidores levantam o tema.

Fatos principais

  • Organizada pelo Center for AI Safety
  • Publicada em misanthropicstatement.com em 18 de novembro
  • Assinam Steven Pinker, Max Tegmark, Judea Pearl e Thomas Wolf
  • Também Guillaume Verdon, George Hotz e Igor Babuschkin
  • Diz que a Anthropic enfraqueceu sua Responsible Scaling Policy em fevereiro
  • Cita lobby contra o SB 1047, o RAISE Act e o AEGIS Act

Fontes

Mais sobre Segurança da IA
Mais do Snape ReportPrimeira página →