ES ▾
SNAPE REP RT Portada →
ConfirmadoSeguridad de la IA18 nov, 15:04 UTC

Pinker, Tegmark y 'Beff Jezos' firman una declaración que llama a Anthropic 'empresa de IA no segura'

File image of the Anthropic logo
File image via Wikimedia Commons

La MisAnthropic Statement del Center for AI Safety, publicada antes de la OPV, dice que Anthropic corre hacia una IA que se mejora sola mientras debilita sus compromisos de seguridad.

Leer en The MisAnthropic Statement (Center for AI Safety) Compartir

Por qué importa

La declaración llega un día antes del esperado debut de Anthropic en el Nasdaq y une de forma inusual a investigadores de seguridad con aceleracionistas como Guillaume Verdon y George Hotz. Su apartado de pruebas dice que Anthropic debilitó en febrero su Responsible Scaling Policy, abandonando compromisos unilaterales de pausa, y presionó contra SB 1047, la RAISE Act y la AEGIS Act. Dan Hendrycks dice que otros grupos de seguridad estaban de acuerdo en privado, pero no firmaron por miedo a perder financiación. Habrá que ver si Anthropic responde antes de fijar el precio y si los inversores lo plantean.

Datos clave

  • Organizada por el Center for AI Safety
  • Publicada en misanthropicstatement.com el 18 de noviembre
  • Firman Steven Pinker, Max Tegmark, Judea Pearl y Thomas Wolf
  • También Guillaume Verdon, George Hotz e Igor Babuschkin
  • Dice que Anthropic debilitó su Responsible Scaling Policy en febrero
  • Cita presión contra SB 1047, la RAISE Act y la AEGIS Act

Fuentes

Más sobre Seguridad de la IA
Más de Snape ReportPortada →