Pinker, Tegmark et « Beff Jezos » signent un texte qualifiant Anthropic d'« entreprise d'IA non sûre »

La MisAnthropic Statement du Center for AI Safety, publiée avant l'introduction en Bourse, accuse Anthropic de foncer vers une IA auto-améliorante tout en affaiblissant ses engagements de sécurité.
Pourquoi c’est important
Le texte paraît la veille des débuts attendus d'Anthropic au Nasdaq et réunit, fait rare, des chercheurs en sécurité et des accélérationnistes comme Guillaume Verdon et George Hotz. Selon ses éléments de preuve, Anthropic a affaibli en février sa Responsible Scaling Policy, abandonnant ses engagements unilatéraux de pause, et a fait pression contre SB 1047, le RAISE Act et l'AEGIS Act. Dan Hendrycks affirme que d'autres groupes de sécurité étaient d'accord en privé mais n'ont pas signé par crainte de perdre des financements. À suivre : une réponse d'Anthropic avant la fixation du prix et la réaction des investisseurs.
Faits clés
- Organisée par le Center for AI Safety
- Publiée sur misanthropicstatement.com le 18 novembre
- Signataires : Steven Pinker, Max Tegmark, Judea Pearl, Thomas Wolf
- Aussi Guillaume Verdon, George Hotz et Igor Babuschkin
- Dit qu'Anthropic a affaibli sa Responsible Scaling Policy en février
- Cite un lobbying contre SB 1047, le RAISE Act et l'AEGIS Act