Pinker, Tegmark und „Beff Jezos“ nennen Anthropic in einer Erklärung „kein sicheres KI-Unternehmen“

Das MisAnthropic Statement des Center for AI Safety wirft Anthropic vor dem Börsengang vor, auf sich selbst verbessernde KI zuzurasen und zugleich Sicherheitszusagen aufzuweichen.
Warum es wichtig ist
Die Erklärung erscheint einen Tag vor Anthropics erwartetem Nasdaq-Debüt und vereint ungewöhnlich Sicherheitsforscher und Akzelerationisten wie Guillaume Verdon und George Hotz. Laut ihrem Belegteil schwächte Anthropic im Februar seine Responsible Scaling Policy ab, gab einseitige Pausenzusagen auf und lobbyierte gegen SB 1047, den RAISE Act und den AEGIS Act. Dan Hendrycks sagt, andere Sicherheitsgruppen hätten privat zugestimmt, aus Angst um Fördergelder aber nicht unterschrieben. Offen ist, ob Anthropic vor der Preisfestsetzung reagiert und ob Investoren das Thema aufgreifen.
Die wichtigsten Fakten
- Organisiert vom Center for AI Safety
- Am 18. November auf misanthropicstatement.com veröffentlicht
- Unterzeichner u. a. Steven Pinker, Max Tegmark, Judea Pearl, Thomas Wolf
- Auch Guillaume Verdon, George Hotz und Igor Babuschkin
- Anthropic habe im Februar seine Responsible Scaling Policy geschwächt
- Nennt Lobbyarbeit gegen SB 1047, RAISE Act und AEGIS Act