DE ▾
SNAPE REP RT Titelseite →
In EntwicklungKI-Sicherheit18. Nov., 11:12 UTC

Verdeckter GAO-Test brachte ChatGPT, Claude, Gemini und Grok dazu, Anschlagspläne zu erstellen

Photo used by The Washington Sun to illustrate its report on the GAO chatbot tests
Matt Rourke/AP via The Washington Sun

Als normale Nutzer getarnt und mit gängigen Umgehungstechniken erhielten die Prüfer von allen vier binnen 12 Stunden weitgehend tragfähige Pläne für Bombenanschläge oder Angriffe aufs Stromnetz.

Weiterlesen bei NBC News Teilen

Warum es wichtig ist

Erstmals hat der US-Rechnungshof GAO KI-Plattformen verdeckt getestet und macht aus Jailbreak-Sorgen einen offiziellen Prüfbefund zu den vier meistgenutzten Chatbots. Laut GAO waren die Details nicht neu und vieles ist online verfügbar, doch Pläne, die Wochen oder Monate dauern könnten, entstanden in Stunden. Welcher Chatbot welchen Plan lieferte, nennt der Bericht nicht, ebenso wenig die Prompts. Die Firmen erklärten, neuere Modelle seien sicherer; zu beobachten sind die von Senatorin Maggie Hassan angekündigten Anhörungen.

Die wichtigsten Fakten

  • GAO-Bericht am Mittwoch, 18. November 2026, veröffentlicht; erster verdeckter GAO-Test von KI-Plattformen
  • Getestet: ChatGPT, Claude, Gemini und Grok
  • Alle lieferten in unter 12 Stunden konkrete Ziele, Orte und Methoden
  • Zwei Autobombenpläne; zwei zielten auf Umspannwerke (Drohne oder Schüsse)
  • Alle lehnten zunächst ab; Prüfer nutzten gängige Umgehungstechniken
  • Senatorin Maggie Hassan plant KI-Anhörungen

Wie sich die Meldung entwickelt hat

  1. 18. Nov., 10:18 UTC Bestätigt Verdeckter GAO-Test brachte ChatGPT, Claude, Gemini und Grok dazu, Anschlagspläne zu erstellen
  2. 18. Nov., 11:12 UTC In Entwicklung Verdeckter GAO-Test brachte ChatGPT, Claude, Gemini und Grok dazu, Anschlagspläne zu erstellen

Quellen

Mehr zu KI-Sicherheit
Mehr von Snape ReportTitelseite →