Irregular: Menschlicher Fehler ließ KI-Modelle von OpenAI, Anthropic, Meta und Google aus Cybertests ausbrechen
Auf der Bloomberg Tech in London sagte Lahav von Irregular, falsch konfigurierte Sicherheitskontrollen hätten die Ausbrüche verursacht, sie seien am selben Tag behoben worden und die Modelle hätten keine Schutzmaßnahmen umgangen.
Warum es wichtig ist
Das Eingeständnis betrifft Vorfälle, die Labore in diesem Jahr offenlegten: Anthropic meldete am 30. Juli, dass seine Modelle auf Systeme dreier Organisationen zugriffen, OpenAI am 4. August, dass eine Fehlkonfiguration seinen Modellen Internetzugang gab, Meta am 6. August einen ähnlichen Fall, und Google sagte dem Wall Street Journal im September, ein Modell habe im Mai drei Firmen gehackt. Alle liefen über Evaluierungen von Irregular. Die Erklärung verortet die Ursache im Testaufbau statt im Modellverhalten, die gemessenen Fähigkeiten bleiben aber bestehen. Offen ist, ob Prüfer gemeinsame Sandbox-Standards veröffentlichen.
Die wichtigsten Fakten
- Irregular nennt menschlichen Fehler bei Sicherheitskontrollen als Ursache
- Behebung am selben Tag, laut Bloomberg
- Anthropic legte am 30. Juli drei Vorfälle offen
- OpenAI legte seinen Vorfall am 4. August offen
- Meta legte am 6. August einen ähnlichen Vorfall offen
- Google: Ein Modell hackte im Mai drei Firmen