Beitrag im Alignment Forum schlägt eine gesetzliche Mindestwartezeit vor, bevor neue KI-Checkpoints intern genutzt werden dürfen
Als Privatmeinung schlägt annawang vor, dass kein Checkpoint über Sicherheitstests hinaus genutzt wird, bevor X Kalendertage nach Hinterlegung seines Hashs bei einem Prüfer vergangen sind, beginnend mit 10 und womöglich bis 90 Tagen.
Warum es wichtig ist
Die meisten diskutierten Sicherheitsregeln zielen auf externe Veröffentlichungen; dieser Vorschlag zielt auf die interne Nutzung, bei der Labore neue Modelle zunehmend für die eigene Forschung einsetzen. Er greift eine Idee des AI Futures Project auf, KI-Forschung nur von KIs unterstützen zu lassen, die Monate früher trainiert wurden. Der Beitrag erscheint wenige Stunden, nachdem Autoren des AI Futures Project ihre Prognose für einen übermenschlichen KI-Forscher auf 2027 vorgezogen haben. Es ist ein persönlicher Vorschlag, keine Laborrichtlinie und kein Gesetzentwurf.
Die wichtigsten Fakten
- Autor: annawang, als Privatmeinung
- Veröffentlicht im AI Alignment Forum am 11. November 2026
- Wartezeit beginnt mit Hinterlegung des Checkpoint-Hashs bei einem Prüfer
- Vorgeschlagen: 10 Kalendertage, womöglich bis 90
- Sicherheitstests während der Wartezeit erlaubt