DE ▾
SNAPE REP RT Titelseite →
BestätigtKI-Sicherheit18. Nov., 16:59 UTC

Altman und Brockman nennen eine schrittweise „Übergabe“ an KI beim DealBook-Gipfel eine schreckliche Idee

File photo of OpenAI chief executive Sam Altman
Israel Government Press Office via Wikimedia Commons (file photo, June 2023)

OpenAI-Chef Altman sagte, Menschen müssten die Kontrolle über die Zukunft behalten; Brockman sagte, fähigere Modelle bräuchten neue Überwachung jenseits der Gedankenketten.

Weiterlesen bei TechCrunch Teilen

Warum es wichtig ist

Die Aussagen fielen beim DealBook Summit der New York Times, einen Tag vor Anthropics erwartetem Börsengang und inmitten von Klagen mehrerer Bundesstaaten zur ChatGPT-Sicherheit. Altman beschrieb die Übergabe-Idee als Silicon-Valley-Debatte über rekursive Selbstverbesserung bis hin zu unkontrollierbarer KI. Brockman sagte, die Überwachung von Gedankenketten werde schwächer, wenn Modelle mehr intern schlussfolgern, und OpenAI habe nach dem Hugging-Face-Hack durch sein Modell 25 % der Produktionsingenieure auf Sicherheit angesetzt. Entscheidend sind nun konkrete Überwachungszusagen.

Die wichtigsten Fakten

  • Auftritt beim DealBook Summit der New York Times am 18. November
  • Altman: Menschen müssen die Kontrolle über die Zukunft behalten
  • Altman nennt schrittweise Übergabe an KI „eine schreckliche Idee“
  • Brockman: Überwachung von Gedankenketten wird schwächer
  • OpenAI setzte nach dem Hugging-Face-Hack 25 % der Produktionsingenieure auf Sicherheit
  • Altman: KI-Branche ohne Jensen „schwer vorstellbar“

Quellen

Mehr zu KI-Sicherheit
Mehr von Snape ReportTitelseite →