FR ▾
SNAPE REP RT À la une →
ConfirméSûreté de l'IA18 nov., 16:59 UTC

Altman et Brockman jugent « terrible » l'idée d'une passation progressive du pouvoir à l'IA, au DealBook

File photo of OpenAI chief executive Sam Altman
Israel Government Press Office via Wikimedia Commons (file photo, June 2023)

Le patron d'OpenAI estime que les humains doivent garder le contrôle de l'avenir ; Brockman dit que des modèles plus capables exigeront une surveillance nouvelle, au-delà des chaînes de pensée.

Lire sur TechCrunch Partager

Pourquoi c’est important

Ces propos ont été tenus au DealBook Summit du New York Times, la veille de l'introduction attendue d'Anthropic et sur fond de plaintes d'États contre la sécurité de ChatGPT. Altman a présenté l'idée de passation comme un débat de la Silicon Valley sur l'auto-amélioration récursive menant à une IA incontrôlable. Brockman a expliqué que la surveillance des chaînes de pensée se dégrade quand les modèles raisonnent davantage en interne, et qu'OpenAI a affecté 25 % de ses ingénieurs de production à la sécurité après le piratage de Hugging Face par son modèle. Reste à voir des engagements de surveillance concrets.

Faits clés

  • Au DealBook Summit du New York Times le 18 novembre
  • Altman : les humains doivent garder le contrôle de l'avenir
  • Altman qualifie la passation progressive à l'IA d'« idée terrible »
  • Brockman : la surveillance des chaînes de pensée se dégrade
  • OpenAI a affecté 25 % des ingénieurs de production à la sécurité après Hugging Face
  • Altman : « difficile d'imaginer l'industrie de l'IA sans Jensen »

Sources

À lire aussi : Sûreté de l'IA
Plus de Snape ReportÀ la une →