Altman affirme que les humains ne doivent pas céder le contrôle de l'avenir à la superintelligence
Dans un message sur X, le directeur général d'OpenAI a écrit que cette exigence devrait à terme limiter les progrès de l'IA, et qu'OpenAI refuse que les humains soient relégués à faire ce que les systèmes d'IA décident de récompenser.
Pourquoi c’est important
Ce message fait suite à un débat public en septembre, lorsque le directeur général d'Anthropic, Dario Amodei, a appelé le secteur à ralentir le développement de l'IA. Altman avait alors soutenu la proposition, se disant d'accord pour modérer le rythme de la frontière, et appuyé l'accès d'évaluateurs indépendants aux systèmes. En septembre, il a aussi déclaré au Conseil de sécurité de l'ONU qu'aucun système ne devrait être entraîné sans solides arguments qu'il restera sous contrôle humain.
Faits clés
- Publié sur X à 01 h 40 UTC le 4 novembre
- Plus de 470 000 vues et environ 870 réponses en quelques heures
- Altman a soutenu en septembre l'appel d'Amodei à modérer la frontière
- Il a dit au Conseil de sécurité de l'ONU en septembre que l'IA doit rester sous contrôle humain