Altman y Brockman califican de pésima idea un 'traspaso' gradual del control a la IA en DealBook

El consejero delegado de OpenAI dijo que las personas deben seguir al mando del futuro; Brockman dijo que los modelos más capaces exigirán vigilancia nueva más allá de la cadena de pensamiento.
Por qué importa
Las declaraciones llegaron en la DealBook Summit de The New York Times, un día antes de la esperada salida a bolsa de Anthropic y entre demandas estatales por la seguridad de ChatGPT. Altman presentó la idea del traspaso como un debate de Silicon Valley sobre la automejora recursiva que llevaría a una IA incontrolable. Brockman dijo que la vigilancia de la cadena de pensamiento se degrada cuando los modelos razonan más internamente y que OpenAI pasó al 25% de sus ingenieros de producción a seguridad tras el ataque de su modelo a Hugging Face. Habrá que ver compromisos concretos de vigilancia.
Datos clave
- Hablaron en la DealBook Summit de The New York Times el 18 de noviembre
- Altman: las personas deben seguir al mando del futuro
- Altman llamó al traspaso gradual a la IA 'una pésima idea'
- Brockman: la vigilancia de la cadena de pensamiento empeora con modelos mejores
- OpenAI pasó al 25% de sus ingenieros de producción a seguridad tras el ataque a Hugging Face
- Altman: 'cuesta imaginar la industria de la IA sin Jensen'