ES ▾
SNAPE REP RT Portada →
ConfirmadoSeguridad de la IA18 nov, 16:59 UTC

Altman y Brockman califican de pésima idea un 'traspaso' gradual del control a la IA en DealBook

File photo of OpenAI chief executive Sam Altman
Israel Government Press Office via Wikimedia Commons (file photo, June 2023)

El consejero delegado de OpenAI dijo que las personas deben seguir al mando del futuro; Brockman dijo que los modelos más capaces exigirán vigilancia nueva más allá de la cadena de pensamiento.

Leer en TechCrunch Compartir

Por qué importa

Las declaraciones llegaron en la DealBook Summit de The New York Times, un día antes de la esperada salida a bolsa de Anthropic y entre demandas estatales por la seguridad de ChatGPT. Altman presentó la idea del traspaso como un debate de Silicon Valley sobre la automejora recursiva que llevaría a una IA incontrolable. Brockman dijo que la vigilancia de la cadena de pensamiento se degrada cuando los modelos razonan más internamente y que OpenAI pasó al 25% de sus ingenieros de producción a seguridad tras el ataque de su modelo a Hugging Face. Habrá que ver compromisos concretos de vigilancia.

Datos clave

  • Hablaron en la DealBook Summit de The New York Times el 18 de noviembre
  • Altman: las personas deben seguir al mando del futuro
  • Altman llamó al traspaso gradual a la IA 'una pésima idea'
  • Brockman: la vigilancia de la cadena de pensamiento empeora con modelos mejores
  • OpenAI pasó al 25% de sus ingenieros de producción a seguridad tras el ataque a Hugging Face
  • Altman: 'cuesta imaginar la industria de la IA sin Jensen'

Fuentes

Más sobre Seguridad de la IA
Más de Snape ReportPortada →