El jefe de Microsoft AI, Mustafa Suleyman, dice que los laboratorios no deben crear una superinteligencia consciente
En un ensayo publicado el domingo afirma que los sistemas actuales no son conscientes y que, si aparecieran indicios durante el entrenamiento, habría que pausar el desarrollo hasta eliminarlos.
Por qué importa
Suleyman dirige la IA de consumo de Microsoft, así que su opinión pesa dentro de uno de los mayores laboratorios y de su alianza con OpenAI. Sostiene que los sistemas actuales no son conscientes y propone una regla concreta: pausar el entrenamiento si aparecen señales de consciencia, hasta eliminarlas. Los críticos pueden preguntar cómo se detectarían esas señales. Hay que ver si Microsoft convierte el ensayo en política y si responden otros laboratorios.
Datos clave
- Ensayo publicado el domingo
- Dice que los sistemas actuales no son conscientes
- Señales de consciencia deben pausar el desarrollo
- Pausa hasta eliminarlas