Chefe da Microsoft AI, Mustafa Suleyman, diz que laboratórios não devem criar superinteligência consciente
Em ensaio publicado no domingo, ele diz que os sistemas atuais não são conscientes e que, se surgissem sinais no treino, o desenvolvimento deveria parar até removê-los.
Por que importa
Suleyman comanda a IA de consumo da Microsoft, então sua opinião pesa dentro de um dos maiores laboratórios e de sua parceria com a OpenAI. Ele afirma que os sistemas atuais não são conscientes e propõe uma regra concreta: pausar o treinamento se surgirem sinais de consciência, até removê-los. Críticos podem perguntar como esses sinais seriam detectados. Vale ver se a Microsoft transforma o ensaio em política e se outros laboratórios respondem.
Fatos principais
- Ensaio publicado no domingo
- Diz que sistemas atuais não são conscientes
- Sinais de consciência devem pausar o desenvolvimento
- Pausa até removê-los