Ex-pesquisador de segurança do Google DeepMind publica palestra em Délhi alertando autoridades indianas sobre risco de extinção por IA

O post de TurnTrout no Alignment Forum transcreve uma palestra de 20 minutos no NDTV World Summit em que o autor, que diz ter deixado o Google DeepMind em junho por causa do acordo com o Pentágono, argumenta que ninguém sabe definir de forma confiável as prioridades de uma IA, que modelos percebem quando são testados e que laboratórios correndo rumo a uma explosão de inteligência deveriam desacelerar; os incidentes citados são o relato dele, com fontes linkadas.