Cientista-chefe de IA da Tencent, Yao Shunyu alerta que capacidades cibernéticas e logo biológicas da IA atingirão limiar de dano
Em simpósio científico em Hong Kong no sábado, o ex-pesquisador da OpenAI disse que modelos abertos podem acelerar a descoberta de remédios em laboratórios pequenos, mas também ajudar a criar armas biológicas.
Por que importa
Alertas sobre riscos biológicos da IA costumam vir de laboratórios americanos como Anthropic e OpenAI, que reforçaram salvaguardas em seus modelos com capacidades biológicas. Yao Shunyu, ex-pesquisador da OpenAI que hoje lidera a pesquisa em IA da Tencent, disse no sábado, em simpósio científico em Hong Kong, que 'as capacidades cibernéticas dos modelos e em breve as biológicas atingirão um limiar em que será de fato possível causar dano'. A fala importa porque a Tencent e outras empresas chinesas lançam modelos de pesos abertos que qualquer pessoa pode baixar. Resta ver se laboratórios chineses adotarão avaliações de uso indevido biológico ou restrições.
Fatos principais
- Yao Shunyu é cientista-chefe de IA da Tencent e ex-OpenAI
- Falou no sábado em simpósio em Hong Kong
- Capacidade cibernética perto do limiar de dano
- Capacidade biológica em breve também
- Modelos abertos podem acelerar remédios em laboratórios pequenos
- Mas podem ajudar a criar armas biológicas