El científico jefe de IA de Tencent, Yao Shunyu, advierte que las capacidades cibernéticas y pronto biológicas de la IA alcanzarán un umbral de daño
En un simposio científico en Hong Kong el sábado, el exinvestigador de OpenAI dijo que los modelos abiertos pueden acelerar el descubrimiento de fármacos en laboratorios pequeños, pero también ayudar a fabricar armas biológicas.
Por qué importa
Las advertencias sobre riesgos biológicos de la IA suelen venir de laboratorios estadounidenses como Anthropic y OpenAI, que han reforzado las salvaguardas de sus modelos con capacidades biológicas. Yao Shunyu, exinvestigador de OpenAI que ahora dirige la investigación en IA de Tencent, dijo el sábado en un simposio científico en Hong Kong que «las capacidades cibernéticas de los modelos y pronto las biológicas alcanzarán un umbral en el que realmente sea posible hacer daño». Sus palabras importan porque Tencent y otras empresas chinas publican modelos de pesos abiertos que cualquiera puede descargar. Hay que ver si los laboratorios chinos adoptan evaluaciones de mal uso biológico o restricciones.
Datos clave
- Yao Shunyu es científico jefe de IA de Tencent y ex de OpenAI
- Habló el sábado en un simposio en Hong Kong
- Dice que la capacidad ciber se acerca al umbral de daño
- Dice que la biológica lo alcanzará pronto
- Modelos abiertos podrían acelerar fármacos en laboratorios pequeños
- Advirtió que también podrían ayudar a crear armas biológicas