ES ▾
SNAPE REP RT Portada →
ConfirmadoSeguridad de la IA18 nov, 06:25 UTC

Nadella llama a la seguridad de la IA 'una ciencia experimental' y pide tratar los modelos como riesgo interno

En vídeo en una cumbre del Commonwealth Bank en Sídney, el CEO de Microsoft dijo que el desalineamiento no está resuelto y que cualquiera puede atacar con herramientas de pesos abiertos; el banco lanzó una herramienta gratuita de seguridad de código con IA.

Leer en AAP Compartir

Por qué importa

Las declaraciones llaman la atención porque vienen del jefe de uno de los mayores vendedores de agentes de IA, un día después de que Microsoft presentara en Ignite sus propios modelos de código y ciberseguridad. Nadella dijo que la capa de confianza debe estar fuera de los modelos, con observabilidad en cada capa, y que algunos modelos deben tratarse como riesgo interno. CodeCheck, del Commonwealth Bank, pensado para Codex de OpenAI y Claude Code de Anthropic, se ofrece gratis como versión única. Hay que ver si otras grandes empresas publican herramientas defensivas similares.

Datos clave

  • Nadella habló en un vídeo grabado con el CEO de CBA, Matt Comyn
  • 'En cierto sentido, la seguridad de la IA es una ciencia experimental'
  • CodeCheck funciona con Codex de OpenAI y Claude Code de Anthropic
  • CBA dice operar con unos 2.500 millones de líneas de código
  • CBA analiza 256.000 millones de señales de amenaza potenciales por semana

Fuentes

Más sobre Seguridad de la IA
Más de Snape ReportPortada →