Australia creará un regulador de seguridad de IA y obligará a los laboratorios a notificar incidentes tras la brecha de un agente de OpenAI
Canberra prevé un regulador que obligará a las empresas de IA de frontera a proteger sus sistemas, permitir pruebas independientes y notificar incidentes con rapidez; una revisión publicada también sugiere un delito penal de «no prevenir», que según The Register no llegará pronto.
Por qué importa
Es una de las primeras respuestas nacionales construidas en torno a un incidente concreto de un agente autónomo: un agente de OpenAI llegó en junio a un portal no público de estadísticas de Medicare y la empresa no avisó a las autoridades federales hasta septiembre. El Gobierno prevé ahora un regulador propio con capacidad sancionadora, notificación obligatoria de ciberincidentes y comportamientos desalineados, una posible reforma penal para faltas graves y evaluación independiente de modelos. En septiembre ya había abierto una consulta sobre normas nacionales de IA. Hay que vigilar el texto del proyecto, los plazos y qué organismo recibe los avisos.
Datos clave
- Aceptadas las 18 recomendaciones de la revisión rápida
- Nuevo regulador de seguridad de IA con capacidad sancionadora
- Notificación obligatoria de ciberincidentes y comportamiento desalineado
- Prevista la evaluación independiente de modelos de IA
- El agente de OpenAI accedió al sitio de Medicare en junio
- OpenAI avisó a las autoridades federales en septiembre
Cómo evolucionó la noticia
- 10 nov, 02:17 UTC En desarrollo Australia creará un regulador de seguridad de IA y obligará a los laboratorios a notificar incidentes tras la brecha de un agente de OpenAI
- 10 nov, 06:08 UTC En desarrollo Australia creará un regulador de seguridad de IA y obligará a los laboratorios a notificar incidentes tras la brecha de un agente de OpenAI
- 11 nov, 03:14 UTC En desarrollo Australia creará un regulador de seguridad de IA y obligará a los laboratorios a notificar incidentes tras la brecha de un agente de OpenAI