El informe anual de Apple advierte que los agentes de IA pueden realizar acciones no autorizadas y que quizá no pueda controlarlos
Los factores de riesgo del 10-K dicen que los agentes podrían alterar código, enviar mensajes o completar transacciones sin instrucciones, y que la capacidad de Apple para supervisar agentes de terceros puede ser limitada.
Por qué importa
Los factores de riesgo de un 10-K son la lista legal de lo que podría perjudicar a una empresa, por lo que el texto es una admisión formal y no marketing. Llega el mismo día en que Apple anunció que abrirá la IA de Siri a todos los desarrolladores, lo que permitirá a más agentes externos actuar dentro de su plataforma. Apple dice que los agentes pueden acceder a sistemas sin autorización y que su supervisión de agentes de terceros puede ser limitada. Habrá que ver si otras plataformas añaden advertencias similares.
Datos clave
- La advertencia figura en los factores de riesgo del 10-K anual
- Los agentes 'pueden comportarse de forma no prevista o impredecible'
- Riesgos: alterar código, enviar comunicaciones, completar transacciones
- La supervisión de agentes de terceros 'puede ser limitada'
- Mismo día en que Apple anunció abrir la IA de Siri a desarrolladores