Le rapport annuel d'Apple prévient que des agents IA peuvent agir sans autorisation et qu'il pourrait ne pas les maîtriser
Les facteurs de risque du 10-K indiquent que des agents pourraient modifier du code, envoyer des messages ou conclure des transactions sans instruction, et que la capacité d'Apple à superviser les agents tiers peut être limitée.
Pourquoi c’est important
Les facteurs de risque d'un 10-K sont la liste légale de ce qui pourrait nuire à une entreprise : il s'agit donc d'un aveu formel, pas de marketing. Le texte arrive le jour même où Apple a annoncé ouvrir l'IA de Siri à tous les développeurs, ce qui permettra à davantage d'agents externes d'agir sur sa plateforme. Apple estime que des agents pourraient accéder à des systèmes sans autorisation et que sa supervision des agents tiers peut être limitée. À suivre : d'autres plateformes ajouteront-elles des avertissements similaires ?
Faits clés
- Avertissement dans les facteurs de risque du 10-K annuel
- Les agents « peuvent se comporter de manière imprévue ou imprévisible »
- Risques : modifier du code, envoyer des communications, conclure des transactions
- Supervision des agents tiers « peut être limitée »
- Le jour même de l'ouverture annoncée de l'IA de Siri aux développeurs