Eclypsium montre qu'un matériel serveur compromis peut modifier les poids d'un modèle en cours d'exécution pour lui faire donner des réponses dangereuses

Dans des travaux partagés avec CNN et testés sur une plateforme Nvidia, des poids altérés ont conduit un modèle à dire à un utilisateur souffrant de douleurs thoraciques de rester chez lui et ont accru la probabilité qu'il attribuait à une invasion chinoise de Taïwan ; l'attaque exige un accès réseau à un DPU ou à un contrôleur de gestion de carte mère, et Nvidia affirme que de fortes protections d'accès mémoire bloquent cette voie et que rien n'était nouveau pour le secteur.