Eclypsium demuestra que hardware de servidor comprometido puede alterar los pesos de un modelo en ejecución para que dé respuestas peligrosas

En una investigación compartida con CNN y probada en una plataforma de Nvidia, los pesos manipulados hicieron que un modelo dijera a un usuario con dolor torácico que se quedara en casa y elevaron la probabilidad que asignaba a una invasión china de Taiwán; el ataque requiere acceso de red a una DPU o a un controlador de gestión de placa base, y Nvidia dice que las protecciones fuertes de acceso a memoria bloquean la vía y que no había nada nuevo para el sector.