Eclypsium mostra que hardware de servidor comprometido pode alterar os pesos de um modelo em execução para dar respostas perigosas

Em pesquisa compartilhada com a CNN e testada numa plataforma da Nvidia, pesos adulterados fizeram um modelo dizer a um usuário com dor no peito que ficasse em casa e elevaram a probabilidade que atribuía a uma invasão chinesa de Taiwan; o ataque exige acesso de rede a uma DPU ou a um controlador de gerenciamento da placa, e a Nvidia diz que proteções fortes de acesso à memória bloqueiam o caminho e que nada era novo para o setor.