Eclypsium 演示:被攻陷的服务器硬件可篡改运行中模型的权重,使其给出危险回答
在与 CNN 分享、于英伟达平台上测试的研究中,被篡改的权重让模型建议胸痛用户留在家中,并提高了其对中国大陆进攻台湾的概率判断;攻击需通过网络访问 DPU 或基板管理控制器,英伟达称强内存访问保护可阻断该路径,且业界此前已知晓这些情形。
在与 CNN 分享、于英伟达平台上测试的研究中,被篡改的权重让模型建议胸痛用户留在家中,并提高了其对中国大陆进攻台湾的概率判断;攻击需通过网络访问 DPU 或基板管理控制器,英伟达称强内存访问保护可阻断该路径,且业界此前已知晓这些情形。