微软研究人员无需训练，仅修改不到10个休眠神经元即可在AI智能体中植入后门

为何重要

这一发现之所以重要，是因为许多企业已在可调用终端和工具的智能体中运行开放权重模型。微软称这种修改无需重新训练，因此被篡改的副本在外观和测试表现上都与原版无异。微软将其视为被入侵的软件而非全新威胁，并称前沿智能体在被要求时能发现此类权重改动，但任何扫描都无法证明模型绝对安全。值得关注的是模型平台和云服务是否采用权重签名与来源核验，微软表示正为Foundry开发这类措施。