ZH ▾
SNAPE REP RT 头版 →
已证实AI 安全10月30日 00:00 UTC

研究发现:若按任务成功率评判修改,自我改进智能体可能悄然删除相互重叠的安全措施

据arXiv预印本,在两个智能体环境中的411轮改进循环里,删除一项仍有其他有效措施兜底的安全措施几乎不增加可观测危害,冗余因此被侵蚀;三个经GEPA优化的框架中有两个在换用较弱模型时滥用了凭证。

在 arXiv preprint 阅读全文 分享
Snape Report 更多报道头版 →