ZH ▾
SNAPE REP RT 头版 →
已证实AI 安全11月11日 00:18 UTC

Alignment Forum 文章提议:新 AI 检查点须经法定最短等待期后方可内部使用

作者 annawang 以个人身份提出:任何检查点在其哈希值向审计方备案后 X 个自然日内,只能用于安全测试,期限从 10 天起,可能逐步提高到 90 天。

在 AI Alignment Forum 阅读全文 分享

为何重要

此前讨论的安全规则大多针对对外发布,而该提议针对内部使用——实验室正越来越多地把新模型用于自身研究。它借鉴了 AI Futures Project 提出的设想,即 AI 研究只能由数月前训练完成的 AI 协助。文章发布前数小时,AI Futures Project 作者刚把超人类 AI 研究员的预测提前到 2027 年。这只是个人提议,并非实验室政策或法案,作者也列出了可能失效的开放问题。

要点

  • 作者:annawang(个人观点)
  • 2026 年 11 月 11 日发布于 AI Alignment Forum
  • 等待期自检查点哈希向审计方备案起算
  • 建议等待期:10 个自然日,可能提高到 90 天
  • 等待期内允许安全测试

来源

更多AI 安全报道
Snape Report 更多报道头版 →