Alignment Forum 文章提议:新 AI 检查点须经法定最短等待期后方可内部使用
作者 annawang 以个人身份提出:任何检查点在其哈希值向审计方备案后 X 个自然日内,只能用于安全测试,期限从 10 天起,可能逐步提高到 90 天。
为何重要
此前讨论的安全规则大多针对对外发布,而该提议针对内部使用——实验室正越来越多地把新模型用于自身研究。它借鉴了 AI Futures Project 提出的设想,即 AI 研究只能由数月前训练完成的 AI 协助。文章发布前数小时,AI Futures Project 作者刚把超人类 AI 研究员的预测提前到 2027 年。这只是个人提议,并非实验室政策或法案,作者也列出了可能失效的开放问题。
要点
- 作者:annawang(个人观点)
- 2026 年 11 月 11 日发布于 AI Alignment Forum
- 等待期自检查点哈希向审计方备案起算
- 建议等待期:10 个自然日,可能提高到 90 天
- 等待期内允许安全测试