纽森提议赋予加州下令关停 AI 并限制递归自我改进的权力

州长发布的专家建议要求由州设定安全标准,并对前沿模型进行强制性独立测试;这些建议需经立法才能生效。
为何重要
这些建议回应了 9 月 18 日的一项行政令,该令要求州政府运营署在 11 月 16 日前提交方案。建议以 SB 813 和 AB 1405 为基础:前者设立评估 AI 模型的独立验证机构,后者建立州 AI 审计员登记册。专家报告称,开发者应报告其用于自动化 AI 研究的算力比例;若这种自动化构成灾难性风险,州政府应有权限制递归自我改进。
要点
- 加州州长纽森于 2026 年 11 月 18 日发布
- 由州为前沿 AI 开发者设定基本标准
- 从训练到部署全程独立安全测试
- 州政府有权下令紧急关停
- 有权限制递归自我改进
- 以 SB 813 和 AB 1405 为基础