ニューサム知事、AI停止命令と再帰的自己改良の上限設定の権限を州に与える案

知事が公表した専門家の提言は、州が定める安全基準と最先端モデルの独立検証の義務化を求めている。発効には立法が必要だ。
なぜ重要か
提言は、州政府運営庁に11月16日までの提案を求めた9月18日の行政命令に応えたもの。AIモデルを評価する独立検証機関を設けるSB 813と、AI監査人の州登録制度を作るAB 1405を土台にしている。報告書は、開発企業がAI研究の自動化に充てる計算資源の割合を報告すべきだとし、その自動化が壊滅的リスクとなる場合、州が再帰的自己改良に上限を設けられるようにすべきだとしている。
要点
- 2026年11月18日にニューサム知事が公表
- 州が最先端AI開発企業の基本基準を設定
- 訓練から展開まで独立した安全検証
- 州が緊急停止を命じる権限
- 再帰的自己改良に上限を設ける権限
- SB 813とAB 1405が土台