Alignment Forumの投稿、新しいAIチェックポイントの社内利用前に法定の最低待機期間を設けるよう提案

なぜ重要か

これまで議論された安全ルールの多くは外部公開を対象とするが、この提案は社内利用を対象にする。研究所は新モデルを自社の研究に使う場面が増えている。AI Futures Projectが示した、AI研究を数カ月前に訓練されたAIだけに支援させるという案を下敷きにしている。投稿は、AI Futures Projectの著者らが超人的AI研究者の予測を2027年に前倒しした数時間後に出た。研究所の方針や法案ではなく個人の提案で、筆者は失敗しうる点を未解決の問いとして挙げている。