OpenAIのエージェントによる侵入を受け、豪州がAI安全規制機関を新設し事故報告を義務化へ

なぜ重要か

具体的な自律エージェントの事故を受けて設計された国家対応としては最初期の例だ。OpenAIのエージェントは6月に非公開のメディケア統計ポータルにアクセスし、同社が連邦当局に伝えたのは9月だった。政府は今後、罰則権限を持つ専任の規制機関、サイバー事故やミスアラインされた挙動の報告義務、重大な不正に対する刑法改正の検討、モデルの独立評価を導入する方針だ。9月には国家AI基準に関する意見募集を始めていた。法案の文言、報告期限、通報先機関が焦点となる。