日本拟对高性能AI开发企业设定安全义务并新设罚则
据共同社报道，政府非公开工作组确认，拟要求AI企业承担安全保障义务，允许国家对拒不配合的企业发布强制命令，并对违反命令者处罚，主要针对网络攻击滥用和AI失控风险。
为何重要
日本现行AI法于2025年5月通过，以合作为基础，既无强制力也无罚则，因此以处罚为后盾的强制命令将是明显的方针转变。罚则拟仅限于涉及高性能AI的事件，例如被用于网络攻击或系统偏离人类意图运行，目前尚未涉及对个人用户的处罚。罚则轻重、哪些模型算作高性能以及覆盖哪些企业仍未确定。政府计划在年底前公布制度修订的整体方案。
要点
- 11月11日在政府AI法律制度非公开工作组会议上确认
- 拟要求AI企业承担安全保障义务
- 国家可对拒不配合的企业发布强制命令
- 违反命令将受处罚，仅限高性能AI相关事件
- 现行AI法（2025年5月）无强制力和罚则
- 整体修订方案预计年底前公布