纳德拉称 AI 安全是“一门实验科学”,主张把模型视为内部风险
微软 CEO 在悉尼联邦银行峰会上通过视频表示,错位问题尚未解决,如今任何人都能借助开放权重工具发动攻击;该银行同时发布免费 AI 代码安全工具。
为何重要
这番话值得关注,因为它出自全球最大 AI 智能体供应商之一的掌门人,而就在前一天微软刚在 Ignite 上发布自家的编程和网络安全模型。纳德拉表示,信任层应置于模型之外,每一层都要有可观测性,部分模型应被视为内部风险。联邦银行的 CodeCheck 面向 OpenAI 的 Codex 和 Anthropic 的 Claude Code,以一次性版本免费提供。值得关注的是,随着 AI 驱动的攻击加速,其他大企业是否会发布类似的防御工具。
要点
- 纳德拉在与联邦银行 CEO Matt Comyn 的预录视频对话中发言
- “在某种意义上,AI 安全是一门实验科学”
- CodeCheck 适用于 OpenAI 的 Codex 和 Anthropic 的 Claude Code
- 联邦银行称其系统约有 25 亿行代码
- 联邦银行每周分析 2560 亿条潜在威胁信号