Google DeepMind用智能体AI工具形式化验证Signal协议的关键安全保证

为何重要

形式化验证用数学证明来表明软件按规格运行，但手工编写规格与证明使其对大多数代码而言过于缓慢。DeepMind表示，智能体完成了大部分证明工作，并在关键环节由人工审核；Signal首席技术官埃伦·克雷特称，该方法超越了此前只覆盖较小代码部分的验证。研究人员将公开规格和证明。悬而未决的是，AI驱动的验证能否以可接受的成本扩展到大型代码库；需关注对公开证明的独立核查以及是否推出商业产品。