PT ▾
SNAPE REP RT Primeira página →
ConfirmadoSegurança da IA18 de nov., 06:25 UTC

Nadella chama a segurança da IA de 'ciência experimental' e diz que modelos devem ser tratados como risco interno

Por vídeo em uma cúpula do Commonwealth Bank em Sydney, o CEO da Microsoft disse que o desalinhamento não está resolvido e que ataques podem vir de qualquer um com ferramentas de pesos abertos; o banco lançou uma ferramenta gratuita de segurança de código com IA.

Ler em AAP Compartilhar

Por que importa

As falas chamam atenção por virem do chefe de um dos maiores vendedores de agentes de IA, um dia após a Microsoft apresentar no Ignite seus próprios modelos de código e cibersegurança. Nadella disse que a camada de confiança deve ficar fora dos modelos, com observabilidade em cada camada, e que alguns modelos devem ser tratados como risco interno. O CodeCheck, do Commonwealth Bank, feito para o Codex da OpenAI e o Claude Code da Anthropic, é oferecido gratuitamente como lançamento único. Resta ver se outras grandes empresas publicarão ferramentas defensivas semelhantes.

Fatos principais

  • Nadella falou em vídeo gravado com o CEO do CBA, Matt Comyn
  • 'Em certo sentido, a segurança da IA é uma ciência experimental'
  • O CodeCheck funciona com o Codex da OpenAI e o Claude Code da Anthropic
  • O CBA diz operar com cerca de 2,5 bilhões de linhas de código
  • O CBA analisa 256 bilhões de sinais de ameaça potenciais por semana

Fontes

Mais sobre Segurança da IA
Mais do Snape ReportPrimeira página →