Nadella nennt KI-Sicherheit eine 'experimentelle Wissenschaft' und will Modelle als Insider-Risiko behandeln
Per Video auf einem Gipfel der Commonwealth Bank in Sydney sagte Microsofts CEO, Fehlausrichtung sei ungelöst und Angriffe könnten nun von jedem mit Open-Weight-Werkzeugen kommen; die Bank gab ein kostenloses KI-Tool für Codesicherheit frei.
Warum es wichtig ist
Die Aussagen sind bemerkenswert, weil sie vom Chef eines der größten Anbieter von KI-Agenten stammen, einen Tag nachdem Microsoft auf der Ignite eigene Code- und Cyber-Modelle vorstellte. Nadella sagte, die Vertrauensschicht gehöre außerhalb der Modelle, mit Beobachtbarkeit auf jeder Ebene, und manche Modelle seien als Insider-Risiko zu behandeln. CodeCheck der Commonwealth Bank, gebaut für OpenAIs Codex und Anthropics Claude Code, wird einmalig kostenlos veröffentlicht. Abzuwarten ist, ob weitere Großunternehmen ähnliche Abwehrwerkzeuge freigeben.
Die wichtigsten Fakten
- Nadella sprach in einem vorab aufgezeichneten Video mit CBA-Chef Matt Comyn
- 'In gewisser Weise ist KI-Sicherheit eine experimentelle Wissenschaft'
- CodeCheck arbeitet mit OpenAIs Codex und Anthropics Claude Code
- CBA nennt rund 2,5 Milliarden Codezeilen
- CBA analysiert 256 Milliarden potenzielle Bedrohungssignale pro Woche