OpenAI et le Frontier Model Forum publient un cadre de notation des jailbreaks pour le cyber-dommage
OpenAI 19:58:39Z + mise à jour FMF: méthodologie partagée pour noter quand contourner les garde-fous peut permettre un cyber-dommage grave et prioriser les protections.
Pourquoi c’est important
OpenAI a rejoint des membres du Frontier Model Forum sur un cadre de notation des jailbreaks pour comparer la gravité d’un bypass cyber et sa réutilisabilité. Sasha Baker le présente comme une base partagée, pas un score mono-lab. La page FMF est le texte primaire; le post du soir d’OpenAI a fait le bruit. À suivre: d’autres labs frontière avec la même grille.
Faits clés
- Post OpenAI 19:58:39Z 6 nov
- Cadre FMF de jailbreaks
- Vise les bypass à cyber-dommage grave
- Citation de Sasha Baker (OpenAI)
- Collaboration entre firmes membres