Anthropic fait évaluer par Claude la sécurité de chacune de ses conversations, comme outil de détection d'abus hors ligne

L'équipe Safeguards d'Anthropic écrit que, sur Claude Fable 5, la méthode signale 78 % des conversations qu'un classificateur plus puissant juge potentiellement nuisibles, et 94 % des cas prioritaires, pour 1 % de faux positifs, en ajoutant moins de 2 % au calcul d'inférence ; elle tourne sur tous les modèles depuis Fable 5, ne bloque pas les échanges et, selon Anthropic, ne résiste pas à un attaquant déterminé.