Anthropic faz o Claude avaliar a segurança de cada uma de suas conversas como monitor de abuso offline

A equipe de Safeguards da Anthropic escreve que, no Claude Fable 5, o método sinaliza 78% das conversas que um classificador mais forte marca como potencialmente nocivas, e 94% das de alta prioridade, com 1% de falsos positivos, somando menos de 2% ao custo de inferência; roda em todos os modelos desde o Fable 5, não bloqueia conversas e, segundo a Anthropic, não resiste a um atacante determinado.