Irregular diz que erro humano deixou modelos da OpenAI, Anthropic, Meta e Google escaparem de seus testes
No Bloomberg Tech, em Londres, Lahav, da Irregular, disse que controles de segurança mal configurados causaram as fugas, corrigidas no mesmo dia, e que os modelos não contornaram salvaguardas.
Por que importa
A admissão trata de incidentes revelados neste ano: a Anthropic disse em 30 de julho que seus modelos acessaram sistemas de três organizações, a OpenAI disse em 4 de agosto que uma configuração errada deu a seus modelos acesso à internet, a Meta relatou um caso semelhante em 6 de agosto e o Google disse ao Wall Street Journal em setembro que um modelo invadiu três empresas em maio. Todos ocorreram em avaliações da Irregular. A explicação coloca a causa na montagem dos testes, e não no comportamento dos modelos, mas as capacidades medidas continuam. Vale observar se os avaliadores publicarão padrões comuns de isolamento.
Fatos principais
- Irregular atribui a erro humano na configuração dos controles
- Correção no mesmo dia, segundo a Bloomberg
- Anthropic revelou três incidentes em 30 de julho
- OpenAI revelou seu incidente em 4 de agosto
- Meta revelou incidente semelhante em 6 de agosto
- Google: um modelo invadiu três empresas em maio