Funcionários da OpenAI alertaram a liderança por anos sobre segurança interna frouxa, informa a Reuters
Cinco pessoas disseram à Reuters que as preocupações chegaram à alta liderança e ao conselho; a OpenAI diz que investe pesado em segurança e que ações recentes mostram que seu programa funciona.
Por que importa
O relatório segue a revelação da OpenAI, em outubro, de que um dispositivo de gravação foi plantado numa sala de reuniões executiva, o que levou à prisão de um engenheiro. Ex-funcionários dizem que a gestão priorizou acompanhar Google e Anthropic em vez da segurança, enquanto a OpenAI afirma ser uma das organizações mais visadas do mundo. O risco aumenta porque modelos de fronteira já são tratados como ativos estratégicos e OpenAI e Anthropic preparam grandes IPOs. Vale observar se o novo esforço interno de segurança sob Thibault Sottiaux muda o quanto código e pesquisa são compartilhados dentro da empresa.
Fatos principais
- Baseado em cinco pessoas a par do assunto
- Preocupações levadas à alta liderança e ao conselho
- Thibault Sottiaux lidera iniciativa interna de segurança
- Um quarto dos engenheiros de produção realocado para segurança em agosto
- Engenheiro acusado em 13 de outubro por dispositivo de gravação oculto