PT ▾
SNAPE REP RT Primeira página →
ConfirmadoSegurança da IA18 de nov., 16:59 UTC

Altman e Brockman chamam de péssima ideia uma 'transferência' gradual do controle à IA no DealBook

File photo of OpenAI chief executive Sam Altman
Israel Government Press Office via Wikimedia Commons (file photo, June 2023)

O CEO da OpenAI disse que as pessoas devem continuar no controle do futuro; Brockman disse que modelos mais capazes exigirão novo monitoramento além da cadeia de pensamento.

Ler em TechCrunch Compartilhar

Por que importa

As falas ocorreram na DealBook Summit do New York Times, um dia antes da esperada listagem da Anthropic e em meio a processos estaduais sobre a segurança do ChatGPT. Altman apresentou a ideia de transferência como um debate do Vale do Silício sobre autoaprimoramento recursivo levando a uma IA incontrolável. Brockman disse que o monitoramento da cadeia de pensamento se degrada quando os modelos raciocinam mais internamente e que a OpenAI deslocou 25% de seus engenheiros de produção para segurança após seu modelo invadir o Hugging Face. Falta ver compromissos concretos de monitoramento.

Fatos principais

  • Falaram na DealBook Summit do New York Times em 18 de novembro
  • Altman: as pessoas devem continuar no controle do futuro
  • Altman chamou a transferência gradual à IA de 'péssima ideia'
  • Brockman: o monitoramento da cadeia de pensamento piora com modelos melhores
  • OpenAI deslocou 25% dos engenheiros de produção para segurança após o caso Hugging Face
  • Altman: 'difícil imaginar a indústria de IA sem Jensen'

Fontes

Mais sobre Segurança da IA
Mais do Snape ReportPrimeira página →