Post no Alignment Forum propõe uma espera mínima legal antes que novos checkpoints de IA possam ser usados internamente
Em caráter pessoal, annawang sugere que nenhum checkpoint seja usado além de testes de segurança até X dias corridos após o registro do seu hash com um auditor, começando em 10 dias e talvez chegando a 90.
Por que importa
A maioria das regras de segurança debatidas mira lançamentos externos, enquanto esta proposta mira o uso interno, em que os laboratórios usam cada vez mais modelos novos na própria pesquisa. Ela parte de uma ideia do AI Futures Project: que a pesquisa em IA só seja auxiliada por IAs treinadas meses antes. O texto sai horas depois de autores do AI Futures Project anteciparem para 2027 a previsão de um pesquisador de IA sobre-humano. É uma proposta pessoal, não política de laboratório nem projeto de lei.
Fatos principais
- Autor: annawang, em caráter pessoal
- Publicado no AI Alignment Forum em 11 de novembro de 2026
- A espera começa quando o hash do checkpoint é registrado com um auditor
- Espera sugerida: 10 dias corridos, talvez até 90
- Testes de segurança permitidos durante a espera