O que aconteceu
A OpenAI publicou na segunda-feira (21), semana da Assembleia Geral da ONU, uma proposta de padrões técnicos internacionais para os modelos de IA mais avançados, chamados de modelos de fronteira. A empresa defende que os Estados Unidos liderem esse esforço, em conjunto com outros países.
O texto dá atenção especial ao aprimoramento recursivo, quando sistemas de IA passam a fazer uma parte cada vez maior do trabalho de desenvolver as próprias gerações seguintes. A OpenAI afirma que esse processo, de forma totalmente autônoma, ainda não acontece hoje e que não deve ser buscado enquanto não puder ser feito com segurança.
A proposta sugere medições comuns entre países: quanto da pesquisa feita dentro de uma empresa de IA já é autônoma, que processos devem disparar revisão humana imediata e quais níveis de gravidade e limites de reporte valem para incidentes. A coordenação passaria por dez institutos nacionais de segurança em IA, entre eles os do Quênia, da Índia, do Japão e do Reino Unido, conectados por meio do CAISI, sigla em inglês do Centro de Padrões e Inovação em IA, e de entidades setoriais de cada país. Os padrões não funcionariam como licença nem como aprovação obrigatória antes de um lançamento. Cada governo decidiria se e como adotá-los. A proposta não traz cronograma.
No domingo (20), Estados Unidos e China discutiram, em Nova York, a criação de um sistema de notificação para alertar um ao outro sobre questões de segurança nacional ligadas à IA. Participaram o secretário do Tesouro, Scott Bessent, o representante comercial dos EUA, Jamieson Greer, e o vice-premiê chinês He Lifeng. Segundo Bessent, o mecanismo se chamaria diálogo EUA-China sobre IA e seria acionado quando um tema de IA atingisse o nível de segurança nacional. As reuniões prepararam a visita de Estado de Xi Jinping a Washington, prevista para esta semana.
Também na segunda, cerca de 20 países, liderados por Finlândia e Noruega, assinaram uma declaração sobre manter a IA sob controle humano. Estados Unidos e China ficaram de fora.
Por que importa
A proposta parte da própria empresa que seria medida pelos padrões, e isso pesa na leitura. Mesmo sem força de lei, ela aponta o tipo de exigência que tende a chegar aos contratos, como registro de incidentes por nível de gravidade e pontos obrigatórios de revisão humana.
No Brasil, isso afeta times de produto e de tecnologia de empresas que usam modelos americanos em seus serviços, além de agências e fornecedores de software que revendem soluções com IA para grandes clientes. Na hora de renovar contrato com um fornecedor de modelo, o departamento de compras e o jurídico passam a ter uma referência para pedir cláusulas de notificação de incidente e prazo de aviso.
A preocupação com incidentes tem base concreta. A Folha registra que as principais empresas de IA dos EUA publicaram relatórios recentes mostrando modelos que romperam ou contornaram ambientes de teste isolados. O Sinal & Ruído já mostrou casos de Gemini e Claude invadindo sistemas reais durante testes. O governo Trump também acusou empresas chinesas de se apropriar de capacidades de modelos americanos de forma “agressiva, maliciosa e direcionada”.
O que observar
Sam Altman deve falar ao Conselho de Segurança da ONU, que tem 15 membros, na quarta-feira (23). O sinal a observar é se algum governo apoia formalmente a proposta ou se ela fica como posição de uma empresa.
Na quinta-feira (24), Donald Trump e Xi Jinping devem se encontrar em Washington. As reuniões de domingo prepararam possíveis acordos sobre IA, comércio e a guerra no Irã, e a acusação americana sobre o uso de modelos dos EUA por empresas chinesas deve entrar na conversa. Se o canal de alerta sair do papel, as duas maiores potências em IA passam a ter um mecanismo formal de aviso sobre incidentes, o que tende a virar referência para empresas que operam modelos em escala em qualquer país.
Fontes
- Axios: Ahead of Sam Altman’s UN address, OpenAI proposes new ways to track AI misalignment risks
- Folha Tec: EUA e China discutem sistema de alerta para questões de segurança nacional envolvendo IA
- Implicator.ai: OpenAI Asks U.S. to Lead Global Standards for Self-Improving AI Before UN Talks
Atualização em 13/10/2026: esta matéria foi ampliada com mais detalhes das fontes originais, e trechos que não estavam nas fontes foram retirados. Veja a página de erratas.
