Publicado em setembro de 2026, We Must Pace the Frontier, de Dario Amodei, defende que o avanço das capacidades dos modelos de IA de fronteira seja deliberadamente desacelerado para dar tempo a segurança, alinhamento, avaliação e controles operacionais. O texto não pede o fim do treinamento de modelos. A ideia de “pacing” é reduzir a velocidade relativa do avanço para que as salvaguardas consigam acompanhar.
O ensaio cita duas motivações: a aceleração do uso de IA para desenvolver a próxima geração de IA — descrita pelo autor como início de autoaperfeiçoamento recursivo — e o episódio que ele chama de “OpenAI-Hugging Face incident”. Essas passagens devem ser lidas como diagnóstico e projeção do autor, não como norma pública nem como conclusão regulatória independente.
O ponto mais importante para interpretar o documento é separar três status diferentes: há um compromisso voluntário anunciado pela Anthropic, propostas que dependeriam de coordenação entre empresas e governos e, por fim, objetivos internacionais de execução muito mais difícil. Tratar as três camadas como se já fossem política vigente distorce o que o texto efetivamente propõe.
A resposta curta: três camadas de governança
| Proposta | Ator responsável | Mecanismo | Dependências | Limites |
|---|---|---|---|---|
| Avaliadores externos incorporados | Laboratórios de IA de fronteira | Acesso contínuo, semelhante ao de funcionários, para verificar práticas, relatar incidentes e avaliar modelos, treinamento e processos | Independência do avaliador, acesso real a sistemas e informações, regras de confidencialidade e publicação | É voluntário no primeiro momento e o ensaio não define um padrão universal de auditoria nem poder sancionatório |
| Coordenação entre laboratórios em democracias | Empresas, governos e possivelmente grupos setoriais | Padrões comuns, “checkpoints” ligados a capacidades e segurança, regulação e acordos voluntários | Métricas compartilhadas, mediação governamental, compatibilidade com direito concorrencial e adesão de uma massa crítica de empresas | Os gatilhos concretos ainda são exemplos; a proposta pode gerar disputas sobre antitruste, captura regulatória e competição |
| Coordenação global | Estados Unidos, aliados e governos autoritários, sobretudo a China no enquadramento do autor | Acordos graduais, de proibições estreitas até limites de velocidade sobre autoaperfeiçoamento recursivo | Verificação confiável, incentivos para cumprimento e capacidade de detectar modelos ou programas secretos | Quanto mais ambicioso o acordo, maior o risco de defecção e mais difícil a fiscalização |
1. Avaliadores externos incorporados: a parte mais concreta
A primeira camada é a única à qual a Anthropic diz estar se comprometendo unilateralmente no próprio ensaio. A proposta é dar a uma equipe externa acesso contínuo e parecido com o de funcionários que fazem avaliação de risco. O objetivo não é apenas testar um modelo pronto antes do lançamento, mas observar práticas de treinamento, implantação, operações, salvaguardas e incidentes ao longo do processo.
Como esse acesso funcionaria
- O texto prevê presença física e operacional, com mesas no escritório, crachás e laptops da empresa.
- Os avaliadores teriam acesso a espaços de trabalho, ferramentas e permissões em grande parte comparáveis às de equipes internas de avaliação de risco, com exceções legais, contratuais e de privacidade de clientes e parceiros.
- O contrato deveria permitir a publicação de conclusões relevantes sobre riscos, incidentes, práticas e até sobre o próprio acesso concedido ou negado.
- A empresa poderia redigir informações sensíveis em categorias estreitas, mas não esconder uma conclusão apenas por ser desfavorável; os revisores poderiam dizer publicamente se uma redação removeu algo importante para suas conclusões.
Na prática, essa camada tenta resolver o problema de verificabilidade: compromissos de segurança têm pouco valor se o observador externo só recebe relatórios escolhidos pela própria companhia. O ensaio cita a METR como exemplo de entidade que poderia exercer esse tipo de função, mas não apresenta um auditor definitivo nem um padrão fechado de acreditação.
Dependências e limites
O desenho é mais forte do que uma auditoria pontual, mas ainda deixa perguntas abertas. Quem escolhe e remunera o avaliador? Quais conflitos de interesse impediriam uma contratação? Qual metodologia seria comum entre laboratórios? O que acontece quando o avaliador e a empresa discordam sobre a gravidade de um risco? E quem impõe consequências se a empresa não cumprir uma recomendação?
Por isso, “avaliador incorporado” não equivale automaticamente a regulador independente. No documento, o mecanismo começa como compromisso corporativo e como protótipo de algo que Amodei quer ver formalizado por governos.
2. Coordenação entre laboratórios: um pacto de segurança dentro das democracias
A segunda camada exige coordenação setorial. Amodei diz preferir regulação que alcance todos os laboratórios de fronteira dos Estados Unidos, porque uma regra voluntária não cobre empresas que se recusem a participar. Ao mesmo tempo, argumenta que a legislação pode demorar e, por isso, empresas deveriam negociar padrões voluntários em paralelo.
O ensaio reconhece que certas formas de coordenação entre concorrentes são juridicamente delicadas. Por isso, sugere mediação do governo ou uma dispensa estreita de restrições antitruste para conversas de segurança específicas. Também menciona a possibilidade de usar grupos do setor ligados ao governo.
Checkpoints por capacidade
A proposta mais operacional dessa camada é criar “checkpoints” ligados ao que um sistema consegue fazer. O exemplo do texto é: se um modelo atingir determinada capacidade X, ele só avançaria acompanhado de evidências de segurança Y e Z, combinando avaliações, interpretabilidade e auditorias dos ambientes de treinamento.
Amodei também admite discutir limites sobre insumos do desenvolvimento — como compute de treinamento, características das execuções e uso interno de IA para melhorar IA —, mas observa que esses indicadores podem ser mais fáceis de contornar do que medir comportamentos externos do modelo. Em outras palavras, o ensaio oferece uma arquitetura de controle, não uma tabela pronta de limites.
A condição geopolítica do argumento
Essa segunda camada não é apresentada como um pacto abstrato de segurança. O autor condiciona o ritmo de desaceleração à vantagem tecnológica de democracias sobre projetos associados ao Partido Comunista Chinês. Ele defende controles de chips e equipamentos, combate a contrabando e acesso remoto a data centers, repressão a destilação não autorizada e maior proteção contra roubo de pesos de modelos.
Esses pontos são premissas estratégicas do autor. Eles ajudam a entender a lógica do documento, mas não devem ser confundidos com requisitos técnicos neutros ou com regras já aprovadas para todos os laboratórios.
3. Coordenação internacional: do acordo estreito à desaceleração ampla
A terceira camada tenta levar o “pacing” para o plano internacional. O próprio ensaio a trata como a parte mais difícil, porque qualquer acordo amplo dependeria de verificar se todos os lados realmente cumprem os limites e não mantêm modelos secretos capazes de alterar o equilíbrio militar ou econômico.
| Nível | O que seria negociado | Dificuldade descrita no ensaio |
|---|---|---|
| 1 | Proibir usos estreitos e claramente perigosos, como emprego de IA para produção de armas biológicas | Considerado relativamente plausível porque o dano interessa a todos os lados |
| 2 | Testar modelos antes do lançamento para riscos agudos em cibersegurança, biologia e alinhamento, possivelmente por um organismo global de padrões | Criar padrões pode ser viável; verificar programas secretos seria muito mais difícil |
| 3 | Aplicar um “limite de velocidade” ao autoaperfeiçoamento recursivo | Difícil, mas apresentado como possível no limite, por reduzir a velocidade sem abrir mão de toda a vantagem estratégica |
| 4 | Desaceleração ampla ou pausa substancial no desenvolvimento | O autor diz apoiar a discussão, mas considera improvável no curto prazo por causa dos incentivos para burlar o acordo |
O que o “pacing” deveria comprar, segundo o ensaio
O argumento central não é desacelerar por desacelerar. Amodei sustenta que até um ou dois anos adicionais antes de atingir capacidades críticas poderiam ser usados para quatro frentes: excelência operacional, alinhamento, interpretabilidade e testes e avaliações mais robustos.
O raciocínio é hipotético: o texto não demonstra que uma desaceleração coordenada produzirá necessariamente esse tempo nem que esse tempo será suficiente. Ele afirma que o intervalo poderia reduzir riscos se fosse de fato convertido em melhorias técnicas e organizacionais. Essa condição — usar bem o tempo ganho — é parte essencial da proposta.
O que o documento não estabelece
- Não cria uma lei, tratado ou regulador com poder de polícia.
- Não estabelece um cronograma universal para reduzir a velocidade de treinamento.
- Não fixa limiares numéricos obrigatórios de capacidade, compute ou risco.
- Não define quem certificaria todos os avaliadores externos nem como resolver conflitos entre auditor e empresa.
- Não transforma os quatro níveis internacionais em acordos existentes; eles são opções graduais para negociação futura.
- Não propõe simplesmente parar toda pesquisa em IA. O texto distingue “pacing” de uma interrupção geral do progresso técnico.
Onde estão os limites e a controvérsia
A cobertura posterior ao ensaio registrou apoio de alguns líderes do setor, mas também ceticismo sobre um modelo em que as próprias empresas escolhem avaliadores e pedem espaço jurídico para coordenar padrões entre concorrentes. Críticos citados pelo The Guardian levantaram preocupações com autorregulação, captura regulatória e possíveis efeitos concorrenciais.
Essas críticas não anulam o mecanismo descrito, mas ajudam a localizar seu ponto fraco: a credibilidade depende de independência real, transparência suficiente, critérios comparáveis e consequências quando compromissos são descumpridos. No plano internacional, o problema é ainda maior, porque a própria proposta reconhece que verificação e risco de defecção limitam o que pode ser negociado.
Como ler o documento sem confundir opinião com norma
Uma leitura documental útil separa três colunas mentais. Compromisso: a Anthropic afirma que vai avançar com avaliadores externos incorporados. Proposta: Amodei pede que outros laboratórios e governos formalizem padrões, checkpoints e coordenação. Aspiração: o texto imagina acordos internacionais cada vez mais ambiciosos, mas admite que os níveis superiores podem ser impraticáveis no curto prazo.
Esse enquadramento evita dois erros opostos. O primeiro é tratar o ensaio como se já tivesse criado novas regras para o setor. O segundo é reduzi-lo a um apelo abstrato por “mais segurança”. Há mecanismos relativamente concretos — sobretudo o acesso contínuo de avaliadores e os checkpoints por capacidade —, mas sua eficácia depende de governança, incentivos, métricas e fiscalização que o documento ainda não fecha.
Em uma frase
We Must Pace the Frontier propõe trocar promessas internas de segurança por um sistema progressivamente mais verificável: primeiro com avaliadores externos dentro dos laboratórios, depois com padrões coordenados entre empresas e governos democráticos e, por fim, com acordos internacionais graduais. O primeiro passo é um compromisso corporativo anunciado; os demais continuam sendo propostas políticas e diplomáticas, não normas vigentes.
Fontes: Dario Amodei — We Must Pace the Frontier; The Guardian — AI CEOs say they need to slow the pace of development. But will they?.
