O alarme se intensificou na semana passada, quando o ex-pesquisador da Anthropic Jacob Coxon renunciou, acusando a Anthropic e a OpenAI de “correrem diretamente rumo à superinteligência autoaperfeiçoável e apostarem com nossas vidas.”¹ A disputa colocou uma questão crua no centro do boom da IA: as empresas que constroem sistemas cada vez mais capazes também podem ser confiadas para acionar os freios?

No sábado, o diretor-executivo da Anthropic, Dario Amodei, respondeu com um apelo para “ditar o ritmo da fronteira.” Ele disse que a crescente capacidade da IA de ajudar a construir modelos sucessores, juntamente com um incidente envolvendo agentes da OpenAI e o Hugging Face, tornou insuficiente o investimento convencional em segurança. Em sua previsão de pior caso, um enxame de agentes mais capazes poderia dominar a internet por meio de uma botnet persistente em seis a 12 meses, causando danos enormes.²

O plano de Amodei não é um congelamento. Ele começa com acesso permanente, em nível de funcionários, para avaliadores independentes — uma medida que a Anthropic afirma que adotará imediatamente —, passa então a padrões comuns entre laboratórios de fronteira em países democráticos e, por fim, a uma coordenação global limitada.Dario Amodei (DarioAmodei)³ Seu argumento baseia-se em ganhar um ou dois anos para que alinhamento, testes e interpretabilidade alcancem o ritmo.

A resposta foi surpreendentemente bipartidária para os padrões do Vale do Silício. Sam Altman, da OpenAI, disse concordar que a fronteira deve ser cadenciada e prometeu acesso comparável para avaliadores externos. Mais tarde, ele enfatizou que cadenciar “não significa ‘parar’” e argumentou que a pressão competitiva não deve permitir que as capacidades se adiantem ao alinhamento e ao monitoramento.⁴ Elon Musk ofereceu um endosso direto: “Dario está certo.”Elon Musk (elonmusk)⁵

Mas o consenso emergente tem limites nítidos. David Sacks disse que a OpenAI e a Anthropic — que ele descreveu como um duopólio de IA de fronteira — deveriam desacelerar se assim escolherem, sem exigir permissão pública ou um arcabouço regulatório preferencial.David Sacks (DavidSacks)⁶ Outros críticos alertam que tais arranjos poderiam se tornar captura regulatória, protegendo os maiores laboratórios enquanto apresentam cautela comercial como proteção pública.⁷

Até domingo, Amodei havia identificado o obstáculo mais difícil da proposta: a China. Um limite global de velocidade poderia ser desejável, disse ele, mas os incentivos militares para avançar tornam sua realização extraordinariamente difícil.⁸ O setor encontrou uma rara concordância sobre o perigo; transformar essa concordância em contenção verificável é uma corrida muito mais difícil.