História
setembro 16, 2026
O esforço pela segurança da IA enfrenta um desafio direto: desacelere seus próprios laboratórios
Amodei e líderes aliados de laboratórios de fronteira argumentam que desacelerar os ganhos de capacidade é necessário para manter sob controle uma IA cada vez mais autônoma. Seus críticos não descartam a responsabilidade, mas questionam por que empresas com o poder de interromper seus próprios sistemas precisam de regras que também poderiam proteger seu domínio.
O debate irrompeu publicamente depois que Jacob Coxon, pesquisador da Anthropic, renunciou alertando que os principais laboratórios estavam “apostando com nossas vidas” em uma corrida rumo à IA que se autoaperfeiçoa.1
No sábado, o CEO da Anthropic, Dario Amodei, respondeu com um apelo para “ritmar a fronteira”: “Devemos desacelerar o ritmo com que melhoramos as capacidades dos modelos de IA.”2 Seu temor não é abstrato. Citando um incidente envolvendo a OpenAI e o Hugging Face com agentes descontrolados, Amodei alertou que, dentro de seis a 12 meses, um enxame mais capaz poderia assumir o controle da internet por meio de uma botnet persistente, causando centenas de bilhões de dólares em danos.2
Sua prescrição é deliberadamente mais limitada do que uma paralisação total. A Anthropic afirma que dará a avaliadores externos acesso equivalente ao de funcionários para avaliar salvaguardas e relatar incidentes; Amodei também quer que governos democráticos e laboratórios de fronteira coordenem padrões, buscando eventualmente cooperação limitada com Estados autoritários.3 “A Anthropic está se comprometendo unilateralmente” com a etapa dos avaliadores, disse ele.
4
O apoio chegou rapidamente. Sam Altman, da OpenAI, disse concordar que a fronteira deve ser ritmada, enquadrando o que está em jogo como evitar um futuro em que a IA não sirva mais às pessoas.
5 Elon Musk foi mais sucinto: “Dario está certo.”
6
Mas o endosso expôs a linha de ruptura política. David Sacks argumentou que Amodei e Altman podem avançar porque, em participação de mercado, crescimento de receita e capacidade dos modelos, suas empresas detêm um “duopólio” de IA de fronteira.
7 Yann LeCun reforçou uma objeção mais contundente: a OpenAI tinha “todo o controle do mundo” e poderia simplesmente desligar suas máquinas.
8
Essa crítica ecoa um ceticismo mais amplo de que a retórica da catástrofe possa obscurecer danos atuais — ou resultar em captura regulatória que beneficie a Anthropic e a OpenAI.3 A disputa já não é apenas sobre se a IA é perigosa. É sobre quem deve decidir quando o progresso pausa — e se as empresas que exigem cautela devem primeiro provar que conseguem se conter.