História
setembro 14, 2026
A desaceleração de segurança proposta para a IA enfrenta um problema de confiança
Amodei e seus aliados dizem que uma pausa deliberada é a única forma de manter uma IA cada vez mais capaz sob controle humano. Os céticos não descartam a necessidade de salvaguardas, mas questionam se regras moldadas pelos principais laboratórios proporcionariam responsabilização ou consolidariam seu poder.
No início da semana, o ex-pesquisador da Anthropic Jacob Coxon pediu demissão, acusando o setor de “apostar com nossas vidas” em uma corrida rumo a sistemas que se autoaperfeiçoam. A saída intensificou um debate sobre segurança já acirrado por relatos de falhas de agentes de IA e pela corrida comercial entre os principais laboratórios.1
No sábado, o CEO da Anthropic, Dario Amodei, transformou essa ansiedade em uma exigência concreta: “Devemos desacelerar o ritmo com que melhoramos as capacidades dos modelos de IA.” Ele argumentou que sistemas capazes de ajudar a construir seus sucessores poderiam superar a capacidade dos pesquisadores de compreendê-los e controlá-los, ao mesmo tempo em que alertou que um enxame mais capaz de agentes desonestos poderia ameaçar a internet em seis a 12 meses.2
Sua resposta não é uma paralisação. É “ritmar a fronteira”: dar tempo para que alinhamento, testes e supervisão se equiparem. A Anthropic afirma que concederá imediatamente a avaliadores independentes acesso permanente, em nível de funcionário, a seus sistemas e processos internos, com liberdade para relatar conclusões sem controle editorial da empresa.3 Amodei apresentou a medida como a primeira parte de um plano mais amplo para padrões comuns entre países democráticos e uma coordenação posterior, e difícil, com Estados autoritários.
4
O apoio chegou rapidamente. Sam Altman, da OpenAI, disse que o setor deve evitar perder o controle do futuro para a IA e insistiu que “a IA deve sempre servir às pessoas.”
5 Elon Musk ofereceu um endosso ainda mais lacônico: “Dario está certo.”
6
Mas o consenso sobre o perigo não encerrou a discussão sobre poder. David Sacks observou que Amodei e Altman são eles próprios “a fronteira”, chamando Anthropic e OpenAI de um duopólio em participação de mercado, crescimento de receita e capacidade de modelos.
7 Outros críticos argumentam que previsões apocalípticas podem desviar a atenção de danos que já estão ocorrendo, e que regras de cadenciamento elaboradas pelo setor poderiam se tornar “captura regulatória ... em ação.”8
Essa é a linha divisória: defensores da segurança querem escrutínio externo antes que saltos de capacidade se tornem irreversíveis; opositores temem que as empresas que defendem isso acabem decidindo quem pode competir.