Notícia
setembro 16, 2026
O consenso sobre segurança da IA esbarra em um desafio simples: desacelere você mesmo
A Anthropic argumenta que a IA em rápido avanço precisa de tempo, escrutínio externo e salvaguardas internacionais antes que falhas de segurança ultrapassem o controle humano. Seus apoiadores compartilham a preocupação, enquanto críticos dizem que um apelo por contenção em toda a indústria não pode substituir a decisão dos laboratórios de fronteira de se conterem.
O mais recente embate sobre segurança da IA começou com uma ruptura incomumente pública dentro da Anthropic. O pesquisador Jacob Coxon pediu demissão, acusando os principais laboratórios de correr rumo a sistemas autoaperfeiçoáveis enquanto “apostam com nossas vidas”; outros funcionários da Anthropic amplificaram publicamente o alerta.1
Dias depois, o diretor-executivo da Anthropic, Dario Amodei, elevou o argumento de um alarme interno a uma proposta concreta. Ele disse que as capacidades da IA avançavam rápido demais para que as salvaguardas acompanhassem o ritmo, alertando que sistemas cada vez mais capazes poderiam em breve viabilizar comportamentos destrutivos de agentes autônomos. “Devemos desacelerar o ritmo com que melhoramos as capacidades dos modelos de IA”, escreveu ele.2
A primeira medida de Amodei foi deliberadamente unilateral: a Anthropic daria a avaliadores independentes acesso permanente, no nível de funcionários, permitindo-lhes inspecionar práticas de segurança e relatar incidentes. Seu plano mais amplo pede limites compartilhados entre laboratórios de fronteira em países democráticos e, por mais difícil que seja, coordenação com governos autoritários sobre perigos específicos, como armas biológicas habilitadas por IA.3 No X, Amodei apresentou isso como um plano de três partes e disse que a Anthropic já estava se comprometendo com a primeira etapa.
4
A mensagem encontrou aliados incomuns. A resposta de Elon Musk foi direta: “Dario está certo.”
5 Sam Altman também argumentou que perder o controle do futuro para a IA era inaceitável e que sistemas cada vez mais capazes deveriam servir às pessoas.
6
Mas a concordância se desfez sobre quem deve agir primeiro. David Sacks observou que a Anthropic e a OpenAI efetivamente dominam a fronteira, dizendo a Amodei e Altman: “sigam em frente. Vocês são a fronteira.”
7 Sua formulação mais incisiva foi que as empresas deveriam tornar os produtos seguros “sem exigir qualquer concessão do governo.”8
Esse é o teste brutal por baixo do consenso aparente: defensores da segurança querem regras coletivas para evitar uma corrida que ninguém pode perder com segurança; seus críticos veem um padrão mais simples. Se o perigo é tão iminente quanto anunciado, os laboratórios não precisam de permissão para desacelerar.