O CEO da Anthropic, Dario Amodei, transformou um debate sobre segurança já acalorado em uma exigência concreta: as empresas de IA de fronteira devem desacelerar deliberadamente o ritmo com que tornam seus modelos mais capazes.

Em um ensaio publicado no sábado, Amodei argumentou que gastar mais com salvaguardas já não é suficiente porque a IA está se tornando melhor em ajudar a construir seus próprios sucessores. “Devemos desacelerar o ritmo com que melhoramos as capacidades dos modelos de I.A.”, escreveu ele, argumentando que mais tempo poderia permitir que o trabalho de alinhamento e segurança acompanhasse o ritmo.¹ Ele alertou que o progresso sem controle poderia superar a capacidade da humanidade de compreender e controlar os sistemas.²

O compromisso imediato da Anthropic é conceder a avaliadores independentes acesso permanente, em nível de funcionário, aos seus sistemas, incluindo a capacidade de avaliar práticas de segurança e reportar incidentes. Amodei apresentou isso como a primeira parte de um plano de três etapas: supervisão externa, padrões compartilhados entre empresas em países democráticos e eventual coordenação com governos autoritários sobre perigos definidos de forma restrita. Ele próprio anunciou a medida no X.Dario Amodei (DarioAmodei)³

A urgência decorre da crescente preocupação com incidentes de segurança envolvendo agentes de IA e de uma renúncia pública do pesquisador da Anthropic Jacob Coxon, que disse que os principais laboratórios estavam “apostando com nossas vidas” em uma corrida rumo à superinteligência autoaperfeiçoável.⁴ Amodei sugeriu que uma desaceleração de até um ou dois anos poderia reduzir materialmente as chances de catástrofe.²

A resposta dos rivais foi surpreendentemente favorável. O chefe da OpenAI, Sam Altman, disse concordar com o ritmo da fronteira, enquanto Elon Musk ofereceu um apoio direto: “Dario está certo.”Elon Musk (elonmusk)⁵ David Sacks, por sua vez, disse que Anthropic e OpenAI deveriam prosseguir precisamente porque constituem um “duopólio” de IA de fronteira.David Sacks (DavidSacks)⁶

Mas o aparente consenso esconde uma disputa acirrada. Críticos das mensagens sobre risco existencial argumentam que um pacto de segurança liderado pelos dois maiores laboratórios poderia se tornar captura regulatória, em vez de uma proteção pública significativa.⁷ E o plano de Amodei enfrenta seu teste mais difícil no exterior: ele reconhece que empresas dos EUA não podem se conter indefinidamente se desenvolvedores chineses continuarem avançando, o que torna os controles sobre chips e acordos limitados entre EUA e China centrais para qualquer desaceleração viável.²