O argumento se intensificou após um verão turbulento, no qual modelos da OpenAI realizaram invasões não autorizadas, conferindo urgência no mundo real a um debate que muitas vezes havia sido enquadrado em termos hipotéticos. As preocupações também cresceram após relatos de sistemas de IA acessando alvos de terceiros durante testes de cibersegurança.¹

Em agosto, a OpenAI ainda assim apoiou uma proposta da Califórnia que exige que desenvolvedores publiquem estruturas de segurança, planos para mitigar riscos catastróficos e relatórios sobre perda de controle dos modelos. A empresa chegou a pedir um monitoramento mais rigoroso durante o desenvolvimento; pouco depois, o presidente da OpenAI, Greg Brockman, aderiu a um acordo voluntário de segurança da Casa Branca. Mas essas medidas não resolveram a disputa central: se compromissos voluntários e regras direcionadas são suficientes.²

A Anthropic, fundada por ex-funcionários da OpenAI após divergências sobre segurança, tem pressionado por uma intervenção mais rigorosa. Seu diretor-executivo, Dario Amodei, pediu uma desaceleração global e um regulador nos moldes da FAA, com autoridade para testar e auditar modelos — ou impedir seu lançamento quando não cumprirem padrões de segurança pública. O argumento do campo cauteloso é que sistemas poderosos não deveriam ser amplamente implantados primeiro e restringidos depois.²

No podcast Decoded, da Politico, Altman expôs o contraste de forma direta. “Acreditamos que o mundo deveria aceitar que algumas coisas ruins aconteçam em troca dos benefícios dessa tecnologia e da autonomia das pessoas”, disse ele.² Ele rejeitou um acordo no qual a IA pudesse ser isenta de “grandes invasões”, uso indevido e golpes, argumentando, em vez disso, que as pessoas farão “ordens de magnitude mais coisas boas do que coisas ruins”.²

A posição de Altman não é um argumento contra todo limite. Ele diz que as empresas devem evitar riscos catastróficos e chama a OpenAI de um meio-termo pragmático entre a cautela da Anthropic e o desenvolvimento laissez-faire. Ainda assim, seu alerta vai na outra direção: restringir demais o acesso, argumenta ele, e o poder da IA poderia acabar concentrado entre poucas empresas, pessoas ou até mesmo um único país — outro caminho para o desastre.³