A divisão era visível antes mesmo de o Conselho de Segurança se reunir. Em 13 de setembro, o presidente Donald Trump enquadrou a inteligência artificial como uma disputa geopolítica, dizendo: “quem vencer a IA, vence”. Dias depois, ele disse à Assembleia Geral da ONU que os Estados Unidos “rejeitam totalmente qualquer tentativa de construir um esquema globalista para controlar” a tecnologia.¹

Essa posição elevou as apostas em 22 de setembro, quando o secretário-geral António Guterres alertou sobre “robôs assassinos” — uma preocupação que especialistas e líderes europeus disseram já ser real ou perigosamente próxima.²

Na sessão de quarta-feira do Conselho de Segurança, os criadores da tecnologia apresentaram uma posição marcadamente diferente: o progresso rápido exige regras coletivas, não uma corrida sem freios. O chefe da OpenAI, Sam Altman, disse que a IA poderia inaugurar “um novo renascimento de criatividade e descoberta”, mas também poderia trazer “convulsão e desordem”.³ Seu alerta central foi direto: sistemas cada vez mais autônomos poderiam ultrapassar as instituições, centralizar o poder e tomar decisões que os humanos já não conseguem entender ou controlar.

Altman argumentou que probabilidades de catástrofe, mesmo que de uma fração de um por cento, eram inaceitáveis e disse que o setor não deveria treinar modelos para os quais não consegue defender convincentemente que pode manter sob controle humano. Ele pediu padrões comuns para avaliar capacidades e riscos, verificar salvaguardas, relatar incidentes rapidamente e preservar uma supervisão humana significativa.³

O CEO da Anthropic, Dario Amodei, defendeu a mesma tese ampla a partir de uma perspectiva de ameaça mais imediata. A IA mal gerida, disse ele, poderia ser “um risco para a humanidade como um todo”; ele pediu acordos que proibissem armas biológicas criadas por IA, testes e verificação compartilhados, e um sistema global de notificação para grandes incidentes de segurança.¹

O cofundador da Hugging Face, Clément Delangue, ofereceu uma recomendação complementar após um ciberataque por agente contra sua empresa: mais transparência e mais IA de código aberto, para que os defensores não fiquem em desvantagem assimétrica.clem 🤗 (ClementDelangue)⁴ Ele enfatizou que a IA ajudou a Hugging Face a responder ao ataque e identificar vulnerabilidades — uma refutação à ideia de tratar apenas o medo como política.¹

Os executivos concordaram sobre o perigo do poder sem controle, mas não apenas sobre a contenção. A mensagem deles foi que segurança, responsabilização democrática e acesso defensivo devem avançar juntos — mesmo enquanto Washington sinaliza que pode resistir a uma arquitetura global vinculante.