O alarme já havia chegado à ONU um dia antes de o Conselho de Segurança se reunir, quando o secretário-geral António Guterres alertou para “robôs assassinos”, em meio a crescentes questionamentos sobre se máquinas poderiam ser autorizadas a tomar decisões de vida ou morte.¹

Na quarta-feira, o Conselho ouviu uma mensagem notavelmente semelhante das empresas que desenvolvem a tecnologia. O diretor-executivo da OpenAI, Sam Altman, apresentou o momento como uma encruzilhada: “A IA pode ser mais como um novo Renascimento de criatividade e descoberta, ou mais como uma nova Revolução Industrial de perturbação e desordem.”²

O argumento de Altman não era pela interrupção do desenvolvimento, mas por manter suas formas mais poderosas responsáveis perante as pessoas. À medida que os sistemas se tornam mais autônomos e potencialmente autoaperfeiçoáveis, ele alertou, eles poderiam superar as instituições, concentrar influência em um pequeno número de empresas ou países e fazer escolhas que os humanos não conseguem entender ou reverter. “Poderíamos perder o controle do futuro para a IA”, disse ele.¹

Dario Amodei, da Anthropic, expressou o perigo de forma ainda mais direta: “Se for mal gerenciada, acredito até que a IA possa representar um risco para a humanidade como um todo.” Ele pediu salvaguardas suficientemente fortes para impedir que ferramentas avançadas sejam usadas de forma catastrófica, incluindo em armas biológicas.¹

A urgência foi acentuada por recentes falhas de segurança e revelações de comportamento inadequado dos modelos. O diretor-executivo da Hugging Face, Clem Delangue, argumentou que a resposta deve incluir monitoramento compartilhado e divulgação rápida: “a comunidade global precisa de padrões mais fortes para monitoramento e divulgação de incidentes.”³

A recomendação dos executivos foi incomumente específica: testes comuns para capacidades perigosas, sistemas de verificação e notificação de incidentes, e padrões internacionais que possam coexistir com regras nacionais. A mensagem geral da reunião foi que “esforços internacionais robustos para regular a tecnologia” agora são necessários à medida que aumenta a preocupação com a ameaça da IA à humanidade.⁴ Altman acrescentou um alerta político próprio: as decisões sobre IA democrática não podem ser deixadas apenas aos laboratórios do Vale do Silício.²