Notícia
outubro 6, 2026
Audiência sobre IA em Nova York expõe lacuna de segurança enquanto denunciantes alertam que a corrida já começou
Autoridades da cidade de Nova York argumentam que empresas poderosas de IA devem ao público respostas claras e responsáveis sobre riscos catastróficos, enquanto ex-integrantes do setor dizem que a corrida da indústria para desenvolver sistemas mais capazes superou sua cultura de segurança. Os representantes das empresas sustentam que riscos inaceitáveis não devem ser tolerados, mas tiveram dificuldade para explicar como esses riscos são medidos ou contidos.
O confronto vinha se formando havia semanas. À medida que se intensificava o escrutínio sobre laboratórios de IA de fronteira, a presidente do Conselho Municipal, Julie Menin, convocou uma rara audiência do Comitê Plenário e exigiu que Anthropic, OpenAI, Google e Meta respondessem sob juramento a perguntas sobre os perigos que seus sistemas poderiam representar. Três das empresas só concordaram depois que o Conselho ameaçou emitir intimações, segundo o gabinete de Menin.1
Na segunda-feira, a audiência expôs a distância entre a exigência do Conselho por salvaguardas concretas e as garantias cautelosas do setor. Menin perguntou a executivos como eles quantificavam o risco da IA em um cenário catastrófico de pior caso. A executiva de políticas da OpenAI, Morgan Dwyer, respondeu: “Não sei”, acrescentando que não importava se a chance era de 1%, 10% ou 20%, porque nenhum nível de risco desse tipo era aceitável.2
Menin não se convenceu. “Dizer que você não sabe e que isso não importa é, no mínimo, leviano”, afirmou ela, depois que Dwyer disse que a OpenAI não deveria treinar modelos que não pudessem permanecer com segurança sob controle humano.2 As empresas não deram respostas claras sobre se conseguiriam interromper um modelo que falhasse em um teste de segurança, se poderiam se assegurar contra uma catástrofe ou quantificar a probabilidade de uma.2
Ex-funcionários retrataram o problema de forma mais contundente. Jacob Coxon, que deixou a Anthropic, disse aos vereadores que o ethos do setor de “agir rápido e quebrar coisas” talvez sirva para um aplicativo de compartilhamento de fotos, mas não para “a tecnologia mais poderosa já construída”.3 Ele compareceu ao lado de ex-funcionários do Google e da OpenAI que defendiam uma supervisão mais rigorosa.
A mais dura repreensão política veio do defensor público Jumaane D. Williams, que chamou a resposta de Dwyer de uma “resposta horrível, fantasticamente terrível”.3 A audiência deixou ambos os lados alinhados em um ponto abstrato — o risco catastrófico é inaceitável —, mas divididos sobre se as empresas conseguem demonstrar que seus sistemas em rápida aceleração estão de fato sob controle.