Em março de 2025, o advogado de defesa criminal do Novo México Stephen Aarons assumiu um recurso em um caso de homicídio e usou o ChatGPT para resumir materiais do julgamento. Mais tarde, ele reconheceu ter confiado na ferramenta para produzir um “resumo à prova de falhas dos procedimentos”, em vez de verificar sua saída linha por linha.¹

Em agosto, essa confiança havia se transformado em um fracasso no tribunal. Aarons apresentou uma petição de recurso contendo depoimentos inventados atribuídos a testemunhas que nunca haviam comparecido ao julgamento, além de descrições imprecisas de precedentes jurídicos. A Suprema Corte do Novo México concluiu que ele estava em desacato direto, multou-o em US$ 5.000, proibiu-o de comparecer perante ela enquanto aguardava processos disciplinares e determinou um novo advogado para seu cliente.

A mensagem do tribunal foi direta: a IA não é a única culpada quando um profissional aprova falsidades. A juíza C. Shannon Bacon disse a Aarons que, independentemente de o trabalho defeituoso ter vindo de IA, de um advogado júnior ou de um colega, o dever de verificar continuava sendo dele. A vítima imediata, ela enfatizou, era o cliente preso cujo recurso havia sido descarrilado: “Seu cliente é quem está sofrendo.”¹

Nesse cenário de advertência, a Cloudera e a Mistral AI estão propondo uma resposta diferente à inquietação empresarial: soberania. Sua nova parceria colocará os modelos da Mistral na plataforma de dados híbrida da Cloudera, permitindo que os clientes executem inferência em nuvens privadas, sistemas locais e até em ambientes isolados da rede, mantendo dados proprietários e os modelos resultantes sob seu controle.²

Para as empresas, o prêmio é inteligência especializada, em vez de dependência de APIs públicas de uso geral. Abhas Ricky, da Cloudera, chama essa transição de “de alugar IA genérica para possuir inteligência que é exclusivamente delas”.² A Mistral afirma que o acordo foi concebido para permitir que as empresas personalizem modelos onde seus dados já estão armazenados, em toda a base de clientes, que conta com 30 exabytes de dados gerenciados.³

O apelo político mais amplo também é evidente. Apoiadores da Mistral celebraram sua ascensão como prova de que “precisamos de mais IA soberana e de código aberto em todo o mundo.”clem 🤗 (ClementDelangue)⁴ Mas a decisão do Novo México fornece o princípio limitador: o controle sobre o sistema pode proteger dados e jurisdição; não pode certificar a veracidade de uma resposta. Isso ainda cabe à pessoa que a utiliza.