America.gov entrou no ar na terça-feira como a iniciativa do governo Trump para substituir o labirinto disperso da web federal por uma única interface de chat com IA. O presidente Donald Trump chamou isso de uma “reinvenção do seu governo para o século 21 e além”, enquanto o diretor de Design, Joe Gebbia, afirmou que cerca de 40 milhões de pessoas interagem com sites do governo todos os dias e “gostaríamos que fosse melhor”.¹

A proposta é simples: pergunte sobre um cartão da Previdência Social, Medicare, registro eleitoral ou um passe para parques, e receba uma resposta extraída de sites oficiais do governo. O governo afirma que o Gemini, do Google, e o Grok, de Elon Musk, alimentam o serviço, enquanto o America.gov diz que suas respostas remetem às fontes originais e não são influenciadas por terceiros. Musk parabenizou publicamente Gebbia no lançamento, ressaltando o apoio da indústria de tecnologia ao projeto.Elon Musk (elonmusk)²

Mas o lançamento expôs rapidamente os riscos políticos e práticos de colocar um modelo generativo entre os cidadãos e o Estado. As primeiras respostas contradisseram várias alegações de Trump, inclusive ao afirmar que Joe Biden venceu a eleição de 2020; o chatbot também retornou informações de fontes oficiais que contestavam afirmações sobre tarifas, imigração e inflação.³

Na quarta-feira, a mesma pergunta podia produzir um resultado diferente. Alguns usuários foram informados de que o America.gov não fornecia “comentários políticos”, enquanto outros ainda receberam a resposta de que Biden venceu. A Casa Branca disse que o serviço continuaria a ser atualizado com “as informações e os recursos federais mais precisos e confiáveis”, mas a GSA não explicou suas salvaguardas.⁴

Especialistas dizem que a inconsistência pode refletir comportamentos distintos dos modelos, respostas em cache ou prompts próximos a um limite de conteúdo político. A possibilidade mais preocupante, alertou um especialista em IA, é que as salvaguardas possam estar moldando as respostas em direção ao alinhamento ideológico. As consequências se tornam maiores se a expansão prevista para 2027 permitir que usuários enviem solicitações, renovações e formulários: uma resposta errada sobre benefícios, vistos ou impostos pode significar prazos perdidos, recusas ou penalidades.⁵

Por enquanto, o bot também mostrou um lado mais estranho: prompts sobre Minecraft podem acionar uma longa adaptação do “Poema do Fim” do jogo, em vez de uma falha. Isso pode ser um Easter egg inofensivo — mas é um lembrete constrangedor de que a nova porta de entrada do governo americano ainda é, inconfundivelmente, um chatbot.⁶