O primeiro teste da prometida independência da IA está se mostrando inesperadamente banal: fazer uma ligação, marcar uma consulta ou distinguir uma vidraça de uma mesa. Empresas de agentes para consumidores estão cada vez mais encaminhando esse tipo de tarefa a pessoas porque até mesmo os principais modelos conseguem navegar e recomendar, mas ainda tropeçam quando são necessários julgamento e acompanhamento no mundo real.¹

Na Dazzle AI, Marissa Mayer diz que a empresa usa modelos de ponta para sugestões e listas de candidatos e, depois, verifica seu trabalho antes de prestar um serviço que possa “defender”.¹ Ela relembrou um agente que confundiu vidro de janela com vidro de mesa e começou a tentar determinar se a mesa caberia na janela. Um humano resolveu a questão em segundos; o agente poderia ter consumido vastos recursos computacionais sem chegar a uma resposta.¹

Esse modelo de transferência está se disseminando. A Duckbill criou uma API para enviar falhas prováveis de agentes a trabalhadores contratados, enquanto a Wajo AI usa pessoas para ligações telefônicas e obstáculos de CAPTCHA. O argumento delas é prático: a IA colaborativa mantém as tarefas em andamento. Mas a solução alternativa também acentua preocupações com privacidade, especialmente quando os usuários podem não perceber que um humano entrou na interação. A Meta afirmou que esses testes com assistência humana fazem parte do desenvolvimento de produtos, acrescentando, porém, que as pessoas atualmente não concluem os pedidos dos usuários do Muse.¹

A mesma tensão surgiu em uma esfera muito mais elevada: a matemática. Depois que a OpenAI divulgou centenas de resultados gerados por IA, pesquisadores disseram ter dificuldades com textos explicativos escassos, contexto insuficiente e a trabalhosa tarefa de verificação.²

Sam Altman reconheceu a perturbação, mas insiste que a publicação deve continuar. “A humanidade merece conhecimento fundamental, e não deveríamos estar guardando uma grande descoberta científica fundamental”, disse ele, ao mesmo tempo que admitiu que a OpenAI precisa melhorar a forma como comunica os resultados.² No entanto, a empresa também reteve detalhes de um alegado resultado sobre Yang-Mills, seguindo o conselho de especialistas selecionados, frustrando matemáticos que veem controle de acesso onde a OpenAI prega transparência.²

De tarefas domésticas a demonstrações de ponta, o padrão é o mesmo: a IA pode acelerar a tentativa, mas as pessoas ainda precisam concluí-la com segurança — e decidir quando o público pode confiar no resultado.¹²