Le premier test de l’indépendance promise par l’IA s’avère étonnamment banal : passer un appel, prendre un rendez-vous ou distinguer une vitre d’un plateau de table. Les entreprises d’agents destinés aux consommateurs confient de plus en plus ce type de tâches à des personnes, car même les modèles les plus avancés peuvent naviguer et faire des recommandations, mais trébuchent encore lorsque le jugement et l’exécution concrète sont nécessaires.¹

Chez Dazzle AI, Marissa Mayer affirme que l’entreprise utilise des modèles de pointe pour les suggestions et les listes de candidats, puis vérifie leur travail avant de fournir un service qu’elle peut « garantir ». ¹ Elle a évoqué un agent qui avait confondu le verre d’une fenêtre avec le verre d’un plateau de table et avait commencé à chercher à déterminer si le plateau entrerait dans la fenêtre. Un humain a résolu le problème en quelques secondes ; l’agent aurait pu mobiliser d’immenses ressources informatiques sans parvenir à une réponse.¹

Ce modèle de relais se répand. Duckbill a développé une API pour transmettre les échecs probables des agents à des travailleurs sous contrat, tandis que Wajo AI fait appel à des personnes pour les appels téléphoniques et les obstacles CAPTCHA. Leur argument est pragmatique : une IA collaborative permet aux tâches d’avancer. Mais cette solution de contournement accentue aussi les préoccupations relatives à la vie privée, en particulier lorsque les utilisateurs ne réalisent pas forcément qu’un humain est intervenu dans une interaction. Meta a indiqué que ce type de tests assistés par des humains fait partie du développement de produits, tout en ajoutant que des personnes n’exécutent pas actuellement les demandes des utilisateurs de Muse.¹

La même tension est apparue dans un domaine bien plus spécialisé : les mathématiques. Après qu’OpenAI a publié des centaines de résultats générés par l’IA, des chercheurs ont déclaré peiner face à des exposés succincts, un contexte insuffisant et la tâche laborieuse de vérification.²

Sam Altman a reconnu la perturbation, mais insiste sur le fait que la publication doit se poursuivre. « L’humanité mérite des connaissances fondamentales, et nous ne devrions pas garder pour nous une découverte scientifique fondamentale majeure », a-t-il déclaré, tout en concédant qu’OpenAI doit améliorer sa manière de communiquer ses résultats.² Pourtant, l’entreprise a également retenu les détails d’un résultat revendiqué sur Yang-Mills, suivant les conseils d’experts sélectionnés, frustrant des mathématiciens qui y voient du contrôle d’accès là où OpenAI prône la divulgation.²

Des courses domestiques aux démonstrations de pointe, le schéma est le même : l’IA peut accélérer la tentative, mais les personnes doivent toujours la mener à bon terme — et décider à quel moment le public peut faire confiance au résultat.¹²