Der erste Test der versprochenen Unabhängigkeit von KI erweist sich als unerwartet alltäglich: einen Anruf tätigen, einen Termin buchen oder eine Fensterscheibe von einer Tischplatte unterscheiden. Unternehmen für Verbraucheragenten leiten solche Aufgaben zunehmend an Menschen weiter, weil selbst führende Modelle zwar browsen und Empfehlungen geben können, aber weiterhin scheitern, wenn Urteilsvermögen und Umsetzung in der realen Welt erforderlich sind.¹

Bei Dazzle AI sagt Marissa Mayer, das Unternehmen nutze Spitzenmodelle für Vorschläge und Kandidatenlisten und prüfe deren Arbeit anschließend, bevor es einen Service anbiete, für den es „einstehen“ könne.¹ Sie erinnerte sich an einen Agenten, der Fensterglas mit Glas für eine Tischplatte verwechselte und zu ermitteln begann, ob die Tischplatte in das Fenster passen würde. Ein Mensch löste das innerhalb von Sekunden; der Agent hätte möglicherweise gewaltige Rechenressourcen verbraucht, ohne zu einer Antwort zu gelangen.¹

Dieses Übergabemodell verbreitet sich. Duckbill hat eine API entwickelt, um wahrscheinliche Fehler von Agenten an Vertragsarbeiter weiterzuleiten, während Wajo AI Menschen für Telefonanrufe und CAPTCHA-Hürden einsetzt. Ihr Argument ist pragmatisch: Kollaborative KI hält Aufgaben in Bewegung. Doch der Workaround verschärft auch Datenschutzbedenken, insbesondere wenn Nutzer möglicherweise nicht erkennen, dass ein Mensch Teil einer Interaktion geworden ist. Meta hat erklärt, dass solche menschlich unterstützten Tests Teil der Produktentwicklung seien, und zugleich hinzugefügt, dass Menschen derzeit keine Anfragen von Muse-Nutzern erledigten.¹

Dieselbe Spannung zeigt sich in einer weitaus exklusiveren Arena: der Mathematik. Nachdem OpenAI Hunderte KI-generierte Ergebnisse veröffentlicht hatte, erklärten Forschende, sie hätten mit spärlichen Ausarbeitungen, mangelndem Kontext und der mühseligen Aufgabe der Überprüfung zu kämpfen.²

Sam Altman hat die Störung eingeräumt, besteht jedoch darauf, dass die Veröffentlichung fortgesetzt werden sollte. „Die Menschheit verdient grundlegendes Wissen, und wir sollten nicht auf einer bedeutenden grundlegenden wissenschaftlichen Entdeckung sitzen“, sagte er und räumte zugleich ein, dass OpenAI verbessern müsse, wie es Ergebnisse kommuniziert.² Das Unternehmen hat jedoch auch Details zu einem behaupteten Yang-Mills-Ergebnis auf Rat ausgewählter Experten zurückgehalten, was Mathematiker frustriert, die darin Abschottung sehen, wo OpenAI Transparenz predigt.²

Von alltäglichen Besorgungen bis zu Beweisen an der Forschungsfront ist das Muster dasselbe: KI kann den Versuch beschleunigen, aber Menschen müssen ihn weiterhin sicher zu Ende bringen – und entscheiden, wann die Öffentlichkeit dem Ergebnis vertrauen kann.¹²