Il primo test della promessa indipendenza dell’IA si sta rivelando inaspettatamente banale: fare una telefonata, fissare un appuntamento o distinguere un vetro di finestra da un piano di tavolo. Le aziende che sviluppano agenti per i consumatori stanno sempre più spesso affidando questi compiti alle persone, perché anche i modelli più avanzati sanno navigare e consigliare, ma continuano a inciampare quando sono richiesti giudizio e capacità di portare a termine azioni nel mondo reale.¹

In Dazzle AI, Marissa Mayer afferma che l’azienda usa modelli di frontiera per suggerimenti ed elenchi di candidati, quindi ne controlla il lavoro prima di offrire un servizio che possa “garantire.”¹ Ha ricordato un agente che confuse il vetro di una finestra con quello di un piano di tavolo e iniziò a cercare di stabilire se il piano potesse entrare nella finestra. Un essere umano risolse la questione in pochi secondi; l’agente avrebbe potuto consumare enormi risorse di calcolo senza arrivare a una risposta.¹

Quel modello di passaggio di consegne si sta diffondendo. Duckbill ha creato un’API per inviare ai lavoratori a contratto i probabili fallimenti degli agenti, mentre Wajo AI usa persone per le telefonate e gli ostacoli dei CAPTCHA. Il loro argomento è pratico: l’IA collaborativa mantiene i compiti in movimento. Ma questa soluzione alternativa accentua anche le preoccupazioni sulla privacy, in particolare quando gli utenti potrebbero non rendersi conto che una persona è entrata nell’interazione. Meta ha affermato che tali test con assistenza umana fanno parte dello sviluppo del prodotto, aggiungendo però che al momento le persone non completano le richieste degli utenti di Muse.¹

La stessa tensione è emersa in un ambito molto più rarefatto: la matematica. Dopo che OpenAI ha pubblicato centinaia di risultati generati dall’IA, i ricercatori hanno dichiarato di avere difficoltà con esposizioni scarne, contesto insufficiente e il laborioso compito della verifica.²

Sam Altman ha riconosciuto la portata dirompente della situazione, ma insiste sul fatto che la pubblicazione debba continuare. «L’umanità merita conoscenze fondamentali e non dovremmo tenere nascosta una grande scoperta nelle scienze fondamentali», ha detto, pur ammettendo che OpenAI deve migliorare il modo in cui comunica i risultati.² Tuttavia, l’azienda ha anche trattenuto i dettagli di un presunto risultato sulle equazioni di Yang-Mills su consiglio di esperti selezionati, frustrando i matematici che vedono un controllo dell’accesso là dove OpenAI predica trasparenza.²

Dalle commissioni domestiche alle dimostrazioni di frontiera, lo schema è lo stesso: l’IA può accelerare il tentativo, ma le persone devono ancora portarlo a buon fine in sicurezza — e decidere quando il pubblico possa fidarsi del risultato.¹²