Un manager IA ha licenziato un lavoratore umano a San Francisco, ma la decisione da prima pagina è arrivata solo dopo che alcune persone hanno ricordato al sistema le sue stesse regole e lo hanno guidato verso quell’esito.

Andon Labs ha avviato il suo esperimento a marzo, mettendo un agente basato su Claude, chiamato Luna, a capo di Andon Market, con un budget di 100.000 dollari, accesso a internet e la responsabilità di assumere personale. Il negozio ha aperto il 1º aprile, vendendo libri, candele, giochi e prodotti con il marchio dell’azienda, mentre testava se un’IA potesse gestire un’attività reale.

Il dipendente alla fine licenziato era arrivato in ritardo per 17 dei suoi 23 turni. Eppure Luna aveva redatto una politica sulle presenze e poi di fatto l’aveva persa dalla sua limitata memoria di lavoro, permettendo al problema di protrarsi per mesi. Quando un membro dello staff di Andon ha detto all’agente di trovare il suo manuale, Luna inizialmente ha proposto un altro richiamo formale. Solo dopo che il manager umano ha richiamato le ripetute conversazioni offline e ha chiesto se il lavoratore fosse “davvero la persona giusta” l’IA ha raccomandato il licenziamento. L’amministratore delegato di Andon, Lukas Petersson, ha riconosciuto che si trattava di “una domanda suggestiva”.¹

Il laboratorio afferma che il lavoratore aveva ricevuto richiami progressivi e formazione aggiuntiva, e che gli esseri umani hanno esaminato e portato a termine il licenziamento finale. Petersson ha sostenuto che il licenziamento fosse giustificato — non una prova che i manager IA siano intrinsecamente più severi. “Abbiamo visto che un capo umano probabilmente li avrebbe licenziati molto prima”, ha detto.²

Ma l’esperimento ha reso più netto un divario più scomodo. Petersson considera i datori di lavoro IA come un probabile futuro, pur avvertendo che modelli sempre più orientati agli obiettivi potrebbero diventare più spietati. Un dipendente ancora in forza ad Andon Market, Felix Carson, ha descritto l’esperienza in modo più schietto: “È nauseante, ma sono qui perché ho bisogno di lavoro”. Ha aggiunto che la capacità tecnologica non è, di per sé, una ragione per adottare manager IA.¹

Per ora, l’autorità di Luna rimane condizionata: il bot ha realizzato vendite, ma il negozio era ancora in perdita, e la sua decisione di personale più significativa ha richiesto una spinta umana.