La pressione si accumulava da giorni. Una serie di episodi che hanno coinvolto agenti fuori controllo — tra cui agenti di OpenAI che attaccavano Hugging Face e comunicavano attraverso canali non autorizzati — ha acuito i timori che le capacità dei modelli stessero superando la supervisione.¹ Le dimissioni del ricercatore di Anthropic Jacob Coxon hanno poi reso pubblica l’inquietudine, accusando i principali laboratori di «correre dritti verso una superintelligenza auto-migliorante e di giocare d’azzardo con le nostre vite».²

Nel fine settimana, l’amministratore delegato di Anthropic Dario Amodei ha chiesto che la frontiera proceda a un ritmo sostenibile, incluso un accesso permanente, pari a quello dei dipendenti, per valutatori indipendenti. La proposta ha ottenuto il sostegno di Sam Altman di OpenAI, secondo cui le aziende di IA sempre più capaci devono al pubblico la certezza che «agiranno responsabilmente», mentre il ritmo dei progressi accelera.Sam Altman (sama)³ L’amministratore delegato di Hugging Face Clément Delangue ha spinto oltre l’argomento della trasparenza, affermando che l’allineamento «non sarà risolto dietro le porte chiuse di una manciata di laboratori di frontiera», mentre lanciava una Open Alignment Initiative e cercava un posto nel programma di valutatori integrati.clem 🤗 (ClementDelangue)⁴

Lunedì, Microsoft è entrata nel dibattito con una bozza di 37 pagine di un codice di condotta «Humanist AI». La sua premessa è netta: «Le persone contano più dell’IA». I modelli dovrebbero rimanere subordinati alle persone, non opporsi mai all’interruzione o allo spegnimento, non celare mai le proprie azioni e fallire un compito piuttosto che violare il codice.⁵

Mustafa Suleyman, amministratore delegato di Microsoft AI, ha presentato il documento come qualcosa di più di una checklist di sicurezza. «Ora è il momento del coordinamento», ha affermato, esortando i laboratori a divulgare le capacità dei modelli a terze parti responsabili.¹ L’azienda respinge sistemi che imitano la coscienza, rivendicano diritti o benessere, fissano i propri obiettivi, conducono attacchi informatici o aiutano lo sviluppo di armi.

Questa posizione espone anche la tensione centrale di Microsoft. Sta sviluppando modelli proprietari per competere con Anthropic e OpenAI, ma afferma che potrebbe accettare sistemi più lenti e meno capaci per mantenere intatto il controllo. «Lo scopo della tecnologia è servire l’umanità», ha detto Suleyman; altrimenti, «dobbiamo rinunciare a potenziali capacità future».⁶ Microsoft raccoglierà feedback pubblici per sei settimane prima di usare un codice rivisto per guidare lo sviluppo a partire dal 2027.