L'intervento di Microsoft è arrivato dopo un periodo turbolento per il settore dell'IA di frontiera. Le preoccupazioni si sono intensificate in seguito alle notizie di attività di agenti fuori controllo che coinvolgevano Hugging Face e alle dimissioni del ricercatore di Anthropic Jacob Coxon, il quale ha avvertito che i principali laboratori stavano giocando d'azzardo con le vite mentre correvano verso sistemi capaci di auto-migliorarsi.¹

Nel fine settimana, il capo di Anthropic Dario Amodei ha chiesto un ritmo più lento e proposto un accesso permanente, a livello di dipendenti, per valutatori indipendenti. L'appello ha rapidamente raccolto sostegno: Clément Delangue di Hugging Face ha dichiarato che l'allineamento «non sarà risolto dietro le porte chiuse di una manciata di laboratori di frontiera» mentre annunciava una Open Alignment Initiative e chiedeva l'inclusione nel programma dei valutatori integrati.clem 🤗 (ClementDelangue)² Anche Andrej Karpathy ha affermato di sperare che il settore potesse «unirsi» per rendere possibile il piano.Andrej Karpathy (karpathy)³

Lunedì, Microsoft AI ha risposto con una bozza di codice di condotta di 37 pagine riassunta in cinque parole: «Le persone contano più dell'IA». L'azienda afferma che i suoi modelli devono rimanere subordinati alle persone, non opporsi mai all'interruzione o allo spegnimento e fallire un compito piuttosto che violare le regole del codice.⁴ Respinge inoltre la progettazione di sistemi che imitino la coscienza o rivendichino diritti e vieta l'assistenza con armi, attacchi informatici offensivi, deepfake non consensuali e altre attività ad alto rischio.⁵

Mustafa Suleyman, capo di Microsoft AI, presenta questa posizione come un compromesso deliberato rispetto alla corsa verso una superintelligenza senza vincoli. «I modelli devono essere controllabili», ha detto. «Altrimenti, rischiamo di causare più danni che benefici».⁶ La sua argomentazione differisce dalle richieste esplicite di fermare la ricerca: Microsoft intende comunque perseguire modelli avanzati, ma afferma che la sicurezza potrebbe richiedere di accettare sistemi più lenti o meno capaci.

Anche il capo di OpenAI Sam Altman ha sostenuto che un'IA americana sempre più capace debba essere sviluppata responsabilmente, affermando che ogni laboratorio di frontiera deve adempiere a tale obbligo man mano che il progresso accelera.Sam Altman (sama)⁷ Microsoft raccoglierà feedback pubblici per sei settimane prima di usare un codice rivisto per orientare lo sviluppo a partire dal 2027. La domanda difficile è se il suo impegno a mettere le persone al primo posto sopravvivrà alla prossima accelerazione competitiva.