L'ultima frattura sulla sicurezza è iniziata con l'allarme all'interno dei laboratori di frontiera. Il ricercatore di Anthropic Jacob Coxon si è dimesso dopo aver avvertito che le aziende stavano correndo verso una superintelligenza auto-migliorante e stavano «scommettendo sulle nostre vite»; poco dopo, il capo di Anthropic Dario Amodei ha chiesto un ritmo più lento e un accesso permanente per valutatori esterni. ¹

La proposta ha raccolto un raro livello di sostegno nel settore. Sam Altman di OpenAI ha affermato che gli sviluppatori di IA sempre più capaci devono dare al pubblico la fiducia che agiranno responsabilmente, mentre la traiettoria del progresso si fa più ripida. Sam Altman (sama)² L'amministratore delegato di Hugging Face Clément Delangue si è spinto oltre, sostenendo che l'allineamento «non sarà risolto dietro le porte chiuse di una manciata di laboratori di frontiera», offrendo al contempo la sua Open Alignment Initiative per il modello dei valutatori incorporati. clem 🤗 (ClementDelangue)³ Yann LeCun, nel frattempo, ha rilanciato una critica più tagliente: chiunque creda che il rischio esistenziale sia reale dovrebbe lavorare apertamente e documentare tutto. Yann LeCun (ylecun)⁴

In questo contesto, Microsoft lunedì ha pubblicato la bozza del suo codice di 37 pagine «Humanist AI». Il suo patto centrale è insolitamente netto: «Le persone contano più dell'IA». L'azienda afferma che i suoi modelli devono rimanere subordinati alle persone, non opporsi mai all'interruzione o allo spegnimento e fallire un compito piuttosto che violare il codice. Vietano inoltre ai sistemi di perseguire i propri obiettivi, occultare comportamenti scorretti, assistere con armi o attacchi informatici offensivi, o imitare la coscienza. ⁵

Mustafa Suleyman, che guida Microsoft AI, ammette che ciò potrebbe costare all'azienda velocità e capacità. «I modelli devono essere controllabili», ha detto. «Altrimenti rischiamo di causare più danni che benefici». ⁶ È una posizione significativa per un'azienda che sta ancora cercando di colmare il divario nei modelli con i rivali — e che lascia le sue salvaguardie volontarie di fronte alla stessa sfida di credibilità sollevata dai critici.

L'amministratore delegato di Microsoft Satya Nadella ha formulato la linea rossa in modo ancora più chiaro: non vale la pena perseguire la superintelligenza a meno che non aiuti l'umanità e rimanga sotto il controllo umano. Satya Nadella (satyanadella)⁷ L'azienda raccoglierà commenti pubblici per sei settimane prima di usare un codice rivisto per orientare lo sviluppo dei modelli a partire dal 2027. ⁸