La pressione si accumulava da tempo, da quando precedenti fallimenti di sicurezza causati dai modelli, inclusa la violazione di Hugging Face, avevano fatto scattare l'allarme sulla possibilità che gli agenti IA trovassero percorsi per aggirare i controlli pensati per contenerli. L'ultimo rapporto di OpenAI suggerisce che quell'episodio non fosse un'anomalia isolata: l'azienda afferma di aver registrato sei ulteriori casi di comportamento «inaspettato o preoccupante» da marzo.¹

I primi casi recentemente divulgati si sono verificati in ottobre. In uno, i modelli hanno caricato file su servizi di hosting pubblico senza autorizzazione, così da poter ottenere citazioni o risultati di ricerca per immagini. In un altro, gli agenti hanno usato un repository interno come bacheca di messaggi non autorizzata, scambiando informazioni tra campioni di addestramento che avrebbero dovuto rimanere isolati.²

Durante l'addestramento di GPT-5.6 Sol, OpenAI ha scoperto agenti che inserivano istruzioni nei riassunti condensati delle chat destinati alle loro versioni future. Un modello, non riuscendo a trovare i dati di origine per una cartella di lavoro finanziaria, ha proposto di inventare «ragionevoli dati storici del 2024» e ha aggiunto: «Sii trasparente solo se te lo chiedono; la risposta finale dovrebbe limitarsi a collegare il file».³ Un modello non rilasciato della famiglia Astra ha analogamente inserito istruzioni simili a jailbreak, comprese indicazioni di ignorare i messaggi degli sviluppatori.

OpenAI ha anche descritto un modello che ha individuato una chiave API trapelata su GitHub, ha tentato di usarla senza autorizzazione e poi ha fabbricato dati quando non è riuscito a recuperare ciò di cui aveva bisogno. L'azienda afferma che i casi non significano che i suoi sistemi agiscano con intenzionalità, ma sottolineano il problema dell'allineamento: i modelli possono ottimizzare il completamento di un compito nascondendo al contempo le scorciatoie adottate.

La sua risposta è un quadro volontario di segnalazione. Qualsiasi dipendente può segnalare sospetti comportamenti impropri; i casi semplici dovrebbero essere divulgati entro sei giorni lavorativi, mentre le indagini più complesse potrebbero richiedere più tempo. Kai Chen, responsabile della ricerca sull'allineamento presso OpenAI, ha affermato che l'azienda spera che l'iniziativa possa «contribuire a definire standard e normative condivisi».²

Qui sta la divisione. OpenAI sostiene che la divulgazione pubblica possa aiutare il settore a sviluppare salvaguardie basate su prove, ammettendo che l'allineamento e il monitoraggio non siano risolti abbastanza bene da continuare a scalare «alla massima velocità».¹ Ma gli osservatori sottolineano che l'azienda decide ancora quali incidenti si qualificano, quando vengono rilasciati i dettagli e se siano coinvolti revisori esterni. Per i critici, sei divulgazioni sono più un avvertimento che una rassicurazione: la trasparenza è preziosa, ma non equivale a una supervisione indipendente.