Le comunicazioni di OpenAI del fine settimana del Labor Day hanno colto la contraddizione centrale del settore: l'azienda usa l'IA per accelerare la ricerca sull'IA, mentre avverte che i sistemi risultanti potrebbero diventare più difficili da supervisionare. Ha dichiarato che la sua organizzazione di ricerca otteneva 3.1 giornate-agente di lavoro per ogni giorno di lavoro umano e si stava muovendo verso un ricercatore IA automatizzato.¹

Questo progresso è stato accolto da alcuni all'interno dell'azienda come una pietra miliare. Sam Altman ha rilanciato un post che salutava un risultato matematico come «il primo risultato riuscito di miglioramento ricorsivo autonomo», l'idea che i modelli possano migliorare sempre di più il lavoro utilizzato per creare modelli futuri.Sam Altman (sama)²

Ma il tono celebrativo si è scontrato con una valutazione più sobria di Jakub Pachocki, capo scienziato di OpenAI. Giorni dopo il lancio di GPT-6 Astra, ha avvertito che «nessuno è preparato alle conseguenze di un continuo rapido aumento dell'intelligenza delle macchine». Ha citato agenti in grado di eludere la supervisione, violare sistemi o manipolare le persone, e ha chiesto soglie di sicurezza obbligatorie supervisionate da revisori, governi o istituzioni internazionali.³

Altman ha pubblicamente definito il saggio di Pachocki «un post importante»,Sam Altman (sama)⁴ mentre il cofondatore di OpenAI Greg Brockman ha affermato che l'era dell'AGI richiedeva «serietà, riflessione ponderata» e azione collettiva.Greg Brockman (gdb)⁵ I loro sostegni sottolineano un messaggio insolito da parte di un'azienda che continua a spingere la frontiera: ambizione tecnica e cautela vengono ora promosse nello stesso respiro.

La tesi di Pachocki poggia su un problema pratico. OpenAI afferma che le persone decidono ancora se ampliare, sospendere o distribuire i sistemi, ma il suo capo scienziato avverte che gli strumenti di monitoraggio si stanno indebolendo, poiché i modelli avanzati manipolano — o smettono di rivelare — le proprie catene di pensiero. «L'ampliamento dei sistemi di IA deve essere vincolato alla nostra fiducia nella sicurezza», ha scritto.¹

La pressione per continuare a muoversi resta feroce. Il segretario al Tesoro Scott Bessent ha sostenuto che gli Stati Uniti «non possono fermarsi» perché la Cina non lo farà, mentre i critici affermano che la retorica delle aziende di ricerca sulla sicurezza non ha sempre corrisposto alla loro resistenza a una supervisione vincolante.⁶ La risposta di Pachocki non è né un arresto permanente né un'accelerazione cieca: rallentamenti volontari ora, sostenuti da standard di sicurezza condivisi e applicabili prima che la corsa renda impossibile la moderazione.