David Robinson ha trascorso tre anni e mezzo all’interno della divisione sicurezza di OpenAI, lavorando su trasparenza, preparazione e rapporti destinati al pubblico volti a spiegare come si comportano i modelli dell’azienda. All’inizio di settembre, stava già segnalando il suo disagio: OpenAI stava cambiando rapidamente, scrisse, ma non sapeva se stesse cambiando abbastanza velocemente.¹

Quell’ansia è cresciuta sullo sfondo di un contesto più difficile. I ranghi della sicurezza di OpenAI erano stati scossi da precedenti partenze, incluso il responsabile della sicurezza Johannes Heidecke, mentre l’azienda affrontava scrutinio dopo incidenti di sicurezza e segnalazioni di comportamenti anomali dei modelli. Ha inoltre dichiarato di essersi separata da tre ricercatori per presunte violazioni delle politiche che regolano le informazioni sensibili.¹

La scorsa settimana, Robinson si è dimesso dal team Safety Systems. In un saggio pubblicato sabato, ha sostenuto che il ritmo del lavoro rendesse la riforma interna molto più difficile di quanto sembrasse. «Io e i miei colleghi eravamo così impegnati a correre che raramente avevamo l’opportunità di considerare grandi cambiamenti, figuriamoci di realizzarli davvero», ha scritto.²

La sua conclusione è stata netta: «Incentivi più forti per la sicurezza — provenienti dall’esterno dell’azienda — sono una parte importante per fare le cose nel modo giusto». Robinson ha affermato che ora spera di aiutare il pubblico a comprendere i rischi che ha incontrato e di aumentare la pressione su OpenAI e sulle aziende rivali affinché agiscano con maggiore cautela.²

OpenAI respinge l’implicazione che le capacità dei modelli siano lasciate superare i controlli. Un portavoce ha dichiarato che l’azienda sta rafforzando le pratiche di sicurezza e protezione man mano che i suoi modelli migliorano, ricorrendo a valutatori terzi e a un monitoraggio più precoce dei comportamenti preoccupanti. La promessa centrale dell’azienda è che non procederà a prescindere dai rischi: «Mettiamo in pausa l’addestramento o tratteniamo i modelli quando dobbiamo rallentare».²

La divisione riguarda meno la questione se l’IA avanzata abbia bisogno di protezioni che chi possa imporle in modo affidabile. Robinson ha scelto la leva esterna; OpenAI afferma che i suoi sistemi interni possono ancora svolgere il compito.