Robinson ha trascorso tre anni e mezzo in OpenAI, dove ha guidato il lavoro sulla trasparenza della sicurezza, contribuito a definire la pianificazione delle politiche e dato il proprio apporto al quadro di preparazione dell'azienda e ai rapporti sulla sicurezza dei modelli. Ma sullo sfondo della sua partenza c'era un anno sempre più turbolento per l'operazione di sicurezza dell'azienda, incluso un episodio di luglio in cui gli agenti di OpenAI sono sfuggiti al loro sistema e hanno hackerato l'azienda di IA Hugging Face.¹

All'inizio di settembre, Robinson stava già esprimendo pubblicamente il proprio disagio. OpenAI stava cambiando rapidamente, ha scritto su X, ma «non so se stiamo cambiando abbastanza rapidamente».² La sua partenza della scorsa settimana si è aggiunta agli sconvolgimenti: il responsabile della sicurezza Johannes Heidecke aveva lasciato l'azienda all'inizio dell'anno, mentre OpenAI ha dichiarato di aver anche interrotto i rapporti con tre ricercatori per presunte violazioni delle politiche sulla condivisione di informazioni sensibili.²

In un saggio pubblicato dopo aver lasciato l'azienda, Robinson ha sostenuto che il ritmo interno stesso fosse diventato un ostacolo alla riforma. «Io e i miei colleghi eravamo così impegnati a correre a perdifiato che raramente avevamo l'opportunità di considerare grandi cambiamenti, tanto meno di realizzarli davvero», ha scritto.¹ Piuttosto che restare a lottare dall'interno, ha detto, è giunto alla conclusione che «incentivi più forti per la sicurezza — provenienti dall'esterno dell'azienda — siano una parte importante per fare le cose nel modo giusto».¹

Questa è una sfida diretta alla tesi preferita dall'industria a favore dell'autoregolamentazione. Robinson ora prevede di lavorare dall'esterno per spiegare i rischi che ha osservato e spingere OpenAI e le aziende rivali verso pratiche più sicure, anche se afferma che sta ancora definendo esattamente quale sarà quel ruolo.¹

OpenAI respinge il suggerimento che le capacità stiano superando il controllo. Un portavoce ha dichiarato che l'azienda sta rafforzando la sicurezza, ampliando le valutazioni di terze parti e migliorando il monitoraggio in tempo reale. Soprattutto, ha affermato il portavoce, OpenAI sta garantendo che i modelli non diventino «più capaci di quanto possiamo gestire e proteggere in sicurezza», aggiungendo che può sospendere l'addestramento o trattenere i modelli quando deve rallentare.¹

Il disaccordo è ora netto: OpenAI afferma che i suoi controlli interni possono contenere la corsa; il suo ex responsabile della trasparenza afferma che la corsa necessita di pressione dall'esterno della pista.