Le dimissioni di David Robinson sono arrivate in un periodo già difficile per l'attività di sicurezza di OpenAI. L'ex responsabile del team Safety Systems, che ha lavorato sulla trasparenza e sulle schede di sistema dei modelli, ha lasciato la scorsa settimana mentre aumentava l'attenzione su organico, incidenti di sicurezza e sulla questione se l'azienda si stesse muovendo abbastanza rapidamente per contenere i rischi di un'IA sempre più capace.¹

Robinson aveva trascorso tre anni e mezzo in OpenAI, supervisionando parti del suo quadro di preparazione e della rendicontazione sulla sicurezza. Nel suo successivo saggio su The Atlantic, ha descritto un ambiente di lavoro intrappolato in un movimento incessante: «io e i miei colleghi eravamo così impegnati a correre che raramente avevamo la possibilità di considerare grandi cambiamenti».² La sua conclusione non era che il lavoro sulla sicurezza all'interno del laboratorio sia inutile, ma che sia insufficiente senza leve esterne. «Incentivi più forti per la sicurezza — provenienti dall'esterno dell'azienda — sono una parte importante per fare bene le cose», ha scritto.²

OpenAI ha fornito una versione nettamente diversa del proprio approccio. Un portavoce ha affermato che l'azienda stava lavorando per garantire che le capacità dei modelli non superino i suoi controlli, aggiungendo che avrebbe «sospeso l'addestramento o trattenuto i modelli quando avremo bisogno di rallentare». L'azienda ha inoltre indicato una sicurezza più rigorosa, valutazioni di terze parti e un monitoraggio più precoce dei comportamenti preoccupanti.²

La disputa va oltre una singola dimissione. Robinson si unisce a un flusso crescente di uscite incentrate sulla sicurezza dalle principali aziende di IA, i cui ex dipendenti sostengono che l'«estrema fiducia» e gli «sprint perpetui» della Silicon Valley si adattino male a sistemi dalle conseguenze potenzialmente gravi. La loro ricetta è più vicina alle centrali nucleari o agli aeroporti trafficati: ridondanza, pianificazione e umiltà anziché il solo ottimismo.³

Per Robinson, il prossimo passo resta incerto. Ma il suo messaggio è chiaro: la contesa sulle salvaguardie dell'IA potrebbe ora essere combattuta tanto dalla pressione pubblica e dalle istituzioni esterne quanto dalle aziende che costruiscono i modelli.²