La démission de David Robinson est survenue dans une période déjà éprouvante pour les activités de sécurité d’OpenAI. Ancien responsable de son équipe Safety Systems, qui travaillait sur la transparence et les fiches système des modèles, il est parti la semaine dernière alors que s’intensifiaient les interrogations sur les effectifs, les incidents de sécurité et sur la question de savoir si l’entreprise avançait assez vite pour contenir les risques liés à une IA de plus en plus capable.¹

Robinson avait passé trois ans et demi chez OpenAI, supervisant certaines parties de son cadre de préparation et de ses rapports sur la sécurité. Dans son essai ultérieur publié dans The Atlantic, il a décrit un milieu de travail pris dans un mouvement incessant : « mes collègues et moi étions si occupés à sprinter que nous avions rarement l’occasion d’envisager de grands changements ». ² Sa conclusion n’était pas que le travail sur la sécurité au sein du laboratoire est inutile, mais qu’il est insuffisant sans levier extérieur. « Des incitations plus fortes en faveur de la sécurité — venant de l’extérieur de l’entreprise — constituent une grande partie de la solution », a-t-il écrit.²

OpenAI a présenté une vision très différente de sa position. Un porte-parole a déclaré que l’entreprise s’efforçait de veiller à ce que les capacités des modèles ne dépassent pas ses contrôles, ajoutant qu’elle « suspendrait l’entraînement ou retiendrait des modèles lorsque nous devrons ralentir ». L’entreprise a également évoqué un renforcement de la sécurité, des évaluations par des tiers et une surveillance plus précoce des comportements préoccupants.²

Le différend dépasse une seule démission. Robinson rejoint un nombre croissant de départs, axés sur la sécurité, d’entreprises d’IA de premier plan, dont les anciens employés soutiennent que l’« extrême confiance » et les « sprints perpétuels » de la Silicon Valley sont mal adaptés à des systèmes aux conséquences potentiellement graves. Leur prescription se rapproche davantage des centrales nucléaires ou des aéroports très fréquentés : redondance, planification et humilité plutôt que le seul optimisme.³

Pour Robinson, la prochaine étape reste incertaine. Mais son message est clair : la bataille autour des garde-fous de l’IA pourrait désormais se jouer autant par la pression publique et les institutions extérieures que par les entreprises qui construisent les modèles.²