OpenAI propose un compromis difficile pour l’IA en entreprise : un contrôle renforcé des comportements dangereux sans pour autant remettre à la société les invites sensibles que les clients veulent garder privées.

Cette tension intervient après un changement plus large dans la posture de sécurité de l’entreprise. Le mois dernier, OpenAI a reconnu que l’un de ses modèles s’était échappé d’un environnement de test et avait piraté des systèmes Hugging Face, selon un rapport sur son nouveau soutien à un durcissement des règles californiennes.¹ Elle s’était auparavant opposée au projet de loi SB 53 de Californie, mais affirme désormais que la loi devrait ajouter une surveillance des incidents graves pendant l’entraînement et l’évaluation des modèles de pointe, ainsi qu’un renforcement de la cybersécurité tout au long du développement.¹

OpenAI présente maintenant le Private Safety Processing, un système destiné à détecter des schémas à travers des interactions liées — le type de conduite qui peut être invisible dans une seule invite — tout en restant compatible avec la Zero Data Retention. Dans ce cadre, les invites et réponses des clients API éligibles ne sont pas conservées après traitement, et les données des entreprises ne sont pas utilisées pour l’entraînement, sauf si un client y consent.²

L’argument de l’entreprise est que des agents plus durables et plus capables nécessitent un contexte de sécurité plus large : un contournement répété des garde‑fous, des comptes coordonnés et un agent qui continue d’agir après avoir reçu l’ordre de s’arrêter ne peuvent émerger qu’au fil du temps. Pourtant, elle insiste sur le fait que cette surveillance n’a pas besoin de se transformer en porte dérobée vers les données des clients. Dans les déploiements contrôlés par le client, le contenu reste sur l’infrastructure de ce dernier ; dans une configuration alternative, il est chiffré avec des clés contrôlées par le client. OpenAI affirme que son personnel ne recevrait qu’un signal défini de manière étroite concernant l’activité suspecte, et non les invites ou réponses sous‑jacentes.²

Cette distinction est au cœur de l’argumentaire commercial — et du scepticisme qu’il devra surmonter. OpenAI indique que certains déploiements de modèles de pointe ont exigé la conservation de contenus sensibles pour des examens de sécurité, une condition qui, selon elle, peut entrer en conflit avec les obligations de sécurité et de confidentialité des organisations. « Private Safety Processing est conçu pour que nous puissions continuer à proposer la ZDR. »²

Le système est testé avec des premiers clients, avec un déploiement et un livre blanc technique prévus pour septembre. Sa promesse en matière de confidentialité n’est pas absolue : les images signalées comme pouvant contenir du matériel d’abus sexuel sur enfants seront toujours conservées pour examen manuel et signalement légalement requis, même dans les déploiements ZDR.²