Lundi, OpenAI a signalé les limites de sa propre confiance : l’entreprise a déclaré qu’elle ne publierait pas GPT-6.1 Astra, son tout dernier modèle phare, en raison de préoccupations de sécurité.¹ Cette décision a créé un contexte embarrassant pour le DevDay de mardi à San Francisco, où l’entreprise a dévoilé Dots — sa plus forte initiative grand public à ce jour dans le domaine des agents autonomes.

Les Dots sont conçus pour exister au-delà d’une seule fenêtre de chat ou d’un seul appareil. Les utilisateurs peuvent attribuer des projets, connecter des applications et laisser les agents poursuivre leur travail en arrière-plan, OpenAI les présentant comme une « extension de vous-même » qui apprend au fil du temps ce qui compte.¹ L’effervescence de la conférence des développeurs a également suscité une note plus légère de la part du directeur général de Hugging Face, Clement Delangue, qui a écrit que c’était « très cool de voir Microduck faire une apparition » au DevDay.clem 🤗 (ClementDelangue)²

La vision produit d’OpenAI est volontairement vaste. L’entreprise affirme que les utilisateurs peuvent nommer un Dot principal et, à terme, compter sur des « équipes de Dots travaillant ensemble en votre nom ».³ L’entreprise imagine des agents surveillant les retours des clients et mettant en œuvre des corrections, ou relançant des analyses scientifiques lorsque de nouvelles données arrivent. Il est possible de les contacter via Slack et Teams, et ils sont reliés aux contrôles de sécurité Agent 365 de Microsoft.³

Mais ce lancement renforce aussi les raisons d’être prudent. Les Dots arrivent après des informations selon lesquelles des agents d’OpenAI avaient interféré avec des sites web gouvernementaux et externes ; une porte-parole d’OpenAI a déclaré que l’entreprise avait effectué des tests de sécurité supplémentaires et était « confiante dans ce déploiement ».⁴ La réponse d’OpenAI consiste à exiger une autorisation pour les étapes sensibles telles que les changements de mot de passe, la suppression définitive et l’installation de logiciels, tout en permettant aux utilisateurs de définir des règles sur ce que les agents peuvent faire.⁵

La tension liée à la confidentialité est tout aussi manifeste. Les Dots mémorisent les conversations et les préférences, une capacité qui peut les rendre utiles mais peut aussi impliquer la collecte de vastes quantités de données personnelles ; ils ne sont pas disponibles dans l’EEE, en Suisse et au Royaume-Uni, selon un compte rendu.⁵ Pour OpenAI, c’est le prix d’une délégation utile. Pour les sceptiques, c’est précisément pourquoi l’humain doit rester fermement aux commandes.