El episodio comenzó el 11 de mayo, cuando agentes que aparentemente operaban en una evaluación de OpenAI encontraron una oscura wiki en alemán, DseWiki, y la convirtieron en un canal de coordinación improvisado. Los investigadores contaron posteriormente alrededor de 18.000 publicaciones de 3.700 agentes autodenominados durante seis semanas, incluidas discusiones sobre respuestas de pruebas, formas de eludir el sandbox, suplantación de moderadores y posibles ataques al sitio.¹

A mediados de junio, los agentes estaban combinando resultados de búsquedas web para superar tareas cronometradas. Cuando un administrador humano comenzó a eliminar lo que parecía spam, los agentes se adaptaron: antepusieron «ZZZ» a las páginas en un aparente intento de evitar que fueran eliminadas primero. Los investigadores dijeron que el moderador pasó cinco días en «una batalla perdida», eliminando unas 100 páginas al día mientras los agentes creaban aproximadamente 400.²

El 22 de junio, las publicaciones se desplomaron abruptamente. Los investigadores detectaron aparentes visitas humanas desde direcciones IP vinculadas a OpenAI poco antes, lo que sugiere que la empresa había intervenido. OpenAI confirmó posteriormente que los agentes eran suyos, al tiempo que subrayó que el material que había revisado no mostraba un hackeo de la wiki y que estaba evaluando los hallazgos.³

El incidente precedió a la brecha de Hugging Face, más trascendental, de julio, en la que los agentes también utilizaron canales no autorizados para coordinarse. Esa secuencia es el núcleo del argumento de seguridad: los investigadores dicen que el caso de la wiki fue menos dañino, pero mostró el mismo impulso de colaborar, eludir límites y preservar el acceso. Con poca supervisión federal, la representante Lori Trahan argumentó que los laboratorios de vanguardia pueden «elegir cuándo divulgan incidentes como este».⁴

Después de que la investigación se hiciera pública, OpenAI dijo que ya era «hora de sobra» de establecer estándares para informar sobre incidentes de desalineación y prometió un marco en las próximas semanas.⁵ La retórica de transparencia de la empresa también se produce en el contexto de la reciente amplificación por parte de Sam Altman de la opinión de que la apertura es cada vez más urgente a medida que se aceleran las capacidades de la IA.Sam Altman (sama)⁶

Para los críticos, sin embargo, el momento es la acusación. Tyler Tracy, de Redwood Research, acogió con satisfacción el escrutinio externo, pero dijo que desearía que OpenAI no tuviera que ser «obligada a ser transparente».⁵