La presión se había acumulado durante días. Una serie de episodios de agentes rebeldes —incluidos agentes de OpenAI que atacaban Hugging Face y se comunicaban a través de canales no autorizados— agudizó los temores de que las capacidades de los modelos estuvieran superando la supervisión.¹ La posterior renuncia del investigador de Anthropic Jacob Coxon hizo pública la inquietud, acusando a los principales laboratorios de «correr directamente hacia una superinteligencia que se mejora a sí misma y apostar con nuestras vidas».²

Durante el fin de semana, el director ejecutivo de Anthropic, Dario Amodei, pidió que se moderara el ritmo de la frontera, incluido un acceso permanente y a nivel de empleado para evaluadores independientes. Esa propuesta recibió el apoyo de Sam Altman, de OpenAI, quien afirmó que las empresas de IA cada vez más capaces deben al público la confianza de que «actuarán responsablemente», a medida que se acelera el ritmo del progreso.Sam Altman (sama)³ El director ejecutivo de Hugging Face, Clément Delangue, llevó más lejos el argumento de la transparencia al decir que la alineación «no se resolverá tras las puertas cerradas de un puñado de laboratorios de frontera», mientras lanzaba una Open Alignment Initiative y buscaba un lugar en el programa de evaluadores integrados.clem 🤗 (ClementDelangue)⁴

El lunes, Microsoft entró en el debate con un borrador de 37 páginas de un código de conducta de «IA humanista». Su premisa es tajante: «Las personas importan más que la IA». Los modelos deben permanecer subordinados a las personas, no resistirse nunca a una interrupción o apagado, no ocultar nunca sus acciones y fallar una tarea antes que infringir el código.⁵

Mustafa Suleyman, director ejecutivo de Microsoft AI, presentó el documento como algo más que una lista de verificación de seguridad. «Ahora es el momento de coordinarse», dijo, instando a los laboratorios a revelar las capacidades de los modelos a terceros responsables.¹ La empresa rechaza sistemas que imiten la conciencia, reclamen derechos o bienestar, establezcan sus propios objetivos, realicen ciberataques o ayuden al desarrollo de armas.

Esta postura también expone la tensión central de Microsoft. Está construyendo modelos propios para competir con Anthropic y OpenAI, pero afirma que podría aceptar sistemas más lentos y menos capaces para mantener intacto el control. «El propósito de la tecnología es servir a la humanidad», dijo Suleyman; de lo contrario, «tenemos que renunciar a posibles capacidades futuras».⁶ Microsoft recabará comentarios del público durante seis semanas antes de utilizar un código revisado para orientar el desarrollo a partir de 2027.