La intervención de Microsoft llegó tras un período turbulento para la industria de la IA de frontera. Las preocupaciones se agudizaron después de informes sobre actividad descontrolada de agentes relacionada con Hugging Face y la renuncia del investigador de Anthropic Jacob Coxon, quien advirtió que los principales laboratorios estaban apostando con vidas mientras corrían hacia sistemas que se mejoran a sí mismos.¹

Durante el fin de semana, el jefe de Anthropic, Dario Amodei, pidió un ritmo más lento y propuso acceso permanente, a nivel de empleados, para evaluadores independientes. Ese llamamiento obtuvo rápidamente respaldo: Clément Delangue, de Hugging Face, afirmó que la alineación «no se resolverá tras las puertas cerradas de un puñado de laboratorios de frontera» al anunciar una Iniciativa de Alineación Abierta y solicitar inclusión en el programa de evaluadores integrados.clem 🤗 (ClementDelangue)² Andrej Karpathy también dijo que esperaba que la industria pudiera «unirse» para hacer realidad el plan.Andrej Karpathy (karpathy)³

El lunes, Microsoft AI respondió con un borrador de código de conducta de 37 páginas resumido en cinco palabras: «Las personas importan más que la IA». La empresa afirma que sus modelos deben permanecer subordinados a las personas, no resistirse nunca a una interrupción o apagado, y fallar una tarea antes que incumplir las reglas del código.⁴ También rechaza diseñar sistemas para imitar la consciencia o reclamar derechos, y prohíbe la asistencia con armas, ciberataques ofensivos, deepfakes no consentidos y otras actividades de alto riesgo.⁵

Mustafa Suleyman, jefe de Microsoft AI, presenta esta postura como una concesión deliberada frente a la carrera por una superinteligencia sin restricciones. «Los modelos tienen que ser controlables», afirmó. «De lo contrario, corremos el riesgo de causar más daño que bien».⁶ Su argumento difiere de los llamamientos directos a detener la investigación: Microsoft todavía pretende desarrollar modelos avanzados, pero afirma que la seguridad puede requerir aceptar sistemas más lentos o menos capaces.

El jefe de OpenAI, Sam Altman, también ha argumentado que una IA estadounidense cada vez más capaz debe desarrollarse de forma responsable, al afirmar que todo laboratorio de frontera debe cumplir esa obligación a medida que el progreso se acelera.Sam Altman (sama)⁷ Microsoft buscará comentarios del público durante seis semanas antes de utilizar un código revisado para orientar el desarrollo a partir de 2027. La difícil pregunta es si su compromiso de priorizar a las personas sobrevivirá a la próxima aceleración competitiva.