Bill Gates, antes una de las figuras más destacadas del sector tecnológico entre los optimistas de la IA, se ha inclinado firmemente hacia el bando de la seguridad. En comentarios que anticipaban su aparición en Meet the Press de NBC, el cofundador de Microsoft dijo que la IA era «sin duda lo bastante poderosa como para impulsar acontecimientos que causen mil millones de muertes».¹

Su preocupación inmediata no es que una máquina autónoma se vuelva hostil de repente, sino que personas con intenciones hostiles obtengan acceso a herramientas cada vez más capaces. Gates calificó de sin precedentes el potencial destructivo de la combinación de actores maliciosos e IA de frontera, y sostuvo que los líderes políticos deben actuar antes de que los sistemas sean más difíciles de contener.²

La receta que expuso es regulación, no una paralización general. «Necesitas que las fuerzas del orden y los políticos participen en el debate sobre cómo deben ser las salvaguardias y la supervisión», dijo Gates, describiendo esas medidas como un coste necesario más que como un freno drástico para la industria.³

Esa postura lo sitúa junto a un grupo creciente de defensores de la seguridad de la IA. Elon Musk difundió una publicación que recordaba sus advertencias de larga data de que la IA plantea un riesgo existencial, incluida su anterior comparación de la tecnología con «invocar al demonio».Elon Musk (elonmusk)⁴ El director ejecutivo de Anthropic, Dario Amodei, ha sostenido igualmente que la regulación es la forma más eficaz de marcar el ritmo del desarrollo de frontera, tras informes de que actores habían utilizado herramientas de IA para planificar ataques con drones e investigaciones biológicas.¹

Pero la industria y Washington siguen divididos sobre la aplicación de las normas. El director ejecutivo de Microsoft, Satya Nadella, ha sugerido que las empresas deberían detener el trabajo por sí mismas cuando encuentren un fallo grave, mientras que el presidente Donald Trump ha mostrado poco interés por una regulación amplia. La intervención de Gates cuestiona ese modelo de autorregulación: la cautela voluntaria, sostiene, es un escudo demasiado débil frente a una herramienta capaz de amplificar intenciones catastróficas.

En un ensayo de agosto, Gates dijo que el mundo carecía de un plan para un despliegue seguro de la IA y que respaldaría un plan global creíble para ralentizar los avances. La última advertencia da a esa preocupación abstracta una dimensión humana contundente.¹