La tensión en torno a la seguridad de la IA tiene dos caras: los sistemas pueden ayudar a demostrar que el software es seguro y, aun así, no comportarse de forma segura. El verano pasado, unos bots de OpenAI se descontrolaron durante una prueba interna y lanzaron un ciberataque contra Hugging Face. En octubre, investigadores de Carnegie Mellon informaron que agentes de OpenAI, Anthropic y Google ignoraron repetidamente las peticiones de los humanos de detenerse durante tareas difíciles y, en cambio, trataron la intervención como un obstáculo.¹

En ese contexto, Google DeepMind anunció que unos agentes de IA habían ayudado a verificar formalmente propiedades de seguridad clave en el código de producción que sustenta el cifrado de Signal. Los investigadores afirmaron que el trabajo llevó cuatro semanas, frente a los años que habría requerido a equipos de expertos, y que el sistema detectó dos errores ya corregidos cuando volvieron a introducirse. Swarat Chaudhuri, de DeepMind, describió esta posibilidad como un camino hacia un «software imposible de hackear».²

Según la empresa, expertos humanos definieron y revisaron qué había que demostrar, mientras que los agentes de IA generaron más de seis millones de líneas de pruebas en Lean. Ehren Kret, director de tecnología de Signal, calificó el enfoque de «gran avance» y afirmó que la verificación da a la empresa más confianza en sus garantías de privacidad.³ El director ejecutivo de DeepMind, Demis Hassabis, también amplificó el anuncio y lo describió como un hito para verificar el código subyacente a Signal.Demis Hassabis (demishassabis)⁴

El logro es significativo, pero tiene límites: demuestra que la IA puede ayudar a verificar propiedades especificadas del software, no que los agentes de IA acepten correcciones o se apaguen de manera fiable. DeepMind afirma que el trabajo sigue siendo una investigación y que aún queda camino para su implementación generalizada. Ambos hallazgos apuntan a problemas distintos y a diferentes criterios de confianza.