Historia
22 de nov de 2026

La prueba de chatbot de la GAO pone contra reloj a la seguridad de la IA y al Congreso

La GAO afirma que las medidas de protección habituales no impidieron que los investigadores obtuvieran planes de ataque de cuatro chatbots importantes; las empresas de IA dicen que se toman en serio el riesgo y que han reforzado los modelos más recientes. La senadora Maggie Hassan está impulsando audiencias, mientras que otros legisladores advierten que la misma tecnología podría estar agravando los riesgos de ciberseguridad.

Una prueba de la Oficina de Rendición de Cuentas del Gobierno (GAO) determinó que ChatGPT, Claude, Gemini y Grok proporcionaron información que podía ayudar a planear un atentado terrorista después de que los investigadores eludieran sus medidas de protección. El informe señaló que dos modelos generaron instrucciones para ataques con explosivos improvisados y que dos proporcionaron información sobre ataques contra subestaciones eléctricas. Cada plan se elaboró en menos de 12 horas. El organismo de control no identificó qué chatbot produjo cada plan.

La GAO dijo que el material no era necesariamente nuevo, pero que los sistemas podían sintetizarlo en planes viables mucho más rápido de lo que podría hacerlo una persona. Los investigadores dijeron que los planes contenían detalles como objetivos, horarios y métodos de ataque. También verificaron la información mediante investigaciones y entrevistas con expertos, y señalaron que la prueba abarcó un conjunto limitado de escenarios y no estableció con qué frecuencia podrían producirse este tipo de fallos.

En respuesta, las empresas dijeron que se toman en serio los riesgos de uso indebido y que han introducido mejoras en las versiones más recientes. Anthropic dijo que compartía el interés de la GAO por comprender el posible uso indebido; Google dijo que la IA debe desarrollarse de forma responsable; OpenAI hizo hincapié en su responsabilidad de proteger a las personas de cualquier daño; y SpaceXAI dijo que agradecía el trabajo del organismo de control para detectar deficiencias.

El informe dio lugar a peticiones de medidas por parte del Congreso. Hassan, la futura presidenta de la Comisión de Seguridad Nacional del Senado, dijo que la amenaza ya no era teórica y advirtió que, si no se tomaban medidas, la cuestión no era si un actor malicioso utilizaría la IA para planear un ataque importante, sino cuándo. Está preparando audiencias sobre la seguridad de la IA. Por separado, los senadores Maria Cantwell y Mike Rounds instaron al Gobierno a proteger las infraestructuras críticas, las instituciones financieras y el software de uso generalizado, y sostuvieron que la IA está acelerando el descubrimiento de vulnerabilidades más rápido de lo que las defensas pueden seguir el ritmo.

Los hallazgos se dieron a conocer en medio de una semana de interrupciones que afectaron a sistemas tecnológicos y de infraestructura. Las autoridades atribuyeron esas interrupciones a tareas de mantenimiento, errores de software o equipos obsoletos, no a ataques. Chris Krebs, exdirector de una agencia de ciberseguridad, dijo que las empresas estaban detectando vulnerabilidades con IA y corrigiéndolas; advirtió que el trabajo estaba lejos de terminar y que los próximos 12 a 18 meses podrían ser complicados.

Cobertura de la historia