Anthropic afirmó que había bloqueado intentos de convertir su sistema de IA Claude en una herramienta para ciberataques, vigilancia e investigación que podría haber respaldado el desarrollo de armas biológicas, lo que vuelve a poner el énfasis en la disputa real sobre cómo se utilizan los modelos potentes.¹

El equipo de inteligencia de amenazas de la empresa detalló las interrupciones en su informe de septiembre de 2026 sobre uso indebido, enmarcando los casos como parte de un esfuerzo continuo por identificar y contrarrestar actividades dañinas relacionadas con sus modelos.²

Desde la perspectiva de Anthropic, el episodio es una prueba de si las medidas de seguridad pueden funcionar más allá del laboratorio. Su relato sostiene que las salvaguardas, la supervisión y la intervención no son meramente características del producto, sino defensas operativas contra personas que buscan reutilizar la IA para causar daño.¹

La preocupación centrada en las personas es más inmediata: el presunto uso indebido abarcó ciberataques y vigilancia, junto con investigación que «podría haber conducido a armas biológicas».² Ese alcance ilustra el dilema del doble uso que rodea a la IA avanzada: los mismos sistemas diseñados para ayudar con análisis legítimos pueden atraer a actores que buscan ampliar actividades maliciosas.

Anthropic no identificó, en el material proporcionado, a los actores involucrados ni especificó las técnicas que intentaron utilizar. Pero su decisión de hacer públicas las intervenciones indica un argumento que probablemente se intensificará a medida que avancen las capacidades de la IA: las salvaguardas serán evaluadas no solo por lo que los modelos se niegan a hacer, sino por si las empresas pueden detectar y frustrar el uso indebido cuando los usuarios intentan eludir esos límites.