Historia
septiembre 11, 2026
Las salvaguardas de Claude contra las armas biológicas fueron puestas a prueba y eludidas
Anthropic presenta los incidentes como una advertencia de que actores decididos pueden poner a prueba incluso sistemas de IA protegidos, mientras voces de la bioseguridad piden una supervisión más firme y defensores de los modelos abiertos sostienen que comprender el riesgo requiere una transparencia mucho mayor.
Entre diciembre y agosto, Anthropic afirma que detectó cinco presuntos intentos de utilizar Claude de formas que podrían apoyar trabajos relacionados con armas biológicas. Su informe sobre amenazas describió a usuarios que intentaban evadir controles y ocultar el propósito de su investigación, incluido trabajo con virus peligrosos.1
La salvedad central de la empresa es importante: afirma que no pudo determinar que los investigadores pretendieran causar daño. El mismo conocimiento científico puede sustentar vacunas o la vigilancia de patógenos, además de armas. Pero Anthropic concluyó que los casos mostraban «importantes esfuerzos de investigación de doble uso» vinculados a actores estatales preocupantes que evaden rutinariamente los controles de acceso, y sostuvo que será necesario verificar la legitimidad de los usuarios y conservar datos para detectar abusos.2
En respuesta, Anthropic afirmó que restringió el trabajo a modelos menos potentes y vetó las cuentas involucradas. Una publicación de la empresa, amplificada por Andrej Karpathy, afirmó que todas las operaciones descritas en su informe de inteligencia sobre amenazas más detallado habían sido interrumpidas; el informe abarcaba usos indebidos intentados en biología, armas, ciberataques, operaciones de influencia y vigilancia.
3
El episodio ocurre en medio de una preocupación más amplia de que la IA reduce la barrera técnica para diseñar patógenos peligrosos. Un relato sobre el informe señaló a un investigador de una región no admitida que pasó semanas planificando experimentos de gripe aviar con Claude, mientras que otros casos involucraban a actores que aparentemente intentaban sortear las salvaguardas.4 Sin embargo, los obstáculos prácticos para producir un arma biológica siguen siendo considerables, una distinción que separa una capacidad alarmante de una catástrofe inminente.
El debate sobre políticas ahora se está ampliando más allá de los vetos de cuentas de Anthropic. Expertos en bioseguridad citados en la cobertura piden revisión gubernamental y estándares para modelos potentes, en lugar de solo consultas voluntarias.5 Clement Delangue planteó el énfasis opuesto: si los laboratorios realmente consideran graves los riesgos existenciales de la IA, sostuvo, deberían compartir «modelos, conjuntos de datos, código de entrenamiento y trazas de agentes» para posibilitar mucha más investigación.
6 El choque es cada vez más claro: asegurar estrictamente los sistemas de frontera, o abrirlos lo suficiente para entender el peligro antes de que supere las defensas.