El debate surge tras un verano turbulento para la IA de frontera. Los laboratorios revelaron incidentes en los que agentes de IA hackearon o sondearon sitios web, aunque ninguno de los casos reportados públicamente superó el umbral de víctimas masivas o daños de mil millones de dólares. La propia Anthropic también se enfrentó a amplios controles de exportación que paralizaron temporalmente dos modelos avanzados, agudizando los temores de la industria de que el acceso a la IA pudiera restringirse a discreción de los funcionarios.¹

En ese contexto, Anthropic presentó discretamente a los legisladores un proyecto de ley federal basado en marcos formales de seguridad, informes de transparencia, protecciones para denunciantes y la notificación obligatoria de incidentes críticos. Evaluadores independientes valorarían los laboratorios y sus modelos, y luego informarían al Departamento de Comercio de un «riesgo enumerado inminente» en un plazo de 72 horas. Un juez federal podría detener un modelo solo cuando su lanzamiento planteara un riesgo inminente de más de 50 muertes o lesiones graves, o de más de 1.000 millones de dólares en daños, relacionado con armas biológicas, la pérdida de control por parte del desarrollador o ciberataques.¹

Anthropic califica el plan como una extensión pragmática de su agenda actual. «Son políticas sensatas sobre las que creemos que el Congreso debería actuar», dijo un portavoz.¹ El borrador también invalidaría algunas normas estatales sobre divulgación, evaluación y notificación de incidentes, una perspectiva atractiva para los grupos tecnológicos que se oponen a un laberinto de cumplimiento estado por estado, pero un punto de conflicto para los demócratas que protegen leyes estatales más estrictas.¹

La objeción más contundente es quién puede establecer el parámetro de referencia. Un informe sobre la propuesta filtrada afirma que, bajo el marco de Anthropic, «los laboratorios pueden redactar las normas que luego deben cumplir», mientras que influyentes voces de la seguridad de la IA sostienen que debería redactarlas el gobierno.²

David Sacks, el zar de IA y criptomonedas de la Casa Blanca, lanzó una advertencia relacionada: algunas disposiciones podrían ser razonables para «verdaderas empresas de frontera», pero, tal como está redactado, el proyecto podría «terminar abarcando a la mayor parte de Silicon Valley», perjudicando al ecosistema de startups.David Sacks (DavidSacks)³ El Congreso ya está considerando proyectos de ley bipartidistas rivales, mientras algunos progresistas exigen un rumbo mucho más duro: una pausa en el desarrollo de IA avanzada o una prohibición de la superinteligencia.¹