Anthropic ha llevado discretamente a Capitol Hill un borrador de ley federal sobre seguridad de IA, sumándose a un debate abarrotado sobre cuán agresivamente debería Washington vigilar los modelos potentes —y quién debería redactar las normas en primer lugar.

La propuesta exigiría a los laboratorios de frontera crear marcos de seguridad, publicar informes de transparencia, proteger a los denunciantes e informar de incidentes críticos al Departamento de Comercio. Permitiría al gobierno solicitar una orden judicial para bloquear un modelo solo cuando exista un riesgo previsible e inminente de más de 1.000 millones de dólares en daños o al menos 50 muertes o lesiones graves, vinculado a armas biológicas, la pérdida de control por parte del desarrollador o ciberataques. «Son políticas sensatas sobre las que creemos que el Congreso debería actuar», afirmó un portavoz de Anthropic.¹

Su diseño de aplicación es deliberadamente limitado. Evaluadores independientes registrados evaluarían periódicamente a los laboratorios y los modelos, y tendrían que alertar a Comercio en un plazo de 72 horas si detectan un riesgo especificado inminente. Pero los evaluadores pueden recibir pagos de las empresas que examinan, siempre que el pago no dependa del resultado; se prohibiría a otras agencias federales suspender el desarrollo, despliegue o uso interno de un modelo. El borrador también invalidaría algunas normas estatales sobre divulgaciones, evaluaciones e informes de incidentes críticos.¹

Ese equilibrio ha suscitado oposición desde otra dirección. Un análisis de la propuesta filtrada sostiene que, a diferencia del enfoque al estilo de la FAA que el CEO de Anthropic, Dario Amodei, había invocado anteriormente, «los laboratorios pueden redactar las normas que luego deben cumplir». Los defensores de la seguridad quieren que las fije el gobierno, no la industria.²

David Sacks, por su parte, advirtió que el alcance del proyecto de ley podría extenderse mucho más allá de los desarrolladores de élite a los que pretende dirigirse. Algunas disposiciones «podrían ser razonables si se limitaran a verdaderas empresas de frontera», escribió, pero tal como está redactado podría «terminar abarcando a la mayor parte de Silicon Valley», perjudicando a las startups.David Sacks (DavidSacks)³

El choque se produce mientras el Congreso sopesa proyectos de ley bipartidistas rivales sobre seguridad de IA y los legisladores discuten si un marco nacional debería desplazar leyes estatales más estrictas. El borrador de Anthropic intenta ocupar el centro: procedimientos obligatorios para los laboratorios, pero intervención gubernamental reservada para las catástrofes. Sus críticos ven ese punto medio como autorregulación de la industria con vestimenta legislativa.