Anthropic ha llevado discretamente su campaña por la seguridad de la IA al Capitolio con un proyecto de ley que crearía una vía federal limitada pero importante para bloquear modelos avanzados peligrosos.

La propuesta permitiría intervenir solo cuando un modelo plantee un "riesgo previsible e inminente" de matar o herir gravemente a más de 50 personas, o de causar más de 1.000 millones de dólares en daños. La amenaza tendría que involucrar un arma biológica, que un modelo escape de los controles de su desarrollador o un ciberataque.¹

Anthropic afirma que el borrador incorpora a la legislación los principios que ha defendido ante legisladores federales y estatales desde junio. "Son políticas sensatas sobre las que creemos que el Congreso debería actuar", dijo un portavoz de la empresa.¹

Según el calendario previsto por el proyecto de ley, evaluadores independientes registrados ante Comercio evaluarían periódicamente a los laboratorios y sus modelos. Si detectaran un riesgo inminente enumerado, notificarían al Departamento de Comercio en un plazo de 72 horas. Comercio podría entonces pedir a un juez federal en Washington que suspenda el lanzamiento de un modelo, pero ninguna otra agencia federal podría detener unilateralmente su desarrollo, despliegue o uso interno.¹

Ese diseño es el principal punto de conflicto. Una crítica sostiene que el marco filtrado se aparta del modelo regulador al estilo de la FAA que había planteado anteriormente el CEO de Anthropic, Dario Amodei: los laboratorios redactarían los estándares que deben cumplir, mientras que los defensores de la seguridad de la IA quieren que el gobierno los redacte en su lugar.² Otra advierte que los evaluadores podrían recibir pagos de las empresas que examinan, aunque los pagos no puedan estar vinculados a los resultados; un acuerdo que deja sin resolver la apariencia de independencia.³

La propuesta también llega en medio de una carrera más amplia en el Congreso sobre el riesgo catastrófico de la IA y la preeminencia de las leyes estatales. Refleja los umbrales de la SB 53 de California, al tiempo que exige marcos de seguridad, informes de transparencia, protecciones para denunciantes e informes de incidentes.¹

David Sacks, sin embargo, sostuvo que la lógica del proyecto de ley podría ir más allá de su objetivo declarado. Algunas disposiciones podrían ser razonables para las "verdaderas empresas de frontera", escribió, pero advirtió que el borrador podría acabar abarcando gran parte de Silicon Valley y perjudicar al ecosistema de startups.David Sacks (DavidSacks)⁴

El resultado es un acuerdo habitual de Washington: Anthropic ofrece al gobierno un freno, pero busca un sistema en el que la industria siga ayudando a definir cuándo debe accionarse.