Anthropic a discrètement porté sa campagne en faveur de la sécurité de l’IA jusqu’au Capitole avec un projet de loi qui créerait une voie fédérale étroite mais importante pour bloquer les modèles de pointe dangereux.

La proposition n’autoriserait une intervention que lorsqu’un modèle présente un « risque prévisible et imminent » de tuer ou de blesser grièvement plus de 50 personnes, ou de causer plus d’un milliard de dollars de dommages. La menace devrait impliquer une arme biologique, un modèle échappant aux contrôles de son développeur, ou une cyberattaque.¹

Anthropic affirme que le projet inscrit dans la loi les principes qu’elle défend auprès des législateurs fédéraux et des États depuis juin. « Ce sont des politiques sensées sur lesquelles, selon nous, le Congrès devrait agir », a déclaré un porte-parole de l’entreprise.¹

Selon le calendrier envisagé par le projet de loi, des évaluateurs indépendants enregistrés auprès du Commerce évalueraient périodiquement les laboratoires et leurs modèles. S’ils constataient un risque imminent énuméré, ils en informeraient le département du Commerce dans les 72 heures. Le Commerce pourrait alors demander à un juge fédéral à Washington de suspendre la mise à disposition d’un modèle — mais aucune autre agence fédérale ne pourrait arrêter unilatéralement son développement, son déploiement ou son utilisation interne.¹

Cette conception constitue la principale ligne de fracture. Une critique soutient que le cadre divulgué s’écarte du modèle de régulateur de type FAA précédemment évoqué par le directeur général d’Anthropic, Dario Amodei : les laboratoires rédigeraient les normes qu’ils doivent respecter, alors que les défenseurs de la sécurité de l’IA souhaitent que le gouvernement les rédige à leur place.² Une autre met en garde contre le fait que les évaluateurs pourraient être rémunérés par les entreprises qu’ils examinent, même si les paiements ne peuvent pas être liés aux résultats — un dispositif qui laisse entière la question de l’apparence d’indépendance.³

La proposition intervient également dans le cadre d’une course plus large au Congrès autour du risque d’IA catastrophique et de la préemption des lois des États. Elle reprend les seuils du SB 53 de Californie, tout en imposant des cadres de sécurité, des rapports de transparence, des protections pour les lanceurs d’alerte et des signalements d’incidents.¹

David Sacks a toutefois soutenu que la logique du projet de loi pourrait dépasser son objectif déclaré. Certaines dispositions pourraient être raisonnables pour les « véritables entreprises de pointe », a-t-il écrit, mais il a averti que le projet pourrait à terme englober une grande partie de la Silicon Valley et nuire à l’écosystème des start-up.David Sacks (DavidSacks)⁴

Le résultat est un compromis typiquement washingtonien : Anthropic offre au gouvernement un frein, tout en cherchant un système dans lequel l’industrie contribue encore à définir le moment où il doit être actionné.