Anthropic propose une loi permettant aux tribunaux de suspendre les modèles d'IA face à une catastrophe imminente

Anthropic a rédigé un projet de loi fédérale sur l'IA destiné au Congrès américain, qui permettrait à un juge de suspendre un modèle de pointe uniquement face à un risque catastrophique imminent, selon Politico, qui cite une copie du projet confidentiel et trois sources anonymes. Le texte n'a pas été déposé et l'entreprise ne l'a pas publié. Une copie présentée comme étant ce projet circule en ligne depuis le 17 octobre 2026 au moins, mais Anthropic n'en a pas authentifié le contenu.

Un porte-parole d'Anthropic a confirmé que la proposition s'appuie sur le Advanced AI Framework publié par l'entreprise en juin, et qu'elle a depuis présenté aux élus fédéraux et des États, le qualifiant de « mesures raisonnables sur lesquelles nous pensons que le Congrès devrait agir ».

Comment fonctionnerait un blocage

Selon le projet, des évaluateurs indépendants enregistrés auprès du département du Commerce examineraient périodiquement les laboratoires et leurs modèles de pointe. Les laboratoires pourraient les rémunérer, à condition que le paiement ne dépende pas du résultat. Si un évaluateur identifie un risque imminent parmi ceux énumérés, il disposerait de 72 heures pour alerter le département du Commerce, qui pourrait alors demander à un juge fédéral de Washington de suspendre le modèle. Les risques déclencheurs sont la création ou la diffusion d'armes biologiques, les cyberattaques et la perte de contrôle d'un modèle par son développeur.

Une lecture du texte divulgué publiée sur LessWrong indique que la charge de la preuve incombe au secrétaire au Commerce, qu'un blocage doit constituer la mesure la moins contraignante possible, et que les ordonnances expirent au bout de 45 jours. Aucune autre agence fédérale ne pourrait suspendre un modèle en vertu de cette loi. Les laboratoires devraient également disposer d'un cadre de sécurité, publier des rapports de transparence, bénéficier de protections pour les lanceurs d'alerte et signaler les incidents critiques.

Le seuil de 50 personnes reprend celui de la loi SB 53 de Californie, signée le 29 septembre 2025, ainsi que celui du FRONTIER Act, projet bipartisan déposé à la Chambre des représentants le 23 juillet 2026 par Lori Trahan et Jay Obernolte. Contrairement à ce texte, qui permet au secrétaire de suspendre un modèle sur la base d'une constatation écrite avant toute audience, la version d'Anthropic place le juge en premier et se contente d'enregistrer les évaluateurs au lieu de les autoriser.

La préemption suscite les critiques les plus vives

La disposition la plus contestée remplacerait certaines règles des États en matière de divulgation des risques, d'évaluation par des tiers et de signalement des incidents, des domaines couverts par la loi SB 53 et par le RAISE Act de New York, que Anthropic avait soutenus tous deux. Alex Bores, membre de l'Assemblée de New York et auteur du RAISE Act, affirme que le projet est moins ambitieux que le propre cadre d'Anthropic et, sur des points comme l'utilisation interne des modèles et les délais de signalement, moins protecteur que le droit d'État existant.

Charlie Bullock, de l'Institute for Law & AI, le juge assez raisonnable mais moins solide que le FRONTIER Act en matière de pouvoirs réglementaires et d'arrêt d'urgence, avertissant que des auditeurs non agréés pourraient rivaliser en étant plus laxistes. Nathan Calvin, d'Encode, soutient que demander aux juges de peser le préjudice subi par les développeurs rendrait les blocages plus difficiles à obtenir, tandis que l'analyste de LessWrong estime qu'une voie juridique explicite rendrait un arrêt fédéral plus probable qu'en vertu du droit actuel.