Le droit de l’urgence arrête d’abord et juge ensuite : en France, le juge des référés peut prescrire les mesures qui s’imposent « pour prévenir un dommage imminent », même face à une contestation sérieuse ; aux États-Unis, la loi sur la sécurité du travail laisse un tribunal, saisi par le ministre, faire cesser un danger de mort ou de blessure grave. Aucun de ces textes ne fixe de nombre de victimes sous lequel le juge devrait s’abstenir.
C’est cette logique, transposée à l’IA de pointe, que met en jeu le brouillon révélé le 16 octobre par Politico : des représentants d’Anthropic auraient présenté à des élus un projet de loi qui ne laisserait bloquer un modèle que face au risque imminent de tuer ou de blesser gravement plus de 50 personnes, ou de causer plus d’un milliard de dollars de dégâts, sur ordre d’un juge fédéral. Rien n’est déposé et Anthropic n’a pas publié le texte.
Un laboratoire de pointe y écrit lui-même les conditions de son arrêt, ce qui oblige à lire chaque choix comme celui d’une partie intéressée. Après ce que l’on sait du brouillon, l’examen suit les trois questions que laissait déjà ouvertes l’AI Kill Switch Act, déposé le 23 juillet pour obliger OpenAI, Anthropic et Google à garder un bouton d’arrêt d’urgence : où placer le seuil, qui actionne l’arrêt avec quel recours, ce que produit l’arrêt, puis la préemption et les intérêts en jeu.
Un brouillon révélé, non un texte arrêté
Ce que Politico rapporte, ce qu’Anthropic confirme
L’exclusivité de Politico s’appuie sur trois sources anonymes et sur un exemplaire confidentiel du brouillon, que le journal ne publie pas. Un porte-parole d’Anthropic a assuré que le texte reprend l’Advanced AI Framework, cadre défendu depuis juin auprès d’élus fédéraux et d’États, y voyant des politiques « sensées » sur lesquelles le Congrès devrait agir : la filiation est confirmée, non le détail.
Un exemplaire présenté comme le brouillon circule sur internet depuis le 17 octobre au plus tard. Le 18, Anthony Cimino, responsable des affaires fédérales d’Anthropic, a commenté sur X ce texte « qui circule ce week-end » : une traduction du cadre en langage législatif, montrée à quelques bureaux du Congrès, qui ne dit pas tout ce que l’entreprise voudrait voir adopté. Anthropic ne l’a pas publié, mais en discute les critiques et annonce des révisions.
Ce que le cadre de juin établit
Présenté le 10 juin, le cadre ne chiffre ni les victimes ni les dommages : il définit le risque catastrophique comme un risque prévisible et important de contribuer à des morts, blessures ou dommages « significatifs », sur le modèle de SB 53, et les nombres n’entrent qu’à la rédaction du projet. Parmi ses quatre risques figure l’automatisation de la recherche, absente des motifs de blocage chez Politico mais lue dans le texte par Zvi Mowshowitz, commentateur de la régulation de l’IA, sans rôle précisé dans le blocage.
Un seuil emprunté à la Californie
Ce que la barre mesure
SB 53, loi californienne promulguée le 29 septembre 2025, appelle catastrophique le risque prévisible et important qu’un modèle de pointe contribue substantiellement à tuer ou blesser gravement plus de 50 personnes, ou à causer plus d’un milliard de dollars de dommages ou de pertes de biens, au cours d’un seul incident. Trois cas seulement y entrent : une cyberattaque ou un crime menés sans supervision humaine, l’aide d’expert à une arme chimique, biologique, radiologique ou nucléaire, l’évasion du modèle hors du contrôle de son développeur.
Le brouillon, que cite le Daily Caller, en reprend la lettre, du risque « prévisible et important » au dommage né d’« un seul incident » : il mesure un risque, non un dommage subi. Le FRONTIER Act, déposé le 23 juillet par Lori Trahan, démocrate, et Jay Obernolte, républicain, adopte la même définition, comme le RAISE Act de New York : ce qui distingue le brouillon n’est pas la barre, mais qui la franchit et qui décide.
Ce qu’elle protège, ce qu’elle laisse passer
Un seuil élevé, doublé d’un juge, protège d’abord un laboratoire d’un exécutif qui agirait seul, et Anthropic a vécu cette situation : le Pentagone l’a rangée parmi les risques pour sa chaîne d’approvisionnement et, le 12 juin, des contrôles à l’exportation du Commerce, levés le 30 juin, l’ont forcée à retirer Claude Fable 5 et Claude Mythos 5 à tous ses clients, sans décision de justice préalable dans les deux cas. Pour la journaliste Kelsey Piper, sa prudence tient à ce traitement, qu’elle juge « scandaleux ». La barre laisse passer ce qui reste sous 50 personnes ou un milliard de dollars, les dommages cumulés de plusieurs incidents et tout risque qu’on ne prévoit pas avant l’accident.
Qui actionne l’arrêt, et ce qu’il produit
Évaluateurs, Commerce, juge
Politico décrit des évaluateurs indépendants, inscrits auprès du département du Commerce, qui auditeraient périodiquement le laboratoire et ses modèles les plus avancés ; il pourrait les payer, pourvu que la rémunération ne dépende pas du verdict. Un évaluateur constatant un « risque énuméré imminent » aurait 72 heures après son évaluation pour le signaler au Commerce. Celui-ci pourrait alors saisir un juge fédéral du district de Columbia pour faire suspendre le modèle, aucun autre service fédéral ne pouvant le faire sur le fondement de cette loi.
Le juge ne contrôlerait donc pas après coup une décision de l’exécutif : il ordonnerait. Selon la lettre Transformer, le Commerce devrait lui présenter un dossier distinct des conclusions de l’évaluateur, et le tribunal trancherait « sans déférence » envers l’un comme envers l’autre. Pour le Daily Caller, une pause exigerait aussi l’approbation écrite du secrétaire au Commerce, sans que l’État puisse détruire le modèle ni ses données.
Le juge face à l’exécutif
Que vaut ce dernier recours ? Dans l’arrêt Winter, en 2008, la Cour suprême américaine rappelle que l’injonction préliminaire est un remède « extraordinaire », qui exige un préjudice irréparable probable et la pesée de l’effet d’accorder comme de refuser la mesure. Or le brouillon, selon Transformer, énumère les dommages que l’ordre causerait au développeur, aux utilisateurs et au public, mais aucun pour l’absence de blocage, relève Nathan Calvin, directeur juridique de l’association Encode, qui juge avec Nate Soares, du MIRI, le blocage plus difficile à obtenir qu’aujourd’hui.
ModelMirror, auteur pseudonyme d’une lecture publiée le 17 octobre, juge au contraire qu’une voie légale explicite rendrait un arrêt fédéral plus vraisemblable qu’avec le droit actuel, dont la base est incertaine. Charlie Bullock, responsable des politiques publiques de l’Institute for Law & AI, trouve le brouillon « plutôt raisonnable », mais moins armé que le FRONTIER Act faute de pouvoir réglementaire et d’autorité d’arrêt d’urgence ; brider ces pouvoirs peut se défendre, concède-t-il, quand on se défie de l’exécutif.
Le FRONTIER Act donne l’initiative à l’exécutif. Issu du Great American AI Act, dévoilé en juin avec ses vérificateurs agréés, son signalement sous quinze jours et sa préemption de trois ans des lois d’État, il autorise le secrétaire au Commerce à suspendre un modèle face à un risque catastrophique imminent, par un ordre provisoire de 45 jours ou définitif de 90 ; le développeur peut réclamer une audience accélérée, puis un contrôle devant le tribunal de district de Washington. Le projet d’Anthropic, selon Politico, met au contraire le juge avant la suspension et ne fait qu’enregistrer les évaluateurs.
Le cadre de juin proposait déjà un recours au juge, parmi d’autres options : l’agence saisirait un tribunal, avec des mesures provisoires levées si le juge ne les confirme pas, ou une procédure accélérée, le développeur pouvant les contester en contrôle accéléré. Il listait quatre cas d’action ; les comptes rendus du brouillon n’en décrivent qu’un, le risque imminent. Fin juillet, rapporte Punchbowl News, Anthropic s’opposait à ce que le texte en discussion au Sénat entre John Thune, Ted Cruz et Amy Klobuchar confère au Commerce un pouvoir d’injonction permanent, préférant la divulgation publique.
Ce que produit l’arrêt, ce qui reste flou
L’ordre viserait le développement, le déploiement ou l’usage interne du modèle, non sa seule sortie publique, précise Cimino. ModelMirror décrit des verrous : charge de la preuve sur le secrétaire, contrôle de novo, mesure la moins restrictive, expiration à 45 jours ; seule sa lecture, reprise par d’autres, les atteste. L’interdiction faite aux autres services ne vaut qu’au titre de cette loi : les autres pouvoirs fédéraux, contrôles à l’exportation compris, restent entiers, confirme Cimino.
Le laboratoire plaiderait dans l’instance même où le juge décide, mais aucun compte rendu ne décrit un recours distinct, un appel, un délai imparti au juge ni une ordonnance d’urgence sans audience, et rien ne dit si les 45 jours se renouvellent. Cimino veut qu’un tribunal agisse vite en cas d’urgence, comme pour un risque urgent de sécurité du travail, sans que la barre rende le pouvoir inutilisable. Ni le cadre ni les comptes rendus ne traitent des modèles ouverts, que Guillaume Princen, responsable international d’Anthropic, jugeait plus risqués « par définition » le 14 octobre, sans lien rapporté avec le projet.
Les États face à la préemption
D’après Politico, le texte imposerait aux laboratoires un cadre de sûreté, des rapports de transparence, la protection des lanceurs d’alerte et le signalement des incidents critiques, et écarterait certaines règles d’État touchant à la publicité des risques, à l’audit par des tiers et à la déclaration des incidents : le terrain de SB 53, qui impose de signaler un incident critique sous quinze jours, ou 24 heures si le risque est imminent, et du RAISE Act de New York, applicable au 1er janvier 2027, qui exige 72 heures, deux lois qu’Anthropic a soutenues. Transformer ajoute SB 315, de l’Illinois, et note que la protection de l’enfance est épargnée et que le texte priverait législatures et tribunaux d’État du pouvoir de suspendre un modèle.
En juin, le cadre posait que le Congrès ne devait écarter le droit des États qu’en adoptant un régime fédéral qui égale ou dépasse ses mesures les plus fortes. Alex Bores, élu à l’assemblée de l’État de New York, auteur du RAISE Act, juge le brouillon plus faible que ce cadre et, parfois, que les lois d’État : risques couverts, délais de signalement, usage interne. Nathan Calvin voit les tribunaux d’État privés de leurs pouvoirs d’injonction ; ModelMirror note que la clause omet la suspension par les États, sans savoir s’il s’agit d’une erreur ou d’un alinéa manquant. Cimino annonce une révision qui laisserait aux États un rôle sur les normes d’évaluateurs et sur la capacité d’un laboratoire à arrêter un modèle.
À qui profite une barre haute
Transformer voit dans le brouillon l’œuvre d’une entreprise « ciblée par un exécutif capricieux », Zvi Mowshowitz celle d’une entreprise qui craint surtout de voir l’État faire appliquer des règles contre elle. Cimino assure au contraire que la proposition vise à être « la plus forte sur la table ». Une barre haute et une préemption large profiteraient à tout développeur ; Politico rappelle que nombre de groupes industriels jugent un patchwork de lois d’État plus difficile à respecter qu’une norme nationale unique. Bullock salue des auditeurs employés en continu, mais, faute de licence publique, les voit rivaliser de complaisance pour séduire les laboratoires qui les paient.
Le brouillon rapporté déplace ainsi le débat de la barre, commune à la Californie, à New York et au FRONTIER Act, vers la procédure : un juge qui ordonne avant toute suspension, des évaluateurs sans licence publique, des recours et des délais d’urgence non décrits, une préemption que Cimino annonce vouloir resserrer. Selon la rédaction qu’elle recevra, les États garderaient ou perdraient le pouvoir de suspendre un modèle.
Le cadre de juin ne prévoit de retour d’expérience obligatoire que pour la biologie : après un incident biologique d’ampleur nationale, des revues contraignantes et publiques, avec contrôle indépendant des recommandations laissées de côté. Après la collision aérienne du Grand Canyon en 1956, 128 morts, les États-Unis ont créé deux ans plus tard la Federal Aviation Agency, mais les enquêtes sur les accidents sont demeurées au Civil Aeronautics Board, avant de passer en 1967 au National Transportation Safety Board : rien de tel pour les accidents de modèles.
Le brouillon est apparu dix-sept jours après un déjeuner à la Maison-Blanche, le 29 septembre, où Donald Trump a plaidé pour que l’industrie s’autorégule, devant ses patrons dont Dario Amodei, et présenté un accord volontaire, dépourvu de force juridique, comme « moralement contraignant ». En juin, Anthropic proposait un frein mondial au développement ; mi-septembre, la Maison-Blanche a refusé de ralentir. Le Congrès ne se remettra au travail qu’après le scrutin du 3 novembre, avec le FRONTIER Act et le texte du Sénat en attente, sans parrain ni calendrier pour celui d’Anthropic.
Aller plus loin
L’exclusivité d’origine, publiée le 16 octobre, se lit dans l’article de Politico, Anthropic quietly pitches its own AI safety bill to lawmakers, qui donne le seuil, les trois risques, les 72 heures, le juge du district de Columbia et la citation du porte-parole, sans publier le texte.
Le Daily Caller cite le texte du brouillon et reproduit le fil de Cimino du 18 octobre dans Anthropic Floats Bill That Would Let Feds Step In Only When More Than 50 Lives Are On The Line, publié le 19 octobre : préemption, blocage, seuil et ordre du tribunal de district de Washington exigé pour toute pause.
Le cadre dont le brouillon se réclame tient dans l’Advanced AI Framework d’Anthropic, dix-neuf pages datées de juin 2026 : on y vérifie que le risque catastrophique n’est pas chiffré, puis les quatre cas d’action de l’agence, ses garde-fous judiciaires et la seule revue après incident, pour la biologie.
Le terme de comparaison est le résumé section par section du FRONTIER Act du bureau de Lori Trahan, dont le fichier est daté du 21 juillet : même seuil, signalement sous 72 heures, arrêt d’urgence de 45 puis 90 jours ordonné par le secrétaire au Commerce, audience accélérée et préemption limitée.
La source du chiffre est la section 22757.11 du Business and Professions Code californien, qui définit le risque catastrophique : incident unique, trois cas, exclusion des informations accessibles ailleurs et de l’activité licite de l’État, avec, au même article, les seuils de 10^26 opérations et de 500 millions de dollars de revenus.
La lecture la plus technique du brouillon est Important details in the leaked Anthropic draft AI bill, note de ModelMirror sur LessWrong : charge de la preuve, moindre restriction, 45 jours, section 12(a)(2) et lacune de la clause 14(b)(1) sur la suspension par les États. L’auteur est pseudonyme : tout est à lui attribuer.
Les réactions se retrouvent rassemblées dans Leaked Anthropic Draft AI Regulatory Bill Is Unacceptable and Troubling, billet de Zvi Mowshowitz qui cite Calvin, Bullock, Bores, Soares et Piper, et précise que l’auteur, en conférence, n’a pas pu lire le texte entier.
Le précédent du juge saisi contre un danger imminent est 29 U.S.C. 662, où le tribunal peut, à la requête du ministre du Travail, ordonner une restriction temporaire, valable cinq jours au plus si l’employeur n’est pas prévenu, sans nombre minimal de victimes : le schéma du brouillon, moins la barre chiffrée.
L’autre modèle est l’ordre d’urgence de la FAA immobilisant les Boeing 737 MAX, pris le 13 mars 2019 et publié au Federal Register le 18 : une autorité immobilise un produit sans juge préalable, sur le fondement de 49 U.S.C. 46105(c), après deux accidents et 346 morts, avec un recours devant la cour d’appel sous soixante jours.
Ce que valent les constats d’imminence se mesure dans l’International AI Safety Report 2026, présidé par Yoshua Bengio et publié le 3 février 2026, qui décrit un « evaluation gap » : les tests avant déploiement prédisent mal le risque réel, et les modèles distinguent de plus en plus un test d’un déploiement.
Lus ensemble, ces documents font comprendre que le chiffre n’est pas la nouveauté, que le juge change la procédure plus que la barre, qu’une autorité qui agit seule va plus vite mais s’expose à l’arbitraire, et que tout dépend de la fiabilité des constats sur lesquels le blocage se déclenche.