Les places financières se sont dotées d’un objet que l’industrie de l’intelligence artificielle n’a pas : un coupe-circuit. Quand un indice décroche trop vite, la cotation s’interrompt d’elle-même, parce qu’une infrastructure unique tient le carnet d’ordres. La maîtrise des armements a mis plus longtemps, sismographes et inspections ayant précédé les signatures. Un frein est un objet avant d’être une intention.
L’entraînement des grands modèles n’a ni l’un ni l’autre. C’est là que se place la note publiée le jeudi 4 juin 2026 par l’Anthropic Institute, le centre de réflexion de l’éditeur de Claude. Intitulée « When AI builds itself » et signée par Marina Favaro et Jack Clark, elle appelle le monde à se doter de « la possibilité de ralentir ou de suspendre temporairement le développement de l’IA de pointe », afin « de permettre aux structures sociétales et à la recherche sur l’alignement de suivre le rythme des progrès de la technologie ».
Le scénario redouté a un nom : l’auto-amélioration récursive, ce moment où des systèmes deviendraient capables d’entraîner eux-mêmes leurs successeurs, avec un rôle humain réduit, jusqu’à une « perte de contrôle ». Faute de coordination mondiale empêchant qu’un rival en profite, « les entreprises et les gouvernements devront prendre des décisions de sécurité difficiles, sous la pression de la concurrence et des enjeux géopolitiques ». Reste à établir ce que le texte engage et ce que valent ses chiffres.
Une option, pas un moratoire
Le mot de pause circule plus vite que le texte qui le porte. La note ne réclame pas l’arrêt des entraînements : elle soutient qu’il serait bon d’avoir l’option d’en décider. Une pause décidée serait un engagement d’entreprise, une option à créer est une commande adressée aux États. Anthropic, fondée par des dissidents d’OpenAI et lancée dans une compétition acharnée avec l’éditeur de ChatGPT, Google ou le chinois DeepSeek, ne promet pas de lever le pied.
L’engagement conditionnel, mot pour mot
Ce que l’entreprise promet tient en une phrase à trois verrous : « If such systems existed, we expect that we would slow down or temporarily pause, if other developers at or near the frontier also did so in a verifiable manner. » Il faut que de tels systèmes existent, que les autres laboratoires de pointe s’arrêtent aussi, et que cet arrêt soit vérifiable, la condition la plus lourde puisque aucun dispositif opérationnel n’existe.
L’incertitude que la note assume
Rien n’est donné pour acquis : « rien ne garantit qu’une telle bascule soit à l’horizon », mais « si les tendances actuelles se poursuivent », elle deviendrait « plausible ». Une pause crédible supposerait « multiple well-resourced labs at or near the frontier, in multiple countries, agreeing to stop under the same conditions », et que chacun puisse vérifier l’arrêt effectif des autres, ce que rien n’organise aujourd’hui.
Les chiffres qu’Anthropic met sur la table
L’alerte s’appuie sur la comptabilité maison. Plus de 80 % du code fusionné dans le dépôt de l’entreprise est écrit par Claude, l’ingénieur type y fusionne huit fois plus de code par jour qu’au deuxième trimestre 2024, et la durée des tâches menées seules doublerait désormais tous les quatre mois, contre sept auparavant. Claude Opus 3 tenait quatre minutes sur une tâche logicielle, Claude Sonnet 3.7 une heure et demie, Claude Opus 4.6 douze heures ; sur l’optimisation de code, l’accélération est passée de trois fois en mai 2025 à cinquante-deux fois en avril 2026.
La mesure indépendante et l’écart revendiqué
Cette métrique n’appartient pas à Anthropic. METR l’a établie en mars 2025 : l’horizon temporel désigne la durée qu’un humain met à accomplir une tâche que le modèle réussit une fois sur deux. Sur six ans, il doublait tous les sept mois environ, Claude 3.7 Sonnet se situant autour d’une heure, et l’extrapolation plaçait les tâches d’une semaine à deux ou quatre ans de là. Annoncer quatre mois revient à revendiquer une accélération.
Ce qu’un pourcentage de code ne mesure pas
Le chiffre de 80 % est séduisant et fragile. Un travail publié en mars 2026 par Alan Chan et ses coauteurs montre que les tests de capacité ne reflètent pas l’automatisation réelle de la recherche, et propose d’autres indicateurs : part du capital dans les dépenses, temps des chercheurs, incidents de sécurité. Anthropic admet que la relecture humaine du code est devenue son nouveau goulot d’étranglement : l’humain y fait office de frein involontaire.
Vérifier, le problème que personne n’a résolu
L’obstacle central n’est pas la volonté, c’est la preuve : « Training runs are far easier to conceal than missile silos, their inputs are general-purpose, and the incentive to defect quietly is enormous. » Un même centre de calcul entraîne ou répond, et poursuivre quand les autres s’arrêtent, c’est hériter de l’avance. La littérature existe pourtant : Wasil, Reed, Miller et Barnett recensaient dès 2024 dix méthodes visant deux violations, un entraînement non autorisé au-delà d’un seuil de calcul et un centre non déclaré, en trois familles (moyens techniques nationaux, méthodes d’accès, méthodes matérielles), chacune avec ses parades.
Localiser le calcul, prouver l’absence, certifier les évaluations
Le MIRI, avec Aaron Scher et Lisa Thiergart, jugeait en mars 2026 un régime de vérification atteignable si les États s’y engagent ensemble, autour de trois briques. Localiser le calcul, par l’inspection physique des centres de données ou par des puces attestant leur position. Démontrer qu’aucun entraînement massif n’a lieu, par la journalisation, la ré-exécution d’activités sur du matériel de confiance et la classification des charges, qu’une bande passante d’interconnexion élevée trahit. Certifier enfin les évaluations dans des environnements d’exécution de confiance.
Restent les progrès algorithmiques et l’entraînement distribué, qui disperse la trace. Reste surtout un échelon matériel spécifié mais non construit : le silicium attesterait lui-même le calcul consommé, la configuration ou la localisation d’un cluster, sans qu’aucune voie d’implémentation robuste ait été tranchée.
Le frein qu’Anthropic avait, et qu’elle a retiré
Trois mois avant d’appeler le monde à se doter d’un frein, l’entreprise a démonté le sien. Sa Responsible Scaling Policy v3.0, publiée le 24 février 2026, ne laisse plus entendre qu’elle suspendra ses travaux faute de maintenir les risques sous un seuil acceptable, et sépare ce qu’elle s’engage à faire de ce qu’elle recommande à l’industrie. Le seuil « AI R&D » fond deux paliers en un et désigne un modèle capable de comprimer deux ans de progrès de la période 2018-2024 en une année, quand le palier abandonné visait l’automatisation complète du travail d’un chercheur débutant en télétravail chez Anthropic.
Glasswing, ou à quoi ressemble une rétention réelle
L’entreprise a pourtant déjà actionné un frein, seule et sans traité. Claude Mythos Preview, capable de trouver et d’enchaîner des failles logicielles, est resté depuis sa sortie du 7 avril 2026 confiné au programme défensif Project Glasswing, ouvert à onze organisations avant son élargissement, le 2 juin, à cent cinquante dans plus de quinze pays. La rétention unilatérale est donc possible, mais ne tient que quelques semaines. Une semaine avant la note, Anthropic lançait Claude Opus 4.8, présenté comme quatre fois moins susceptible que son prédécesseur de laisser passer une faille dans le code qu’il écrit.
Ce que le droit prévoit des deux côtés de l’Atlantique
L’appel suit de deux jours un texte de sens inverse. L’Executive Order 14409, signé par Donald Trump le 2 juin 2026, organise la cybersécurité fédérale et celle des infrastructures critiques, un cadre volontaire d’engagement pré-publication sur les modèles de pointe et la poursuite pénale des cybercrimes assistés par IA. Les agences ont trente jours, soit le 2 juillet, pour prioriser la cyberdéfense, et soixante, soit le 1er août, pour bâtir un processus classifié d’évaluation des capacités et concevoir ce cadre. Les développeurs pourraient y ouvrir l’accès à un modèle jusqu’à trente jours avant sa sortie, sans qu’aucun régime de licence soit créé.
Le curseur que Washington ne fixe pas
Le décret ne définit aucun « frontier AI model » : il confie au directeur de la NSA le soin d’arrêter le seuil à partir duquel un modèle recevra cette qualification, au regard de ses capacités cyber. La méthode tranche avec le droit voisin, où le chiffre est inscrit dans le texte : la Californie retient depuis septembre 2025 un entraînement au-delà de 10^26 opérations en virgule flottante, quand le règlement européen présume un risque systémique au-delà de 10^25 et impose depuis le 2 août 2025 des obligations aux modèles à usage général.
Une idée qui circule depuis trois ans
Le 22 mars 2023, la lettre ouverte du Future of Life Institute demandait six mois d’arrêt « public et vérifiable » sur les systèmes plus puissants que GPT-4, et un moratoire gouvernemental à défaut : plus de trente et un mille signatures, et aucun entraînement arrêté. Ce qui change en 2026 n’est pas la demande, mais son émetteur. OpenAI rangeait déjà, fin 2025, la question de savoir si le domaine entier devrait ralentir à l’approche de systèmes capables d’auto-amélioration récursive parmi les décisions globales que la recherche en sécurité doit éclairer, et Google DeepMind consacre depuis la version 3.1 de son Frontier Safety Framework des niveaux de capacité critiques aux modèles capables d’accélérer la recherche en IA.
Le contre-champ des capitaux et des watts
Les objections éthiques, sociales et environnementales soulevées de longue date n’ont pas entamé l’emballement des marchés. Anthropic a déposé confidentiellement son dossier d’introduction en Bourse le 1er juin 2026, après une levée de 65 milliards de dollars la valorisant 965 milliards en mai, contre 380 milliards à l’issue de son tour de série G du 12 février : la valorisation a presque triplé en trois mois.
Le dossier d’introduction en Bourse de SpaceX, groupe d’Elon Musk qui a absorbé xAI le 2 février dans une opération en titres valorisant le laboratoire 250 milliards, a été rendu public le 20 mai 2026 et s’annonce comme la plus grande de l’histoire. Il chiffre l’autre versant : xAI a perdu 6,4 milliards pour 3,2 milliards de revenus en 2025. Le premier Colossus appelait 150 mégawatts en pointe, et le laboratoire visait fin 2025 près de deux gigawatts. Les centres de données ont absorbé quelque 415 térawattheures en 2024, près de 1,5 % de l’électricité mondiale, pour une projection 2030 autour de 945 térawattheures.
Les réserves ne portent pas toutes sur le risque lui-même. Outre-Atlantique, la crainte de céder à Pékin une avance décisive suffit à disqualifier tout ralentissement auprès des responsables publics comme des dirigeants du secteur, et le décret du 2 juin écarte soigneusement toute contrainte. Reste la chronologie : trois jours séparent le dépôt boursier de l’appel.
Ce qui se jouera dans les prochaines semaines
Les agences fédérales doivent livrer d’ici le 1er août 2026 le processus d’évaluation et le cadre volontaire prévus par le décret, tandis qu’Anthropic annonce organiser dans les mois qui viennent des discussions avec décideurs, chercheurs, société civile et laboratoires concurrents, dont elle publiera les conclusions. Un cadre largement souscrit créerait un précédent d’accès gouvernemental pré-publication, un cadre boudé confirmerait que la coordination ne s’obtient pas sans contrainte. La diplomatie a pris une autre direction : le sommet de New Delhi, du 16 au 21 février 2026, a réuni plus de cent pays autour de trois sutras et de sept groupes thématiques, sans mécanisme de frein.
Reste la formule qui aura porté l’alerte. « En ce moment, c’est comme si le secteur de l’IA avait une pédale d’accélérateur mais pas de pédale de frein », a résumé à la BBC Jack Clark, cofondateur d’Anthropic. L’image déplace la responsabilité du technique vers le politique, ce qui est l’objet de la note : elle ne suspend rien, ne s’engage à rien d’inconditionnel, et demande à d’autres de construire l’objet qui permettrait un jour de décider.
L’écart entre deux calendriers est ce que la période donne à voir. Celui des capitaux se compte en semaines : une valorisation presque triplée en trois mois, un dossier d’introduction en Bourse, un modèle plus capable livré juste avant l’alerte. Celui de la vérification se compte en années, en protocoles dont personne n’a livré de prototype.
Trois ans après une lettre ouverte sans effet, la demande revient de l’intérieur du secteur, ce qui lui donne une autorité nouvelle sans lui donner de prise. Elle rencontre un droit fédéral qui refuse de fixer lui-même un seuil, un droit européen qui en a inscrit un dans la loi, et une synthèse scientifique où la perte de contrôle relève des risques émergents plutôt que des faits établis. La question n’est pas de savoir si le secteur veut un frein, mais qui acceptera d’en payer la fabrication avant d’en avoir besoin.
Aller plus loin
Le document dont tout part gagne à être lu en entier : la note When AI builds itself: our progress toward recursive self-improvement, and its implications contient les chiffres internes, la formulation exacte de l’engagement conditionnel et la frise chronologique qui le soutient. C’est là que se voit la différence entre demander une pause et demander l’option d’en faire une.
L’angle mort du récit apparaît dans l’analyse Anthropic’s RSP v3.0: How it Works, What’s Changed, and Some Reflections publiée par GovAI en mars 2026, qui montre comment l’entreprise a retiré de sa politique l’engagement de suspendre ses travaux, séparé ses obligations de ses recommandations et refondu son seuil de danger en recherche.
Le versant réglementaire tient dans l’Executive Order 14409, Promoting Advanced Artificial Intelligence Innovation and Security, dont la lecture restitue ce qu’aucun résumé ne rend : la fenêtre d’accès pré-publication de trente jours, les échéances imposées aux agences et la clause qui exclut tout régime de licence obligatoire.
La courbe sur laquelle repose l’alerte a été construite ailleurs, et l’étude Measuring AI Ability to Complete Long Software Tasks de METR en expose la méthode : l’horizon temporel à 50 % de réussite, son doublement tous les sept mois pendant six ans, et les incertitudes que ses auteurs assument.
Le chiffre le plus cité de la note est aussi le plus discutable, et le travail Measuring AI R&D Automation explique pourquoi : les tests de capacité ne mesurent pas l’automatisation réelle de la recherche, qu’il faudrait suivre par la part du capital dans les dépenses, le temps des chercheurs et les incidents observés.
Pour comprendre ce que le mot vérifiable exigerait, l’inventaire Verification methods for international AI agreements recense dix méthodes en trois familles, chacune assortie des techniques d’évasion qui la neutralisent, et circonscrit l’objectif à deux violations : l’entraînement non déclaré et le centre de calcul caché.
L’état de l’art le plus récent vient du MIRI, dont la synthèse Mechanisms to Verify International Agreements About AI Development décrit trois briques opérationnelles, de la localisation du calcul à la certification des évaluations, et nomme les obstacles qui subsistent, dont l’entraînement distribué.
L’échelon matériel est traité par Hardware-Enabled Mechanisms for Verifying Responsible AI Development, qui détaille comment une puce pourrait attester elle-même du calcul consommé, de la configuration d’un cluster ou de sa localisation, et recense les questions d’implémentation encore ouvertes.
Le précédent historique se relit dans la lettre Pause Giant AI Experiments: An Open Letter, qui réclamait dès mars 2023 six mois d’arrêt public et vérifiable puis un moratoire gouvernemental à défaut : plus de trente et un mille signatures, et pas un entraînement suspendu.
Le contrepoint scientifique enfin, avec l’International AI Safety Report 2026 présidé par Yoshua Bengio, mandaté depuis Bletchley et adossé à plus de cent experts et vingt-neuf pays : la perte de contrôle y prend place parmi les risques émergents dont l’évaluation reste ouverte.
Lus ensemble, ces documents dessinent un décalage plutôt qu’un désaccord. Personne ne conteste que la durée des tâches automatisées augmente, ni qu’un système améliorant ses successeurs poserait un problème inédit. Ce qui manque est du côté de l’instrument : des méthodes existent sur le papier, des briques sont identifiées, un silicium témoin est spécifié, et rien de tout cela n’est déployé. Un frein qui n’existe qu’en publication scientifique ne freine pas.