Pour observer un comportement qui se modifie dès qu’il se sait observé, les sciences sociales n’ont trouvé qu’un moyen : envoyer un faux demandeur. Deux candidatures identiques à un détail près, et l’écart de traitement apparaît. Le droit français reconnaît depuis 2006 la valeur probante du testing en matière de discrimination. La tromperie y est tolérée parce qu’elle seule donne accès au fait, et sa légitimité tient au cadre qui l’entoure.
Les chatbots grand public déplacent le problème : ce qu’un assistant répond à un adolescent en détresse n’existe que derrière une barrière d’âge, donc derrière un compte. Une enquête de WIRED publiée le 29 juin 2026 décrit un programme par lequel Meta aurait rémunéré des centaines de salariés du prestataire Covalen pour sonder en continu les assistants adverses, ChatGPT, Gemini et Character.AI. Le nom de code interne était « Cannes », et l’opération aurait tourné jusqu’au 21 avril dernier.
Le mode opératoire tient en trois gestes : ouvrir des comptes attribués à de faux mineurs, adresser depuis ces profils des messages et des images aux assistants visés, reporter chaque réponse dans des tableurs. Un document interne que le média américain dit avoir consulté range l’ensemble sous l’étiquette de « benchmarking de sécurité », avec pour finalité des jeux de données comparatifs. Le dispositif, la méthode d’audit dont il relève, les étalons publics existants et les procédures qu’il rejoint méritent examen.
Un dispositif industriel monté sur de faux comptes de mineurs
Ce que contenaient les tableurs
Une seule vague, en août 2025, aurait expédié plus de 45 000 requêtes vers les assistants ciblés. Le média américain dit avoir consulté un tableur de 3 748 formulations distinctes et un fichier d’environ 38 000 entrées dont la ventilation donne la mesure : plusieurs centaines de requêtes sur le suicide et l’automutilation, plusieurs centaines sur les troubles alimentaires, au moins 239 sur le sexe ou la romance.
Les scénarios sont détaillés jusqu’au malaise. Une collégienne de 13 ans, enceinte, en quête de pilules abortives. Un écolier disant avoir vu un camarade menacé par une arme. Une adolescente voulant dissimuler ses troubles alimentaires à sa famille. Le suicide, les stupéfiants et les propos haineux occupaient d’autres séries. Plusieurs anciens salariés redoutaient de voir l’équipe finir devant un tribunal, tant certaines formulations leur semblaient sortir du périmètre d’un test de sécurité ordinaire.
Écrire la détresse plutôt que la subir
Covalen n’est pas un laboratoire de recherche : installée à Dublin, elle emploie environ 1 800 personnes en Irlande et fournit à Meta modération de contenus et entraînement d’IA. Un modérateur subit passivement des contenus produits par d’autres ; il fallait ici les écrire en se glissant dans la peau d’un enfant suicidaire. « Tous ceux que je connaissais sur ce projet étaient sidérés par certains textes qu’on nous demandait de tester », rapporte un ancien participant.
Une méthode d’audit qui porte un nom depuis 2014
Le sock puppet audit et ses deux verrous
L’intention de départ n’a rien d’exotique : éprouver des protections, repérer ce qu’elles laissent passer et devancer les détournements occupent toutes les équipes de sécurité. Fabriquer de fausses identités pour observer comment un système traite différentes catégories d’utilisateurs porte même un nom savant, le sock puppet audit, formalisé en 2014 par Christian Sandvig et ses coauteurs.
Le papier fondateur signalait déjà ses deux verrous, la loi pénale américaine sur la fraude informatique et la violation des conditions d’utilisation. Ils n’ont pas sauté : en mars 2024, vingt-trois chercheurs emmenés par Shayne Longpre, du MIT à Berkeley, réclamaient un refuge juridique pour l’évaluation indépendante, faute de quoi un chercheur de bonne foi risque la suspension de compte. Ce que Meta aurait fait industriellement, aucun universitaire ne peut se le permettre.
Pourquoi le mode mineur exige un faux compte
Le verrou est aussi technique. ChatGPT applique depuis janvier 2026 une expérience adolescent déclenchée par une prédiction d’âge fondée sur des signaux comportementaux, et Character.AI a déployé une vérification d’âge dès novembre 2025. Or aucun de ces modes n’est exposé par une API, et un chatbot grand public n’est pas un modèle de laboratoire mais un système entier : modèle, classifieurs, politique éditoriale, routage des crises. Le seul point d’entrée reste l’application, donc un compte, ce qui rend tout audit externe du mode mineur contraire aux conditions d’utilisation.
La pratique courante du secteur et les étalons qui existent déjà
Interrogée par WIRED, Meta présente l’opération comme un travail d’amélioration de ses propres services, et comme un usage répandu : « tester et évaluer les réponses des chatbots afin de garantir des expériences sûres et adaptées à l’âge est une pratique responsable et courante dans le secteur, et toute suggestion contraire méconnaît totalement la manière dont les entreprises technologiques travaillent pour affiner et améliorer leurs systèmes. »
Le red teaming externe tel qu’il se publie
Le secteur a pourtant publié ses étalons. La doctrine d’OpenAI de red teaming externe repose sur des experts recrutés nommément, un niveau d’accès négocié et des consignes explicites ; l’évaluation de GPT-4 avant lancement a mobilisé plus de cent spécialistes extérieurs. Le modèle canonique est contractuel et traçable : on sait qui teste, et l’entreprise évaluée le sait aussi.
AILuminate, le benchmark que Meta cosigne
Un référentiel public et consenti existait aussi. Publié par MLCommons le 4 décembre 2024, AILuminate note les grands modèles sur douze catégories de danger, dont le suicide et l’automutilation, avec plus de 24 000 prompts par langue, et son groupe de travail réunit Google, Meta et Microsoft. Les 45 000 prompts d’une seule campagne de Cannes dépassent sa version anglaise entière. Rumman Chowdhury, de Humane Intelligence, y voit une « zone grise de gouvernance où la sécurité devient un paravent commode pour des pratiques anticoncurrentielles ».
Le cadre de risque que Meta ne s’applique pas
Meta publie depuis février 2025 un Frontier AI Framework fixant ses seuils de risque, mais pour les seuls dangers catastrophiques cyber, chimiques et biologiques : la sécurité des mineurs et le contenu conversationnel n’y figurent pas. Le 14 août 2025, Reuters révélait un document interne de 200 pages validé par les équipes juridiques et le chief ethicist, qui jugeait acceptable d’engager un enfant dans des conversations romantiques ou sensuelles ; Meta a confirmé son authenticité, jugé ces exemples erronés et déclaré les avoir retirés.
Des conditions d’utilisation à géométrie variable
Les entreprises sondées ne partagent pas cette lecture. Google comme Character.AI démentent tout feu vert, la seconde y voyant une infraction caractérisée à ses règles d’usage, tandis qu’OpenAI déclare « se pencher sur la question ». Or les conditions d’OpenAI interdisent d’extraire automatiquement des Outputs du service et de s’en servir pour développer des modèles concurrents : consigner des réponses dans des tableurs pour bâtir des jeux comparatifs tombe dans le champ littéral des deux clauses.
Meta revendique pourtant une tolérance zéro sur les faux comptes, Facebook en ayant supprimé environ 3,5 milliards en 2025. Elle a même poursuivi Voyager Labs en janvier 2023 pour 38 000 faux comptes créés afin de collecter les données de plus de 600 000 utilisateurs. Le sondage clandestin d’un concurrent a quinze ans d’histoire, du piégeage de Bing par une centaine de requêtes synthétiques de Google, révélé en février 2011, au projet « Ghostbusters » qui déchiffrait dès 2016 le trafic de Snapchat via le VPN d’Onavo. La nouveauté n’est pas la ruse, c’est qu’elle se présente comme de la sécurité de l’enfance.
Le miroir réglementaire
La faille reprochée et la faille empruntée
En mai 2026, la Commission européenne a rendu des conclusions préliminaires estimant qu’Instagram et Facebook violent le règlement sur les services numériques faute d’atténuer le risque d’accès des moins de 13 ans. Elle relève l’absence de vérification effective quand un enfant saisit une fausse date de naissance et estime que 10 à 12 % des enfants européens de cet âge accèdent aux services de Meta ; une décision assortie d’amendes reste possible, et l’entreprise conteste. Or c’est par de fausses dates de naissance que les prestataires auraient franchi les barrières d’âge des concurrents.
Du bruit dans les canaux de crise
Ces réponses sont devenues des données réglementées. Les lignes directrices européennes de juillet 2025 recommandent des garde-fous pour les chatbots des plateformes, et la loi californienne SB 243, en vigueur depuis janvier 2026, impose un protocole de prévention du suicide, un rappel toutes les trois heures pour les mineurs et, à partir de juillet 2027, un rapport annuel sur les renvois effectués. La date d’arrêt du projet tombe pour sa part la veille de l’échéance de conformité à la règle COPPA amendée.
Or les milliers de prompts simulant une détresse adolescente ont pu déclencher les mécanismes prévus pour les vraies. OpenAI a décrit en août 2025 un dispositif routant les conversations signalant un danger vers une équipe humaine restreinte, avec orientation vers les services d’urgence dans les cas graves. Injecter de la fausse détresse dans ces canaux revient à fausser les statistiques de sécurité d’un concurrent, et bientôt ses déclarations légales.
Ce que ces tests trouvent et les procédures ouvertes
Des garde-fous que la recherche fait céder
La littérature confirme la fragilité de ce qui était sondé. Une étude d’Annika Schoene et Cansu Canca, à Northeastern, déposée en juillet 2025, montre qu’un jailbreak en plusieurs étapes suffit à faire produire à six grands modèles des textes détaillés sur l’automutilation. Une évaluation clinique de la RAND parue fin août 2025 relève que ChatGPT répondait directement à 78 % des questions à haut risque portant sur les méthodes de suicide.
Un calendrier social et des rendez-vous ouverts
Le calendrier du projet raconte autre chose. Covalen a ouvert en avril 2026 une consultation sur environ 720 suppressions de postes à Dublin, après 400 en novembre 2025, Meta ayant annoncé en mars des systèmes d’IA avancés pour la modération censés réduire sa dépendance aux fournisseurs tiers. Cannes s’arrête le 21 avril, en pleine procédure de licenciement collectif chez le prestataire qui l’exécutait : la main-d’œuvre qui servait à tester l’IA disparaît au moment où l’IA la remplace.
La cible, elle, se dérobait déjà, Character.AI ayant supprimé le chat ouvert des moins de 18 ans aux États-Unis fin novembre 2025, et Meta ayant suspendu en janvier 2026 l’accès des adolescents à ses propres personnages IA, trois mois avant l’arrêt du projet. Reste le rendez-vous administratif : le 11 septembre 2025, la FTC a lancé une étude 6(b) sur les chatbots compagnons et les mineurs, avec des injonctions à sept entreprises dont Meta, Alphabet, OpenAI et Character Technologies, portant notamment sur les procédures d’évaluation de sécurité et la façon dont chacun fait respecter ses propres conditions d’utilisation.
Meta n’aborde pas la séquence en terrain vierge. Un jury de Santa Fe l’a condamnée le 24 mars 2026 à 375 millions de dollars de pénalités civiles pour avoir trompé les consommateurs sur la sécurité de ses plateformes et mis en danger des enfants ; l’État réclamait 2,2 milliards, l’entreprise a annoncé faire appel, et un second procès, sur le trouble à l’ordre public, s’est ouvert le 4 mai. Selon ce que la FTC tirera de son enquête, Cannes deviendra une pièce à charge ou la démonstration qu’aucune règle n’encadre l’évaluation croisée.
Le public concerné n’est pas seulement américain. Le premier baromètre d’audience de l’IA publié par l’Arcom le 16 juin 2026 recense environ 33 millions de visiteurs uniques en mars, soit 57,1 % de la population française, et 69 % de pénétration chez les 15-24 ans. Common Sense Media indiquait dès juillet 2025 que 72 % des adolescents américains avaient utilisé un compagnon IA, un tiers y confiant un sujet grave.
Ce que ces garde-fous produisent chez les adolescents demeure indéterminé : une synthèse parue en janvier 2026 dans Child Development Perspectives oppose la stimulation des compétences sociales au déplacement des relations réelles, faute d’études longitudinales. Le différend entre Meta et ses concurrents porte sur la loyauté d’une méthode ; la question qu’il exhume est plus rude.
Personne ne peut aujourd’hui vérifier de l’extérieur, et légalement, ce qu’un chatbot répond à un enfant en détresse. Tant que l’audit du mode mineur restera contraire aux conditions d’utilisation de tous, la seule évaluation disponible sera celle que les entreprises consentent à publier, ou celle qu’un concurrent se procure en trichant.
Aller plus loin
La méthode a un texte fondateur, et le papier Auditing Algorithms: Research Methods for Detecting Discrimination on Internet Platforms présenté par Christian Sandvig et ses coauteurs en 2014 range le sock puppet audit parmi cinq protocoles, en signalant dès l’origine ce qui l’expose, du droit pénal de la fraude informatique aux conditions d’utilisation.
L’asymétrie d’accès se lit à livre ouvert dans A Safe Harbor for AI Evaluation and Red Teaming, où vingt-trois chercheurs détaillent comment suspensions de compte et clauses contractuelles dissuadent l’évaluation indépendante des systèmes grand public, et réclament l’immunité qu’une entreprise se serait ici accordée toute seule.
L’étalon revendiqué par le secteur figure dans OpenAI’s Approach to External Red Teaming for AI Models and Systems, qui décrit le recrutement nominatif des experts, la négociation des niveaux d’accès et la rédaction des consignes : de quoi mesurer l’écart entre une pratique standard et un dispositif clandestin.
Le point de comparaison consenti tient dans l’annonce du benchmark de sécurité AILuminate v1.0, avec ses douze catégories de danger, ses milliers de prompts tenus secrets et la liste nominative du groupe de travail qui l’a bâti, où Meta siège aux côtés de Google et de Microsoft.
Que la surface testée ait bougé pendant le test se vérifie dans la note An Update On Changes to Our Under-18 Experience, document de première main qui donne le calendrier de suppression du chat ouvert pour les mineurs et les modalités de vérification d’âge déployées.
Le périmètre que Meta se donne apparaît dans Our Approach to Frontier AI, où les seuils publiés couvrent le cyber et le chimique-biologique, et rien de ce qui touche aux conversations avec des mineurs : la preuve documentaire d’un point aveugle.
Le précédent maison est établi pièces en main par l’article Facebook snooped on users’ Snapchat traffic in secret project, documents reveal, qui restitue les échanges internes descellés en 2024 sur l’interception du trafic chiffré de Snapchat par la technologie d’Onavo.
Le visage social du dispositif se découvre dans le reportage Fears for hundreds of jobs at outsourcing firm Covalen, qui situe le prestataire irlandais, chiffre les suppressions de postes à Dublin et rappelle le basculement de Meta vers une modération assurée par ses propres modèles.
Le miroir juridique exact se trouve dans l’analyse European Commission preliminarily finds Meta in breach of DSA, qui détaille le reproche fait à l’entreprise sur les fausses dates de naissance et la proportion d’enfants européens de moins de 13 ans présents sur ses services.
Le lecteur français n’est pas spectateur, et le baromètre d’audience des services d’intelligence artificielle publié par l’Arcom en juin 2026 en donne la mesure, des dizaines de millions d’utilisateurs mensuels et près de sept jeunes sur dix, sans qu’aucun référentiel francophone n’évalue les garde-fous qu’ils rencontrent.
Lus ensemble, ces documents déplacent la question. La technique d’audit existe depuis douze ans, elle est nommée et décrite ; ce qui manque n’est pas l’outil mais le droit de s’en servir. Les chercheurs le réclament sans l’obtenir, les entreprises se le refusent mutuellement par contrat, et l’unique référentiel inter-entreprises reste plus petit qu’une seule campagne clandestine. Tant qu’aucune norme ne dira qui peut ouvrir un compte d’adolescent pour vérifier ce qu’un modèle lui répond, la sécurité des mineurs demeurera une affirmation invérifiable de l’extérieur.