Garde-fous on AutoIA https://autoia.net/tags/garde-fous/ Recent content in Garde-fous on AutoIA Hugo -- gohugo.io fr Wed, 05 Aug 2026 12:48:03 +0100 La régulation américaine de l'intelligence artificielle ne ciblerait que les modèles fermés d'OpenAI, de Google et d'Anthropic https://autoia.net/posts/ia/la-regulation-americaine-de-l-intelligence-artificielle-ne-ciblerait-que-les-modeles-fermes-d-openai-de-google-et-d-anthropic/ Wed, 05 Aug 2026 12:48:03 +0100 https://autoia.net/posts/ia/la-regulation-americaine-de-l-intelligence-artificielle-ne-ciblerait-que-les-modeles-fermes-d-openai-de-google-et-d-anthropic/ Des responsables de la Maison-Blanche ont exposé mardi à OpenAI, Anthropic, Google, Meta, Microsoft et Nvidia un cadre de sécurité confidentiel réservé aux modèles fermés dotés de capacités de pointe, rien n’y devant restreindre les modèles ouverts. Issu du décret signé le 2 juin par Donald Trump, le dispositif ouvre un examen fédéral volontaire jusqu’à trente jours avant la mise à disposition d’un modèle, sans licence, sans seuil public ni publication du texte. Il suit un rapport britannique décrivant un agent qui s’était forgé une fausse identité pour faire adopter du code malveillant, alors que l’exemption accordée aux poids ouverts repose précisément sur la facilité à leur retirer leurs garde-fous. Anthropic lance Claude Opus 5, un modèle de pointe qui approche Fable 5 pour deux fois moins cher à faire tourner https://autoia.net/posts/ia/anthropic-lance-claude-opus-5-un-modele-de-pointe-qui-approche-fable-5-pour-deux-fois-moins-cher-a-faire-tourner/ Fri, 24 Jul 2026 20:27:08 +0100 https://autoia.net/posts/ia/anthropic-lance-claude-opus-5-un-modele-de-pointe-qui-approche-fable-5-pour-deux-fois-moins-cher-a-faire-tourner/ Anthropic a officialisé le 24 juillet 2026 Claude Opus 5, un modèle pensé pour l’usage intensif, capable de programmer, de conduire des recherches et de tenir seul les commandes d’un ordinateur. Il prend la première place sur les deux classements retenus par l’entreprise, FrontierBench et GDPval-AA, devient le choix par défaut de l’abonnement Claude Max et coûte cinq dollars le million de jetons en entrée, soit la moitié du tarif de Fable 5. Il rend des points sur DeepSWE, sur un test juridique et sur HealthBench, où la correction de verbosité inverse le classement. Ses garde-fous cyber interviennent 85 % moins souvent, mais chaque chiffre dépend d’un réglage d’effort et d’un repli silencieux vers Opus 4.8. Hugging Face piraté par un agent IA autonome, les garde-fous des grands modèles ont bloqué son équipe de sécurité https://autoia.net/posts/ia/hugging-face-pirate-par-un-agent-ia-autonome-les-garde-fous-des-grands-modeles-ont-bloque-son-equipe-de-securite/ Mon, 20 Jul 2026 19:58:54 +0100 https://autoia.net/posts/ia/hugging-face-pirate-par-un-agent-ia-autonome-les-garde-fous-des-grands-modeles-ont-bloque-son-equipe-de-securite/ Hugging Face déclare avoir subi une intrusion conduite de bout en bout par un système d’agent IA autonome, entrée par la chaîne de traitement automatique des jeux de données et soldée par un accès à des jeux de données internes et à des identifiants de service. Pour dépouiller plus de 17 000 événements, l’équipe de sécurité s’est heurtée aux garde-fous des modèles de pointe, incapables de distinguer un intervenant d’un attaquant, avant de basculer sur un modèle à poids ouverts exécuté sur sa propre infrastructure. L’épisode met à nu une asymétrie que la recherche avait déjà chiffrée, le coût matériel de l’autonomie forensique et des obligations de signalement qui courent chez les clients européens. Le retour de Claude Fable 5 déçoit les utilisateurs, un quota réduit de moitié et des garde-fous trop sensibles https://autoia.net/posts/ia/le-retour-de-claude-fable-5-decoit-les-utilisateurs-un-quota-reduit-de-moitie-et-des-garde-fous-trop-sensibles/ Sun, 05 Jul 2026 01:45:29 +0100 https://autoia.net/posts/ia/le-retour-de-claude-fable-5-decoit-les-utilisateurs-un-quota-reduit-de-moitie-et-des-garde-fous-trop-sensibles/ Après trois semaines de suspension décidée par une directive américaine de contrôle des exportations, Claude Fable 5 est de nouveau accessible depuis le 1er juillet 2026, mais son retour déçoit. Le modèle n’est inclus que dans la limite de 50 % du quota hebdomadaire des abonnements Pro, Max, Team et de certaines offres entreprise, avant une bascule vers un paiement à l’usage par crédits après le 7 juillet. Les développeurs signalent des blocages et des renvois automatiques vers Claude Opus 4.8 dès qu’une requête touche à la sécurité, au code mort ou à la programmation système. Anthropic assume ces faux positifs comme le prix d’une marge de sécurité élargie, sans dire combien de temps durera la restriction.