Classificateurs on AutoIA https://autoia.net/tags/classificateurs/ Recent content in Classificateurs on AutoIA Hugo -- gohugo.io fr Sun, 16 Aug 2026 14:30:00 +0100 Anthropic découvre un trou de onze mois dans la sécurité de ses modèles, les filtres sur les armes biologiques désactivés https://autoia.net/posts/ia/anthropic-decouvre-un-trou-de-onze-mois-dans-la-securite-de-ses-modeles-les-filtres-sur-les-armes-biologiques-desactives/ Sun, 16 Aug 2026 14:30:00 +0100 https://autoia.net/posts/ia/anthropic-decouvre-un-trou-de-onze-mois-dans-la-securite-de-ses-modeles-les-filtres-sur-les-armes-biologiques-desactives/ Le 14 août 2026, Anthropic a publié son deuxième rapport de risques, 186 pages caviardées. On y apprend que les classificateurs chargés de bloquer les échanges liés aux armes biologiques sont restés inactifs onze mois, de mai 2025 à avril 2026, sur les plateformes de retour humain de quelque 50 000 prestataires, soit près de 133 millions d’échanges. Un indicateur interne coupait à la fois le blocage et la journalisation, rendant toute alerte impossible. L’audit rétrospectif, mené en rejouant les messages dans un classificateur, a signalé 1 197 conversations sans révéler d’usage malveillant préoccupant. Le risque chimique et biologique passe de très faible à faible mais non négligeable. Shieldstral, le modèle ouvert de Mistral qui contrôle dans douze langues les contenus générés par une intelligence artificielle https://autoia.net/posts/ia/shieldstral-le-modele-ouvert-de-mistral-qui-controle-dans-douze-langues-les-contenus-generes-par-une-intelligence-artificielle/ Thu, 06 Aug 2026 04:20:47 +0100 https://autoia.net/posts/ia/shieldstral-le-modele-ouvert-de-mistral-qui-controle-dans-douze-langues-les-contenus-generes-par-une-intelligence-artificielle/ Mistral a publié le 4 août 2026 Shieldstral, un classificateur de sécurité multimodal de trois milliards de paramètres, en poids ouverts sous licence Apache 2.0, couvrant douze langues et tenant sur une seule carte graphique de 16 Go. Sa particularité tient à la règle écrite en langage naturel sous forme de question fermée, à laquelle il répond par un unique jeton, sans motif. L’éditeur revendique 84,9 % en sécurité textuelle et 83,8 % en multimodal, à hauteur de modèles jusqu’à sept fois plus gros, mais il cède sur le multilingue et sur l’adaptabilité aux politiques, précisément là où se situe sa promesse. Le calendrier européen éclaire la fenêtre de sortie.