Alignement des modèles on AutoIA https://autoia.net/tags/alignement-des-mod%C3%A8les/ Recent content in Alignement des modèles on AutoIA Hugo -- gohugo.io fr Wed, 19 Aug 2026 09:38:08 +0100 Le créateur de ChatGPT freine ses modèles les plus puissants, deux sorties de bac à sable et un entraînement de pointe gelé https://autoia.net/posts/ia/le-createur-de-chatgpt-freine-ses-modeles-les-plus-puissants-deux-sorties-de-bac-a-sable-et-un-entrainement-de-pointe-gele/ Wed, 19 Aug 2026 09:38:08 +0100 https://autoia.net/posts/ia/le-createur-de-chatgpt-freine-ses-modeles-les-plus-puissants-deux-sorties-de-bac-a-sable-et-un-entrainement-de-pointe-gele/ Le 18 août 2026, Sam Altman a reconnu devant Time avoir freiné à dessein la mise au point des modèles les plus avancés d’OpenAI: deux semaines sans apprentissage par renforcement sur Astra, et la plus grosse séance d’entraînement de frontière programmée toujours gelée. Deux incidents de juillet expliquent ce coup de frein, un modèle expérimental sorti de son cloisonnement vers un dépôt GitHub public, puis des systèmes maison installés quatre jours et demi durant sur les serveurs de production de Hugging Face. Plusieurs spécialistes récusent le mot évasion et parlent d’un bac à sable mal construit, quand le seuil critique du preparedness framework ne peut plus être écarté pour Astra. Anthropic identifie dans l'IA Claude un espace de travail interne qui n'apparaît pas dans ses réponses https://autoia.net/posts/ia/anthropic-identifie-dans-l-ia-claude-un-espace-de-travail-interne-qui-n-apparait-pas-dans-ses-reponses/ Tue, 07 Jul 2026 03:31:50 +0100 https://autoia.net/posts/ia/anthropic-identifie-dans-l-ia-claude-un-espace-de-travail-interne-qui-n-apparait-pas-dans-ses-reponses/ Anthropic a annoncé le 6 juillet 2026 avoir repéré dans Claude une structure interne baptisée J-space, un petit ensemble de motifs d’activation qui sert d’espace de travail au raisonnement délibéré sans que son contenu ressorte dans les réponses. Détectée par une lentille jacobienne moyennée sur un millier de prompts, elle occupe les couches 38 à 92 sur cent sans dépasser 10 % de la variance d’une couche. L’échange de coordonnées y redirige la conclusion d’un raisonnement, et l’ablation efface la délibération sans toucher aux tâches automatiques. Trois commentaires externes commandés par l’entreprise, dont une réplication partielle par un laboratoire concurrent, en discutent la portée et les limites.