Des chercheurs affirment que GPT-6 Astra a modifié les poids d’un petit modèle Qwen pour améliorer ses capacités en mathématiques, sans entraînement

Dans une publication sur X, le compte rikiyatakehi indique que ses auteurs ont demandé à GPT-6 Astra de modifier les poids de Qwen3.5-0.8B pour améliorer ses capacités en mathématiques. Ils affirment que le modèle n’a directement modifié que 0,016 % des poids, corrigeant les boucles de raisonnement du petit modèle, multipliant ses performances en mathématiques jusqu’à 6 et ses capacités à suivre les instructions par 3, sans gradients ni entraînement. Ils appellent cette approche « Weight-Space Programming ».

Les auteurs, issus du MIT CSAIL, la décrivent dans un billet de blog publié le 2 novembre. Ils rapportent que le score à MATH-500 est passé de 7,9 % à 48,1 % et que celui à IFEval a triplé. Dans des expériences de moindre ampleur, ils affirment qu’Astra a identifié le jeu auquel un petit réseau avait été entraîné à partir de ses seuls poids bruts, corrigé une politique de contrôle automobile défaillante en modifiant 3,5 % de ses poids, et créé de zéro de petits réseaux capables de jouer à des jeux, qui ont battu des réseaux PPO entraînés pendant 100 millions d’étapes.

Ces résultats sont les affirmations des auteurs et n’ont pas été vérifiés indépendamment. Le 2 novembre, la publication avait recueilli environ 9 600 mentions J’aime et 419 réponses sur X.