Исследователи утверждают, что GPT-6 Astra изменила веса небольшой модели Qwen, улучшив её математические способности без обучения

В посте в X аккаунт rikiyatakehi сообщает, что авторы попросили GPT-6 Astra изменить веса Qwen3.5-0.8B, чтобы улучшить её математические способности. По их словам, модель напрямую изменила лишь 0,016% весов, устранила циклы рассуждений небольшой модели, улучшила результаты по математике до 6 раз и следование инструкциям — в 3 раза, причём без градиентов и обучения. Они называют этот подход Weight-Space Programming.

Авторы из MIT CSAIL описали его в записи в блоге, опубликованной 2 ноября. По их данным, результат на MATH-500 вырос с 7,9% до 48,1%, а показатель IFEval увеличился втрое. В небольших экспериментах, как они утверждают, Astra определила игру, на которой обучалась небольшая сеть, по её исходным весам; исправила неработающую политику управления автомобилем, изменив 3,5% её весов; а также с нуля написала небольшие сети для игр, которые превзошли сети PPO, обученные в течение 100 миллионов шагов.

Результаты — заявления самих авторов, которые не были независимо проверены. По состоянию на 2 ноября пост набрал около 9 600 отметок «Нравится» и 419 ответов в X.