Pesquisadores dizem que GPT-6 Astra editou os pesos de um pequeno modelo Qwen para melhorar seu desempenho em matemática, sem treinamento

Uma publicação no X da conta rikiyatakehi diz que seus autores pediram ao GPT-6 Astra que editasse os pesos do Qwen3.5-0.8B para melhorar seu desempenho em matemática. Eles dizem que o modelo alterou diretamente apenas 0,016% dos pesos, corrigindo os ciclos de raciocínio do modelo pequeno, melhorando o desempenho em matemática em até 6 vezes e o seguimento de instruções em 3 vezes, sem gradientes nem treinamento. Eles chamam a abordagem de Weight-Space Programming.

Os autores, do MIT CSAIL, descrevem o método em uma publicação de blog publicada em 2 de novembro. Eles relatam que a pontuação no MATH-500 subiu de 7,9% para 48,1% e que a do IFEval triplicou. Em experimentos menores, dizem que Astra identificou, a partir dos pesos brutos, o jogo com o qual uma pequena rede havia sido treinada; corrigiu uma política de controle de carro que falhava, editando 3,5% dos pesos; e criou do zero pequenas redes capazes de jogar, que superaram redes PPO treinadas por 100 milhões de etapas.

Os resultados são uma alegação dos próprios autores e não foram verificados de forma independente. Em 2 de novembro, a publicação tinha cerca de 9.600 curtidas e 419 respostas no X.