Investigadores afirman que GPT-6 Astra editó los pesos de un modelo Qwen pequeño para mejorar sus matemáticas, sin entrenarlo
Una publicación en X de la cuenta rikiyatakehi dice que sus autores pidieron a GPT-6 Astra que editara los pesos de Qwen3.5-0.8B para mejorar sus matemáticas. Afirman que el modelo modificó directamente solo el 0,016 % de los pesos, corrigió los bucles de razonamiento del modelo pequeño y mejoró hasta 6 veces el rendimiento en matemáticas y 3 veces el seguimiento de instrucciones, sin gradientes ni entrenamiento. Llaman al método Weight-Space Programming.
Los autores, del MIT CSAIL, lo describen en una publicación de blog del 2 de noviembre. Informan que MATH-500 subió del 7,9 % al 48,1 % y que IFEval se triplicó. En experimentos más pequeños, afirman que Astra identificó, a partir de los pesos sin procesar, el juego con el que se había entrenado una red pequeña; corrigió una política de control de automóvil que fallaba editando el 3,5 % de sus pesos; y creó desde cero pequeñas redes capaces de jugar, que superaron a redes PPO entrenadas durante 100 millones de pasos.
Los resultados son afirmaciones de los propios autores y no se han verificado de forma independiente. La publicación tuvo alrededor de 9.600 «Me gusta» y 419 respuestas en X el 2 de noviembre.
Fuentes
Debates
- Astra can read and write weights to improve QwenHacker News · 268 comentarios
- Astra can read and write weights to improve QwenHacker News · 525 comentarios
- i've reproduced the results from the MIT blog post today on weight-space programming. but one additional result i have to add: this is a…X · 19 comentarios
- For anyone questioning whether this post is overhyped, I think they are actually *underselling* the approach.X · 52 comentarios
- LLMs are not superhuman at reading and writing neural network weightsHacker News · 2 comentarios
- The 'Astra can read and write weights to improve Qwen' post is misleadingHacker News · 70 comentarios
- The 'Astra can read and write weights to improve Qwen' post is misleadingHacker News · 205 comentarios
- LLMs are not superhuman at reading and writing neural network weightsHacker News · 14 comentarios
- Qwen 3.8 27B on my laptop can interpret model weights, tooHacker News · 97 comentarios
Recibe noticias como esta por push.
AI Tracker te avisa cuando algo cambia en las herramientas que usas.