Peneliti mengatakan GPT-6 Astra mengedit bobot model Qwen kecil untuk meningkatkan kemampuan matematikanya, tanpa pelatihan
Sebuah unggahan di X dari akun rikiyatakehi mengatakan bahwa para penulis meminta GPT-6 Astra mengedit bobot Qwen3.5-0.8B untuk meningkatkan kemampuan matematikanya. Mereka mengatakan model tersebut secara langsung hanya mengubah 0,016% bobot, memperbaiki loop penalaran model kecil itu, meningkatkan kemampuan matematika hingga 6x dan kepatuhan terhadap instruksi 3x, tanpa gradien atau pelatihan. Mereka menyebut pendekatan ini Weight-Space Programming.
Para penulis dari MIT CSAIL menjelaskannya dalam sebuah unggahan blog yang diterbitkan pada 2 November. Mereka melaporkan skor MATH-500 meningkat dari 7,9% menjadi 48,1% dan skor IFEval naik tiga kali lipat. Dalam eksperimen yang lebih kecil, mereka mengatakan Astra dapat menyebutkan nama permainan yang digunakan untuk melatih sebuah jaringan kecil hanya dari bobot mentahnya, memperbaiki kebijakan kontrol mobil yang gagal dengan mengedit 3,5% bobotnya, serta membuat jaringan kecil untuk memainkan permainan dari nol yang mengungguli jaringan PPO yang dilatih selama 100 juta langkah.
Hasil ini merupakan klaim para penulis sendiri dan belum diperiksa secara independen. Pada 2 November, unggahan tersebut memperoleh sekitar 9.600 suka dan 419 balasan di X.
Sumber
Diskusi
- Astra can read and write weights to improve QwenHacker News · 268 komentar
- Astra can read and write weights to improve QwenHacker News · 525 komentar
- i've reproduced the results from the MIT blog post today on weight-space programming. but one additional result i have to add: this is a…X · 19 komentar
- For anyone questioning whether this post is overhyped, I think they are actually *underselling* the approach.X · 52 komentar
- LLMs are not superhuman at reading and writing neural network weightsHacker News · 2 komentar
- The 'Astra can read and write weights to improve Qwen' post is misleadingHacker News · 70 komentar
- The 'Astra can read and write weights to improve Qwen' post is misleadingHacker News · 205 komentar
- LLMs are not superhuman at reading and writing neural network weightsHacker News · 14 komentar
- Qwen 3.8 27B on my laptop can interpret model weights, tooHacker News · 97 komentar
Dapatkan berita seperti ini lewat push.
AI Tracker memberi tahu Anda saat ada perubahan pada alat yang Anda pakai.