Rock Matrix, sabit boyutlu KV önbelleğe sahip küçük bir akıl yürütme modeli olan EdgeRock-4B'yi açık kaynaklı hâle getirdi

Rock Matrix, 4B boyutunda bir metin ve görüntü akıl yürütme modeli olan EdgeRock-4B'nin ağırlıklarını ve kodunu NF4, INT8 ve FP8 sürümleriyle GitHub, Hugging Face ve ModelScope'da yayımladı. Makale arXiv'de (2610.10118) yer alıyor. Duyuru, 31 Ekim'de TestingCatalog tarafından X'te paylaşıldı.

Model, Qwen3.5-4B'yi temel alıyor. Rock Matrix, modelin sekiz tam dikkat katmanını; yinelemeli durumu, yerel dikkati ve "Rock Memory Anchors" (RMA) sistemini birleştiren, sabit kapasiteli bir geçmiş tasarımına dönüştürdü. Son 1.024 token tamamen tutuluyor; daha eski önemli ayrıntılar ise ayrı bir belleğe kaydediliyor. Dikkat KV önbelleği konuşma başına 72 MiB ile sınırlı kalıyor. Buna karşılık Qwen3.5-4B'nin önbelleği 256K token'da 8 GiB'ye ulaşıyor.

Bunlar Rock Matrix'in iddialarıdır; bağımsız olarak ölçülmemiştir:

• AIME 2024–2026'da ortalama pass@1 oranı %82,9; test ettiği en güçlü sınırlı durumlu modelde ise %18,8.
• 16K ile 130K token arasındaki girdilerle yapılan uzun bağlam testinde sorgu doğruluğu %94,1; RMA kapatıldığında ise %0,4.
• Rock Matrix'in PyTorch çalışma zamanını Mac'in GPU'sunda çalıştıran bir MacBook Pro'da (M5 Pro, 28GB RAM), basit bir çarpma işlemini adım adım yanıtladı; yanıtlamaya 4,6 saniyede başladı ve saniyede yaklaşık 9 token üretti.