Rock Matrix rende open source EdgeRock-4B, un piccolo modello di ragionamento con cache KV di dimensioni fisse

Rock Matrix ha pubblicato su GitHub, Hugging Face e ModelScope i pesi e il codice di EdgeRock-4B, un modello di ragionamento testo-immagine da 4B, con versioni NF4, INT8 e FP8. Un articolo è disponibile su arXiv (2610.10118). TestingCatalog ha rilanciato l’annuncio su X il 31 ottobre.

Il modello è basato su Qwen3.5-4B. Rock Matrix ha convertito gli otto livelli di attenzione completa in un’architettura con cronologia a capacità fissa che combina stato ricorrente, attenzione locale e «Rock Memory Anchors» (RMA). Gli ultimi 1.024 token vengono conservati integralmente, mentre i dettagli più importanti e meno recenti vengono salvati in un archivio separato. La cache KV dell’attenzione resta limitata a 72 MiB per conversazione; quella di Qwen3.5-4B arriva a 8 GiB con 256K token.

Dati dichiarati da Rock Matrix, non verificati in modo indipendente:

• Media dell’82,9% di pass@1 su AIME 2024–2026, contro il 18,8% del modello a stato limitato più performante tra quelli testati.
• Accuratezza del 94,1% sulle query in un test a contesto lungo con input da 16K a 130K token, contro lo 0,4% con RMA disattivato.
• Su un MacBook Pro (M5 Pro, 28GB di RAM) con il runtime PyTorch di Rock Matrix in esecuzione sulla GPU del Mac, ha risolto passo passo una semplice moltiplicazione, iniziando a rispondere dopo 4,6 secondi e generando circa 9 token al secondo.