Rock Matrix disponibiliza em código aberto o EdgeRock-4B, um pequeno modelo de raciocínio com cache KV de tamanho fixo

A Rock Matrix lançou os pesos e o código do EdgeRock-4B, um modelo de raciocínio de texto e imagem com 4B de parâmetros, no GitHub, Hugging Face e ModelScope, com versões NF4, INT8 e FP8. Um artigo está no arXiv (2610.10118). O anúncio foi repercutido no X pela TestingCatalog em 31 de outubro.

O modelo é baseado no Qwen3.5-4B. A Rock Matrix converteu suas oito camadas de atenção completa em um design de histórico com capacidade fixa, que combina estado recorrente, atenção local e "Rock Memory Anchors" (RMA). Os últimos 1.024 tokens são mantidos integralmente, e detalhes mais antigos considerados importantes são salvos em um banco separado. O cache KV de atenção permanece limitado a 72 MiB por conversa, enquanto o do Qwen3.5-4B cresce para 8 GiB com 256K tokens.

Declarações da Rock Matrix, sem medição independente:

• Média de 82,9% de pass@1 no AIME 2024–2026, contra 18,8% do modelo de estado limitado mais forte testado.
• 94,1% de precisão nas consultas em um teste de contexto longo, com entradas de 16K a 130K tokens, contra 0,4% com o RMA desativado.
• Em um MacBook Pro (M5 Pro, 28 GB de RAM), executando o runtime PyTorch da Rock Matrix na GPU do Mac, o modelo resolveu uma multiplicação simples passo a passo, começou a responder após 4,6 segundos e gerou cerca de 9 tokens por segundo.