Baidu rend open source Unlimited OCR 2, un parseur de documents au coût de décodage quasi constant

Baidu a annoncé Unlimited OCR 2 sur X le 26 octobre, avec le code sur GitHub et les poids sur Hugging Face. Le modèle est conçu pour analyser des documents de longueur pratiquement illimitée dans une fenêtre de contexte finie.

Selon Baidu, son nouveau mécanisme d’attention SR-SWA condense les interactions d’attention entre texte et éléments visuels en un ensemble fixe de références de travail, de sorte que la latence de décodage par étape et l’empreinte mémoire restent presque constantes à mesure que les documents s’allongent. Un résumé relayé de la sortie indique que le modèle compte 3.34B paramètres, est publié sous licence MIT et utilise un ensemble de travail fixe de 512 tokens ; ces détails proviennent du message d’un utilisateur, et non de l’annonce de Baidu.

Affirmations de l’annonce, non vérifiées de manière indépendante :

• Des résultats de pointe sur MPDocBench et MarathonDocBench, qui couvrent des documents de plusieurs dizaines à plusieurs centaines de pages.