Baidu abre o código-fonte do Unlimited OCR 2, um analisador de documentos com custo de decodificação quase constante

A Baidu anunciou o Unlimited OCR 2 no X em 26 de outubro, com o código no GitHub e os pesos no Hugging Face. O modelo foi desenvolvido para analisar documentos de praticamente qualquer extensão dentro de uma janela de contexto finita.

A Baidu afirma que seu novo mecanismo de atenção SR-SWA condensa as interações de atenção entre texto e elementos visuais em um conjunto fixo de referências de trabalho, de modo que a latência de decodificação por etapa e o uso de memória permaneçam quase constantes à medida que os documentos ficam mais longos. Um resumo repercutido do lançamento diz que o modelo tem 3.34B parâmetros, foi lançado sob a licença MIT e usa um conjunto de trabalho fixo de 512 tokens; esses detalhes vêm da publicação de um usuário, não do anúncio da Baidu.

Afirmações do anúncio, não verificadas por medições independentes:

• Resultados de ponta em MPDocBench e MarathonDocBench, que abrangem documentos de dezenas a centenas de páginas.