Together apresenta o Together Compiler, compilação contínua para inferência de IA

Simran Arora, da equipe de pesquisa da Together, apresentou o Together Compiler, que ela descreve como compilação contínua para inferência de IA. Segundo ela, a inferência atual é "polimórfica": muda de forma em vez de permanecer estática. Ela observa que 80% do tráfego no OpenRouter é direcionado a modelos lançados recentemente.

A SemiAnalysis afirma ter validado um resultado do InferenceX/AgentX relacionado ao trabalho.