Together presenta Together Compiler, compilación continua para la inferencia de IA

Simran Arora, del equipo de investigación de Together, presentó Together Compiler, que describe como compilación continua para la inferencia de IA. Su argumento es que la inferencia actual es «polimórfica»: cambia de forma en lugar de permanecer estática, y señala que el 80 % del tráfico en OpenRouter se dirige a modelos lanzados recientemente.

SemiAnalysis afirma que validó un resultado de InferenceX/AgentX relacionado con este trabajo.