Together présente le Together Compiler, une compilation continue pour l’inférence IA

Simran Arora, de l’équipe de recherche de Together, a présenté le Together Compiler, qu’elle décrit comme une compilation continue pour l’inférence IA. Selon elle, l’inférence actuelle est « polymorphe » : elle change de forme au lieu de rester stable. Elle souligne que 80 % du trafic sur OpenRouter concerne des modèles récemment lancés.

SemiAnalysis affirme avoir validé un résultat InferenceX/AgentX lié à ces travaux.