Together presenta Together Compiler, compilazione continua per l’inferenza AI

Simran Arora del team di ricerca di Together ha presentato Together Compiler, che descrive come una compilazione continua per l’inferenza AI. La sua tesi è che l’inferenza odierna sia «polimorfica»: cambia forma invece di restare immutata. Aggiunge che l’80% del traffico su OpenRouter riguarda modelli pubblicati di recente.

SemiAnalysis afferma di aver convalidato un risultato di InferenceX/AgentX collegato a questo lavoro.