Together、AI推論向けの継続的コンパイルを実現するTogether Compilerを発表

Togetherの研究チームに所属するSimran Arora氏が、AI推論向けの継続的コンパイルを実現するTogether Compilerを発表した。同氏は、現在の推論は形を変え続ける「多態的」なもので、一定の状態にとどまらないと説明し、OpenRouterのトラフィックの80%が最近リリースされたモデルに向かっていると指摘している。

SemiAnalysisは、この取り組みに関連するInferenceX/AgentXの結果を検証したとしている。