Together memperkenalkan Together Compiler, kompilasi berkelanjutan untuk inferensi AI

Simran Arora dari tim riset Together memperkenalkan Together Compiler, yang ia gambarkan sebagai kompilasi berkelanjutan untuk inferensi AI. Menurutnya, inferensi saat ini "polimorfik", berubah bentuk alih-alih tetap statis, dan ia mencatat bahwa 80% lalu lintas di OpenRouter mengarah ke model yang baru dirilis.

SemiAnalysis mengatakan bahwa mereka telah memvalidasi hasil InferenceX/AgentX yang terkait dengan karya ini.