Together ने AI inference के लिए सतत संकलन, Together Compiler पेश किया

Together की रिसर्च टीम की Simran Arora ने Together Compiler पेश किया, जिसे वह AI inference के लिए सतत संकलन बताती हैं। उनका तर्क है कि आज का inference “बहुरूपी” है—यह स्थिर रहने के बजाय अपना रूप बदलता रहता है। उन्होंने यह भी बताया कि OpenRouter पर 80% ट्रैफ़िक हाल ही में जारी किए गए मॉडलों को जाता है।

SemiAnalysis का कहना है कि उसने इस काम से जुड़े InferenceX/AgentX के नतीजे की पुष्टि की है।