Together, AI çıkarımı için sürekli derleme sağlayan Together Compiler’ı tanıttı

Together’ın araştırma ekibinden Simran Arora, AI çıkarımı için sürekli derleme olarak tanımladığı Together Compiler’ı tanıttı. Arora’nın savı, günümüz çıkarımının sabit kalmayıp biçim değiştiren “polimorfik” bir yapıda olduğu. Ayrıca OpenRouter’daki trafiğin %80’inin kısa süre önce yayımlanan modellere yöneldiğini belirtiyor.

SemiAnalysis, bu çalışmayla bağlantılı bir InferenceX/AgentX sonucunu doğruladığını söylüyor.