Cloudflare AI Gateway dodaje aliasy modeli — nazwane pule modeli z mechanizmem awaryjnego przełączania
Według wpisu udostępnionego przez konto deweloperskie Cloudflare, AI Gateway obsługuje teraz aliasy modeli. Alias modelu to pula modeli, z którą aplikacja komunikuje się, używając jednej nazwy. Brama wypróbowuje modele w ustalonej kolejności i w razie niepowodzenia żądania przechodzi do kolejnego albo korzysta z inteligentnego routingu, by wybrać model dla każdego żądania.
Źródła
Otrzymuj takie wiadomości jako push.
AI Tracker powiadomi Cię, gdy coś zmieni się w narzędziach, których używasz.