Cloudflare AI Gatewayに、フォールバック機能付きのモデルエイリアス(モデルの名前付きプール)が追加
Cloudflareの開発者アカウントが共有した投稿によると、CloudflareのAI Gatewayがモデルエイリアスに対応しました。モデルエイリアスとは、アプリケーションから1つの名前で呼び出せるモデルのプールです。ゲートウェイは設定された順にモデルを試し、リクエストが失敗すると次のモデルにフォールバックします。または、スマートルーティングを使ってリクエストごとにモデルを選択します。
ソース
こんなニュースをプッシュで。
使っているツールに変化があると、AI Tracker がお知らせします。