Vercel 的 AI Gateway 新增 Private Inference,可使用自有模型
Vercel 表示,AI Gateway 現已提供 Private Inference。模型可透過 private/<slug> 指定;Vercel 表示,開發者可將自有微調、由自己託管或預發布的模型,與目錄中的模型搭配使用,並沿用相同的 API、驗證方式和日誌。截至 11 月 16 日,這則公告在 X 上獲得 135 點。
來源
- Private Inference 現已登上 AI Gateway。X · 23 則留言
這樣的新聞,第一時間推播給你。
你使用的 AI 工具一有變化,AI Tracker 就會通知你。