AI Gateway от Vercel добавил Private Inference для ваших моделей
По словам Vercel, Private Inference теперь доступен в AI Gateway. Модели указываются в формате private/<slug>. Vercel утверждает, что разработчики могут использовать собственные дообученные, размещённые на своих серверах или предрелизные модели наряду с моделями из каталога — с теми же API, аутентификацией и журналами. К 16 ноября объявление набрало 135 баллов на X.
Источники
- Private Inference теперь доступен в AI Gateway.X · 23 комментария
Получайте такие новости в push.
AI Tracker сообщит, когда что-то меняется в ваших инструментах.