Vercel's AI Gateway voegt Private Inference toe voor je eigen modellen
Vercel zegt dat Private Inference nu beschikbaar is op zijn AI Gateway. Modellen worden aangesproken als private/<slug>, en volgens Vercel kunnen ontwikkelaars hun eigen fijn-afgestelde, zelfgehoste of prerelease-modellen gebruiken naast de modellen uit de catalogus, met dezelfde API's, authenticatie en logs. De aankondiging had op 16 november 135 punten op X.
Bronnen
- Private Inference is nu beschikbaar op AI Gateway.X · 23 reacties
Krijg nieuws als dit als pushmelding.
AI Tracker waarschuwt je zodra er iets verandert aan de tools die je gebruikt.