Vercel의 AI Gateway에 자체 모델을 위한 Private Inference 추가
Vercel은 Private Inference를 이제 AI Gateway에서 사용할 수 있다고 밝혔습니다. 모델은 private/<slug> 형식으로 지정하며, Vercel에 따르면 개발자는 카탈로그 모델과 함께 자체 파인튜닝 모델, 자체 호스팅 모델 또는 프리릴리스 모델을 동일한 API, 인증 및 로그를 사용해 이용할 수 있습니다. 이 발표는 11월 16일까지 X에서 135점을 얻었습니다.
출처
이런 뉴스를 푸시로 받아보세요.
사용하는 도구에 변화가 생기면 AI Tracker가 알려드립니다.