OpenAI의 Decisions API, 정식 출시

OpenAI는 10월 6일 공개 베타를 시작한 Decisions API가 이제 정식 출시됐다고 밝혔습니다. OpenAI에 따르면 앱과 에이전트는 이 API를 사용해 텍스트와 이미지를 분류하고, 입력을 평가하고, 전체 모델 응답을 생성하지 않고도 다음에 일어날 일을 결정할 수 있습니다. 베타 발표에서 OpenAI는 Responses API를 통해 GPT-6 Luna를 사용할 때보다 최대 10배 빠르게 의사결정을 내린다고 밝혔습니다.

베타 출시 이후 OpenAI가 추가했다고 밝힌 기능은 다음과 같습니다.

• 네이티브 GPT-Live 통합으로, 음성 앱이 사용자가 말하는 동안 반응할 수 있습니다.
• 프롬프트 캐싱으로, 컨텍스트를 재사용할 때 비용을 절감합니다.
• 네이티브 JSON 입력으로, 구조화된 앱 데이터를 바로 전달할 수 있습니다.
• 개별 질문 지침에 이미지 추가: 여러 이미지를 공통 참조 이미지와 비교할 수 있습니다.
• 요청당 질문을 최대 400개까지 지원해 이전 한도의 두 배로 늘었습니다.
• 미국과 EU의 추론 데이터 거주 옵션과 아시아 여러 지역의 용량 확대.

작동 방식과 비용: 개발자는 질문과 허용되는 답변을 정의하고 텍스트, 이미지 또는 JSON을 제공하면 세 가지 답변 유형 중 하나를 받습니다. 확률(predicate), 선택(choice), 점수(score)입니다. OpenAI는 이 API가 GPT-6 Luna를 기반으로 구축됐으며 전용 Decisions 엔드포인트를 통해 제공된다고 밝혔습니다. 입력은 토큰 100만 개당 $0.10, 캐시된 입력은 토큰 100만 개당 $0.01이며, 출력 토큰 요금은 없습니다.

OpenAI가 인용한 고객 성과는 각 고객이 자체적으로 집계한 수치입니다. Box는 30개 테스트 사례에서 Responses API와 동일한 정확도로 경로 선택 속도가 약 5배 빨라졌다고 밝혔습니다. Datadog은 최첨단 모델과 정확도가 비슷하면서 p95가 40배 빨라졌다고 보고했습니다. Ramp는 GPT-6 Luna보다 4배 빠르고 비용은 30% 저렴하다고 밝혔습니다. Sierra는 p95가 280ms 미만이고 호출당 비용이 90% 낮다고 보고했습니다. Speak은 GPT-Live 사용 시 다음 작업까지 걸리는 시간이 1.4초에서 0.13초로 줄었다고 밝혔습니다.