OpenAI представила Decisions API в общем доступе

OpenAI сообщает, что Decisions API, запущенный в публичную бета-версию 6 октября, теперь доступен всем. По словам OpenAI, приложения и агенты могут использовать его для классификации текста и изображений, оценки входных данных и определения дальнейших действий без генерации полного ответа модели. В анонсе бета-версии OpenAI заявила, что API принимает решения до 10 раз быстрее, чем GPT-6 Luna через Responses API.

С момента запуска бета-версии OpenAI добавила:

• Нативную интеграцию с GPT-Live, чтобы голосовые приложения могли реагировать по мере того, как люди говорят.
• Кэширование промптов для снижения затрат при повторном использовании контекста.
• Нативную поддержку JSON-входных данных для прямой передачи структурированных данных приложения.
• Изображения в инструкциях к отдельным вопросам, чтобы сравнивать несколько изображений с общим эталоном.
• До 400 вопросов в одном запросе — вдвое больше прежнего лимита.
• Размещение инференса в США и ЕС, а также увеличение мощностей в нескольких регионах Азии.

Как это работает и сколько стоит: разработчики задают вопрос и допустимые варианты ответа, передают текст, изображения или JSON и получают один из трёх типов ответа: вероятность (предикат), вариант выбора или оценку. OpenAI сообщает, что API создан на базе GPT-6 Luna и доступен через отдельный эндпоинт Decisions. Стоимость входных данных составляет $0.10 за миллион токенов, кэшированных входных данных — $0.01 за миллион; плата за выходные токены не взимается.

OpenAI приводит результаты клиентов — это их собственные данные: Box сообщает примерно о 5-кратном ускорении выбора маршрута на 30 тестовых примерах при той же точности, что и у Responses API; Datadog заявляет о p95 в 40 раз быстрее, чем у передовых моделей, при сопоставимой точности; Ramp сообщает о работе в 4 раза быстрее и на 30% дешевле, чем GPT-6 Luna; Sierra заявляет о p95 менее 280 мс и снижении стоимости одного вызова на 90%; Speak сообщает, что время до следующего действия с GPT-Live сократилось с 1,4 с до 0,13 с.