La Decisions API de OpenAI ya está disponible de forma general

OpenAI afirma que su Decisions API, que entró en beta pública el 6 de octubre, ya está disponible de forma general. Según OpenAI, las aplicaciones y los agentes pueden usarla para clasificar texto e imágenes, evaluar entradas y decidir qué ocurre a continuación, sin generar una respuesta completa del modelo. En el anuncio de la beta, OpenAI dijo que toma decisiones hasta 10 veces más rápido que GPT-6 Luna a través de la Responses API.

Desde la beta, OpenAI afirma que ha añadido:

• Integración nativa con GPT-Live, para que las aplicaciones de voz reaccionen mientras la gente habla.
• Caché de prompts, para reducir costes al reutilizar contexto.
• Entradas JSON nativas, para pasar directamente datos estructurados de aplicaciones.
• Imágenes en las instrucciones de cada pregunta, para comparar varias imágenes con una referencia compartida.
• Hasta 400 preguntas por solicitud, el doble del límite anterior.
• Residencia de inferencia en EE. UU. y la UE, además de capacidad adicional en varias regiones de Asia.

Cómo funciona y cuánto cuesta: los desarrolladores definen una pregunta y sus respuestas permitidas, proporcionan texto, imágenes o JSON y reciben uno de tres tipos de respuesta: una probabilidad (predicado), una opción o una puntuación. OpenAI afirma que está desarrollada con GPT-6 Luna y disponible a través de un endpoint dedicado de Decisions. El precio indicado es de $0.10 por millón de tokens de entrada, $0.01 por millón de tokens de entrada en caché y ningún cargo por tokens de salida.

OpenAI cita resultados de clientes, que son cifras proporcionadas por ellos: Box obtuvo una selección de rutas aproximadamente 5 veces más rápida en 30 casos de prueba, con la misma precisión que la Responses API; Datadog informa de una latencia p95 40 veces menor que la de los modelos de vanguardia, con una precisión comparable; Ramp informa de una velocidad 4 veces mayor y un coste un 30 % menor que con GPT-6 Luna; Sierra informa de una latencia p95 inferior a 280 ms y un coste por llamada un 90 % menor; Speak informa de que el tiempo hasta la siguiente acción bajó de 1,4 s a 0,13 s con GPT-Live.