De Decisions API van OpenAI is nu algemeen beschikbaar

OpenAI zegt dat zijn Decisions API, die op 6 oktober in publieke bèta ging, nu algemeen beschikbaar is. Volgens OpenAI kunnen apps en agents ermee tekst en afbeeldingen classificeren, invoer beoordelen en bepalen wat er vervolgens gebeurt, zonder een volledige modelrespons te genereren. In de aankondiging van de bèta zei OpenAI dat de API beslissingen tot 10x sneller neemt dan GPT-6 Luna via de Responses API.

Sinds de bèta heeft OpenAI naar eigen zeggen het volgende toegevoegd:

• Native GPT-Live-integratie, zodat spraakapps kunnen reageren terwijl mensen spreken.
• Prompt caching, om kosten te verlagen bij hergebruik van context.
• Native JSON-invoer, om gestructureerde appgegevens rechtstreeks door te geven.
• Afbeeldingen in afzonderlijke instructies voor vragen, om meerdere afbeeldingen met een gedeelde referentie te vergelijken.
• Tot 400 vragen per verzoek, twee keer zoveel als de vorige limiet.
• Inference-residency in de VS en de EU, en extra capaciteit in verschillende regio's in Azië.

Hoe het werkt en wat het kost: ontwikkelaars definiëren een vraag en de toegestane antwoorden, voeren tekst, afbeeldingen of JSON aan en krijgen een van drie antwoordtypen terug: een waarschijnlijkheid (predicate), een keuze of een score. OpenAI zegt dat de API is gebouwd met GPT-6 Luna en beschikbaar is via een speciaal Decisions-endpoint. De tarieven zijn volgens OpenAI $0.10 per miljoen inputtokens, $0.01 per miljoen gecachte inputtokens en geen kosten voor outputtokens.

OpenAI haalt resultaten van klanten aan; dit zijn cijfers van die klanten zelf: Box zag bij 30 testgevallen een ongeveer 5x snellere routeringskeuze, met dezelfde nauwkeurigheid als de Responses API; Datadog meldt een 40x snellere p95 dan frontiermodellen, met vergelijkbare nauwkeurigheid; Ramp meldt dat het 4x sneller en 30% goedkoper is dan GPT-6 Luna; Sierra meldt een p95 van minder dan 280 ms en 90% lagere kosten per aanroep; Speak meldt dat de tijd tot de volgende actie daalde van 1,4 s naar 0,13 s met GPT-Live.