OpenAIs Decisions API ist jetzt allgemein verfügbar

OpenAI zufolge ist die Decisions API, die am 6. Oktober in die öffentliche Beta gestartet ist, jetzt allgemein verfügbar. Laut OpenAI können Apps und Agents damit Text und Bilder klassifizieren, Eingaben bewerten und entscheiden, was als Nächstes geschieht, ohne eine vollständige Modellantwort zu generieren. In der Ankündigung der Beta erklärte OpenAI, dass Entscheidungen damit bis zu 10-mal schneller getroffen werden als mit GPT-6 Luna über die Responses API.

Seit der Beta hat OpenAI nach eigenen Angaben Folgendes ergänzt:

• Native GPT-Live-Integration, damit Sprach-Apps reagieren können, während Menschen sprechen.
• Prompt-Caching, um Kosten bei der Wiederverwendung von Kontext zu senken.
• Native JSON-Eingaben, um strukturierte App-Daten direkt zu übergeben.
• Bilder in den Anweisungen einzelner Fragen, um mehrere Bilder mit einer gemeinsamen Referenz zu vergleichen.
• Bis zu 400 Fragen pro Anfrage, doppelt so viele wie zuvor.
• Inference Residency in den USA und der EU sowie zusätzliche Kapazität in mehreren Regionen Asiens.

Funktionsweise und Kosten: Entwickler definieren eine Frage und die zulässigen Antworten, übergeben Text, Bilder oder JSON und erhalten einen von drei Antworttypen zurück: eine Wahrscheinlichkeit (Prädikat), eine Auswahl oder einen Score. Laut OpenAI basiert die API auf GPT-6 Luna und ist über einen eigenen Decisions-Endpunkt verfügbar. Die Preise: 0,10 $ pro Million Input-Tokens, 0,01 $ pro Million gecachter Input-Tokens und keine Gebühr für Output-Tokens.

OpenAI nennt Ergebnisse von Kunden, die auf deren eigenen Angaben beruhen: Box erzielte bei 30 Testfällen eine etwa 5-mal schnellere Routenwahl bei gleicher Genauigkeit wie mit der Responses API; Datadog berichtet von einer 40-mal niedrigeren p95-Latenz als bei Frontier-Modellen bei vergleichbarer Genauigkeit; Ramp berichtet von einer 4-mal höheren Geschwindigkeit und 30 % niedrigeren Kosten als bei GPT-6 Luna; Sierra berichtet von einer p95-Latenz unter 280 ms und 90 % niedrigeren Kosten pro Aufruf; bei Speak sank die Zeit bis zur nächsten Aktion mit GPT-Live von 1,4 s auf 0,13 s.