L’API Decisions d’OpenAI est désormais disponible de manière générale

OpenAI annonce que son API Decisions, passée en bêta publique le 6 octobre, est désormais disponible de manière générale. Selon OpenAI, les applications et les agents peuvent l’utiliser pour classer du texte et des images, évaluer des entrées et décider de la suite à donner sans générer de réponse complète du modèle. Dans l’annonce de la bêta, OpenAI indiquait qu’elle prend des décisions jusqu’à 10 fois plus vite que GPT-6 Luna via l’API Responses.

Depuis la bêta, OpenAI indique avoir ajouté :

• L’intégration native de GPT-Live, pour que les applications vocales puissent réagir pendant que les gens parlent.
• La mise en cache des prompts, afin de réduire les coûts lors de la réutilisation du contexte.
• Les entrées JSON natives, pour transmettre directement des données structurées d’application.
• Des images dans les instructions de chaque question, afin de comparer plusieurs images à une référence commune.
• Jusqu’à 400 questions par requête, soit le double de la limite précédente.
• La résidence de l’inférence aux États-Unis et dans l’UE, ainsi qu’une capacité accrue dans plusieurs régions d’Asie.

Fonctionnement et tarifs : les développeurs définissent une question et les réponses autorisées, fournissent du texte, des images ou du JSON, puis obtiennent l’un des trois types de réponse suivants : une probabilité (prédicat), un choix ou un score. OpenAI indique que l’API est conçue avec GPT-6 Luna et qu’elle est accessible via un endpoint Decisions dédié. Le tarif annoncé est de 0,10 $ par million de tokens en entrée, 0,01 $ par million de tokens pour les entrées mises en cache, sans frais pour les tokens de sortie.

OpenAI cite des résultats de clients, qui correspondent à leurs propres chiffres : Box a constaté une sélection des itinéraires environ 5 fois plus rapide sur 30 cas de test, avec la même précision que l’API Responses ; Datadog fait état d’un p95 40 fois plus rapide que les modèles de pointe, avec une précision comparable ; Ramp rapporte une vitesse 4 fois supérieure et un coût inférieur de 30 % à GPT-6 Luna ; Sierra fait état d’un p95 inférieur à 280 ms et d’un coût par appel réduit de 90 % ; Speak indique que le délai avant la prochaine action est passé de 1,4 s à 0,13 s avec GPT-Live.