Decisions API od OpenAI jest już ogólnodostępne

OpenAI informuje, że Decisions API, które weszło w publiczną fazę beta 6 października, jest już ogólnodostępne. Według OpenAI aplikacje i agenty mogą używać go do klasyfikowania tekstu i obrazów, oceniania danych wejściowych oraz decydowania o kolejnych działaniach bez generowania pełnej odpowiedzi modelu. W ogłoszeniu o wersji beta OpenAI podało, że API podejmuje decyzje do 10 razy szybciej niż GPT-6 Luna za pośrednictwem Responses API.

Od czasu wersji beta OpenAI dodało:

• Natywną integrację z GPT-Live, dzięki której aplikacje głosowe mogą reagować, gdy ludzie mówią.
• Buforowanie promptów, obniżające koszty przy ponownym użyciu kontekstu.
• Natywne dane wejściowe JSON, umożliwiające bezpośrednie przekazywanie ustrukturyzowanych danych aplikacji.
• Obrazy w instrukcjach poszczególnych pytań, aby porównywać wiele obrazów ze wspólnym materiałem referencyjnym.
• Do 400 pytań na żądanie — dwa razy więcej niż poprzedni limit.
• Rezydencję wnioskowania w USA i UE oraz dodatkowe moce obliczeniowe w kilku regionach Azji.

Jak to działa i ile kosztuje: programiści definiują pytanie i dozwolone odpowiedzi, przekazują tekst, obrazy lub JSON, a w odpowiedzi otrzymują jeden z trzech typów wyników: prawdopodobieństwo (predykat), wybór lub ocenę. OpenAI podaje, że API zbudowano z użyciem GPT-6 Luna i jest dostępne za pośrednictwem dedykowanego endpointu Decisions. Cena za dane wejściowe wynosi 0,10 USD za milion tokenów, za buforowane dane wejściowe — 0,01 USD za milion, a tokeny wyjściowe są bezpłatne.

OpenAI przytacza wyniki klientów — są to dane podane przez samych klientów: Box odnotował około 5 razy szybszy wybór ścieżki na 30 przypadkach testowych przy takiej samej dokładności jak w Responses API; Datadog podaje 40 razy krótszy czas p95 niż w przypadku modeli z czołówki, przy porównywalnej dokładności; Ramp informuje o 4 razy większej szybkości i 30% niższych kosztach niż w przypadku GPT-6 Luna; Sierra podaje czas p95 poniżej 280 ms i koszt na wywołanie niższy o 90%; Speak informuje, że czas do następnej akcji spadł z 1,4 s do 0,13 s dzięki GPT-Live.