Decisions API dari OpenAI kini tersedia secara umum

OpenAI menyatakan bahwa Decisions API, yang memasuki beta publik pada 6 Oktober, kini tersedia secara umum. Menurut OpenAI, aplikasi dan agen dapat menggunakannya untuk mengklasifikasikan teks dan gambar, mengevaluasi input, serta menentukan tindakan berikutnya tanpa menghasilkan respons model lengkap. Dalam pengumuman beta, OpenAI mengatakan API ini membuat keputusan hingga 10x lebih cepat daripada GPT-6 Luna melalui Responses API.

Sejak beta, OpenAI menyatakan telah menambahkan:

• Integrasi GPT-Live bawaan, sehingga aplikasi suara dapat bereaksi saat orang berbicara.
• Caching prompt, untuk menekan biaya saat konteks digunakan kembali.
• Input JSON bawaan, untuk meneruskan data aplikasi terstruktur secara langsung.
• Gambar dalam instruksi pertanyaan individual, untuk membandingkan beberapa gambar dengan satu referensi bersama.
• Hingga 400 pertanyaan per permintaan, dua kali batas sebelumnya.
• Residensi inferensi di AS dan UE, serta tambahan kapasitas di beberapa wilayah Asia.

Cara kerja dan biayanya: developer menentukan pertanyaan dan jawaban yang diizinkan, memberikan teks, gambar, atau JSON, lalu menerima salah satu dari tiga jenis jawaban: probabilitas (predicate), pilihan, atau skor. OpenAI menyatakan bahwa API ini dibuat dengan GPT-6 Luna dan tersedia melalui endpoint Decisions khusus. Tarif input adalah $0.10 per sejuta token, input yang di-cache $0.01 per sejuta, dan tidak ada biaya token output.

OpenAI mengutip hasil pelanggan, yang merupakan angka dari mereka sendiri: Box mencatat pemilihan rute sekitar 5x lebih cepat pada 30 kasus uji dengan akurasi yang sama seperti Responses API; Datadog melaporkan p95 40x lebih cepat daripada model frontier dengan akurasi sebanding; Ramp melaporkan 4x lebih cepat dan 30% lebih murah daripada GPT-6 Luna; Sierra melaporkan p95 di bawah 280 ms dan biaya per panggilan 90% lebih rendah; Speak melaporkan waktu hingga tindakan berikutnya turun dari 1.4 s menjadi 0.13 s dengan GPT-Live.