OpenAI bermitra dengan Hacktron untuk menemukan kerentanan di sistemnya sendiri

OpenAI mengatakan bahwa mereka bermitra dengan Hacktron, perusahaan keamanan yang mengembangkan agen AI untuk peninjauan kode, pengujian penetrasi, dan red teaming. Insinyur OpenAI dan peneliti Hacktron akan bersama-sama memilih area berprioritas tinggi untuk diuji, dengan fokus pada cara sistem OpenAI berinteraksi dengan layanan pihak ketiga.

Sebagai bagian dari kemitraan ini, OpenAI memperluas akses Hacktron ke model mutakhirnya melalui Daybreak Red. OpenAI mengatakan bahwa mereka mengenal Hacktron melalui program Security Bug Bounty, tempat para peneliti perusahaan tersebut telah melaporkan kerentanan.

OpenAI mengaitkan pengumuman ini dengan dua langkah yang diambil sebelumnya pekan ini: sprint keamanan bersama para peneliti Cathedral dan peningkatan hadiah bug bounty. CEO Hacktron, Zayne Zhang, mengatakan perusahaan akan menggabungkan keahlian keamanan ofensifnya dengan model OpenAI.