OpenAI collabora con Hacktron per individuare vulnerabilità nei propri sistemi

OpenAI afferma di aver avviato una collaborazione con Hacktron, un'azienda di sicurezza che sviluppa agenti AI per la revisione del codice, i test di penetrazione e il red teaming. Gli ingegneri di OpenAI e i ricercatori di Hacktron selezioneranno insieme le aree prioritarie da testare, concentrandosi su come i sistemi di OpenAI interagiscono con servizi di terze parti.

Nell'ambito della collaborazione, OpenAI sta ampliando l'accesso di Hacktron ai suoi modelli di frontiera tramite Daybreak Red. OpenAI afferma di aver conosciuto Hacktron grazie al suo programma Security Bug Bounty, nell'ambito del quale i ricercatori dell'azienda hanno segnalato vulnerabilità.

OpenAI collega l'annuncio a due iniziative precedenti di questa settimana: lo sprint sulla sicurezza con i ricercatori di Cathedral e l'aumento delle ricompense per i bug bounty. Il CEO di Hacktron, Zayne Zhang, afferma che l'azienda unirà la propria esperienza nella sicurezza offensiva ai modelli di OpenAI.