OpenAI faz parceria com a Hacktron para encontrar vulnerabilidades em seus próprios sistemas

A OpenAI afirma que está fazendo parceria com a Hacktron, uma empresa de segurança que desenvolve agentes de IA para revisão de código, testes de invasão e red teaming. Engenheiros da OpenAI e pesquisadores da Hacktron escolherão juntos áreas prioritárias para testar, com foco em como os sistemas da OpenAI interagem com serviços de terceiros.

Como parte da parceria, a OpenAI está ampliando o acesso da Hacktron a seus modelos de ponta por meio do Daybreak Red. A OpenAI afirma que conheceu a Hacktron por meio de seu programa Security Bug Bounty, no qual os pesquisadores da empresa relataram vulnerabilidades.

A OpenAI relaciona o anúncio a duas iniciativas anteriores desta semana: o sprint de segurança com os pesquisadores da Cathedral e o aumento das recompensas do bug bounty. O CEO da Hacktron, Zayne Zhang, afirma que a empresa combinará sua experiência em segurança ofensiva com os modelos da OpenAI.