OpenAI se asocia con Hacktron para encontrar vulnerabilidades en sus propios sistemas

OpenAI afirma que se está asociando con Hacktron, una empresa de seguridad que desarrolla agentes de IA para revisar código, realizar pruebas de penetración y hacer red teaming. Los ingenieros de OpenAI y los investigadores de Hacktron elegirán juntos áreas prioritarias para probar, centrándose en cómo interactúan los sistemas de OpenAI con servicios de terceros.

Como parte de la asociación, OpenAI está ampliando el acceso de Hacktron a sus modelos de frontera a través de Daybreak Red. OpenAI dice que conoció a Hacktron gracias a su programa Security Bug Bounty, en el que los investigadores de la empresa han informado de vulnerabilidades.

OpenAI vincula el anuncio con dos iniciativas anteriores de esta semana: el sprint de seguridad con los investigadores de Cathedral y el aumento de las recompensas de su programa de recompensas por errores. Zayne Zhang, CEO de Hacktron, dice que la empresa combinará su experiencia en seguridad ofensiva con los modelos de OpenAI.