OpenAI werkt samen met Hacktron om kwetsbaarheden in zijn eigen systemen op te sporen

OpenAI zegt samen te werken met Hacktron, een beveiligingsbedrijf dat AI-agents ontwikkelt voor codebeoordeling, penetratietests en red teaming. Engineers van OpenAI en onderzoekers van Hacktron kiezen samen gebieden met hoge prioriteit om te testen, met de nadruk op de manier waarop de systemen van OpenAI met diensten van derden samenwerken.

Als onderdeel van de samenwerking breidt OpenAI de toegang van Hacktron tot zijn frontier-modellen uit via Daybreak Red. OpenAI zegt Hacktron te hebben leren kennen via zijn Security Bug Bounty-programma, waar de onderzoekers van het bedrijf kwetsbaarheden hebben gemeld.

OpenAI verbindt de aankondiging aan twee eerdere stappen deze week: de beveiligingssprint met onderzoekers van Cathedral en de hogere bugbountybeloningen. Hacktrons CEO, Zayne Zhang, zegt dat het bedrijf zijn expertise op het gebied van offensieve beveiliging zal combineren met de modellen van OpenAI.