OpenAI nawiązuje współpracę z Hacktron, by wykrywać luki we własnych systemach

OpenAI informuje o nawiązaniu współpracy z Hacktron, firmą zajmującą się bezpieczeństwem, która tworzy agentów AI do przeglądu kodu, testów penetracyjnych i red teamingu. Inżynierowie OpenAI i badacze Hacktron wspólnie wybiorą obszary o wysokim priorytecie do testów, skupiając się na interakcjach systemów OpenAI z usługami firm trzecich.

W ramach współpracy OpenAI rozszerza dostęp Hacktron do swoich modeli frontier za pośrednictwem Daybreak Red. OpenAI podaje, że poznało Hacktron dzięki programowi Security Bug Bounty, w ramach którego badacze firmy zgłaszali luki w zabezpieczeniach.

OpenAI łączy to ogłoszenie z dwoma wcześniejszymi działaniami z tego tygodnia: sprintem bezpieczeństwa z badaczami Cathedral oraz podwyższonymi nagrodami za zgłaszanie błędów. CEO Hacktron, Zayne Zhang, mówi, że firma połączy swoją wiedzę z zakresu ofensywnego bezpieczeństwa z modelami OpenAI.