OpenAI, kendi sistemlerindeki güvenlik açıklarını bulmak için Hacktron ile ortaklık kuruyor

OpenAI, kod incelemesi, sızma testi ve red teaming için yapay zekâ ajanları geliştiren bir güvenlik şirketi olan Hacktron ile ortaklık kurduğunu söylüyor. OpenAI mühendisleri ve Hacktron araştırmacıları, OpenAI sistemlerinin üçüncü taraf hizmetlerle nasıl etkileşime girdiğine odaklanarak birlikte test edilecek öncelikli alanları belirleyecek.

Ortaklığın bir parçası olarak OpenAI, Daybreak Red aracılığıyla Hacktron'un en gelişmiş modellerine erişimini genişletiyor. OpenAI, Hacktron'u, şirket araştırmacılarının güvenlik açıkları bildirdiği Security Bug Bounty programı sayesinde tanıdığını söylüyor.

OpenAI, duyuruyu bu hafta atılan iki önceki adımla ilişkilendiriyor: Cathedral araştırmacılarıyla yürütülen güvenlik sprinti ve hata ödül programındaki ödüllerin artırılması. Hacktron CEO'su Zayne Zhang, şirketin saldırı güvenliği uzmanlığını OpenAI modelleriyle birleştireceğini söylüyor.