OpenAI объединилась с Hacktron, чтобы выявлять уязвимости в собственных системах

OpenAI сообщила о партнёрстве с Hacktron — компанией в сфере кибербезопасности, которая разрабатывает ИИ-агентов для анализа кода, тестирования на проникновение и red teaming. Инженеры OpenAI и исследователи Hacktron совместно выберут приоритетные направления для тестирования, уделяя особое внимание взаимодействию систем OpenAI со сторонними сервисами.

В рамках партнёрства OpenAI расширяет доступ Hacktron к своим передовым моделям через Daybreak Red. По словам OpenAI, компания узнала о Hacktron благодаря программе Security Bug Bounty, в рамках которой исследователи Hacktron сообщали об уязвимостях.

OpenAI связывает это объявление с двумя недавними шагами: спринтом по безопасности с исследователями Cathedral и повышением вознаграждений за найденные ошибки. Гендиректор Hacktron Zayne Zhang говорит, что компания объединит свой опыт в области атакующей кибербезопасности с моделями OpenAI.