OpenAI arbeitet mit Hacktron zusammen, um Schwachstellen in den eigenen Systemen zu finden

OpenAI erklärt, mit Hacktron zusammenzuarbeiten, einem Sicherheitsunternehmen, das KI-Agenten für Code-Reviews, Penetrationstests und Red Teaming entwickelt. OpenAI-Ingenieure und Hacktrons Forschende werden gemeinsam besonders wichtige Bereiche für Tests auswählen. Der Schwerpunkt liegt darauf, wie OpenAIs Systeme mit Diensten von Drittanbietern interagieren.

Im Rahmen der Partnerschaft erweitert OpenAI Hacktrons Zugang zu seinen Frontier-Modellen über Daybreak Red. OpenAI zufolge wurde das Unternehmen durch sein Security Bug Bounty-Programm auf Hacktron aufmerksam, bei dem die Forschenden des Unternehmens Schwachstellen gemeldet haben.

OpenAI stellt die Ankündigung in Zusammenhang mit zwei früheren Schritten in dieser Woche: dem Security Sprint mit den Forschenden von Cathedral und den höheren Prämien im Bug-Bounty-Programm. Hacktrons CEO Zayne Zhang sagt, das Unternehmen werde seine Expertise im Bereich offensive Sicherheit mit den Modellen von OpenAI verbinden.