OpenAI hợp tác với Hacktron để tìm lỗ hổng trong các hệ thống của chính mình

OpenAI cho biết đang hợp tác với Hacktron, một công ty bảo mật phát triển các tác nhân AI phục vụ rà soát mã, kiểm thử xâm nhập và mô phỏng tấn công. Các kỹ sư của OpenAI và các nhà nghiên cứu của Hacktron sẽ cùng chọn những khu vực ưu tiên cao để kiểm thử, tập trung vào cách các hệ thống của OpenAI tương tác với dịch vụ bên thứ ba.

Trong khuôn khổ hợp tác, OpenAI đang mở rộng quyền truy cập của Hacktron vào các mô hình tiên tiến nhất của mình thông qua Daybreak Red. OpenAI cho biết họ biết đến Hacktron qua chương trình Security Bug Bounty, nơi các nhà nghiên cứu của công ty đã báo cáo những lỗ hổng.

OpenAI liên hệ thông báo này với hai động thái trước đó trong tuần: đợt tăng cường bảo mật cùng các nhà nghiên cứu của Cathedral và việc nâng mức thưởng bug bounty. CEO của Hacktron, Zayne Zhang, cho biết công ty sẽ kết hợp chuyên môn về bảo mật tấn công với các mô hình của OpenAI.