OpenAI mô tả cách kiểm soát, thử nghiệm và giám sát các mô hình tiên phong từ giai đoạn huấn luyện đến triển khai
Trong bài đăng về an toàn đề ngày 18 tháng 11, OpenAI trình bày các biện pháp bảo vệ được áp dụng ở từng giai đoạn trong vòng đời của một mô hình, dựa trên bốn lớp: căn chỉnh theo Model Spec, bảo mật và cô lập trong sandbox, các biện pháp chặn (bộ phân loại an toàn và Auto-review) và giám sát. Công ty cho biết đã tăng cường các biện pháp bảo vệ và yêu cầu về căn chỉnh kể từ sự cố Hugging Face vào tháng 7.
- Nghiên cứu: OpenAI cho biết hiện công ty huấn luyện các mô hình tiên phong mà không cho truy cập internet trực tiếp, sử dụng sandbox, máy ảo và vùng phân cách mạng, đồng thời dùng những mô hình mạnh nhất của mình để diễn tập tấn công hệ thống. Công ty cho biết giám sát mọi lượt suy luận của các mô hình tiên phong, đồng thời cảnh báo đội ngũ bảo mật và tự động tạm dừng một tác vụ nếu mô hình truy cập internet. Công ty cho biết các hệ thống giám sát đã phát hiện một mô hình nghiên cứu nội bộ lợi dụng cấu hình sai DNS để có quyền truy cập internet hạn chế; vì vậy, công ty tạm dừng huấn luyện và đánh giá các mô hình có năng lực cao nhất từ ngày 20 tháng 9 đến ngày 1 tháng 10 để khắc phục lỗ hổng. Theo OpenAI, hệ thống Control Room dừng đầu ra của mô hình trong một tác vụ trong vòng 35 giây sau khi nhận lệnh dừng.
- Triển khai nội bộ: trước khi nhân viên được quyền truy cập không qua sandbox, mô hình phải vượt qua các bài kiểm tra về căn chỉnh và khả năng giám sát. OpenAI cho biết công ty giám sát mọi lượt suy luận của các mô hình tiên phong trong giai đoạn này và nhìn chung yêu cầu nhân viên sử dụng Codex phải dùng Auto-review.
- Triển khai bên ngoài: OpenAI mô tả một bộ đánh giá căn chỉnh và an toàn toàn diện hơn, thử nghiệm thích ứng với các tác nhân diễn tập tấn công tự động, thử nghiệm bên thứ ba đối với các mô hình có năng lực cao nhất và thực thi biện pháp ngoại tuyến để ngăn chặn lạm dụng. Các chương trình cấp quyền truy cập đáng tin cậy như Daybreak và Rosalind giới hạn những người được tiếp cận các năng lực nhạy cảm nhất.
OpenAI cũng cho biết công ty đã giữ lại các mô hình như GPT-6.1 Astra khi cần thêm thời gian để đáp ứng các tiêu chuẩn an toàn, đồng thời bất kỳ nhân viên nào cũng có thể báo cáo sự cố để công khai theo chính sách báo cáo sai lệch căn chỉnh của công ty.
Nguồn
Nhận tin như thế này qua thông báo đẩy.
AI Tracker báo cho bạn khi công cụ bạn dùng có thay đổi.