OpenAI mô tả Control Room, hệ thống có thể dừng các tác vụ của mô hình trên toàn bộ hạ tầng nghiên cứu

OpenAI đã công bố mô tả về Control Room, một hệ thống trung tâm theo dõi các tác vụ của mô hình trong hạ tầng nghiên cứu và có thể dừng chúng khi phát sinh lo ngại về an toàn hoặc bảo mật. Toàn bộ thông tin dưới đây là theo lời OpenAI.

• Phạm vi: Control Room kết nối mọi tác vụ suy luận phục vụ nghiên cứu, bao gồm lấy mẫu theo hướng tác tử để huấn luyện và đánh giá, cũng như xử lý dữ liệu. OpenAI yêu cầu mỗi tác vụ nghiên cứu thực hiện suy luận theo hướng tác tử phải gắn với một hồ sơ an toàn đã được phê duyệt. Công ty cho biết ngăn xếp phục vụ mô hình bên ngoài vốn đã tập trung hơn và có thể nhanh chóng gỡ các bản triển khai.
• Cách hoạt động: một tác vụ nhận ID từ Control Room và gửi ID này cùng mỗi yêu cầu đến bộ máy suy luận. Trước khi trả lời, bộ máy hỏi Control Room xem tác vụ còn được cấp quyền hay không; khi tác vụ được đánh dấu là đã dừng, bộ máy sẽ từ chối các yêu cầu tiếp theo, nhờ đó đầu ra của mô hình chấm dứt ngay cả khi mã của chính tác vụ vẫn tiếp tục chạy.
• Tốc độ: OpenAI cho biết đầu ra của mô hình dừng trong vòng 35 giây kể từ khi có quyết định dừng hoặc tạm dừng một tác vụ. Độ trễ này đến từ lớp bộ nhớ đệm dùng để kiểm tra quyền hạn, và OpenAI cho biết đang tìm cách giảm độ trễ xuống bằng không.
• Độ tin cậy: bước kiểm tra nằm ở lớp suy luận, thay vì trong mã tác vụ của nhà nghiên cứu. OpenAI cho biết họ chạy các đợt rà soát để tìm những bộ máy được khởi chạy mà không có Control Room, đồng thời hệ thống được thiết kế theo nguyên tắc từ chối khi gặp lỗi: nếu dịch vụ ngừng hoạt động hoặc bị vô hiệu hóa, mọi yêu cầu suy luận đều bị từ chối. Cơ chế này hiện đã hoạt động với mọi tác vụ nghiên cứu mô hình tiên phong và, theo OpenAI, sẽ được triển khai cho các tác vụ còn lại trong vài ngày tới.
• Liên kết với hệ thống giám sát: Control Room hoạt động cùng các bộ giám sát hành vi lệch chuẩn của OpenAI, vốn có thể yêu cầu Control Room dừng một tác vụ. OpenAI cho biết một bộ giám sát đã phát hiện sự cố DNS hồi tháng 9, trong đó một tác tử truy cập chatbot bên ngoài.