Anthropic trình bày cách Claude Duet xử lý an toàn, quyền riêng tư và thông tin xác thực

Anthropic đã công bố mô tả về các biện pháp bảo vệ trong Claude Duet, tác nhân đang ở giai đoạn nghiên cứu xem trước, hoạt động trên máy tính đám mây và tiếp tục chạy sau khi ứng dụng đóng. Dưới đây là thông tin do chính Anthropic cung cấp.

• Phê duyệt. Trước khi gửi một tin nhắn có khả năng nhạy cảm, thanh toán hoặc xóa bất kỳ thứ gì, Duet sẽ hiển thị hành động, nơi nhận và nội dung, bao gồm mọi người nhận, rồi chờ phê duyệt. Một bước kiểm tra tự động riêng biệt, dựa trên bộ phân loại chế độ tự động của Claude Code và chạy bên ngoài mô hình đang thực hiện công việc, sẽ đánh giá xem hành động có phù hợp với ý định của người dùng hay không. Giao dịch chứng khoán, chuyển tiền giữa các tài khoản và truy cập tài khoản của người khác vẫn bị cấm ngay cả khi được phê duyệt; còn việc thanh toán, xóa đơn hàng hoặc tạo tài khoản thì không bao giờ được áp dụng quy tắc “đừng hỏi tôi nữa”. Các giao dịch mua sử dụng thẻ dùng một lần từ ví như Link của Stripe, giới hạn theo đơn vị bán hàng và số tiền.
• Thông tin nhạy cảm. Một bộ phân loại mới kiểm tra từng tin nhắn và tệp tải lên trước khi gửi đi. Thông tin xác thực, toàn bộ số thẻ và tài khoản ngân hàng, cùng số giấy tờ tùy thân do chính phủ cấp sẽ không bao giờ được chia sẻ, kể cả khi được yêu cầu; các thông tin riêng tư khác như sức khỏe hoặc tài chính chỉ được chia sẻ khi người dùng đồng ý. Tin nhắn bị chặn có thể được viết lại để loại bỏ thông tin nhạy cảm rồi gửi phê duyệt.
• Thông tin xác thực. Duet không bao giờ thấy mật khẩu, cookie trình duyệt hoặc mã thông báo đăng nhập. Mật khẩu được nhập vào biểu mẫu trong ứng dụng Claude, mã hóa bằng khóa dùng một lần và chỉ được giải mã trên máy chạy trình duyệt đám mây. Mã thông báo của các ứng dụng đã kết nối nằm ngoài máy của tác nhân; một proxy chèn chúng vào khi gửi yêu cầu, tương tự như Claude Managed Agents. Tính năng đăng nhập bằng 1Password sẽ sớm ra mắt. Trình duyệt chạy trong VM riêng và tác nhân điều khiển nó thông qua một bộ lệnh cố định.
• Nhận dạng. Trình duyệt của Duet gửi một tiêu đề User-Agent riêng biệt, và Anthropic công bố các địa chỉ IP mà trình duyệt sử dụng. Anthropic cho biết họ đã liên hệ với một số trang web lớn trước khi ra mắt và một số trang đã chọn chặn Duet.
• Kiểm thử. Anthropic mô tả các đợt đánh giá với những biến thể của tác vụ thường ngày, gồm tình huống vô hại, có nội dung tiêm nhiễm và quá hấp dẫn; các nhóm red team; cùng một đợt kiểm thử xâm nhập bên ngoài có quyền truy cập mã nguồn. Một đợt kiểm thử tiếp theo đối với trình duyệt đám mây và biểu mẫu đăng nhập đang được tiến hành. Duet nằm trong phạm vi chương trình săn lỗi của Anthropic.

Anthropic cho biết các biện pháp bảo vệ đôi khi sẽ bỏ sót điều gì đó hoặc gắn cờ nhầm một tin nhắn vô hại, và tần suất Duet yêu cầu phê duyệt vẫn đang được điều chỉnh.