Logan Graham của Anthropic đính chính bài viết của Washington Post về vụ xâm nhập Cathedral

Ngày 26 tháng 10, Logan Graham thuộc Frontier Red Team của Anthropic đăng trên X các đính chính về bài viết của Washington Post và phản ứng sau đó. Bài viết cho biết các tác nhân AI của một startup bảo mật đã xâm nhập hệ thống của Anthropic trong chưa đầy 12 giờ. Đây là những phát biểu của Graham, không phải thông báo của Anthropic:

• Không phải chỉ mất 12 giờ: Anthropic đã phát hiện các nỗ lực xâm nhập trong vài ngày. Sau đó, nhóm này khai thác hai lỗ hổng của bên thứ ba; một lỗ hổng được họ báo cáo, còn Anthropic tự phát hiện lỗ hổng kia và chặn quyền truy cập.
• Không có gì tiến gần đến các hệ thống nhạy cảm nhất của Anthropic, chẳng hạn như trọng số mô hình hay các cuộc trò chuyện với Claude.
• Đây không phải là một phát hiện thông thường từ chương trình săn lỗi bảo mật: vụ việc liên quan đến việc khai thác bên thứ ba và truy cập dữ liệu. Graham gọi đây là việc bất thường, nằm ngoài phạm vi chính sách miễn trừ trách nhiệm pháp lý của Anthropic, đồng thời cho biết Anthropic biết ơn vì các vấn đề đã được phát hiện.

Graham cũng nêu quan điểm cá nhân rằng đây là hình ảnh của tương lai an ninh mạng: các đối thủ sẽ dùng bất kỳ mô hình và công cụ nào họ có thể, nhắm vào mọi thứ bằng các tác nhân hoạt động suốt ngày đêm và tấn công các thành phần phụ thuộc. Ông cho rằng các mô hình chậm hơn mô hình tiên tiến nhất nửa đến một thế hệ cũng có thể làm được điều này. Ông đề xuất liên tục tự kiểm thử đội đỏ và thiết kế lại hệ thống để giảm mức độ phơi nhiễm, đồng thời dẫn nghiên cứu gần đây của Anthropic về xác minh hình thức và giảm bề mặt tấn công.

Đến ngày 26 tháng 10, bài đăng có 48 điểm và 4 bình luận trên X.