Logan Graham dari Anthropic mengoreksi pemberitaan Washington Post tentang penyusupan Cathedral

Logan Graham dari Frontier Red Team Anthropic mengunggah koreksi terhadap artikel Washington Post dan tanggapan atasnya di X pada 26 Oktober. Artikel itu menyebut agen AI milik sebuah startup keamanan berhasil masuk ke sistem Anthropic dalam waktu kurang dari 12 jam. Berikut adalah pernyataannya, bukan pengumuman Anthropic:

• Prosesnya tidak memakan waktu 12 jam: Anthropic melihat upaya-upaya selama beberapa hari. Setelah itu, kelompok tersebut mengeksploitasi dua kerentanan pihak ketiga; satu dilaporkan oleh kelompok itu, dan Anthropic menemukan yang lainnya secara independen lalu memutus akses.
• Tidak ada yang berhasil mendekati sistem Anthropic yang paling sensitif, seperti bobot model atau percakapan Claude.
• Ini bukan temuan bug bounty biasa: kasus ini melibatkan eksploitasi pihak ketiga dan akses ke data. Ia menyebutnya tidak lazim dan di luar cakupan kebijakan safe harbor Anthropic, serta mengatakan bahwa Anthropic berterima kasih karena masalah tersebut ditemukan.

Graham juga menyampaikan pandangannya sendiri bahwa inilah gambaran masa depan keamanan siber: pihak lawan akan menggunakan model dan alat apa pun yang tersedia bagi mereka, menargetkan semuanya dengan agen sepanjang waktu, dan menyerang dependensi. Menurutnya, model yang tertinggal setengah hingga satu generasi dari model terdepan pun dapat melakukan hal ini. Ia menyarankan untuk terus-menerus melakukan red-teaming terhadap sistem sendiri dan merancang ulang sistem agar tidak terlalu terekspos, seraya menunjuk pada riset terbaru Anthropic tentang verifikasi formal dan pengurangan permukaan serangan.

Hingga 26 Oktober, unggahan itu mendapat 48 poin dan 4 komentar di X.