Anthropic'ten Logan Graham, Washington Post'un Cathedral'a izinsiz erişim haberini düzeltiyor

Anthropic'in Frontier Red Team ekibinden Logan Graham, 26 Ekim'de X'te Washington Post'un haberine ve habere verilen tepkilere ilişkin düzeltmeler yayımladı. Haberde, bir güvenlik girişiminin yapay zekâ ajanlarının Anthropic'in sistemlerine 12 saatten kısa sürede girdiği belirtilmişti. Bunlar Anthropic'in duyurusu değil, Graham'ın açıklamaları:

• 12 saat sürmedi: Anthropic birkaç gün boyunca girişimlerde bulunulduğunu gördü. Ardından grup, üçüncü taraflardaki iki güvenlik açığından yararlandı; bunlardan birini bildirdi, diğerini ise Anthropic bağımsız olarak bulup erişimi kesti.
• Model ağırlıkları veya Claude konuşmaları gibi Anthropic'in en hassas sistemlerine yaklaşan hiçbir şey olmadı.
• Bu, sıradan bir hata ödülü bulgusu değildi: üçüncü taraflardan yararlanmayı ve verilere erişmeyi içeriyordu. Graham bunu olağandışı ve Anthropic'in güvenli liman politikasının kapsamı dışında olarak nitelendiriyor; yine de sorunların bulunmuş olmasından memnuniyet duyduklarını söylüyor.

Graham ayrıca bunun siber güvenliğin geleceğinin nasıl görüneceğine dair kendi görüşü olduğunu belirtiyor: Saldırganlar ellerindeki her türlü modeli ve aracı kullanacak, günün her saati ajanlarla her şeyi hedef alacak ve bağımlılıklara saldıracak. Ona göre, sınırdaki modellerin yarım ila bir nesil gerisindeki modeller bile bunu yapabilir. Sürekli kendi sistemlerinizi kırmızı ekiple test etmenizi ve sistemleri daha az açıkta kalacak şekilde yeniden tasarlamanızı öneriyor; Anthropic'in biçimsel doğrulama ve saldırı yüzeyini azaltma üzerine yakın tarihli araştırmalarına işaret ediyor.

Gönderi, 26 Ekim itibarıyla X'te 48 puan ve 4 yorum almıştı.