Anthropic, Claude Duet'in güvenlik, gizlilik ve kimlik bilgilerini nasıl ele aldığını açıklıyor

Anthropic, uygulama kapatıldıktan sonra da çalışmayı sürdüren ve buluttaki bir bilgisayarda çalışan araştırma önizlemesi ajanı Claude Duet'teki korumaları anlattı. Aşağıdaki bilgiler Anthropic'in kendi açıklamasıdır.

• Onaylar. Potansiyel olarak hassas bir mesaj göndermeden, ödeme yapmadan veya herhangi bir şeyi silmeden önce Duet; her alıcı dahil olmak üzere işlemi, hedefi ve içeriği gösterir ve onay bekler. Claude Code'un otomatik mod sınıflandırıcısını temel alan ve işi yapan modelin dışında çalışan ayrı bir otomatik denetim, işlemin kullanıcının niyetiyle örtüşüp örtüşmediğini değerlendirir. Menkul kıymet alım satımı, hesaplar arasında para aktarma ve başka birinin hesabına erişme, onay verilse bile yasak olmaya devam eder; ödeme yapma, siparişi silme veya hesap oluşturma işlemleri hiçbir zaman "bir daha sorma" kuralının kapsamına girmez. Alışverişlerde, Stripe'ın Link'i gibi bir cüzdandan alınan ve yalnızca satıcı ile tutar için geçerli olan tek kullanımlık bir kart kullanılır.
• Hassas bilgiler. Yeni bir sınıflandırıcı, gönderilmeden önce her mesajı ve dosya yüklemesini denetler. Kimlik bilgileri, kart ve banka hesaplarının tam numaraları ile resmi kimlik numaraları, istense bile asla paylaşılmaz; sağlık veya mali durum gibi diğer özel bilgiler ise yalnızca kullanıcının izniyle paylaşılır. Engellenen bir mesaj, hassas ayrıntılar çıkarılarak yeniden yazılıp onaya sunulabilir.
• Kimlik bilgileri. Duet parolaları, tarayıcı çerezlerini veya oturum açma belirteçlerini hiçbir zaman görmez. Parolalar Claude uygulamasındaki bir forma yazılır, tek kullanımlık bir anahtarla şifrelenir ve yalnızca bulut tarayıcısının çalıştığı makinede şifresi çözülür. Bağlı uygulamaların belirteçleri ajanın makinesinin dışında tutulur; Claude Managed Agents'ta olduğu gibi, istekler yapılırken bir proxy bu belirteçleri ekler. 1Password ile oturum açma özelliği yakında geliyor. Tarayıcı kendi VM'inde çalışır ve ajan tarayıcıyı sabit bir komut kümesi üzerinden yönetir.
• Kimlik tanımlama. Duet'in tarayıcısı kendine özgü bir User-Agent başlığı gönderir ve Anthropic, tarama yaptığı IP adreslerini yayımlar. Anthropic, kullanıma sunulmadan önce birkaç büyük web sitesiyle iletişime geçtiğini ve bazılarının Duet'i engellemeyi seçtiğini söylüyor.
• Testler. Anthropic; rutin görevlerin zararsız, yönlendirme enjekte edilmiş ve aşırı cazip varyantlarıyla yapılan değerlendirmeleri, kırmızı ekip çalışmalarını ve kaynak koduna erişim sağlanan harici bir sızma testini anlatıyor. Bulut tarayıcısı ve oturum açma formu için ek bir test de sürüyor. Duet, hata ödül programının kapsamına dahil.

Anthropic, korumaların zaman zaman bir şeyi gözden kaçırabileceğini veya zararsız bir mesajı işaretleyebileceğini ve Duet'in ne sıklıkla onay isteyeceğinin hâlâ ayarlandığını söylüyor.