Anthropic opisuje, jak Claude Duet dba o bezpieczeństwo, prywatność i dane logowania

Anthropic opublikowało opis zabezpieczeń w Claude Duet — agencie w wersji research preview, który działa na komputerze w chmurze i pracuje dalej po zamknięciu aplikacji. Poniżej przedstawiamy relację samego Anthropic.

• Zatwierdzanie działań. Zanim Duet wyśle potencjalnie wrażliwą wiadomość, dokona płatności lub coś usunie, pokazuje działanie, adresata i treść — w tym wszystkich odbiorców — i czeka na zatwierdzenie. Osobny automatyczny mechanizm sprawdzający, oparty na klasyfikatorze trybu auto w Claude Code i działający poza modelem wykonującym zadanie, ocenia, czy działanie jest zgodne z intencją użytkownika. Handel papierami wartościowymi, przelewanie pieniędzy między kontami i uzyskiwanie dostępu do cudzego konta są niedozwolone nawet po zatwierdzeniu. Płatności, usuwanie zamówień i tworzenie kont nigdy nie są objęte zasadą „nie pytaj mnie ponownie”. Zakupy opierają się na jednorazowej karcie z portfela takiego jak Stripe Link, z limitem określającym sprzedawcę i kwotę.
• Wrażliwe informacje. Nowy klasyfikator sprawdza każdą wiadomość i przesyłany plik, zanim zostaną wysłane. Dane logowania, pełne numery kart i rachunków bankowych oraz numery dokumentów tożsamości wydanych przez rząd nigdy nie są udostępniane, nawet na prośbę użytkownika. Inne prywatne informacje, takie jak dane o zdrowiu lub finansach, są udostępniane wyłącznie za zgodą użytkownika. Zablokowaną wiadomość można przeredagować tak, by usunąć z niej wrażliwe dane, a następnie przedstawić do zatwierdzenia.
• Dane logowania. Duet nigdy nie widzi haseł, plików cookie przeglądarki ani tokenów logowania. Hasła wpisuje się w formularzu w aplikacji Claude; są szyfrowane jednorazowym kluczem i odszyfrowywane wyłącznie na komputerze obsługującym przeglądarkę w chmurze. Tokeny połączonych aplikacji pozostają poza maszyną agenta; serwer proxy wstawia je podczas wysyłania żądań, tak jak w Claude Managed Agents. Logowanie za pomocą 1Password pojawi się w przyszłości. Przeglądarka działa we własnej maszynie wirtualnej (VM), a agent steruje nią za pomocą ściśle określonego zestawu poleceń.
• Identyfikacja. Przeglądarka Duet wysyła odrębny nagłówek User-Agent, a Anthropic publikuje adresy IP, z których korzysta podczas przeglądania stron. Anthropic twierdzi, że przed premierą skontaktowało się z kilkoma dużymi serwisami i że niektóre zdecydowały się zablokować Duet.
• Testy. Anthropic opisuje testy z wariantami rutynowych zadań: nieszkodliwymi, zawierającymi wstrzyknięte instrukcje oraz nadmiernie kuszącymi. Przeprowadzono też testy red teamu i zewnętrzny test penetracyjny z dostępem do kodu źródłowego. Trwa kolejny test przeglądarki w chmurze i formularza logowania. Duet jest objęty programem bug bounty Anthropic.

Anthropic twierdzi, że zabezpieczenia czasami coś przeoczą lub oznaczą nieszkodliwą wiadomość, a częstotliwość, z jaką Duet prosi o zatwierdzenie, jest nadal dostrajana.