Anthropic подробно рассказывает, как Claude Duet обеспечивает безопасность, конфиденциальность и защиту учетных данных

Anthropic опубликовала описание мер защиты в Claude Duet — агенте на стадии исследовательского превью, который работает в облачном компьютере и продолжает работу после закрытия приложения. Ниже — рассказ самой Anthropic.

• Подтверждения. Перед отправкой потенциально конфиденциального сообщения, оплатой или удалением чего-либо Duet показывает действие, адресата и содержимое, включая всех получателей, и ждет подтверждения. Отдельная автоматизированная проверка, созданная на основе классификатора режима auto в Claude Code и работающая вне модели, выполняющей задачу, оценивает, соответствует ли действие намерению пользователя. Торговля ценными бумагами, перевод денег между счетами и доступ к чужому аккаунту остаются запрещенными даже при наличии подтверждения, а оплата, удаление заказа или создание аккаунта никогда не подпадают под правило «больше не спрашивать». Для покупок используется одноразовая карта из кошелька, например Stripe Link, с ограничением по продавцу и сумме.
• Конфиденциальная информация. Новый классификатор проверяет каждое сообщение и загружаемый файл перед отправкой. Учетные данные, полные номера карт и банковских счетов, а также номера государственных удостоверений личности никогда не передаются, даже по запросу; другие личные сведения, например о здоровье или финансах, передаются только с согласия пользователя. Заблокированное сообщение можно переписать без конфиденциальных данных и отправить на подтверждение.
• Учетные данные. Duet никогда не получает доступ к паролям, файлам cookie браузера или токенам входа. Пароли вводятся в форму в приложении Claude, шифруются одноразовым ключом и расшифровываются только на облачном компьютере с браузером. Токены подключенных приложений хранятся за пределами компьютера агента; прокси добавляет их при отправке запросов, как в Claude Managed Agents. Вход через 1Password появится позже. Браузер работает в собственной VM, а агент управляет им с помощью фиксированного набора команд.
• Идентификация. Браузер Duet отправляет отдельный заголовок User-Agent, а Anthropic публикует IP-адреса, с которых он просматривает сайты. По словам Anthropic, перед запуском компания связалась с несколькими крупными сайтами, и некоторые из них решили заблокировать Duet.
• Тестирование. Anthropic рассказывает об оценках на обычных задачах в безобидных, содержащих внедренные инструкции и чрезмерно соблазнительных вариантах, о проверках red team и внешнем тестировании на проникновение с доступом к исходному коду. Сейчас также проводится последующая проверка облачного браузера и формы входа. Duet входит в программу поиска ошибок компании.

Anthropic признает, что защитные меры иногда могут что-то пропустить или пометить безобидное сообщение, а частота запросов Duet на подтверждение все еще настраивается.