Como o Claude Duet lida com segurança, privacidade e credenciais

A Anthropic publicou uma descrição das proteções do Claude Duet, seu agente em prévia de pesquisa que opera em um computador na nuvem e continua funcionando depois que o aplicativo é fechado. A seguir, o relato da própria Anthropic.

• Aprovações. Antes de enviar uma mensagem potencialmente sensível, fazer um pagamento ou excluir algo, o Duet mostra a ação, o destino e o conteúdo, incluindo todos os destinatários, e aguarda aprovação. Uma verificação automatizada separada, baseada no classificador do modo automático do Claude Code e executada fora do modelo que realiza a tarefa, avalia se a ação corresponde à intenção do usuário. Negociar títulos, transferir dinheiro entre contas e acessar a conta de outra pessoa continuam proibidos mesmo com aprovação; pagar, excluir um pedido ou criar uma conta nunca são abrangidos por uma regra de “não me pergunte novamente”. As compras usam um cartão de uso único de uma carteira como o Link, da Stripe, limitado ao comerciante e ao valor.
• Informações sensíveis. Um novo classificador verifica cada mensagem e arquivo enviado antes do envio. Credenciais, números completos de cartões e contas bancárias e números de documentos de identidade emitidos pelo governo nunca são compartilhados, mesmo se solicitados; outras informações privadas, como dados de saúde ou financeiros, só são compartilhadas com o consentimento do usuário. Uma mensagem bloqueada pode ser reescrita sem os dados sensíveis para aprovação.
• Credenciais. O Duet nunca vê senhas, cookies do navegador nem tokens de login. As senhas são digitadas em um formulário no aplicativo Claude, criptografadas com uma chave de uso único e descriptografadas somente na máquina do navegador na nuvem. Os tokens de aplicativos conectados ficam fora da máquina do agente; um proxy os insere conforme as solicitações são feitas, como no Claude Managed Agents. O login com 1Password está a caminho. O navegador é executado em sua própria VM, e o agente o controla por meio de um conjunto fixo de comandos.
• Identificação. O navegador do Duet envia um cabeçalho User-Agent próprio, e a Anthropic publica os endereços IP usados para navegar. A Anthropic diz que entrou em contato com vários sites grandes antes do lançamento e que alguns optaram por bloquear o Duet.
• Testes. A Anthropic descreve avaliações com variantes inocentes, injetadas e excessivamente tentadoras de tarefas rotineiras, equipes de red team e um teste de invasão externo com acesso ao código-fonte; um teste posterior do navegador na nuvem e do formulário de login está em andamento. O Duet está incluído no programa de recompensa por bugs da empresa.

A Anthropic diz que as proteções ocasionalmente deixarão algo passar ou sinalizarão uma mensagem inofensiva, e que ainda está ajustando a frequência com que o Duet pede aprovação.