Anthropic détaille la façon dont Claude Duet gère la sécurité, la confidentialité et les identifiants

Anthropic a publié une description des protections de Claude Duet, son agent en préversion de recherche qui fonctionne sur un ordinateur dans le cloud et continue de tourner même après la fermeture de l’application. Voici le récit d’Anthropic.

• Approbations. Avant d’envoyer un message potentiellement sensible, d’effectuer un paiement ou de supprimer quoi que ce soit, Duet affiche l’action, sa destination et son contenu, y compris chaque destinataire, puis attend une approbation. Un contrôle automatisé distinct, fondé sur le classificateur du mode automatique de Claude Code et exécuté hors du modèle qui effectue le travail, évalue si l’action correspond à l’intention de l’utilisateur. La négociation de titres, les transferts d’argent entre comptes et l’accès au compte d’une autre personne restent interdits, même avec approbation. De plus, les paiements, la suppression d’une commande et la création d’un compte ne sont jamais couverts par une règle du type « ne plus me demander ». Les achats utilisent une carte à usage unique provenant d’un portefeuille tel que Link de Stripe, limitée au commerçant et au montant concernés.
• Informations sensibles. Un nouveau classificateur vérifie chaque message et fichier téléversé avant son envoi. Les identifiants, les numéros complets de carte bancaire et de compte bancaire, ainsi que les numéros de pièces d’identité officielles ne sont jamais partagés, même sur demande ; les autres informations privées, comme celles concernant la santé ou les finances, ne sont partagées qu’avec le consentement de l’utilisateur. Un message bloqué peut être reformulé sans les informations sensibles, puis soumis à approbation.
• Identifiants. Duet ne voit jamais les mots de passe, les cookies du navigateur ni les jetons de connexion. Les mots de passe sont saisis dans un formulaire de l’application Claude, chiffrés avec une clé à usage unique, puis déchiffrés uniquement sur la machine qui héberge le navigateur dans le cloud. Les jetons des applications connectées restent hors de la machine de l’agent ; un proxy les insère au fil des requêtes, comme dans Claude Managed Agents. La connexion avec 1Password arrive bientôt. Le navigateur s’exécute dans sa propre VM et l’agent le pilote au moyen d’un ensemble fixe de commandes.
• Identification. Le navigateur de Duet envoie un en-tête User-Agent distinct et Anthropic publie les adresses IP depuis lesquelles il navigue. Anthropic indique avoir contacté plusieurs grands sites Web avant le lancement, et que certains ont choisi de bloquer Duet.
• Tests. Anthropic décrit des évaluations portant sur des variantes de tâches courantes — innocentes, avec injection et particulièrement tentantes —, des exercices d’équipe rouge et un test d’intrusion externe avec accès au code source. Un test complémentaire du navigateur cloud et du formulaire de connexion est en cours. Duet est couvert par son programme de primes aux bogues.

Anthropic indique que ces mesures de protection manqueront parfois quelque chose ou signaleront à tort un message inoffensif, et que la fréquence des demandes d’approbation de Duet est encore en cours de réglage.