Anthropic licht toe hoe Claude Duet omgaat met veiligheid, privacy en inloggegevens

Anthropic heeft een beschrijving gepubliceerd van de beschermingsmaatregelen in Claude Duet, zijn agent in onderzoeksvoorvertoning die op een cloudcomputer werkt en blijft draaien nadat de app is gesloten. Hieronder volgt Anthropic's eigen uitleg.

• Goedkeuringen. Voordat Duet een mogelijk gevoelig bericht verstuurt, iets betaalt of verwijdert, toont het de actie, bestemming en inhoud, inclusief alle ontvangers, en wacht het op goedkeuring. Een afzonderlijke geautomatiseerde controle, gebaseerd op de classifier voor de automodus van Claude Code en uitgevoerd buiten het model dat het werk doet, beoordeelt of de actie overeenkomt met de bedoeling van de gebruiker. Effecten verhandelen, geld overmaken tussen rekeningen en toegang krijgen tot het account van iemand anders blijven verboden, zelfs na goedkeuring. Voor betalen, een bestelling verwijderen of een account aanmaken geldt nooit de regel ‘vraag het me niet opnieuw’. Aankopen worden gedaan met een eenmalige kaart uit een wallet zoals Stripe's Link, met een limiet voor de verkoper en het bedrag.
• Gevoelige informatie. Een nieuwe classifier controleert elk bericht en elk geüpload bestand voordat het wordt verstuurd. Inloggegevens, volledige kaart- en bankrekeningnummers en overheidsidentificatienummers worden nooit gedeeld, zelfs niet op verzoek; andere privégegevens, zoals informatie over gezondheid of financiën, worden alleen met toestemming van de gebruiker gedeeld. Een geblokkeerd bericht kan worden herschreven zonder de gevoelige gegevens, zodat het ter goedkeuring kan worden voorgelegd.
• Inloggegevens. Duet ziet nooit wachtwoorden, browsercookies of inlogtokens. Wachtwoorden worden ingevoerd in een formulier in de Claude-app, versleuteld met een eenmalige sleutel en alleen ontsleuteld op de cloudbrowsermachine. Tokens van gekoppelde apps blijven buiten de machine van de agent; een proxy voegt ze toe wanneer verzoeken worden gedaan, zoals bij Claude Managed Agents. Inloggen met 1Password komt eraan. De browser draait in zijn eigen VM en de agent bestuurt hem via een vaste reeks opdrachten.
• Identificatie. De browser van Duet stuurt een afzonderlijke User-Agent-header mee en Anthropic publiceert de IP-adressen van waaruit het browst. Anthropic zegt dat het vóór de lancering contact heeft opgenomen met verschillende grote websites en dat sommige ervoor kozen Duet te blokkeren.
• Tests. Anthropic beschrijft evaluaties met onschuldige, geïnjecteerde en overmatig verleidelijke varianten van routinetaken, red teams en een externe penetratietest met toegang tot de broncode. Een vervolgtest van de cloudbrowser en het inlogformulier is momenteel gaande. Duet valt onder het bugbountyprogramma.

Anthropic zegt dat de beveiligingsmaatregelen soms iets zullen missen of een onschuldig bericht zullen markeren, en dat nog wordt afgestemd hoe vaak Duet om goedkeuring vraagt.