Anthropic erläutert, wie Claude Duet mit Sicherheit, Datenschutz und Zugangsdaten umgeht

Anthropic hat eine Beschreibung der Schutzmaßnahmen in Claude Duet veröffentlicht, seinem Agenten in der Forschungsvorschau, der auf einem Cloud-Computer arbeitet und weiterläuft, nachdem die App geschlossen wurde. Im Folgenden gibt Anthropic seine eigene Darstellung wieder.

• Genehmigungen. Bevor Duet eine potenziell sensible Nachricht sendet, etwas bezahlt oder etwas löscht, zeigt es die Aktion, das Ziel und den Inhalt an – einschließlich aller Empfänger – und wartet auf die Genehmigung. Eine separate automatisierte Prüfung, die auf dem Auto-Mode-Klassifikator von Claude Code basiert und außerhalb des Modells läuft, das die Aufgabe ausführt, beurteilt, ob die Aktion der Absicht des Nutzers entspricht. Wertpapierhandel, Geldtransfers zwischen Konten und der Zugriff auf das Konto einer anderen Person bleiben auch mit Genehmigung tabu. Zahlungen, das Löschen einer Bestellung und das Erstellen eines Kontos sind zudem nie von einer Regel wie „Frag mich nicht noch einmal“ abgedeckt. Für Käufe wird eine einmalig nutzbare Karte aus einem Wallet wie Stripe's Link verwendet, die auf den jeweiligen Händler und Betrag beschränkt ist.
• Sensible Informationen. Ein neuer Klassifikator prüft jede Nachricht und jeden Dateiupload, bevor sie gesendet werden. Zugangsdaten, vollständige Karten- und Bankkontonummern sowie staatliche Identifikationsnummern werden niemals weitergegeben, auch nicht auf Anfrage. Andere private Informationen, etwa zu Gesundheit oder Finanzen, werden nur mit Zustimmung des Nutzers geteilt. Eine blockierte Nachricht kann ohne die sensiblen Angaben neu formuliert und zur Genehmigung vorgelegt werden.
• Zugangsdaten. Duet sieht niemals Passwörter, Browser-Cookies oder Anmeldetoken. Passwörter werden in ein Formular in der Claude-App eingegeben, mit einem einmalig verwendbaren Schlüssel verschlüsselt und nur auf dem Cloud-Browser-Computer entschlüsselt. Token verbundener Apps bleiben außerhalb des Rechners des Agents; ein Proxy fügt sie bei den jeweiligen Anfragen ein, wie bei Claude Managed Agents. Die Anmeldung mit 1Password folgt noch. Der Browser läuft in seiner eigenen VM, und der Agent steuert ihn über einen festgelegten Satz von Befehlen.
• Identifizierung. Duets Browser sendet einen eigenen User-Agent-Header, und Anthropic veröffentlicht die IP-Adressen, von denen aus der Browser Webseiten aufruft. Anthropic zufolge hat das Unternehmen vor dem Start mehrere große Websites kontaktiert; einige entschieden sich dafür, Duet zu blockieren.
• Tests. Anthropic beschreibt Tests mit harmlosen, durch eingeschleuste Anweisungen manipulierten und besonders verlockenden Varianten routinemäßiger Aufgaben, Red Teams sowie einen externen Penetrationstest mit Quellcodezugriff. Ein anschließender Test des Cloud-Browsers und des Anmeldeformulars läuft derzeit. Duet fällt unter das Bug-Bounty-Programm des Unternehmens.

Anthropic sagt, dass die Schutzmaßnahmen gelegentlich etwas übersehen oder eine harmlose Nachricht markieren werden und dass noch abgestimmt wird, wie häufig Duet um Genehmigung bittet.