Claude Duetが安全性、プライバシー、認証情報をどう扱うかをAnthropicが詳述

Anthropicは、Claude Duetの保護措置について説明を公開しました。Claude Duetは、クラウド上のコンピューターで動作し、アプリを閉じた後も実行を続ける研究プレビュー版のエージェントです。以下はAnthropic自身による説明です。

• 承認。 機密性の高い可能性があるメッセージの送信、支払い、削除を行う前に、Duetは操作内容、送信先、メッセージ本文（すべての宛先を含む）を表示し、承認を待ちます。作業を行うモデルの外部で動作する別の自動チェック機能は、Claude Codeのauto mode classifierを基盤とし、その操作がユーザーの意図に沿っているかを判定します。証券取引、口座間の送金、他人のアカウントへのアクセスは、承認があっても引き続き禁止されています。また、支払い、注文の削除、アカウントの作成は、いずれも「次回から確認しない」というルールの対象にはなりません。購入には、StripeのLinkなどのウォレットから発行される使い捨てカードを使用し、利用先と金額が制限されます。
• 機密情報。 新しい分類器が、各メッセージとファイルのアップロードについて、送信前にチェックします。認証情報、カード番号や銀行口座番号の全桁、政府発行のID番号は、求められても共有されません。健康や財務に関する情報など、その他の個人情報は、ユーザーの同意がある場合にのみ共有されます。ブロックされたメッセージは、機密情報を除いて書き直し、承認を求めることができます。
• 認証情報。 Duetがパスワード、ブラウザーのCookie、サインイントークンを見ることはありません。パスワードはClaudeアプリ内のフォームに入力され、使い捨て鍵で暗号化された後、クラウドブラウザーのマシン上でのみ復号されます。連携アプリのトークンはエージェントのマシン外に保持され、Claude Managed Agentsと同様に、リクエストの際にプロキシがトークンを挿入します。1Passwordによるサインインにも対応予定です。ブラウザーは専用のVMで動作し、エージェントは所定のコマンド群を使って操作します。
• 識別。 Duetのブラウザーは固有のUser-Agentヘッダーを送信し、Anthropicはブラウジングに使用するIPアドレスを公開しています。Anthropicによると、ローンチ前に複数の大手ウェブサイトに連絡し、そのうち一部はDuetをブロックすることを選びました。
• テスト。 Anthropicによると、評価には、通常のタスクについて、問題のないケース、プロンプトインジェクションがあるケース、過度に誘惑的なケースを用いたテスト、レッドチームによるテスト、ソースコードへのアクセスを伴う外部の侵入テストが含まれます。クラウドブラウザーとサインインフォームの追加テストも進行中です。Duetは同社のバグ報奨金プログラムの対象です。

Anthropicは、安全対策が何かを見落としたり、無害なメッセージに誤ってフラグを立てたりすることは時折あり、Duetがどの程度の頻度で承認を求めるかは、なお調整中だとしています。