Anthropic, Claude Duet의 안전성·개인정보 보호·자격 증명 처리 방식 공개

Anthropic은 앱을 닫은 뒤에도 계속 실행되며 클라우드 컴퓨터에서 작동하는 연구 프리뷰 에이전트 Claude Duet의 보호 조치에 관한 설명을 공개했습니다. 다음은 Anthropic이 직접 밝힌 내용입니다.

• 승인. 민감할 가능성이 있는 메시지를 보내거나 결제 또는 삭제를 하기 전에 Duet은 작업 내용과 대상, 전송할 내용을 보여 줍니다. 여기에는 모든 수신자가 포함되며, 승인을 기다립니다. 별도의 자동 검사는 Claude Code의 자동 모드 분류기를 기반으로 하며, 작업을 수행하는 모델과 별도로 실행되어 해당 작업이 사용자의 의도에 부합하는지 평가합니다. 승인하더라도 증권 거래, 계좌 간 송금, 다른 사람의 계정 접근은 허용되지 않습니다. 결제, 주문 삭제, 계정 생성에는 "다시 묻지 않기" 규칙이 절대 적용되지 않습니다. 구매에는 Stripe의 Link 같은 지갑에서 발급한 일회용 카드를 사용하며, 결제 가능한 가맹점과 금액이 제한됩니다.
• 민감 정보. 새로운 분류기가 메시지와 파일 업로드를 전송하기 전에 각각 확인합니다. 자격 증명, 전체 카드·은행 계좌 번호, 정부 발급 신분증 번호는 요청이 있더라도 절대 공유하지 않습니다. 건강이나 재정 정보 같은 그 밖의 비공개 정보는 사용자가 동의한 경우에만 공유합니다. 메시지가 차단되면 민감한 내용을 제외해 다시 작성한 뒤 승인을 요청할 수 있습니다.
• 자격 증명. Duet은 비밀번호, 브라우저 쿠키, 로그인 토큰을 절대 보지 않습니다. 비밀번호는 Claude 앱의 양식에 입력되며, 일회용 키로 암호화된 뒤 클라우드 브라우저 머신에서만 복호화됩니다. 연결된 앱의 토큰은 에이전트 머신 외부에 보관됩니다. Claude Managed Agents와 마찬가지로 요청이 이루어질 때 프록시가 토큰을 삽입합니다. 1Password를 통한 로그인 기능도 출시될 예정입니다. 브라우저는 자체 VM에서 실행되며, 에이전트는 정해진 명령 집합을 통해 브라우저를 조작합니다.
• 식별. Duet의 브라우저는 별도의 User-Agent 헤더를 보내며, Anthropic은 브라우저가 접속하는 IP 주소를 공개합니다. Anthropic은 출시 전에 여러 대형 웹사이트에 연락했으며, 일부는 Duet을 차단하기로 했다고 밝혔습니다.
• 테스트. Anthropic은 일상적인 작업에 악의 없는 변형, 프롬프트 주입 변형, 과도한 유혹을 유도하는 변형을 적용한 평가와 레드팀 테스트, 소스 코드 접근 권한을 제공한 외부 침투 테스트를 진행했다고 설명합니다. 클라우드 브라우저와 로그인 양식에 대한 후속 테스트는 진행 중입니다. Duet은 버그 바운티 프로그램의 범위에 포함됩니다.

Anthropic은 보호 조치가 간혹 놓치는 항목이 있거나 무해한 메시지를 차단할 수 있으며, Duet이 승인을 요청하는 빈도는 계속 조정 중이라고 밝혔습니다.