Anthropic explica cómo Claude Duet gestiona la seguridad, la privacidad y las credenciales

Anthropic ha publicado una descripción de las protecciones de Claude Duet, su agente en vista previa de investigación que trabaja en un ordenador en la nube y sigue funcionando después de cerrar la aplicación. A continuación, el relato de Anthropic.

• Aprobaciones. Antes de enviar un mensaje potencialmente sensible, pagar o eliminar algo, Duet muestra la acción, el destino y el contenido, incluidos todos los destinatarios, y espera a que se apruebe. Un control automatizado independiente, basado en el clasificador del modo automático de Claude Code y ejecutado fuera del modelo que realiza el trabajo, evalúa si la acción coincide con la intención del usuario. Operar con valores, transferir dinero entre cuentas y acceder a la cuenta de otra persona siguen estando prohibidos incluso con aprobación; además, pagar, eliminar un pedido o crear una cuenta nunca quedan cubiertos por una regla de «no me vuelvas a preguntar». Las compras se hacen con una tarjeta de un solo uso de un monedero como Link de Stripe, limitada al comercio y al importe.
• Información confidencial. Un nuevo clasificador revisa cada mensaje y archivo subido antes de que se envíe. Las credenciales, los números completos de tarjetas y cuentas bancarias y los números de documentos de identidad oficiales nunca se comparten, ni siquiera si se solicita; otra información privada, como la relacionada con la salud o las finanzas, solo se comparte con el consentimiento del usuario. Si se bloquea un mensaje, se puede reescribir sin los datos sensibles para someterlo a aprobación.
• Credenciales. Duet nunca ve contraseñas, cookies del navegador ni tokens de inicio de sesión. Las contraseñas se escriben en un formulario de la aplicación Claude, se cifran con una clave de un solo uso y solo se descifran en el equipo del navegador en la nube. Los tokens de las aplicaciones conectadas permanecen fuera del equipo del agente; un proxy los inserta cuando se realizan solicitudes, como en Claude Managed Agents. Próximamente habrá inicio de sesión con 1Password. El navegador se ejecuta en su propia VM y el agente lo controla mediante un conjunto fijo de comandos.
• Identificación. El navegador de Duet envía un encabezado User-Agent específico y Anthropic publica las direcciones IP desde las que navega. Anthropic afirma que se puso en contacto con varios sitios web grandes antes del lanzamiento y que algunos optaron por bloquear Duet.
• Pruebas. Anthropic describe evaluaciones con variantes inocuas, manipuladas y demasiado tentadoras de tareas rutinarias, equipos rojos y una prueba de penetración externa con acceso al código fuente; está en curso una prueba de seguimiento del navegador en la nube y el formulario de inicio de sesión. Duet está incluido en su programa de recompensas por errores.

Anthropic afirma que las medidas de protección a veces pasarán algo por alto o señalarán un mensaje inocuo, y que todavía está ajustando la frecuencia con la que Duet solicita aprobación.