Logan Graham, de Anthropic, corrige la versión de The Washington Post sobre la intrusión en Cathedral

Logan Graham, de Frontier Red Team de Anthropic, publicó el 26 de octubre en X algunas correcciones a la noticia de The Washington Post y a las reacciones que generó. La noticia afirmaba que los agentes de IA de una startup de seguridad habían accedido a los sistemas de Anthropic en menos de 12 horas. Estas son sus declaraciones, no un anuncio de Anthropic:

• No tardaron 12 horas: Anthropic observó varios días de intentos. Después, el grupo aprovechó dos vulnerabilidades de terceros; una fue notificada por el grupo, y Anthropic descubrió la otra por su cuenta y cortó el acceso.
• No se acercaron a los sistemas más sensibles de Anthropic, como los pesos de los modelos o las conversaciones de Claude.
• No fue un hallazgo corriente de un programa de recompensas por errores: implicó explotar sistemas de terceros y acceder a datos. Graham lo califica de inusual y fuera del alcance de la política de puerto seguro de Anthropic, y afirma que Anthropic agradece que se detectaran los problemas.

Graham también ofrece su opinión personal: esto es lo que depara el futuro de la ciberseguridad. Los adversarios usarán los modelos y las herramientas que tengan a su alcance, atacarán todo con agentes las 24 horas del día y apuntarán a las dependencias. Cree que los modelos situados entre media generación y una generación por detrás de los más avanzados pueden hacerlo. Recomienda someterse continuamente a pruebas de equipo rojo y rediseñar los sistemas para reducir su exposición, y señala las investigaciones recientes de Anthropic sobre verificación formal y reducción de la superficie de ataque.

La publicación tenía 48 puntos y 4 comentarios en X al 26 de octubre.