Logan Graham, da Anthropic, corrige o relato do Washington Post sobre a invasão do Cathedral

Logan Graham, da Frontier Red Team da Anthropic, publicou em 26 de outubro no X correções à reportagem do Washington Post e às reações a ela. A reportagem dizia que agentes de IA de uma startup de segurança haviam invadido os sistemas da Anthropic em menos de 12 horas. Estas são declarações dele, não um anúncio da Anthropic:

• Não levou 12 horas: a Anthropic observou tentativas durante vários dias. Depois disso, o grupo explorou duas vulnerabilidades de terceiros; uma foi reportada por ele, e a Anthropic encontrou a outra de forma independente e bloqueou o acesso.
• Nada chegou perto dos sistemas mais sensíveis da Anthropic, como os pesos dos modelos ou as conversas do Claude.
• Não foi uma descoberta comum de programa de recompensa por bugs: envolveu explorar terceiros e acessar dados. Ele considera isso incomum e fora do escopo da política de porto seguro da Anthropic, e diz que a Anthropic agradece pela descoberta dos problemas.

Graham também apresenta sua opinião de que esse é o futuro da cibersegurança: adversários usarão quaisquer modelos e ferramentas a que tiverem acesso, mirarão tudo com agentes 24 horas por dia e atacarão dependências. Ele acredita que modelos de meia a uma geração atrás da fronteira tecnológica já conseguem fazer isso. Ele recomenda realizar red teaming continuamente e redesenhar sistemas para reduzir sua exposição, citando pesquisas recentes da Anthropic sobre verificação formal e redução da superfície de ataque.

Até 26 de outubro, a publicação tinha 48 pontos e 4 comentários no X.