Logan Graham, d’Anthropic, rectifie le récit du Washington Post sur l’intrusion dans Cathedral

Le 26 octobre, Logan Graham, de la Frontier Red Team d’Anthropic, a publié sur X des rectifications concernant l’article du Washington Post et les réactions qu’il a suscitées. Selon cet article, les agents d’IA d’une start-up de cybersécurité auraient pénétré les systèmes d’Anthropic en moins de 12 heures. Voici ses déclarations, qui ne constituent pas une annonce d’Anthropic :

• Cela n’a pas pris 12 heures : Anthropic a observé plusieurs jours de tentatives. Le groupe a ensuite exploité deux vulnérabilités chez des tiers ; l’une a été signalée par le groupe, et Anthropic a découvert l’autre indépendamment, puis a coupé l’accès.
• Rien ne s’est approché des systèmes les plus sensibles d’Anthropic, comme les poids des modèles ou les conversations avec Claude.
• Il ne s’agissait pas d’une découverte ordinaire dans le cadre d’un programme de bug bounty : l’affaire impliquait l’exploitation de tiers et l’accès à des données. Graham estime que c’est inhabituel et hors du champ d’application de la politique de sphère de sécurité d’Anthropic, et précise qu’Anthropic est reconnaissante que ces problèmes aient été découverts.

Graham exprime aussi son avis : voilà à quoi ressemblera l’avenir de la cybersécurité. Les adversaires utiliseront tous les modèles et outils à leur disposition, cibleront tout en permanence avec des agents et s’en prendront aux dépendances. Il pense que des modèles ayant une demi-génération à une génération de retard sur la frontière technologique peuvent le faire. Il recommande de mener en continu des tests d’intrusion sur ses propres systèmes et de les repenser pour réduire leur exposition, en citant les recherches récentes d’Anthropic sur la vérification formelle et la réduction de la surface d’attaque.

Au 26 octobre, la publication avait recueilli 48 points et 4 commentaires sur X.