Logan Graham di Anthropic corregge il resoconto del Washington Post sull’intrusione in Cathedral

Il 26 ottobre, Logan Graham dell’Anthropic Frontier Red Team ha pubblicato su X alcune precisazioni sull’articolo del Washington Post e sulle reazioni che ha suscitato. L’articolo affermava che gli agenti di IA di una startup di sicurezza erano riusciti a entrare nei sistemi di Anthropic in meno di 12 ore. Queste sono le sue dichiarazioni, non un annuncio di Anthropic:

• Non ci sono volute 12 ore: Anthropic ha rilevato tentativi protrattisi per diversi giorni. In seguito, il gruppo ha sfruttato due vulnerabilità di terze parti; una è stata segnalata dal gruppo, mentre Anthropic ha individuato autonomamente l’altra e ha interrotto l’accesso.
• Nulla si è avvicinato ai sistemi più sensibili di Anthropic, come i pesi dei modelli o le conversazioni con Claude.
• Non si è trattato di una normale segnalazione nell’ambito di un programma bug bounty: l’episodio ha comportato lo sfruttamento di terze parti e l’accesso a dati. Graham lo definisce insolito e al di fuori dell’ambito della policy di safe harbor di Anthropic, e afferma che Anthropic è grata che i problemi siano stati individuati.

Graham esprime anche la sua opinione sul futuro della cybersicurezza: gli avversari useranno qualsiasi modello e strumento abbiano a disposizione, prenderanno di mira ogni cosa con agenti attivi 24 ore su 24 e colpiranno le dipendenze. A suo parere, i modelli che si trovano da mezza a una generazione indietro rispetto ai modelli di frontiera sono già in grado di farlo. Suggerisce di sottoporsi continuamente a red teaming e di riprogettare i sistemi per ridurne l’esposizione, citando le recenti ricerche di Anthropic sulla verifica formale e sulla riduzione della superficie di attacco.

Al 26 ottobre, il post aveva 48 punti e 4 commenti su X.