Anthropic's Logan Graham corrigeert het verslag van The Washington Post over de inbraak bij Cathedral

Logan Graham van Anthropic's Frontier Red Team plaatste op 26 oktober op X correcties op het verhaal van The Washington Post en de reacties daarop. Daarin stond dat de AI-agents van een beveiligingsstartup binnen 12 uur waren binnengedrongen in de systemen van Anthropic. Dit zijn zijn uitspraken, geen aankondiging van Anthropic:

• Het duurde geen 12 uur: Anthropic zag meerdere dagen aan pogingen. Daarna maakte de groep misbruik van twee kwetsbaarheden bij derden; één daarvan meldde de groep, en Anthropic ontdekte de andere zelfstandig en sloot de toegang af.
• Niets kwam in de buurt van Anthropic's meest gevoelige systemen, zoals modelgewichten of Claude-gesprekken.
• Het ging niet om een gewone bugbounty-vondst: er werden kwetsbaarheden bij derden misbruikt en gegevens ingezien. Graham noemt dit ongebruikelijk en buiten de reikwijdte van Anthropic's safe-harborbeleid, en zegt dat Anthropic dankbaar is dat de problemen zijn ontdekt.

Graham geeft ook zijn persoonlijke visie: zo ziet de toekomst van cybersecurity eruit. Tegenstanders zullen alle modellen en tools gebruiken die ze kunnen bemachtigen, alles dag en nacht met agents aanvallen en zich op afhankelijkheden richten. Hij denkt dat modellen die een halve tot één generatie achterlopen op de frontier dit al kunnen. Hij raadt aan jezelf voortdurend red-teamtests te laten ondergaan en systemen opnieuw te ontwerpen om ze minder kwetsbaar te maken, en verwijst daarbij naar recent onderzoek van Anthropic naar formele verificatie en het verkleinen van het aanvalsoppervlak.

Het bericht had op 26 oktober 48 punten en 4 reacties op X.