Логан Грэм из Anthropic уточнил изложение Washington Post о проникновении в Cathedral

Логан Грэм из Frontier Red Team компании Anthropic опубликовал 26 октября в X уточнения к статье Washington Post и реакции на неё. В статье говорилось, что ИИ-агенты стартапа в сфере кибербезопасности проникли в системы Anthropic менее чем за 12 часов. Ниже — слова самого Грэма, а не заявление Anthropic:

• На это ушло не 12 часов: Anthropic наблюдала несколько дней попыток. Затем группа воспользовалась двумя уязвимостями в сторонних системах; об одной она сообщила, а вторую Anthropic обнаружила самостоятельно и перекрыла доступ.
• Ничто не затронуло даже близко самые чувствительные системы Anthropic, такие как веса моделей или переписки с Claude.
• Это была не обычная находка в рамках программы вознаграждения за обнаружение ошибок: инцидент включал эксплуатацию уязвимостей сторонних систем и доступ к данным. Грэм назвал такой случай необычным и не подпадающим под политику Anthropic о безопасной гавани, а также сказал, что Anthropic благодарна за обнаружение проблем.

Грэм также высказал собственное мнение: таково будущее кибербезопасности — злоумышленники будут использовать любые доступные им модели и инструменты, круглосуточно атаковать всё с помощью агентов и бить по зависимостям. По его мнению, с этим справятся модели, отстающие от передовых на половину или целое поколение. Он советует постоянно проводить red teaming собственных систем и перестраивать их, чтобы уменьшить поверхность атаки, указывая на недавние исследования Anthropic по формальной верификации и сокращению поверхности атаки.

По состоянию на 26 октября публикация набрала 48 баллов и получила 4 комментария в X.