Anthropic의 Logan Graham, Cathedral 침입 사건에 대한 Washington Post 보도 내용 바로잡아

Anthropic Frontier Red Team의 Logan Graham은 10월 26일 X에 Washington Post 기사와 이에 대한 반응을 바로잡는 글을 올렸습니다. 해당 기사에는 보안 스타트업의 AI 에이전트가 12시간도 안 돼 Anthropic 시스템에 침입했다고 적혀 있었습니다. 다음은 Anthropic의 공식 발표가 아닌 Graham의 설명입니다.

• 12시간이 걸린 게 아닙니다. Anthropic은 며칠 동안 이어진 시도들을 포착했습니다. 이후 해당 그룹은 제3자 취약점 두 개를 악용했습니다. 그중 하나는 신고했고, 나머지 하나는 Anthropic이 독자적으로 발견해 접근을 차단했습니다.
• 모델 가중치나 Claude 대화 내용 같은 Anthropic의 가장 민감한 시스템에는 근접하지도 않았습니다.
• 일반적인 버그 바운티 제보 사례가 아니었습니다. 제3자를 악용하고 데이터에 접근하는 일이었습니다. Graham은 이례적이며 Anthropic의 세이프 하버 정책 범위 밖의 일이라고 했고, 문제를 발견해 준 점에는 감사한다고 밝혔습니다.

Graham은 이것이 사이버 보안의 미래라고 보는 개인적인 견해도 밝혔습니다. 적대 세력은 손에 넣을 수 있는 모든 모델과 도구를 활용하고, 24시간 내내 에이전트로 모든 것을 겨냥하며, 종속성을 공격할 것이라는 설명입니다. 또한 최첨단 모델보다 반 세대에서 한 세대 뒤처진 모델도 이런 일을 할 수 있다고 봤습니다. 그는 지속적으로 자체 레드팀 테스트를 하고 시스템을 재설계해 노출을 줄일 것을 제안하며, 형식 검증과 공격 표면 축소에 관한 Anthropic의 최근 연구를 언급했습니다.

10월 26일 기준 이 게시물은 X에서 48포인트와 댓글 4개를 받았습니다.