AnthropicのLogan Grahamが、Cathedralへの侵入に関するWashington Postの報道を訂正

AnthropicのFrontier Red Teamに所属するLogan Grahamは10月26日、セキュリティ系スタートアップのAIエージェントが12時間足らずでAnthropicのシステムに侵入したと伝えたWashington Postの記事と、それに対する反応について、Xに訂正を投稿しました。以下はAnthropicの発表ではなく、Graham本人の説明です。

• 侵入に12時間かかったわけではありません。Anthropicは数日間にわたる試行を確認しました。その後、グループは2件のサードパーティーの脆弱性を悪用しました。うち1件はグループから報告され、もう1件はAnthropicが独自に発見してアクセスを遮断しました。
• モデルの重みやClaudeの会話など、Anthropicの最も機密性の高いシステムには近づかれていません。
• 一般的なバグバウンティで見つかった問題ではありません。サードパーティーの悪用とデータへのアクセスを伴うもので、Grahamは異例であり、Anthropicのセーフハーバーポリシーの対象外だと述べています。また、問題が発見されたことには感謝しているとしています。

Grahamはまた、これがサイバーセキュリティの未来の姿だという自身の見解も示しています。攻撃者は利用可能なあらゆるモデルやツールを使い、エージェントであらゆるものを24時間体制で標的にし、依存関係を攻撃するようになるというものです。また、最先端モデルから半世代〜1世代遅れのモデルでも、こうしたことが可能だと考えているとしています。自組織を継続的にレッドチームで検証し、システムの露出を減らすよう再設計することを提案し、Anthropicが最近発表した形式検証と攻撃対象領域の削減に関する研究を挙げています。

10月26日時点で、この投稿はXで48ポイント、4件のコメントを集めていました。