Anthropic के Logan Graham ने Cathedral में घुसपैठ के बारे में Washington Post की रिपोर्ट को सुधारा

Anthropic की Frontier Red Team के Logan Graham ने 26 अक्टूबर को X पर Washington Post की खबर और उस पर आई प्रतिक्रियाओं के बारे में सुधार पोस्ट किए। खबर में कहा गया था कि एक सुरक्षा स्टार्टअप के AI एजेंट 12 घंटे से भी कम समय में Anthropic के सिस्टम में घुस गए। ये उनके बयान हैं, Anthropic की घोषणा नहीं:

• इसमें 12 घंटे नहीं लगे: Anthropic ने कई दिनों तक प्रयास होते देखे। इसके बाद समूह ने तीसरे पक्ष की दो कमजोरियों का फायदा उठाया; इनमें से एक की उसने रिपोर्ट की, जबकि दूसरी का पता Anthropic ने स्वतंत्र रूप से लगाया और पहुंच रोक दी।
• Anthropic के सबसे संवेदनशील सिस्टम, जैसे मॉडल वेट या Claude की बातचीत, इनके करीब भी कुछ नहीं पहुंचा।
• यह सामान्य बग-बाउंटी खोज नहीं थी: इसमें तीसरे पक्षों का शोषण और डेटा तक पहुंच शामिल थी। वे इसे असामान्य और Anthropic की सेफ-हार्बर नीति के दायरे से बाहर बताते हैं, और कहते हैं कि Anthropic इन मुद्दों के सामने आने के लिए आभारी है।

Graham अपनी राय भी देते हैं कि साइबर सुरक्षा का भविष्य ऐसा ही दिखेगा: हमलावर उपलब्ध किसी भी मॉडल और टूल का इस्तेमाल करेंगे, चौबीसों घंटे एजेंटों के साथ हर चीज़ को निशाना बनाएंगे और निर्भरताओं पर हमला करेंगे। उनका मानना है कि फ्रंटियर से आधी से एक पीढ़ी पीछे के मॉडल भी ऐसा कर सकते हैं। वे लगातार खुद की रेड-टीमिंग करने और सिस्टम को कम जोखिम वाला बनाने के लिए नए सिरे से डिज़ाइन करने का सुझाव देते हैं। इसके लिए वे औपचारिक सत्यापन और अटैक-सर्फ़ेस में कमी पर Anthropic के हालिया शोध का हवाला देते हैं।

26 अक्टूबर तक X पर इस पोस्ट को 48 पॉइंट और 4 टिप्पणियां मिली थीं।