Logan Graham z Anthropic koryguje relację „The Washington Post” o włamaniu do Cathedral

Logan Graham z Frontier Red Team Anthropic opublikował 26 października na X sprostowanie dotyczące artykułu „The Washington Post” i reakcji na niego. Według artykułu agenci AI startupu zajmującego się bezpieczeństwem dostali się do systemów Anthropic w mniej niż 12 godzin. Oto jego wypowiedzi, a nie komunikat Anthropic:

• Nie trwało to 12 godzin: Anthropic obserwowało próby przez kilka dni. Następnie grupa wykorzystała dwie luki w zabezpieczeniach u podmiotów zewnętrznych; jedną zgłosiła, a drugą Anthropic wykryło niezależnie i odcięło dostęp.
• Nic nie zbliżyło się do najbardziej wrażliwych systemów Anthropic, takich jak wagi modeli czy rozmowy z Claude.
• Nie było to zwykłe zgłoszenie w ramach programu bug bounty: wiązało się z wykorzystywaniem luk u podmiotów zewnętrznych i dostępem do danych. Graham określa to jako nietypowe działanie, wykraczające poza zakres polityki Anthropic dotyczącej bezpiecznej przystani, i mówi, że Anthropic jest wdzięczne za wykrycie problemów.

Graham przedstawia też własną opinię, że tak będzie wyglądać przyszłość cyberbezpieczeństwa: przeciwnicy będą korzystać z dowolnych modeli i narzędzi, przez całą dobę atakować wszystko za pomocą agentów oraz uderzać w zależności. Uważa, że modele oddalone o pół do jednej generacji od modeli z czołówki będą w stanie to robić. Sugeruje nieustanne przeprowadzanie red teamingu własnych systemów i przebudowywanie ich tak, by były mniej narażone, wskazując na niedawne badania Anthropic dotyczące weryfikacji formalnej i ograniczania powierzchni ataku.

Do 26 października wpis miał na X 48 punktów i 4 komentarze.