Anthropic: Logan Graham korrigiert den Bericht der Washington Post zum Eindringen in Cathedral

Logan Graham vom Frontier Red Team von Anthropic veröffentlichte am 26. Oktober auf X Korrekturen zum Bericht der Washington Post und zu den Reaktionen darauf. Darin hieß es, die KI-Agenten eines Sicherheits-Start-ups seien in weniger als 12 Stunden in die Systeme von Anthropic eingedrungen. Dies sind seine Aussagen, keine Ankündigung von Anthropic:

• Es dauerte keine 12 Stunden: Anthropic beobachtete mehrere Tage lang Versuche. Danach nutzte die Gruppe zwei Schwachstellen bei Drittanbietern aus; eine davon meldete sie, die andere entdeckte Anthropic unabhängig davon und sperrte den Zugriff.
• Nichts kam den sensibelsten Systemen von Anthropic auch nur nahe, etwa den Modellgewichten oder Claude-Konversationen.
• Es handelte sich nicht um einen gewöhnlichen Bug-Bounty-Fund: Dazu gehörten das Ausnutzen von Drittanbietern und der Zugriff auf Daten. Graham bezeichnet dies als ungewöhnlich und außerhalb des Geltungsbereichs von Anthropics Safe-Harbor-Richtlinie und sagt, Anthropic sei dankbar, dass die Probleme entdeckt wurden.

Graham äußert auch seine persönliche Einschätzung, dass dies die Zukunft der Cybersicherheit sei: Angreifer würden alle verfügbaren Modelle und Tools einsetzen, rund um die Uhr mit Agenten alles ins Visier nehmen und Abhängigkeiten angreifen. Er glaubt, dass Modelle, die eine halbe bis eine Generation hinter der Spitze zurückliegen, dazu in der Lage sind. Er empfiehlt, sich kontinuierlich selbst Red-Team-Tests zu unterziehen und Systeme so umzugestalten, dass sie weniger Angriffsflächen bieten. Dabei verweist er auf Anthropics jüngste Forschung zu formaler Verifikation und zur Verringerung der Angriffsfläche.

Der Beitrag hatte bis zum 26. Oktober auf X 48 Punkte und 4 Kommentare.