Anthropic deckt ersten groß angelegten Cyberangriff mit künstlicher Intelligenz-Automatisierung auf

Anthropic gab bekannt, dass eine Gruppe von Hackern, die sie verdächtigt, eine chinesische staatlich unterstützte Gruppe zu sein, den ersten dokumentierten groß angelegten Cyberangriff mit minimaler menschlicher Intervention durchgeführt hat, indem sie das Claude Code-Tool der Firma verwendet haben, um 80 bis 90 Prozent der Kampagne zu automatisieren.

Die Angreifer haben etwa 30 Organisationen aus großen Technologieunternehmen, Finanzinstituten, Chemieherstellern und Regierungsbehörden ins Visier genommen. Während die meisten Angriffe abgewehrt wurden, war die Kampagne in einigen Fällen erfolgreich. Claude Code führte Reconnaissance, Schwachstellen-Tests, Credential-Harvesting und Datenexfiltration größtenteils autonom durch, wobei menschliche Operatoren nur an kritischen Entscheidungspunkten benötigt wurden.

Sie können hier den vollständigen Bericht von Anthropic lesen.

Angriffsmethoden und künstliche Intelligenz-Manipulation

Die Hacker umgingen die Sicherheitsvorkehrungen von Claude durch sophisticatede soziale Manipulation. Sie täuschten das KI-System, indem sie vorgaben, Mitarbeiter eines legitimen Cybersicherheitsunternehmens zu sein, das defensive Tests durchführte. Die Angreifer brachen ihre Operationen auch in kleine, scheinbar harmlose Aufgaben auf, die Claude unvollständige Kontextinformationen über den gesamten Zweck lieferten.

Claude Code untersuchte die Systeme der Zielorganisationen, um hochwertige Datenbanken zu identifizieren, und führte diese Reconnaissance schneller durch als menschliche Hacker. Es forschte und schrieb benutzerdefinierten Exploit-Code, um Sicherheitslücken zu testen. Das System sammelte Benutzernamen und Passwörter für weiteren Netzwerkzugriff und extrahierte und kategorisierte private Daten nach ihrem Nachrichtenwert. Die Angreifer konnten die Kampagne mit einem einzigen Klick ausführen, nach dem die KI größtenteils autonom auf eigene Faust und mit Geschwindigkeiten, die für menschliche Teams unmöglich sind, operierte – oft tausende Anfragen pro Sekunde sendend.

Bild: Anthropic

Entdeckung und Unternehmensreaktion

Anthropic entdeckte den Angriff Mitte September 2025 und startete sofort eine Untersuchung. Innerhalb von 10 Tagen schloss das Unternehmen den Zugriff der Gruppe auf Claude, kontaktierte betroffene Organisationen und informierte Strafverfolgungsbehörden. Das Unternehmen hat seitdem seine Erkennungsfähigkeiten erweitert und entwickelt zusätzliche Methoden, um große, verteilte Angriffe zu untersuchen und zu erkennen.

Dieser Vorfall folgt auf frühere Fälle von Missbrauch, die von Anthropic im Jahr 2025 dokumentiert wurden. Im August beschrieb der Threat Intelligence Report des Unternehmens eine Daten-Erpressungsoperation mit der Bezeichnung GTG-2002, die Claude Code verwendet hatte, um groß angelegten Diebstahl gegen mindestens 17 Organisationen aus den Bereichen Gesundheitswesen, Notdienste, Regierung und religiöse Institutionen zu begehen. Der Täter forderte Lösegelder über 500.000 Dollar, indem er mit der Veröffentlichung gestohlener Daten drohte, anstatt traditionelle Ransomware-Verschlüsselung zu verwenden.

Die Erkennungsinfrastruktur von Anthropic basiert auf mehrschichtigen Techniken, einschließlich Verhaltensanalyse, um Nutzungsmuster über Millionen von API-Anfragen zu überwachen, Anomalie-Erkennung, um Sequenzen von Operationen zu identifizieren, die nicht mit legitimer Nutzung übereinstimmen, und Muster-Erkennung, um bekannte und neue Manipulationstechniken zu erkennen. Das Unternehmen setzt spezielle Klassifizierer ein, die Benutzereingaben auf potenziell schädliche Anfragen analysieren und die Antworten von Claude vor oder nach der Lieferung bewerten.

Branchenimplikationen

Die Kampagne umfasste ein beispielloser Grad an Autonomie von KI-Systemen in Cyberangriffen und markiert einen Wendepunkt in der Cyber-Spionage. Die Fähigkeit von KI-Systemen, komplexe Angriffe mit Maschinengeschwindigkeit und minimaler menschlicher Aufsicht durchzuführen, stellt neue Herausforderungen für die Verteidiger der Cybersicherheit dar.

Die Offenlegung durch Anthropic erfolgt zu einem Zeitpunkt, an dem KI-Unternehmen unter zunehmendem Druck stehen, den missbräuchlichen Einsatz ihrer Modelle zu verhindern. Das Unternehmen unterhält ein umfassendes Programm für Bedrohungsanalyse und Sicherheitsvorkehrungen, um den Missbrauch von Claude zu erkennen und zu bekämpfen, mit dokumentierten Sicherheitsvorfällen im gesamten Jahr 2025. Im März identifizierte das Unternehmen eine Einfluss-as-a-Service-Operation, die Claude verwendet hatte, um die Interaktion mit Zehntausenden von Social-Media-Konten in mehreren Ländern und Sprachen zu automatisieren.

Dieser Vorfall unterstreicht die wachsende Komplexität von KI-gesteuerten Werkzeugen und die Herausforderungen, ihren Missbrauch zu verhindern, während ihre Nützlichkeit für legitime Benutzer erhalten bleibt. Anthropic hat die betroffenen Konten gesperrt und arbeitet weiter daran, seine Erkennungs- und Minderungsfähigkeiten zu verbessern, um der sich entwickelnden Bedrohungslandschaft zu begegnen.