Vordenker

Was wirklich während eines AI-bewaffneten Angriffs passiert?

mm
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
A modern cybersecurity SOC control room at night, showing analysts at glowing consoles overlooking a massive curved screen that visualizes a complex, adaptive red digital attack rapidly navigating a blue network grid.

Seit Jahren hat die Cybersicherheitsbranche über AI-Angriffe in der Zukunft gesprochen. Wir haben uns vorstellbare, superintelligente Super-Hacker vorgestellt, die Firewalls mit außerirdischer Logik auseinandernehmen. Die Realität, wie wir sie in unseren Labors bei Simbian entdecken, ist weit weniger kinematografisch, aber weit gefährlicher.

Die Bedrohung besteht nicht darin, dass AI supermenschlich intelligent ist. Es besteht darin, dass AI expertenlevelmäßige Ausdauer skalierbar, instant und unendlich variabel macht. Es verwandelt die “marginale Verbesserung” eines Skripts in eine Lawine von Entropie, die kein menschliches SOC-Team bewältigen kann.

Hier ist, was wirklich passiert, wenn die Maschine die Tastatur übernimmt.

Phase 1: Reconnaissance – Die Kontext-Ära

In der alten Welt war die Reconnaissance “Spray and Pray”. Angreifer kauften E-Mail-Listen und schickten generische Vorlagen, in der Hoffnung auf eine 0,1%-ige Klickraten.

Bei einem AI-bewaffneten Angriff ist die Reconnaissance “Spear and Clone”. Generative Agenten können jetzt die digitale Fußspur eines Ziels – LinkedIn-Beiträge, kürzliche Tweets, Nachrichtenmeldungen und sogar öffentliche Code-Commits – in Sekunden analysieren, um ein psychologisches Profil zu erstellen. Sie schreiben nicht nur Phishing-E-Mails; sie schreiben Kontext.

Ein AI-Agent sendet keine generische “Passwort zurücksetzen”-Link. Es sieht, dass Sie gerade Code in ein bestimmtes GitHub-Repository committet haben, um 2:00 Uhr morgens. Es sendet Ihnen eine Slack-Benachrichtigung von einem “Senior Dev”, der sich über einen Merge-Konflikt in diesem bestimmten Repository beschwert, mit einem Link, um es zu “beheben”. Die Dringlichkeit ist hergestellt, aber der Kontext ist real.

Forschungserkenntnis: In unseren Simulationen haben wir diesen Wandel modelliert, indem wir Benutzerverhaltensvariablen basierend auf der Kontextqualität angepasst haben. Als wir von generischem Phishing zu kontextbewussten Ködern (mit Verweis auf spezifische interne Projektnamen) wechselten, stiegen die simulierten Klickraten von <2% auf über 20%. In einem 5.000-Mitarbeiter-Unternehmen ist das der Unterschied zwischen einer Lappalie und einer Flut.

AI-Cybersicherheitsforschungsgrafik

Phase 2: Execution – Der polymorphe Albtraum

Hier bricht die Verteidigung wirklich zusammen. Traditionell, wenn ein Angreifer ein schädliches Skript (z.B. eine Mimikatz-Variante) schrieb, fanden Sicherheitsanbieter es, hashten es und blockierten es. Die “Signatur” war der Schild.

Generative KI zerstört das Konzept einer statischen Signatur. Ein AI-bewaffneter Angreifer verwendet kein statisches Werkzeug. Er verwendet einen Agenten, der das Werkzeug am Ziel schreibt. Wenn der Agent einen EDR-Sensor (Endpoint Detection and Response) erkennt, fragt er seinen LLM-Backend: “Schreibe diese Anmeldeinformationen-Abfragemethode so um, dass sie diese spezifischen API-Hooks vermeidet. Benenne alle Variablen um. Ändere den Kontrollfluss.”

Die Absicht des Codes bleibt identisch. Die Syntax ändert sich vollständig. Für ein regelbasiertes Verteidigungssystem sieht es aus wie ein brandneues, noch nie gesehenes Programm.

Forschungserkenntnis: Wir nennen diese “Mutant-Angriffe.” In unserer Forschung haben wir eine Standard-Anmeldeinformationen-Abfragemethode genommen und mit einem LLM 500 funktionale Variationen generiert. Während Standard-Erkennungstools 95% der ursprünglichen Skripte erkannten, sanken die Erkennungsraten auf ~25% für die mutierten Versionen. Die Maschine wurde nicht intelligenter; sie wurde nur lauter. Und in der Sicherheit ist Lärm die ultimative Tarnung.

Phase 3: Laterale Bewegung – Die Geschwindigkeit der Abduktion

Sobald man innerhalb ist, wird die Geschwindigkeit der menschlichen Reaktion irrelevant. Ein menschlicher Eindringling bewegt sich vorsichtig, überprüft Protokolle, tippt Befehle und pausiert, um nachzudenken. Er könnte in Stunden zu einem neuen Server wechseln.

Ein AI-Agent wechselt in Millisekunden.

Aber die Geschwindigkeit ist nicht der einzige Faktor; es ist die abduktive Argumentation, oder die Inferenz zur besten Erklärung. AI ist erstaunlich gut darin, die Struktur eines Netzwerks anhand von Fragmenten zu “erraten”. Wenn es einen Server mit dem Namen US-WEST-SQL-01 sieht, schließt es die Existenz von US-EAST-SQL-01 und US-WEST-BAK-01. Es testet diese Hypothesen sofort über Tausende interne IP-Adressen.

Es muss nicht perfekt sein. Es muss nur schnell sein. Während der SOC-Analyst noch die anfängliche Phishing-Warnung triagiert, hat die AI bereits die Domänencontroller kartiert, die Backup-Server identifiziert und die Kronjuwelen des Unternehmens exfiltriert.

Phase 4: Der Einfluss – Die Entropie-Bombe

Das ultimative Ziel eines AI-bewaffneten Angriffs ist nicht immer Heimlichkeit. Manchmal ist es Chaos. Wir betreten eine Ära von High-Entropy-Angriffen. Ein AI-Agent kann 10.000 realistisch aussehende Warnungen gleichzeitig generieren – fehlgeschlagene Anmeldungen, Portscans, Dekoy-Malware-Ausführungen.

Dies ist die “Entropie-Bombe”. Sie flutet den SOC mit so vielen Signalen, dass die Analysten unter kognitiver Überlastung leiden. Sie kämpfen gegen die Dekoys, während der echte Angriff leise im Hintergrund passiert. Die Herausforderung für den Verteidiger ändert sich von “die Nadel im Heuhaufen finden” zu “die Nadel in einem Haufen von Nadeln finden”.

Gegen Feuer mit Feuer kämpfen

Die Lektion aus unserer Forschung ist deutlich: Man kann nicht mit einer Maschine gegen eine Maschine kämpfen, wenn man eine Ticket-Warteschlange hat.

Wenn der Angreifer sein Code in Sekunden iterieren kann und Ihre Verteidigung einen Menschen benötigt, um eine Erkennungsregel in Stunden zu schreiben, haben Sie bereits verloren. Die Asymmetrie ist mathematisch. Der einzige Weg, um einen AI-bewaffneten Angriff zu überleben, ist, einen AI-Verteidiger zu haben, der mit der gleichen Geschwindigkeit operiert – Argumentation, Verifizierung und Blockierung schneller als der Angreifer mutieren kann.

Der Angriff hat sich weiterentwickelt. Die Verteidigung muss jetzt auch.

32 5 Tage
Von der Verwundbarkeit zum Ausnutzen

12% 54%
Klickraten für AI-gestützte Phishing-E-Mails

Tage 1 Stunde
Von der anfänglichen Kompromittierung bis zur Exfiltration für die Top 20%

Tage 48 Minuten
Median- Ausbruchzeit (Laterale Bewegung)

Die neue Realität von AI-bewaffneten Sicherheitsangriffen

Alankrit Chona ist Chief Technology Officer und Mitgründer von Simbian, wo er die Ingenieurarbeit für die Simbian-Plattform leitet. Er hat bahnbrechende Rollen bei der Entwicklung von skalierbaren, robusten Systemen bei frühen Unternehmen wie Spotnana und Afterpay sowie im großen Maßstab bei Twitter gespielt.