Wie Kriminelle den AI-Wettlauf im Bereich Cyberkriminalität und Betrug gewinnen, bevor Unternehmen überhaupt starten

In einer Ära, in der künstliche Intelligenz (KI) Branchen in einem beispiellosen Tempo verändert, ist die dunkle Seite dieser technologischen Revolution gleichermaßen beunruhigend. Während Unternehmen versuchen, das Potenzial der KI zu nutzen, nutzen Cyberkriminelle diese Fortschritte, um die Dynamik der Cyberkriminalität und des Betrugs zu verändern.

Die Veränderung der Ökonomie der Cyberkriminalität und des Betrugs

Cyberkriminelle nutzen die gleichen KI-Modelle und -Technologien, die Unternehmen einsetzen, oft innerhalb weniger Tage nach ihrer Veröffentlichung. Eines der frühesten Beispiele für einen solchen Missbrauch war die Automatisierung der CAPTCHA-Lösung mit ChatGPT-1, die zeigte, wie schnell generative Modelle grundlegende Sicherheitskontrollen umgehen können.

Seitdem hat jede bedeutende Durchbruch in der generativen KI schnell von kriminellen Anpassungen gefolgt, einschließlich der Erstellung von Deepfake-Stimmen und -Videos, die fast sofort auf Darknet-Plattformen erscheinen. Dieser beschleunigte Zyklus ermöglicht es Betrügern, sophisticatede Technologien zu nutzen, um überzeugende Betrügereien zu erstellen, die traditionelle Sicherheitsmaßnahmen untergraben.

Im ersten Quartal 2025 alone verursachte Deepfake-gestützter Betrug angeblich über $200 Millionen an finanziellen Verlusten. Die Profitabilität der Cyberkriminalität ist in die Höhe geschnellt, da Plattformen, die “Betrug-as-a-Service” anbieten, es Kriminellen leichter machen, komplexe Schemata, einschließlich synthetischer Identitäten und fortgeschrittener Phishing-Tools, auszuführen.

Während Unternehmen versuchen, ihre KI-Fähigkeiten zu skalieren, sind Kriminelle voraus, indem sie kontinuierlich innovieren und Lücken in veralteten Sicherheitsframeworks ausnutzen.

Warum herkömmliche Cybersicherheits- und Vertrauensframeworks gegenüber KI-gestützten Akteuren versagen

Die traditionellen Cybersicherheitsmaßnahmen, die einst einen gewissen Schutz boten, erweisen sich als unzureichend. Veraltete Systeme, die auf Blacklists, CAPTCHAs und Single-Factor-Authentifizierung basieren, sind nicht in der Lage, die sich entwickelnde Landschaft von KI-gesteuerter Angriffe zu bekämpfen. Kriminelle nutzen Deepfakes, die Biometrie-Scanner täuschen können, und synthetische Identitäten, die leicht KYC-Protokolle umgehen.

Dieses Versagen wird durch die Realität verschlimmert, dass viele Organisationen Cybersicherheit immer noch als Kostenfaktor und nicht als kritischen Infrastrukturkomponenten behandeln. Während das Pentagon Millionen investiert, um KI-Hacker zu rekrutieren, wird die Technologielücke deutlich. Während Unternehmen in Compliance-Theater verstrickt sind, nutzen Kriminelle KI, um menschliche Schwachstellen auszunutzen, wie z.B. Spear-Phishing-Angriffe, die executive Kommunikationen imitieren.

Wie “KI-natürliche” Angriffe in der Praxis aussehen

Moderne Betrugstaktiken haben sich weit über frühere Phishing-Schemata hinausentwickelt. Angreifer konstruieren komplexe Betrugsnetzwerke, die an jedem Schritt legitim erscheinen.

Stellen Sie sich einen typischen Corporate-Morgen vor. Dienstag, 9:43 Uhr. Ein CFO erhält eine E-Mail, die als “dringend” markiert ist und angeblich vom CEO stammt. Der Ton ist vertraut. Die Sprache entspricht früheren Anfragen. Eine Nachfolgenachricht trifft Minuten später auf einem anderen Kanal ein und verstärkt die Dringlichkeit. Bis 11:00 Uhr wird eine Überweisung im Wert von mehreren Millionen Dollar genehmigt, die jedoch später als an ein Offshore-Konto weitergeleitet wird, das von Angreifern kontrolliert wird.

Diese KI-natürlichen Angriffe sind psychologische Manipulationen, die Vertrauen und Autorität ausnutzen. Die Sophistikation solcher Operationen unterstreicht eine Lücke in den bestehenden Sicherheitsmaßnahmen, die nicht in der Lage sind, die subtilen Verhaltensanomalien zu erkennen, die moderne Betrügereien charakterisieren.

Was Unternehmen realistischerweise priorisieren sollten, bevor sie weitere KI intern einsetzen

Bevor Unternehmen weitere KI intern einsetzen, müssen sie innehalten und ihre Annahmen über Vertrauen überdenken. Die Beschleunigung von KI-gestütztem Verbrechen hat eine strukturelle Schwäche aufgedeckt: Organisationen verteidigen sich immer noch gegen gestrige Bedrohungen, während heutige Angriffe so konzipiert sind, dass sie von Beginn an legitim erscheinen.

1. Unternehmen müssen überdenken, wie sie Risiken definieren.

Traditionelle Risikomatrizen wurden um Fehler wie Systemausfälle, Datenlecks, Richtlinienverletzungen aufgebaut. In der KI-Ära stammt das Risiko zunehmend aus Simulationen und nicht aus Fehlern. Anstatt zu fragen “Was könnte schiefgehen”, ist es angemessener zu fragen “Was kann überzeugend gefälscht werden, im großen Maßstab und schneller, als wir reagieren können”.

Synthetische Identitäten, Executive-Imitationen und KI-generierte Erzählungen verhalten sich anders als herkömmliche Bedrohungen: Sie verbreiten sich schneller, mischen sich mit legitimen Aktivitäten und nutzen Vertrauen statt technische Lücken aus. Es ist nicht überraschend, dass diese Risiken tendenziell höher eingestuft werden und öfter materialisieren als ihre nicht-KI-Vorgänger, die sich in Cybersicherheit, Betrug, Rufschädigung oder Compliance verstecken.

2. Organisationen müssen akzeptieren, dass Prävention allein nicht mehr ausreicht.

Top-Unternehmen ordnen KI-Risiken jetzt drei Verteidigungsschichten zu, die AI-Defender-Architektur entsprechen:

• Risikoprävention – die jetzt auch das Vorhersagen von Angriffen umfasst, die menschliches Vertrauen und KI-generierte Inhalte ausnutzen, und nicht nur bekannte Bedrohungen blockiert.
• KI-bewusste Identitätsüberprüfung
• Geräte- und Sitzungsintegrität
• Executive-Kommunikationsschutz
• Bedrohungserkennung und -überwachung kombiniert technische Anomalieanalyse mit Verhaltens- und Medienüberwachung, was die Tatsache widerspiegelt, dass viele KI-natürliche Angriffe in Kommunikationsmustern und nicht in Code manifestiert werden.
• Ständige Überwachung auf Signale und Anomalien
• KI-gegen-KI-Erkennung
• Narrative- und Medienüberwachung
• Untersuchung und Zuordnung – mit Fokus auf die Rekonstruktion von Ereignissen, die Zuordnung von Absichten und die Erstellung von handlungsfähigen Beweisen, um Organisationen in die Lage zu versetzen, effektiv zu reagieren, selbst wenn Täuschung schneller skaliert als ihre anfänglichen Verteidigungen.
• Erklärbarkeit von KI-Warnungen
• Zuordnung von verdächtiger Aktivität
• Beweisgrade OSINT

3. Unternehmen müssen der menschlichen Dimension des KI-natürlichen Betrugs gegenüberstehen.

Mitarbeiter bleiben der primäre Eintrittspunkt für moderne Angriffe, aber die Art der Ausnutzung hat sich geändert. Ein häufiges Muster, das in KI-gesteuerter Betrügerei beobachtet wird, umfasst interne Interaktionen statt externe Angriffe. Mitarbeiter können kurze Videoanrufe von dem, was wie HR aussieht, erhalten, die “schnell Identität überprüfen”, um ein Gehaltsproblem zu lösen. Das Gesicht, die Stimme und die Marke sehen authentisch aus. Die Anfrage selbst scheint harmlos, ermöglicht aber stillschweigend den Kontozugriff später am Tag.

Dieses Szenario zeigt, warum KI-gestützter Betrug Kontext, Autorität und Timing nutzt und oft executive Kommunikation mit beunruhigender Präzision imitiert. In dieser Umgebung kann herkömmliche Sicherheitsschulung zu little mehr als Compliance-Theater werden, das ohne echte Widerstandsfähigkeit Beruhigung bietet.

Die Herausforderung liegt nicht nur in der Bewusstseinsbildung, sondern auch darin, wie das Problem formuliert wird.

Das Problem neu formulieren (das ist Schritt Null)

Alter mentaler Modus: “Mitarbeiter schulen, um Fehler zu vermeiden.”

Neuer mentaler Modus: “Angenommen, Mitarbeiter werden ins Visier genommen, manipuliert und als Waffe eingesetzt.”

Schulung ist nicht Bildung.

Schulung ist Immunisierung + Muskelgedächtnis.

Aus dieser Perspektive müssen Teams trainiert werden, um wiederkehrende Betrugsformen zu erkennen.

Die 5 dominanten KI-Betrugsvektoren, die durch Mitarbeiter verlaufen – keiner davon wird durch Bewusstseinsbildung gestoppt:

4. Organisationen müssen überdenken, was “Identität” in einer Welt der synthetischen Realität bedeutet.

Da Deepfake-Stimmen und -Videos biometrisches Vertrauen untergraben, kann kein einzelner Faktor Authentizität zuverlässig beweisen. Resilienz kommt zunehmend von der Ansammlung vieler schwacher Signale über die Zeit, wie Kontext, Kontinuität und Konsistenz über Geräte, Sitzungen und externe Datenpunkte.

Offene und externe Daten, die lange als sekundär behandelt wurden, gewinnen strategische Bedeutung. Wenn sie mit internen Verhaltenssignalen kombiniert werden, helfen sie, eine kritische Frage zu beantworten: Passt diese Identität oder Aktion in verschiedenen Kontexten? In einer Welt, in der fast alles gefälscht werden kann, wird Kohärenz zu einem der wenigen verbleibenden Vertrauensanker.