Sind Unternehmen auf die nächste Welle von AI-gesteuerten Cyberangriffen vorbereitet?

Durch die Analyse aktueller Trends können Experten vorhersagen, wie Cyberkriminelle in Zukunft künstliche Intelligenz nutzen werden. Mit diesen Informationen können sie die größten aufkommenden Bedrohungen identifizieren und bestimmen, ob Unternehmen darauf vorbereitet sind. Sie können sogar eine Lösung finden.

Der Zustand von AI-Bedrohungen in den letzten Jahren

Obwohl die AI-Technologie relativ neu ist, ist sie bereits zu einem wichtigen Werkzeug für Hacker geworden. Diese Trends deuten darauf hin, dass AI-Cyberangriffe zunehmen.

1. Model-Tampering

Indem sie große Sprachmodelle (LLMs) direkt angreifen, können Bedrohungsakteure das Modellverhalten manipulieren, die Ausgabegenauigkeit verringern oder persönlich identifizierbare Trainingsdaten offenlegen. Datenvergiftung und Prompt-Engineering sind gängige Angriffstechniken.

Einige Angriffe werden von Bedrohungsakteuren durchgeführt, die Chaos verursachen oder sensible Informationen stehlen wollen. Andere werden von unzufriedenen Künstlern durchgeführt, die ihre Kunstwerke vor dem AI-Scraping schützen wollen. Auf jeden Fall sind das Unternehmen und seine Endbenutzer negativ betroffen.

2. Identitätsdiebstahl-Angriffe

Im Jahr 2024 erhielt ein Ferrari-Manager mehrere WhatsApp-Nachrichten vom CEO, Benedetto Vigna. Vigna sprach über eine bevorstehende Übernahme und drängte seinen Mitarbeiter, eine Geheimhaltungsvereinbarung zu unterzeichnen. Er rief sogar an, um über die Finanzierung zu sprechen. Es gab jedoch ein Problem – es war nicht er.

Die Deepfake war fast perfekt und ahmte Vignas süditalienischen Akzent außergewöhnlich gut nach. Es gab jedoch leichte Unstimmigkeiten in der Stimme, die den Manager auf den Schwindel aufmerksam machten. Der Mitarbeiter fragte nach dem Titel eines Buches, das Vigna Tage zuvor empfohlen hatte, eine Frage, die nur der echte CEO beantworten konnte. Der Betrüger legte sofort auf.

AI kann die Stimme einer Person, ihr Browserverhalten, ihren Schreibstil und ihre Ähnlichkeit klonen. Wenn diese Technologie fortschreitet, wird es immer schwieriger, Deepfakes zu identifizieren. Die Betrüger setzen die Zielperson oft in eine dringende Situation, um sie daran zu hindern, kleine Unstimmigkeiten zu hinterfragen.

3. AI-Phishing

In der Vergangenheit konnte man eine Phishing-E-Mail durch das Vorhandensein von schlechtem Grammatik, verdächtigen Links, generischen Grüßen und unpassenden Anfragen identifizieren. Jetzt können Hacker mit Hilfe von Natural Language Processing-Technologie überzeugende Nachrichten mit fehlerfreier Grammatik erstellen.

Forscher fanden heraus, dass vollautomatisierte AI-gesteuerte Spear-Phishing-E-Mails eine Klickraten von 54% haben, was mit der Klickraten von Phishing-E-Mails, die von Menschen geschrieben wurden, vergleichbar ist. Da diese Betrügereien überzeugender sind, werden sie immer häufiger.

4. Soziale Manipulation

Soziale Manipulation beinhaltet das Manipulieren einer Person, um eine Aktion auszuführen oder Informationen preiszugeben. AI ermöglicht es Hackern, schneller zu reagieren und überzeugendere Nachrichten zu erstellen. Jedes natürliche Sprachverarbeitungsmodell kann eine semantische Analyse durchführen, um den emotionalen Zustand des Empfängers zu identifizieren, was ihn eher dazu bringt, nachzugeben.

Zusätzlich zu der Verbesserung der sozialen Manipulationstechniken senkt die maschinelle Lern-Technologie die traditionellen Einstiegshürden, sodass auch Anfänger komplexe Kampagnen durchführen können. Wenn jeder zu einem Cyberkriminellen werden kann, kann jeder zu einem Ziel werden.

Die nächste Welle von datengetriebenen AI-Angriffen

Anfang 2026 werden AI-Angriffe voraussichtlich auf einem niedrigen Reifegrad bleiben. Sie werden jedoch exponentiell fortschreiten, wenn das Jahr voranschreitet, und es den Cyberkriminellen ermöglichen, in die Optimierungs-, Bereitstellungs- und Skalierungsphase einzutreten. Sie werden bald in der Lage sein, vollautomatisierte Kampagnen durchzuführen. Bestätigte Beispiele von AI-Cyberangriffen werden nicht mehr selten sein.

Polymorphe Malware ist ein AI-aktivierter Virus, der seinen Code jedes Mal ändern kann, wenn er sich repliziert, um eine Erkennung zu vermeiden. Angreifer können die Payload durch AI-Ökosysteme liefern, LLMs zur Laufzeit aufrufen, um Befehle zu generieren, oder den Virus direkt in das LLM einbetten. Die Google Threat Intelligence Group entdeckte, dass Gegner diese Malware erstmals 2025 eingesetzt haben.

Die Malware-Familien sind PROMPTFLUX und PROMPTSTEAL. Während der Ausführung verwenden sie LLMs, um VBScript-Obfuskation und Vermeidungstechniken anzufordern. Sie vermeiden signature-basierte Erkennung, indem sie ihren eigenen Code auf Anfrage obfuskieren.

Beweise deuten darauf hin, dass diese Bedrohungen noch in der Testphase sind – einige unvollständige Funktionen sind auskommentiert, und die Anwendungsschnittstellenaufrufe sind begrenzt. Diese AI-Malware-Familien mögen noch in der Entwicklung sein, aber ihre bloße Existenz stellt einen riesigen Schritt in Richtung autonomer, adaptiver Angriffstechniken dar.

Forschung der NYU Tandon zeigt, dass LLMs bereits autonom Ransomware-Angriffe durchführen können, die als Ransomware 3.0 bezeichnet werden. Sie können Aufklärung durchführen, Payloads generieren und Erpressung personalisieren, ohne menschliche Beteiligung. Es erfordert nur natürliche Sprachprompts, die in der Binärdatei eingebettet sind. Das Modell liefert polymorphe Varianten, die sich an die Ausführungsumgebung anpassen, indem sie den schädlichen Code dynamisch zur Laufzeit generieren.

Sind Unternehmen auf AI-Angriffe vorbereitet?

Trotz Milliarden in Cybersicherheitsausgaben haben private Unternehmen weiterhin Schwierigkeiten, mit der sich entwickelnden Bedrohungslandschaft Schritt zu halten. Maschinelle Lern-Technologie könnte bestehende Erkennungs- und Reaktionssoftware veralten lassen, was die Verteidigung weiter kompliziert. Es hilft nicht, dass viele Unternehmen grundlegende Sicherheitsstandards nicht erfüllen.

Der DIB-Cybersicherheitsreifegrad-Bericht 2024 befragte 400 IT-Fachleute in der US-Verteidigungsindustrie (DIB). Über die Hälfte der Befragten gaben an, dass sie Jahre von der Einhaltung des Cybersecurity Maturity Model Certification (CMMC) 2.0 entfernt seien, obwohl die entsprechende NIST-800-171-Einhaltung seit 2016 in DoD-Verträgen festgelegt wurde. Viele bewerten ihre Sicherheitslage als viel besser, als sie tatsächlich ist.

Die neuen CMMC-Anforderungen traten am 10. November 2025 in Kraft. In Zukunft werden alle DoD-Verträge ein bestimmtes Maß an CMMC-Einhaltung als Vertragsbedingung erfordern. Die neuen Regeln sollen die Cybersicherheit der DIB stärken, aber werden sie in der Ära von AI wirksam sein?

Ist Defensive AI die Antwort?

Es kann sein, dass man Feuer mit Feuer bekämpfen muss, um den unvermeidlichen Anstieg von AI-Angriffen zu bekämpfen. Mit Defensive AI können Organisationen auf Bedrohungen in Echtzeit reagieren. Dieser Ansatz hat jedoch seine eigenen Sicherheitslücken – das Modell muss gegen Manipulationen gesichert werden, was eine kontinuierliche Überwachung und Prüfung erfordert.

Laut Harvard Business Review lassen herkömmliche Lösungen Unternehmen anfällig für AI-Cyberangriffe. Um Cyber-Resilienz zu erreichen, müssen sie maschinelle Lern-Technologie verwenden, um Bedrohungen vorherzusagen und automatisch darauf zu reagieren.

Es gibt keine einfache Antwort darauf, ob Defensive AI die Lösung für dieses Problem ist. Sollen Unternehmen ihre Ressourcen in die Bereitstellung unerprobter maschineller Lern-Tools investieren oder ihre IT-Teams erweitern? Es ist unmöglich vorherzusagen, welche Investition sich langfristig auszahlen wird.

Große Unternehmen können mit automatisierter Cybersicherheit erhebliche Erträge erzielen, während kleine Unternehmen möglicherweise Schwierigkeiten haben, die Kosten zu rechtfertigen. Herkömmliche Automatisierungstechnologie kann die Lücke zu einem viel niedrigeren Preis schließen, aber sie kann nicht auf dynamische Bedrohungen reagieren.

Steve Durbin, CEO der Information Security Forum, erklärt, dass die Einführung von AI erhebliche Vorteile hat, aber auch erhebliche Nachteile. Zum Beispiel erleben Unternehmen oft einen Anstieg von Falschalarmen, was die Zeit der Sicherheitsteams verschwenden kann. Darüber hinaus kann eine Überabhängigkeit von AI dazu führen, dass Teams übermäßig selbstsicher werden, was zu Sicherheitslücken führen kann.

Navigation im AI-Bedrohungslandschaft

Es ist unmöglich, den genauen Umfang von AI in der Bedrohungslandschaft zu bestimmen, da Angreifer AI verwenden können, um schädlichen Code zu erstellen oder Phishing-E-Mails zu verfassen, anstatt sie zur Laufzeit zu verwenden. Einzelne Cyberkriminelle und staatlich gesponserte Bedrohungsgruppen könnten AI im großen Maßstab einsetzen.

Basierend auf den verfügbaren Informationen werden Model-Tampering, AI-Phishing und polymorphe Malware die größten Cyber-Bedrohungen von 2026 sein. Cyberkriminelle werden wahrscheinlich weiterhin LLMs verwenden, um schädliche Payloads zu generieren, zu liefern und anzupassen, und sie werden hochwertige Branchen wie Finanzen sowie normale Menschen ins Visier nehmen.