Kämpfen gegen KI mit KI im modernen Bedrohungslandschaft

Es ist nicht gerade eine neue Nachricht, dass KI die Cybersicherheitsbranche dramatisch verändert hat. Sowohl Angreifer als auch Verteidiger nutzen künstliche Intelligenz, um ihre Fähigkeiten zu verbessern und einander einen Schritt voraus zu sein. Dieses Katz-und-Maus-Spiel ist nichts Neues – Angreifer versuchen bereits seit Jahrzehnten, Sicherheitsteams auszutricksen -, aber die Entstehung von künstlicher Intelligenz hat ein frisches (und oft unvorhersehbares) Element in die Dynamik eingeführt. Angreifer auf der ganzen Welt freuen sich über die Aussicht, diese neue Technologie zu nutzen, um innovative, noch nie gesehene Angriffsmethoden zu entwickeln.

Zumindest ist das die Wahrnehmung. Aber die Realität ist ein bisschen anders. Während es stimmt, dass Angreifer immer mehr KI nutzen, verwenden sie diese hauptsächlich, um die Skala und Komplexität ihrer Angriffe zu erhöhen, ihre Herangehensweise an bestehende Taktiken zu verfeinern, anstatt neue Wege zu beschreiten. Die Denkweise dahinter ist klar: Warum Zeit und Mühe aufwenden, um Angriffsmethoden für morgen zu entwickeln, wenn Verteidiger bereits Schwierigkeiten haben, die Angriffe von heute zu stoppen? Glücklicherweise nutzen moderne Sicherheitsteams KI-Fähigkeiten ihrer eigenen – viele davon helfen dabei, Malware, Phishing-Versuche und andere gängige Angriffstaktiken mit größerer Geschwindigkeit und Genauigkeit zu erkennen. Wenn der “KI-Wettrüsten” zwischen Angreifern und Verteidigern weitergeht, wird es immer wichtiger für Sicherheitsteams, zu verstehen, wie Gegner die Technologie tatsächlich einsetzen – und sicherzustellen, dass ihre eigenen Bemühungen an der richtigen Stelle konzentriert sind.

Wie Angreifer KI nutzen

Die Vorstellung von einer halbautonomen KI, die systematisch ihre way durch die Verteidigungen einer Organisation hackt, ist ein beunruhigendes Szenario, aber (zumindest vorerst) bleibt es fest in der Welt von William-Gibson-Romanen und anderen Science-Fiction-Geschichten. Es ist wahr, dass KI in den letzten Jahren atemberaubende Fortschritte gemacht hat, aber wir sind noch weit entfernt von der Art von künstlicher allgemeiner Intelligenz (AGI), die menschliches Denken und Verhalten perfekt nachahmen kann. Das bedeutet nicht, dass heutige KI nicht beeindruckend ist – sie ist es definitiv. Aber generative KI-Tools und große Sprachmodelle (LLMs) sind am effektivsten darin, Informationen aus bestehendem Material zu synthetisieren und kleine, iterative Änderungen vorzunehmen. Sie können nichts völlig Neues erstellen – aber machen Sie sich keine Sorgen, die Fähigkeit, zu synthetisieren und zu iterieren, ist unglaublich nützlich.

In der Praxis bedeutet dies, dass Angreifer anstelle von neuen Angriffsmethoden ihre aktuellen Methoden verbessern können. Mit KI kann ein Angreifer beispielsweise Millionen von Phishing-E-Mails senden, anstelle von Tausenden. Sie können auch ein LLM verwenden, um eine überzeugendere Nachricht zu erstellen, um mehr Empfänger dazu zu bringen, auf einen schädlichen Link zu klicken oder eine mit Malware infizierte Datei herunterzuladen. Taktiken wie Phishing sind im Grunde ein Zahlenpiel: Die meisten Menschen werden nicht auf eine Phishing-E-Mail hereinfallen, aber wenn Millionen von Menschen sie erhalten, kann selbst eine Erfolgsrate von 1% zu Tausenden von neuen Opfern führen. Wenn LLMs diese 1%-Erfolgsrate auf 2% oder mehr erhöhen können, können Betrüger die Effektivität ihrer Angriffe mit wenig bis gar keiner Anstrengung verdoppeln. Gleiches gilt für Malware: Wenn kleine Änderungen am Malware-Code es ermöglichen, es vor Erkennungstools zu verstecken, können Angreifer viel mehr aus einem einzelnen Malware-Programm herausholen, bevor sie zu etwas Neuem übergehen müssen.

Ein weiteres wichtiges Element ist die Geschwindigkeit. Da KI-basierte Angriffe nicht von menschlichen Einschränkungen betroffen sind, können sie oft eine gesamte Angriffsserie mit viel höherer Geschwindigkeit durchführen als ein menschlicher Operator. Das bedeutet, dass ein Angreifer möglicherweise in die Lage versetzt wird, in ein Netzwerk einzudringen und die “Kronjuwelen” des Opfers – seine wertvollsten oder sensibelsten Daten – zu erreichen, bevor das Sicherheitsteam überhaupt benachrichtigt wird, geschweige denn reagiert. Wenn Angreifer schneller handeln können, müssen sie nicht so vorsichtig sein – was bedeutet, dass sie lauter, störendere Aktivitäten durchführen können, ohne gestoppt zu werden. Sie tun nicht unbedingt etwas Neues, aber indem sie ihre Angriffe schneller durchführen, können sie Netzwerkverteidigungen auf eine potenziell spielverändernde Weise überholen.

Dies ist der Schlüssel zum Verständnis, wie Angreifer KI nutzen. Soziale Ingenieurskunst und Malware-Programme sind bereits erfolgreiche Angriffsmethoden – aber jetzt können Angreifer sie noch effektiver machen, schneller einsetzen und in größeren Mengen operieren. Anstatt gegen Dutzende von Angriffen pro Tag zu kämpfen, müssen Organisationen möglicherweise gegen Hunderte, Tausende oder sogar Zehntausende von schnellen Angriffen kämpfen. Und wenn sie keine Lösungen oder Prozesse haben, um diese Angriffe schnell zu erkennen, zu bestimmen, welche eine reale, greifbare Bedrohung darstellen, und sie effektiv zu beseitigen, setzen sie sich selbst einer großen Gefahr aus. Anstatt sich zu fragen, wie Angreifer KI in der Zukunft nutzen könnten, sollten Organisationen KI-Lösungen ihrer eigenen entwickeln, um bestehende Angriffsmethoden in größeren Mengen zu bekämpfen.

KI für Sicherheitsteams nutzen

Sicherheitsexperten auf allen Ebenen von Unternehmen und Regierungen suchen nach Wegen, um KI für defensive Zwecke zu nutzen. Im August gab die US-Verteidigungsagentur für fortschrittliche Forschungsprojekte (DARPA) die Finalisten für ihre jüngste KI-Cyber-Herausforderung (AIxCC) bekannt, die Preise an Sicherheitsforschungsteams vergibt, die daran arbeiten, LLMs zu trainieren, um codebasierte Schwachstellen zu identifizieren und zu beheben. Die Herausforderung wird von großen KI-Anbietern wie Google, Microsoft und OpenAI unterstützt, die technische und finanzielle Unterstützung für diese Bemühungen zur Verbesserung der KI-basierten Sicherheit bereitstellen. Natürlich ist DARPA nur ein Beispiel – man kann kaum einen Stock in Silicon Valley schwenken, ohne auf ein Dutzend Start-up-Gründer zu stoßen, die bereit sind, über ihre fortschrittlichen neuen KI-basierten Sicherheitslösungen zu sprechen. Es genügt zu sagen, dass die Suche nach neuen Wegen, um KI für defensive Zwecke zu nutzen, für Organisationen aller Art und Größe eine hohe Priorität hat.

Aber wie Angreifer nutzen auch Sicherheitsteams KI oft am erfolgreichsten, wenn sie ihre bestehenden Fähigkeiten verstärken. Da Angriffe in immer größeren Mengen stattfinden, sind Sicherheitsteams oft dünn besetzt – sowohl in Bezug auf Zeit als auch auf Ressourcen -, was es schwierig macht, jeden Sicherheitsalarm, der auftritt, angemessen zu identifizieren, zu untersuchen und zu beseitigen. Es gibt einfach nicht die Zeit. KI-Lösungen spielen eine wichtige Rolle bei der Bewältigung dieser Herausforderung, indem sie automatisierte Erkennungs- und Reaktionsfähigkeiten bereitstellen. Wenn es eine Sache gibt, die KI gut kann, dann ist es das Erkennen von Mustern – und das bedeutet, dass KI-Tools sehr gut darin sind, abnormales Verhalten zu erkennen, insbesondere wenn es bekannten Angriffsmustern entspricht. Da KI große Mengen an Daten viel schneller als Menschen überprüfen kann, ermöglicht dies Sicherheitsteams, ihre Operationen erheblich zu skalieren. In vielen Fällen können diese Lösungen sogar grundlegende Beseitigungsprozesse automatisieren, ohne dass menschliche Eingriffe erforderlich sind. Sie können auch verwendet werden, um den Prozess der Sicherheitsvalidierung zu automatisieren, indem sie ständig die Netzwerkverteidigungen überprüfen, um sicherzustellen, dass sie wie beabsichtigt funktionieren.

Es ist auch wichtig zu beachten, dass KI es Sicherheitsteams nicht nur ermöglicht, potenzielle Angriffstätigkeiten schneller zu erkennen – sie verbessert auch ihre Genauigkeit erheblich. Anstatt falschen Alarmen nachzugehen, können Sicherheitsteams sicher sein, dass wenn eine KI-Lösung sie auf eine potenzielle Angriff warnen, es sich lohnt, sofort zu reagieren. Dies ist ein Aspekt von KI, der nicht oft genug diskutiert wird – während viel der Diskussion darum kreist, dass KI “Menschen ersetzt” und ihre Jobs übernimmt, ist die Realität, dass KI-Lösungen es Menschen ermöglichen, ihre Jobs besser und effizienter zu erledigen, während sie auch die Burnout-Symptome, die mit der Ausführung von langweiligen und wiederholten Aufgaben verbunden sind, lindern. Anstatt einen negativen Einfluss auf menschliche Operatoren zu haben, übernehmen KI-Lösungen viel von der als “Busywork” wahrgenommenen Arbeit, die mit Sicherheitspositionen verbunden ist, und ermöglichen es Menschen, sich auf interessantere und wichtigere Aufgaben zu konzentrieren. Zu einer Zeit, in der Burnout auf einem Allzeithoch ist und viele Unternehmen Schwierigkeiten haben, neue Sicherheitstalente zu finden, kann die Verbesserung der Lebensqualität und der Arbeitszufriedenheit einen enorm positiven Einfluss haben.

Das ist der eigentliche Vorteil für Sicherheitsteams. KI-Lösungen können nicht nur dazu beitragen, ihre Operationen zu skalieren, um Angreifer, die KI-Tools einsetzen, effektiv zu bekämpfen – sie können auch dazu beitragen, Sicherheitsfachleute in ihren Rollen zufriedener und glücklicher zu machen. Das ist eine seltene Win-Win-Lösung für alle Beteiligten, und sie sollte heute Unternehmen dazu bringen, zu erkennen, dass die Zeit, in KI-basierte Sicherheitslösungen zu investieren, jetzt gekommen ist.

Der KI-Wettrüsten hat gerade erst begonnen

Der Wettlauf, KI-Lösungen zu adoptieren, hat begonnen, und sowohl Angreifer als auch Verteidiger finden unterschiedliche Wege, die Technologie zu ihrem Vorteil zu nutzen. Wenn Angreifer KI nutzen, um die Geschwindigkeit, Skala und Komplexität ihrer Angriffe zu erhöhen, müssen Sicherheitsteams mit dem Feuer bekämpfen, indem sie KI-Tools einsetzen, um die Geschwindigkeit und Genauigkeit ihrer Erkennungs- und Beseitigungsfähigkeiten zu verbessern. Glücklicherweise stellen KI-Lösungen Sicherheitsteams wichtige Informationen bereit, die es ihnen ermöglichen, die Wirksamkeit ihrer eigenen Lösungen besser zu testen und zu bewerten und gleichzeitig Zeit und Ressourcen für wichtigere Aufgaben freizumachen. Machen Sie sich keine Sorgen, der KI-Wettrüsten hat gerade erst begonnen – aber die Tatsache, dass Sicherheitsfachleute bereits KI nutzen, um Angreifern einen Schritt voraus zu sein, ist ein sehr gutes Zeichen.