Kämpfen gegen KI mit KI in der modernen Bedrohungslandschaft

Es ist nicht gerade eine neue Nachricht, zu sagen, dass KI die Cybersicherheitsbranche dramatisch verändert hat. Sowohl Angreifer als auch Verteidiger wenden sich an künstliche Intelligenz, um ihre Fähigkeiten zu verbessern, und jeder strebt danach, dem anderen einen Schritt voraus zu sein. Dieses Katz-und-Maus-Spiel ist nichts Neues – Angreifer versuchen bereits seit Jahrzehnten, Sicherheitsteams auszutricksen -, aber das Auftauchen von künstlicher Intelligenz hat ein frisches (und oft unvorhersehbares) Element in die Dynamik eingeführt. Angreifer auf der ganzen Welt reiben sich die Hände vor Freude über die Aussicht, diese neue Technologie zu nutzen, um innovative, noch nie gesehene Angriffsmethoden zu entwickeln.

Zumindest ist das die Wahrnehmung. Aber die Realität ist ein bisschen anders. Während es stimmt, dass Angreifer zunehmend KI nutzen, verwenden sie sie hauptsächlich, um die Skala und Komplexität ihrer Angriffe zu erhöhen, indem sie ihre Herangehensweise an bestehende Taktiken verfeinern, anstatt neue Wege zu beschreiten. Die Denkweise hier ist klar: Warum Zeit und Mühe aufwenden, um Angriffsmethoden für morgen zu entwickeln, wenn Verteidiger bereits Schwierigkeiten haben, die heutigen Angriffe zu stoppen? Glücklicherweise nutzen moderne Sicherheitsteams KI-Fähigkeiten ihrer eigenen – viele davon helfen, Malware, Phishing-Versuche und andere gängige Angriffstaktiken mit größerer Geschwindigkeit und Genauigkeit zu erkennen. Wenn der “KI-Wettrüsten” zwischen Angreifern und Verteidigern weitergeht, wird es immer wichtiger für Sicherheitsteams, zu verstehen, wie Gegner die Technologie tatsächlich einsetzen – und sicherzustellen, dass ihre eigenen Bemühungen an der richtigen Stelle konzentriert sind.

Wie Angreifer KI nutzen

Die Vorstellung, dass eine semi-autonome KI eingesetzt wird, um systematisch durch die Verteidigungen einer Organisation zu hacken, ist eine beunruhigende, aber (zumindest vorerst) bleibt sie fest in der Welt von William Gibson-Romanen und anderen Science-Fiction-Geschichten. Es ist wahr, dass KI in den letzten Jahren atemberaubend fortgeschritten ist, aber wir sind noch weit entfernt von der Art von künstlicher allgemeiner Intelligenz (AGI), die menschliche Denkmuster und Verhaltensweisen perfekt nachahmen kann. Das bedeutet nicht, dass die heutige KI nicht beeindruckend ist – sie ist es definitiv. Aber generative KI-Tools und große Sprachmodelle (LLMs) sind am effektivsten, wenn sie Informationen aus bestehendem Material synthetisieren und kleine, iterative Änderungen vornehmen. Sie können nichts völlig Neues auf eigene Faust erstellen – aber machen Sie sich keine Sorgen, die Fähigkeit, zu synthetisieren und zu iterieren, ist unglaublich nützlich.

In der Praxis bedeutet dies, dass Angreifer anstelle von neuen Angriffsmethoden ihre aktuellen Methoden verbessern können. Mit KI kann ein Angreifer beispielsweise Millionen von Phishing-E-Mails senden, anstelle von Tausenden. Sie können auch ein LLM verwenden, um eine überzeugendere Nachricht zu erstellen, um mehr Empfänger dazu zu bringen, auf einen schädlichen Link zu klicken oder eine mit Malware infizierte Datei herunterzuladen. Taktiken wie Phishing sind effektiv ein Zahlenpiel: Die meisten Menschen werden nicht auf eine Phishing-E-Mail hereinfallen, aber wenn Millionen von Menschen sie erhalten, kann bereits ein Erfolgsrate von 1 % zu Tausenden von neuen Opfern führen. Wenn LLMs diesen Erfolgsrate von 1 % auf 2 % oder mehr erhöhen können, können Betrüger die Effektivität ihrer Angriffe mit wenig bis gar keinem Aufwand effektiv verdoppeln. Das Gleiche gilt für Malware: Wenn kleine Änderungen an Malware-Code diese effektiv vor Erkennungstools verbergen können, können Angreifer viel mehr aus einem einzelnen Malware-Programm herausholen, bevor sie zu etwas Neuem übergehen müssen.

Das andere Element, das hier im Spiel ist, ist die Geschwindigkeit. Da KI-basierte Angriffe nicht von menschlichen Einschränkungen betroffen sind, können sie oft eine gesamte Angriffsserie mit einer viel höheren Geschwindigkeit durchführen als ein menschlicher Bediener. Das bedeutet, dass ein Angreifer möglicherweise in eine Netzwerk einbrechen und die Kronjuwelen des Opfers – seine sensitivsten oder wertvollsten Daten – erreichen kann, bevor das Sicherheitsteam überhaupt eine Warnung erhält, geschweige denn darauf reagiert. Wenn Angreifer schneller handeln können, müssen sie nicht so vorsichtig sein – was bedeutet, dass sie mit lauteren, störenderen Aktivitäten durchkommen können, ohne gestoppt zu werden. Sie tun nicht unbedingt etwas Neues, aber indem sie ihre Angriffe schneller vorantreiben, können sie die Netzwerkverteidigungen auf eine potenziell spielverändernde Weise überholen.

Dies ist der Schlüssel zum Verständnis, wie Angreifer KI nutzen. Soziale Ingenieurskunst und Malware-Programme sind bereits erfolgreiche Angriffsmethoden – aber jetzt können Angreifer sie noch effektiver machen, sie schneller einsetzen und auf einer größeren Skala operieren. Anstatt gegen Dutzende von Versuchen pro Tag zu kämpfen, könnten Organisationen gegen Hunderte, Tausende oder sogar Zehntausende von schnellen Angriffen kämpfen. Und wenn sie keine Lösungen oder Prozesse haben, um diese Angriffe schnell zu erkennen, zu bestimmen, welche eine echte, greifbare Bedrohung darstellen, und sie effektiv zu beseitigen, setzen sie sich selbst gefährlich den Angreifern aus. Anstatt sich zu fragen, wie Angreifer in Zukunft KI nutzen könnten, sollten Organisationen KI-Lösungen ihrer eigenen einsetzen, um bestehende Angriffsmethoden auf einer größeren Skala zu bekämpfen.

KI zu Gunsten der Sicherheitsteams wenden

Sicherheitsexperten auf allen Ebenen von Unternehmen und Regierungen suchen nach Wegen, um KI für defensive Zwecke zu nutzen. Im August gab die US-Verteidigungsagentur für fortschrittliche Forschungsprojekte (DARPA) die Finalisten für ihre jüngste KI-Cyber-Herausforderung (AIxCC) bekannt, die Preise an Sicherheitsforschungsteams vergibt, die LLMs trainieren, um codebasierte Schwachstellen zu identifizieren und zu beheben. Die Herausforderung wird von großen KI-Anbietern wie Google, Microsoft und OpenAI unterstützt, die technische und finanzielle Unterstützung für diese Bemühungen zur Stärkung der KI-basierten Sicherheit bereitstellen. Natürlich ist DARPA nur ein Beispiel – man kann kaum einen Stock in Silicon Valley schwenken, ohne auf ein Dutzend Start-up-Gründer zu stoßen, die Ihnen von ihren fortschrittlichen neuen KI-basierten Sicherheitslösungen erzählen wollen. Es ist offensichtlich, dass das Finden neuer Wege, um KI für defensive Zwecke zu nutzen, für Organisationen aller Art und Größe eine hohe Priorität hat.

Aber wie Angreifer nutzen auch Sicherheitsteams KI oft am erfolgreichsten, wenn sie ihre bestehenden Fähigkeiten verstärken. Da Angriffe mit zunehmender Häufigkeit auftreten, sind Sicherheitsteams oft dünn besetzt – sowohl in Bezug auf Zeit als auch auf Ressourcen -, was es schwierig macht, jeden Sicherheitsalarm, der aufpoppt, angemessen zu identifizieren, zu untersuchen und zu beseitigen. Es gibt einfach nicht die Zeit. KI-Lösungen spielen eine wichtige Rolle bei der Bewältigung dieser Herausforderung, indem sie automatisierte Erkennungs- und Reaktionsfähigkeiten bereitstellen. Wenn es eines gibt, was KI gut kann, dann ist es das Erkennen von Mustern – und das bedeutet, dass KI-Tools sehr gut darin sind, abnormalen Verhaltensweisen zu erkennen, insbesondere wenn dieses Verhalten bekannten Angriffsmustern entspricht. Da KI große Mengen an Daten viel schneller als Menschen überprüfen kann, ermöglicht dies Sicherheitsteams, ihre Operationen auf erhebliche Weise zu verstärken. In vielen Fällen können diese Lösungen sogar grundlegende Beseitigungsprozesse automatisieren und niedrigstufige Angriffe ohne menschliche Intervention konterkarieren. Sie können auch zum Automatisieren des Prozesses der Sicherheitsvalidierung verwendet werden, bei dem ständig um die Netzwerkverteidigungen herumgestochert wird, um sicherzustellen, dass sie wie beabsichtigt funktionieren.

Es ist auch wichtig zu beachten, dass KI nicht nur ermöglicht, dass Sicherheitsteams potenzielle Angriffstätigkeiten schneller erkennen – sie verbessert auch dramatisch ihre Genauigkeit. Anstatt falschen Alarmen nachzujagen, können Sicherheitsteams sicher sein, dass KI-Lösungen, die sie auf einen potenziellen Angriff aufmerksam machen, ihre sofortige Aufmerksamkeit verdienen. Dies ist ein Aspekt von KI, der nicht oft genug diskutiert wird – während viel der Diskussion darum kreist, dass KI “Menschen ersetzt” und ihre Jobs übernimmt, ist die Realität, dass KI-Lösungen es Menschen ermöglichen, ihre Jobs besser und effizienter zu erledigen, während sie auch den Burnout, der mit der Ausführung von langweiligen und wiederkehrenden Aufgaben einhergeht, lindern. Anstatt einen negativen Einfluss auf menschliche Bediener zu haben, bewältigen KI-Lösungen viel von der als “Busywork” wahrgenommenen Arbeit, die mit Sicherheitspositionen verbunden ist, und ermöglichen es Menschen, sich auf interessantere und wichtigere Aufgaben zu konzentrieren. Zu einer Zeit, in der Burnout einen Höchststand erreicht hat und viele Unternehmen Schwierigkeiten haben, neue Sicherheitstalente anzuziehen, kann die Verbesserung der Lebensqualität und der Arbeitszufriedenheit einen massiven positiven Einfluss haben.

Darin liegt der wahre Vorteil für Sicherheitsteams. KI-Lösungen können nicht nur dazu beitragen, ihre Operationen zu skalieren, um Angreifer, die KI-Tools ihrer eigenen einsetzen, effektiv zu bekämpfen – sie können auch Sicherheitsfachleute in ihren Rollen glücklicher und zufriedener machen. Das ist eine seltene Win-Win-Lösung für alle Beteiligten und sollte heute Unternehmen helfen zu erkennen, dass die Zeit, in KI-basierte Sicherheitslösungen zu investieren, jetzt gekommen ist.

Der KI-Wettrüsten hat gerade erst begonnen

Der Wettlauf, KI-Lösungen zu übernehmen, hat begonnen, und sowohl Angreifer als auch Verteidiger finden unterschiedliche Wege, die Technologie zu ihrem Vorteil zu nutzen. Wenn Angreifer KI nutzen, um die Geschwindigkeit, Skala und Komplexität ihrer Angriffe zu erhöhen, müssen Sicherheitsteams mit dem Feuer bekämpfen, indem sie KI-Tools ihrer eigenen einsetzen, um die Geschwindigkeit und Genauigkeit ihrer Erkennungs- und Beseitigungsfähigkeiten zu verbessern. Glücklicherweise stellen KI-Lösungen Sicherheitsteams kritische Informationen zur Verfügung, die es ihnen ermöglichen, die Effektivität ihrer eigenen Lösungen besser zu testen und zu bewerten, während sie auch Zeit und Ressourcen für wichtigere Aufgaben freimachen. Machen Sie sich keine Sorgen, der KI-Wettrüsten hat gerade erst begonnen – aber die Tatsache, dass Sicherheitsfachleute bereits KI nutzen, um Angreifern einen Schritt voraus zu sein, ist ein sehr gutes Zeichen.