Generative KI in der Cybersicherheit: Das Schlachtfeld, Die Bedrohung, & Jetzt Die Verteidigung

Das Schlachtfeld

Was anfangs als Begeisterung um die Fähigkeiten der Generative KI begann, hat sich schnell zu Besorgnis gewandelt. Generative KI-Tools wie ChatGPT, Google Bard, Dall-E usw. machen aufgrund von Sicherheits- und Datenschutzbedenken weiterhin Schlagzeilen. Es führt sogar dazu, dass man sich fragt, was real und was nicht ist. Generative KI kann sehr überzeugende und daher plausible Inhalte produzieren. So sehr, dass am Ende eines kürzlichen 60-Minuten-Segments über KI der Moderator Scott Pelley den Zuschauern mit folgendem Statement den Abschluss bot: “Wir werden mit einer Notiz enden, die noch nie auf 60 Minutes erschienen ist, aber eine, in der KI-Revolution Sie oft hören werden: Das Vorhergehende wurde mit 100% menschlichem Inhalt erstellt.”

Der Generative KI-Zyberkrieg beginnt mit diesem überzeugenden und realistischen Inhalt und das Schlachtfeld ist, wo Hacker Generative KI nutzen, indem sie Tools wie ChatGPT usw. verwenden. Es ist sehr einfach für Cyberkriminelle, insbesondere für die mit begrenzten Ressourcen und ohne technische Kenntnisse, ihre Verbrechen durch Social Engineering, Phishing und Identitätsdiebstahl durchzuführen.

Die Bedrohung

Generative KI hat die Macht, immer komplexere Cyberangriffe zu fördern.

Weil die Technologie so überzeugende und menschenähnliche Inhalte mit Leichtigkeit produzieren kann, sind neue Cyber-Betrügereien, die KI nutzen, für Sicherheitsteams schwerer zu erkennen. KI-generierte Betrügereien können in Form von Social-Engineering-Angriffen wie multikanaligen Phishing-Angriffen über E-Mail und Messaging-Apps auftreten. Ein Beispiel aus der realen Welt könnte eine E-Mail oder Nachricht sein, die ein Dokument enthält, das an einen Unternehmensleiter von einem Drittanbieter über Outlook (E-Mail) oder Slack (Messaging-App) gesendet wird. Die E-Mail oder Nachricht fordert sie auf, darauf zu klicken, um eine Rechnung zu sehen. Mit Generative KI kann es fast unmöglich sein, zwischen einer falschen und einer echten E-Mail oder Nachricht zu unterscheiden. Deshalb ist es so gefährlich.

Eines der beunruhigendsten Beispiele ist jedoch, dass Cyberkriminelle mit Generative KI Angriffe in mehreren Sprachen produzieren können – unabhängig davon, ob der Hacker die Sprache tatsächlich spricht. Das Ziel ist es, ein breites Netz auszuwerfen, und Cyberkriminelle werden ihre Opfer nicht aufgrund der Sprache diskriminieren.

Der Fortschritt der Generative KI signalisiert, dass der Umfang und die Effizienz dieser Angriffe weiter ansteigen werden.

Die Verteidigung

Die Cybersicherheitsverteidigung für Generative KI war bisher das fehlende Puzzleteil. Bis jetzt. Durch den Einsatz von Maschine-gegen-Maschine-Kampf oder das Gegeneinanderstellen von KI können wir uns gegen diese neue und wachsende Bedrohung verteidigen. Aber wie sollte diese Strategie definiert und wie sieht sie aus?

Zunächst muss die Branche handeln, um Computer gegen Computer statt Mensch gegen Computer zu setzen. Um dies zu erreichen, müssen wir erweiterte Erkennungsplattformen in Betracht ziehen, die KI-generierte Bedrohungen erkennen, die Zeit reduzieren, die es braucht, um eine soziale Ingenieurskunst zu markieren, und die Zeit, die es braucht, um einen sozialen Ingenieursangriff zu lösen, der aus Generative KI stammt. Etwas, das ein Mensch nicht tun kann.

Wir haben kürzlich einen Test durchgeführt, um zu sehen, wie dies aussehen kann. Wir haben ChatGPT angewiesen, eine sprachbasierte Callback-Phishing-E-Mail in mehreren Sprachen zu erstellen, um zu sehen, ob eine Plattform für das Verständnis natürlicher Sprache oder eine erweiterte Erkennungsplattform sie erkennen kann. Wir haben ChatGPT den Hinweis gegeben, “eine dringende E-Mail zu schreiben, die jemanden auffordert, über eine endgültige Mitteilung zu einem Softwarelizenzvertrag anzurufen.” Wir haben es auch angewiesen, es auf Englisch und Japanisch zu schreiben.

Die erweiterte Erkennungsplattform konnte die E-Mails sofort als soziale Ingenieurskunst markieren. ABER native E-Mail-Steuerungen wie Outlooks Phishing-Erkennungsplattform konnten es nicht. Selbst vor der Veröffentlichung von ChatGPT hat soziale Ingenieurskunst über konversationale, sprachbasierte Angriffe bewiesen, dass sie erfolgreich sein kann, weil sie traditionelle Steuerungen umgehen und in Postfächer ohne Link oder Payload landen kann. Also ja, es erfordert Maschine-gegen-Maschine-Kampf, um sich zu verteidigen, aber wir müssen auch sicherstellen, dass wir effektive Artillerie wie eine erweiterte Erkennungsplattform verwenden. Jeder, der über diese Tools verfügt, hat einen Vorteil im Kampf gegen Generative KI.

Wenn es um den Umfang und die Plausibilität sozialer Ingenieurskunst-Angriffe geht, die durch ChatGPT und andere Formen der Generative KI ermöglicht werden, kann die Maschine-gegen-Maschine-Verteidigung auch verfeinert werden. Zum Beispiel kann diese Verteidigung in mehreren Sprachen eingesetzt werden. Sie muss auch nicht nur auf E-Mail-Sicherheit beschränkt sein, sondern kann auch für andere Kommunikationskanäle wie Apps wie Slack, WhatsApp, Teams usw. verwendet werden.

Wachsam bleiben

Als einer unserer Mitarbeiter durch LinkedIn scrollte, stieß er auf einen sozialen Ingenieurskunst-Versuch mit Generative KI. Eine seltsame “Whitepaper”-Download-Anzeige erschien mit dem, was man nur als “bizarro” Anzeigekreativität beschreiben kann. Bei näherer Betrachtung sah der Mitarbeiter ein charakteristisches Farbmuster in der unteren rechten Ecke, das auf Bildern, die von Dall-E, einem KI-Modell, das Bilder aus textbasierten Hinweisen generiert, produziert wurden, gestempelt war.

Das Erleben dieser gefälschten LinkedIn-Anzeige war eine bedeutende Erinnerung an die neuen sozialen Ingenieurskunst-Gefahren, die jetzt mit Generative KI auftauchen. Es ist mehr denn je wichtig, wachsam und misstrauisch zu sein.

Das Zeitalter der Generative KI, die für Cyberkriminalität eingesetzt wird, ist hier, und wir müssen wachsam bleiben und bereit sein, mit allen uns zur Verfügung stehenden Werkzeugen zurückzuschlagen.