Generative KI in der Cybersicherheit: Das Schlachtfeld, die Bedrohung und jetzt die Verteidigung

Das Schlachtfeld

Was ursprünglich als Begeisterung über die Fähigkeiten der Generative KI begann, hat sich schnell in Besorgnis verwandelt. Generative KI-Tools wie ChatGPT, Google Bard, Dall-E usw. machen weiterhin Schlagzeilen wegen Sicherheits- und Datenschutzbedenken. Es führt sogar zu Fragen darüber, was real und was nicht ist. Generative KI kann sehr überzeugende und daher überzeugende Inhalte produzieren. So sehr, dass am Ende eines kürzlichen 60-Minuten-Segments über KI der Moderator Scott Pelley den Zuschauern mit diesem Statement sagte: “Wir werden mit einer Notiz enden, die noch nie auf 60 Minuten erschienen ist, aber eine, in der KI-Revolution, Sie oft hören werden: Das Vorhergehende wurde mit 100% menschlichem Inhalt erstellt.”

Der Generative KI-Cyberkrieg beginnt mit diesem überzeugenden und realistischen Inhalt und das Schlachtfeld ist, wo Hacker Generative KI nutzen, indem sie Tools wie ChatGPT usw. einsetzen. Es ist extrem einfach für Cyberkriminelle, insbesondere für die mit begrenzten Ressourcen und ohne technische Kenntnisse, ihre Verbrechen durch soziale Manipulation, Phishing und Identitätsdiebstahl auszuführen.

Die Bedrohung

Generative KI hat die Macht, immer komplexere Cyberangriffe zu fördern.

Da die Technologie so überzeugende und menschenähnliche Inhalte mit Leichtigkeit produzieren kann, sind neue Cyber-Betrügereien, die KI nutzen, für Sicherheitsteams schwieriger zu erkennen. KI-generierte Betrügereien können in Form von sozialen Manipulationsangriffen wie multikanaligen Phishing-Angriffen über E-Mail und Messaging-Apps auftreten. Ein Beispiel aus der realen Welt könnte eine E-Mail oder Nachricht sein, die ein Dokument enthält, das an einen Unternehmensleiter von einem Drittanbieter über Outlook (E-Mail) oder Slack (Messaging-App) gesendet wird. Die E-Mail oder Nachricht fordert sie auf, darauf zu klicken, um eine Rechnung zu sehen. Mit Generative KI kann es fast unmöglich sein, zwischen einer gefälschten und einer echten E-Mail oder Nachricht zu unterscheiden. Deshalb ist es so gefährlich.

Ein Beispiel, das jedoch besonders besorgniserregend ist, ist, dass Cyberkriminelle mit Generative KI Angriffe in mehreren Sprachen produzieren können – unabhängig davon, ob der Hacker die Sprache tatsächlich spricht. Das Ziel ist es, ein breites Netz auszuwerfen, und Cyberkriminelle werden ihre Opfer nicht nach Sprache diskriminieren.

Der Fortschritt der Generative KI signalisiert, dass das Ausmaß und die Effizienz dieser Angriffe weiter ansteigen werden.

Die Verteidigung

Die Cyber-Verteidigung für Generative KI war bisher das fehlende Puzzlestück. Bis jetzt. Durch den Einsatz von Maschine-gegen-Maschine-Kampf oder das Aufeinandertreffen von KI gegen KI können wir uns gegen diese neue und wachsende Bedrohung verteidigen. Aber wie sollte diese Strategie definiert werden und wie sieht sie aus?

Erstens muss die Branche handeln, um Computer gegen Computer anstatt Mensch gegen Computer zu setzen. Um dies zu erreichen, müssen wir fortschrittliche Erkennungsplattformen in Betracht ziehen, die KI-generierte Bedrohungen erkennen, die Zeit, die zum Erkennen und Lösen eines sozialen Manipulationsangriffs, der von Generative KI stammt, reduzieren. Etwas, das ein Mensch nicht tun kann.

Wir haben kürzlich einen Test durchgeführt, um zu sehen, wie dies aussehen kann. Wir haben ChatGPT angewiesen, eine sprachbasierte Callback-Phishing-E-Mail in mehreren Sprachen zu erstellen, um zu sehen, ob eine Plattform für das Verständnis natürlicher Sprache oder eine fortschrittliche Erkennungsplattform sie als soziale Manipulationsattacke erkennen kann. Wir haben ChatGPT den Hinweis gegeben, “eine dringende E-Mail zu schreiben, die jemanden auffordert, wegen einer endgültigen Mitteilung über eine Softwarelizenzvereinbarung anzurufen.” Wir haben es auch angewiesen, es auf Englisch und Japanisch zu schreiben.

Die fortschrittliche Erkennungsplattform konnte die E-Mails sofort als soziale Manipulationsattacke erkennen. ABER native E-Mail-Steuerungen wie Outlooks Phishing-Erkennungsplattform konnten es nicht. Selbst vor der Veröffentlichung von ChatGPT hatte soziale Manipulation über konversationale, sprachbasierte Angriffe bewiesen, dass sie traditionelle Steuerungen umgehen und in Postfächer ohne Link oder Payload landen konnte. Also, ja, es erfordert Maschine-gegen-Maschine-Kampf, um sich zu verteidigen, aber wir müssen auch sicherstellen, dass wir effektive Waffen wie eine fortschrittliche Erkennungsplattform einsetzen. Jeder, der über diese Tools verfügt, hat einen Vorteil im Kampf gegen Generative KI.

Wenn es um das Ausmaß und die Glaubwürdigkeit sozialer Manipulationsangriffe geht, die durch ChatGPT und andere Formen der Generative KI ermöglicht werden, kann die Maschine-gegen-Maschine-Verteidigung auch verfeinert werden. Zum Beispiel kann diese Verteidigung in mehreren Sprachen eingesetzt werden. Sie muss nicht nur auf E-Mail-Sicherheit beschränkt sein, sondern kann auch für andere Kommunikationskanäle wie Apps wie Slack, WhatsApp, Teams usw. verwendet werden.

Bleiben Sie wachsam

Als einer unserer Mitarbeiter durch LinkedIn scrollte, stieß er auf einen sozialen Manipulationsversuch mit Generative KI. Eine seltsame “Whitepaper”-Download-Anzeige erschien mit einer Anzeige, die nur als “bizarro” beschrieben werden kann. Bei näherer Betrachtung sah der Mitarbeiter ein charakteristisches Farbmuster in der unteren rechten Ecke, das auf Bildern, die von Dall-E, einem KI-Modell, das Bilder aus textbasierten Anweisungen generiert, produziert wurden, gestempelt war.

Das Erleben dieser gefälschten LinkedIn-Anzeige war eine bedeutende Erinnerung an neue soziale Manipulationsgefahren, die jetzt mit Generative KI auftauchen. Es ist kritischer denn je, wachsam und misstrauisch zu sein.

Das Zeitalter der Generative KI, die für Cyberkriminalität eingesetzt wird, ist hier, und wir müssen wachsam bleiben und uns mit allen verfügbaren Werkzeugen zur Wehr setzen.