KI im Phishing: Profitieren Angreifer oder Verteidiger mehr?

Da die Cyberkriminalität gewachsen ist, musste die Cybersicherheitsbranche Spitzenleistungstechnologie annehmen, um Schritt zu halten. Künstliche Intelligenz (KI) ist schnell zu einem der nützlichsten Werkzeuge im Stoppen von Cyberangriffen geworden, aber Angreifer können sie auch nutzen. Aktuelle Phishing-Trends sind ein hervorragendes Beispiel für beide Seiten des Problems.

Phishing ist die häufigste Art von Cyberkriminalität heute bei weitem. Da mehr Unternehmen sich dieser wachsenden Bedrohung bewusst sind, haben mehr von ihnen KI-Tools implementiert, um sie zu stoppen. Allerdings erhöhen Cyberkriminelle auch ihre Nutzung von KI im Phishing. Hier ist ein genauerer Blick darauf, wie beide Seiten diese Technologie nutzen und wer mehr davon profitiert.

Wie KI Phishing bekämpft

Phishing-Angriffe nutzen die natürliche Neugier und Angst von Menschen aus. Da diese soziale Manipulation so effektiv ist, ist eine der besten Möglichkeiten, sich davor zu schützen, sicherzustellen, dass man sie überhaupt nicht sieht. Das ist der Punkt, an dem KI ins Spiel kommt.

Anti-Phishing-KI-Tools kommen typischerweise in Form von erweiterten E-Mail-Filtern. Diese Programme scannen Ihre eingehenden Nachrichten auf Anzeichen von Phishing-Versuchen und senden verdächtige E-Mails automatisch an Ihren Junk-Ordner. Einige neuere Lösungen können Phishing-E-Mails mit 99,9% Genauigkeit erkennen, indem sie verschiedene Versionen von Betrugsmitteilungen auf der Grundlage von echten Beispielen generieren, um sich selbst zu trainieren, Variationen zu erkennen.

Sobald Sicherheitsforscher mehr Phishing-E-Mails erkennen, können sie diesen Modellen mehr Daten liefern, was sie noch genauer macht. Die kontinuierliche Lernfähigkeit von KI hilft auch dabei, Modelle zu verfeinern, um falsche Positivergebnisse zu reduzieren.

KI kann auch helfen, Phishing-Angriffe zu stoppen, wenn Sie auf einen schädlichen Link klicken. Automatisierte Überwachungssoftware kann eine Grundlinie des normalen Verhaltens festlegen, um Abweichungen zu erkennen, die wahrscheinlich auftreten, wenn jemand anderes Ihr Konto verwendet. Sie können dann das Profil sperren und Sicherheitsteams alarmieren, bevor der Eindringling zu viel Schaden anrichtet.

Wie Angreifer KI im Phishing nutzen

Das Potenzial von KI, Phishing-Angriffe zu stoppen, ist beeindruckend, aber es ist auch ein leistungsstarkes Werkzeug für die Generierung von Phishing-E-Mails. Da generative KI wie ChatGPT zugänglicher geworden ist, macht es Phishing-Angriffe effektiver.

Spearphishing – das persönliche Details verwendet, um benutzerspezifische Nachrichten zu erstellen – ist eine der effektivsten Arten von Phishing. Eine E-Mail, die alle Ihre persönlichen Informationen richtig hat, wird natürlich viel überzeugender sein. Allerdings waren diese Nachrichten traditionell schwierig und zeitaufwändig zu erstellen, insbesondere im großen Maßstab. Das ist nicht mehr der Fall mit generativer KI.

KI kann eine enorme Menge an maßgeschneiderten Phishing-Nachrichten in einem Bruchteil der Zeit generieren, die ein Mensch benötigen würde. Es ist auch besser als Menschen darin, überzeugende Fälschungen zu schreiben. In einer Studie aus dem Jahr 2021 sahen KI-generierte Phishing-E-Mails eine deutlich höhere Klickraten als die von Menschen geschriebenen – und das war bevor ChatGPT veröffentlicht wurde.

Genau wie Marketingfachleute KI nutzen, um ihre Kundenansprache-Kampagnen zu personalisieren, können Cyberkriminelle sie nutzen, um effektive, benutzerspezifische Phishing-Nachrichten zu erstellen. Wenn generative KI verbessert wird, werden diese Fälschungen nur noch überzeugender.

Angreifer bleiben aufgrund menschlicher Schwächen in Führung

Wenn man sich ansieht, dass Angreifer und Verteidiger KI nutzen, welche Seite hat die größten Vorteile gesehen? Wenn man sich die aktuellen Cyberkriminalitätstrends ansieht, sieht man, dass Cyberkriminelle trotz fortschrittlicherer Schutzmaßnahmen gedeiht sind.

Business-E-Mail-Kompromiss-Angriffe stiegen im zweiten Halbjahr 2022 um 81% und Mitarbeiter öffneten 28% dieser Nachrichten. Das ist Teil eines längeren Trends mit einer Steigerung von 175% über die letzten zwei Jahre, was darauf hindeutet, dass Phishing schneller wächst als je zuvor. Diese Angriffe sind auch effektiv, sie stehlen 17.700 Dollar pro Minute, was wahrscheinlich der Grund dafür ist, dass sie hinter 91% aller Cyberangriffe stecken.

Warum ist Phishing so stark gewachsen, obwohl KI die Anti-Phishing-Schutzmaßnahmen verbessert? Es liegt wahrscheinlich an dem menschlichen Faktor. Mitarbeiter müssen diese Tools tatsächlich nutzen, damit sie effektiv sind. Darüber hinaus könnten Arbeitnehmer andere unsichere Aktivitäten ausführen, die sie anfällig für Phishing-Versuche machen, wie z. B. das Anmelden bei ihren Arbeitskonten auf nicht genehmigten, ungeschützten persönlichen Geräten.

Die oben erwähnte Umfrage fand auch heraus, dass Arbeitnehmer nur 2,1% der Angriffe melden. Dieser Mangel an Kommunikation kann es schwierig machen, zu sehen, wo und wie Sicherheitsmaßnahmen verbessert werden müssen.

Wie man sich vor steigenden Phishing-Angriffen schützen kann

Angesichts dieses beunruhigenden Trends sollten Unternehmen und Einzelbenutzer Schritte unternehmen, um sicher zu bleiben. Die Implementierung von KI-Anti-Phishing-Tools ist ein guter Anfang, aber es kann nicht die einzige Maßnahme sein. Nur 7% der Sicherheitsteams nutzen oder planen, KI zu nutzen, und dennoch behauptet sich Phishing, also müssen Unternehmen den menschlichen Faktor ansprechen.

Da Menschen der schwächste Link gegen Phishing-Angriffe sind, sollten sie der Fokus der Minderungsmaßnahmen sein. Organisationen sollten Sicherheitsbest-Praktiken zu einem wichtigeren Teil der Mitarbeiter-Einführung und der laufenden Schulung machen. Diese Programme sollten beinhalten, wie man Phishing-Angriffe erkennt, warum es ein Problem ist und Simulationen, um ihre Wissensbehaltung nach der Schulung zu testen.

Die Verwendung stärkerer Identitäts- und Zugriffsmanagement-Tools ist auch wichtig, da diese helfen, erfolgreiche Angriffe nach dem Eindringen in ein Konto zu stoppen. Selbst erfahrene Mitarbeiter können Fehler machen, also sollten Sie in der Lage sein, gehackte Konten zu erkennen und zu stoppen, bevor sie umfassenden Schaden anrichten.

KI ist ein leistungsstarkes Werkzeug für Gutes und Schlechtes

KI ist eine der disruptivsten Technologien in der jüngeren Geschichte. Ob das gut oder schlecht ist, hängt von ihrer Nutzung ab.

Es ist wichtig zu erkennen, dass KI Cyberkriminelle ebenso helfen kann – wenn nicht sogar mehr – wie Cybersicherheitsexperten. Wenn Organisationen diese Risiken anerkennen, können sie effektivere Schritte unternehmen, um steigende Phishing-Angriffe zu bekämpfen.