Kann künstliche Intelligenz eine überzeugendere Phishing-E-Mail als Menschen schreiben?

Natürliche Sprachverarbeitung und fortschrittliche Übersetzungsfähigkeiten machen generative künstliche Intelligenz zu einem unschätzbaren Werkzeug für Hacker. AI-generierte Phishing-E-Mails sind möglicherweise nicht gefährlicher als von Menschen erstellte Betrugsinhalte. Was sollten Benutzer und Sicherheitsexperten über die Rolle der künstlichen Intelligenz bei Phishing und Cyberangriffen wissen?

Wie künstliche Intelligenz Phishing-E-Mails schreibt

Gemeldeter Phishing-Inhalt stieg um 61% von 2021 bis 2022. Von bösartigen URLs bis hin zu E-Mail-Betrug wird Phishing jedes Jahr immer häufiger. Künstliche Intelligenz ist das neueste Werkzeug, das Hacker verwenden, um Phishing-Kampagnen voranzutreiben. Während die natürliche Sprachverarbeitung der künstlichen Intelligenz nützlich ist, können Hacker sie nutzen, um effektivere Phishing-Inhalte zu erstellen.

Die Verfügbarkeit von AI-as-a-Service-Plattformen wie ChatGPT macht es leichter als je zuvor, Inhalte zu generieren. Ein Hacker könnte einem großen Sprachmodell der künstlichen Intelligenz Tausende von Beispielen für legitime E-Mails zeigen und es dann bitten, auf Grundlage dieser Beispiele originale E-Mails zu erstellen. Die natürliche Sprachverarbeitung (NLP) ermöglicht es der künstlichen Intelligenz, realistische schriftliche Inhalte zu verstehen und nachzubilden – ein perfektes Werkzeug für Phishing-Angriffe.

Idealerweise generiert die künstliche Intelligenz eine originale E-Mail, die eine von Menschen geschriebene E-Mail imitiert. Der Hacker kann sie bitten, die Nachricht anzupassen, um Details über ein bestimmtes Unternehmen, eine Person oder einen Ort zu enthalten. Die künstliche Intelligenz kann die Nachricht sogar in eine andere Sprache übersetzen. Hacker können effektiv in nur wenigen Momenten vollständig originale, personalisierte Phishing-E-Mails erstellen, was es ihnen ermöglicht, sich von der Wiederverwendung einer einzigen bösartigen E-Mail unter vielen Zielen abzuwenden.

Sind AI-generierte Phishing-E-Mails effektiv?

Die Möglichkeiten von AI-gesteuerter Phishing mögen einschüchternd klingen, aber sind sie gefährlicher als von Menschen erstellte Phishing-Inhalte? Die Vorteile von AI-generierten Phishing-E-Mails liegen hauptsächlich in effizienteren Arbeitsabläufen für Hacker.

Frühe Forschungsstudien haben gezeigt, dass AI-generierte Phishing-E-Mails etwa genauso überzeugend sind wie von Menschen erstellte Phishing-E-Mails. Hacker sind auch in ihrem Zugang zu AI-as-a-Service-Plattformen eingeschränkt. Die meisten großen Entwickler – einschließlich OpenAI – haben Sicherheitsvorkehrungen, um illegale Anwendungen von AI-Modellen zu verhindern.

Die Hauptvorteile von künstlicher Intelligenz für Phishing-Hacker sind Effizienz und Sprache. Die Verwendung von künstlicher Intelligenz, um Betrugs-E-Mails zu generieren, ist schneller als das manuelle Schreiben, was es Hackern ermöglicht, eine größere Vielfalt von Phishing-E-Mails zu erstellen. Außerdem können sie Opfer auf der ganzen Welt anvisieren, dank leicht zugänglicher Übersetzungstools mit NLP-Fähigkeiten.

Somit erhöhen AI-generierte Phishing-E-Mails das Risiko von Phishing-Angriffen, sind aber möglicherweise nicht überzeugender als von Menschen erstellte Inhalte.

Wie man sich gegen AI-generierte Phishing verteidigen kann

Künstliche Intelligenz ist ein nützliches Werkzeug für Hacker, aber sie ist nicht fehlerfrei. Sicherheitstechnologie und Benutzer können auch ihre Verteidigungsstrategien verbessern, während Phishing-Angriffe cleverer werden. Benutzer sollten damit beginnen, sich über warnende Zeichen von Phishing-Inhalten zu informieren, da diese auch bei AI-generierten E-Mails relevant bleiben.

Während es schwieriger werden kann, Phishing-E-Mails auf den ersten Blick zu erkennen, können bestimmte Sicherheitsmaßnahmen das Potenzial von Phishing-Angriffen minimieren oder eliminieren. Außerdem können neue Erkennungstechnologien sowohl AI- als auch von Menschen geschriebene bösartige E-Mails erkennen.

Umstellung auf Cloud-Speicher

Die Umstellung auf Cloud-Speicher ist eine großartige Möglichkeit, die Bedrohung durch Phishing-E-Mails und Cyberangriffe zu minimieren. Die isolierte Natur herkömmlicher Datenspeicher macht sie sehr anfällig für Ausbeutung durch Hacker. Alles, was ein Hacker tun muss, ist, die Kontrolle über eine Festplatte oder einen Server zu erlangen, und er kann alle Daten einer Person als Geisel halten.

Cloud-Speicher umgeht diese Bedrohung. Da die Daten nicht an ein bestimmtes Gerät gebunden sind, ist es für Hacker viel schwieriger, Informationen zu löschen oder zu beschädigen. Cloud-basierte Cybersicherheit kann auch die Widerstandsfähigkeit gegenüber Hackerversuchen verbessern.

Benutzer können beispielsweise automatisierte Schwachstellen-Scans implementieren, um Schwachstellen in ihrer Cloud-Sicherheit zu finden. Dies ist großartig, um zu verhindern, dass Hacker Backdoors oder gestohlene Anmeldeinformationen verwenden, um auf Daten in der Cloud zuzugreifen. Selbst wenn sie es tun, wird es ihnen schwerfallen, die Daten vollständig zu kontrollieren, da Cloud-Speicher so verteilt ist.

Erstellung eines DIY-Verifizierungssystems

Eine DIY-Lösung, um Phishing-Nachrichten aller Art zu verhindern, besteht darin, ein Code-System unter vertrauenswürdigen Korrespondenten zu etablieren. Dies könnte Personen wie Familie, Freunde und Kollegen umfassen. Jedes Mal, wenn diese Personen in der Gruppe einander E-Mails schreiben, könnten sie einen bestimmten Code-Satz verwenden, um zu überprüfen, dass die Nachricht tatsächlich von ihnen stammt.

Dieses Code-System muss nicht zu kompliziert sein. Die Idee besteht einfach darin, einen Faktor zu E-Mails hinzuzufügen, den ein Hacker oder eine künstliche Intelligenz nicht zuverlässig im Voraus kennen könnte. Machen Sie den Code-Satz zu etwas Ungewöhnlichem, damit er nicht häufig in den Trainings-E-Mails einer künstlichen Intelligenz vorkommt.

Beispielsweise könnte der Code der Name einer Phantom-Siedlung wie “Agloe, New York” sein. Phantom-Siedlungen sind unwahrscheinlich häufig in E-Mails zu finden, da sie fiktive Orte sind, die einfach zu Urheberrechtszwecken hinzugefügt werden.

Verwendung von AI-Phishing-Erkennung

Hacker sind nicht die einzigen, die künstliche Intelligenz nutzen, um ihre Methoden zu verbessern. Benutzer und Sicherheitsexperten können künstliche Intelligenz-Modelle nutzen, um Phishing-Inhalte zu erkennen, egal ob sie von einem Menschen oder einer künstlichen Intelligenz geschrieben wurden.

Entwickler können beispielsweise Machine-Learning verwenden, um die natürlichen Kommunikationsmuster von legitimen E-Mail-Korrespondenten zu überwachen und zu verfolgen. Wenn eine künstliche Intelligenz schnell die einzigartige Kommunikationsweise einer Person lernen könnte, könnte sie gefälschte E-Mails erkennen, die nicht übereinstimmen. Dies gilt unabhängig davon, ob ein Mensch oder eine künstliche Intelligenz die E-Mail geschrieben hat.

Eine der größten Stärken von AI-gesteuerter Phishing ist auch ein großer Schwachpunkt. Hacker können effizient glaubwürdige gefälschte E-Mails mit künstlicher Intelligenz erstellen, aber der Kommunikationsstil dieser E-Mails kann nicht effizient personalisiert werden. Ein Hacker verfügt normalerweise nicht über die technischen Kenntnisse oder Ressourcen, um eine künstliche Intelligenz so zu trainieren, dass sie den Schreibstil einer bestimmten Person genau nachahmt. Phishing-Erkennungs-Modelle der künstlichen Intelligenz können diese Schwäche nutzen, um Benutzer zu schützen.

Das Risiko von AI-gesteuerter Phishing verstehen

Künstliche Intelligenz kann ein wertvolles Werkzeug für Hacker sein, wenn es darum geht, Phishing-E-Mails zu erstellen. Allerdings sind AI-generierte E-Mails nicht unbedingt überzeugender als von Menschen erstellte Phishing-Inhalte. Die Hauptwarnzeichen von Phishing – wie dringende Aufforderungen zum Handeln – bleiben unabhängig davon relevant, wer oder was die Phishing-E-Mail erstellt. Benutzer und Sicherheitsexperten können innovative Techniken und Technologien anwenden, um ihre Daten vor AI-gesteuerter Phishing zu schützen.