Die Gefahren von AI-Chatbots – Und Wie Man Sie Abwehrt

Früher galten AI-Chatbots als einfache, automatisierte Gesprächsprogramme. Heute können sie jedoch lernen und Gespräche führen, die von Menschen kaum zu unterscheiden sind. Die Gefahren von AI-Chatbots sind jedoch ebenso vielfältig.

Diese können von Menschen, die sie missbrauchen, bis hin zu tatsächlichen Cybersicherheitsrisiken reichen. Da Menschen immer mehr auf AI-Technologie angewiesen sind, ist es wichtig, die möglichen Folgen des Einsatzes dieser Programme zu kennen. Sind aber Chatbots gefährlich?

1. Bias und Diskriminierung

Eine der größten Gefahren von AI-Chatbots ist ihre Tendenz zu schädlichen Vorurteilen. Da AI Verbindungen zwischen Datenpunkten herstellt, die Menschen oft übersehen, kann es auf subtile, implizite Vorurteile in seinen Trainingsdaten stoßen und sich selbst diskriminierend verhalten. Als Ergebnis können Chatbots schnell lernen, rassistische, sexistische oder andere diskriminierende Inhalte zu verbreiten, auch wenn nichts Extremes in seinen Trainingsdaten enthalten war.

Ein Beispiel dafür ist Amazons gescheitertes Bewerber-Chatbot-Projekt. 2018 wurde bekannt, dass Amazon ein AI-Projekt aufgegeben hatte, das darauf abzielte, Bewerbungen vorab zu bewerten, weil es Anträge von Frauen benachteiligte. Da die meisten Lebensläufe, auf denen der Chatbot trainiert wurde, von Männern stammten, lehrte er sich, dass männliche Bewerber bevorzugt werden sollten, auch wenn die Trainingsdaten dies nicht explizit sagten.

Chatbots, die Internet-Inhalte verwenden, um sich selbst zu lehren, wie man natürlich kommuniziert, neigen dazu, noch extremere Vorurteile zu zeigen. 2016 stellte Microsoft einen Chatbot namens Tay vor, der soziale Medien-Beiträge nachahmte. Innerhalb weniger Stunden begann er, hochgradig anstößige Inhalte zu tweeten, was Microsoft dazu veranlasste, den Account bald darauf zu sperren.

Wenn Unternehmen nicht vorsichtig sind, wenn sie diese Chatbots erstellen und einsetzen, können sie unbeabsichtigt zu ähnlichen Situationen führen. Chatbots könnten Kunden schlecht behandeln oder schädliche, voreingenommene Inhalte verbreiten, die sie eigentlich verhindern sollen.

2. Cybersicherheitsrisiken

Die Gefahren von AI-Chatbot-Technologie können auch eine direktere Cybersicherheitsbedrohung für Menschen und Unternehmen darstellen. Eine der häufigsten Formen von Cyberangriffen sind Phishing- und Vishing-Angriffe. Diese beinhalten Cyber-Angreifer, die vertrauenswürdige Organisationen imitieren, wie Banken oder Regierungsbehörden.

Phishing-Angriffe erfolgen typischerweise per E-Mail und SMS – das Klicken auf den Link ermöglicht es Malware, in das Computersystem einzudringen. Sobald sie innerhalb sind, kann das Virus alles tun, von der Aneignung persönlicher Informationen bis hin zur Geiselnahme des Systems.

Die Rate von Phishing-Angriffen ist während und nach der COVID-19-Pandemie stetig gestiegen. Die Cybersecurity & Infrastructure Security Agency fand heraus, dass 84% der Befragten auf Phishing-Nachrichten mit sensiblen Informationen oder dem Klicken auf den Link reagierten.

Phisher verwenden AI-Chatbot-Technologie, um das automatisierte Suchen nach Opfern, das Überzeugen von Opfern, auf Links zu klicken und persönliche Informationen preiszugeben, zu automatisieren. Chatbots werden von vielen Finanzinstituten – wie Banken – verwendet, um den Kundenservice zu rationalisieren.

Chatbot-Phisher können die gleichen automatisierten Aufforderungen nachahmen, die Banken verwenden, um Opfer zu täuschen. Sie können auch automatisch Telefonnummern anrufen oder Opfer direkt auf interaktiven Chat-Plattformen kontaktieren.

3. Datenvergiftung

Datenvergiftung ist ein neuartiger Cyberangriff, der direkt auf künstliche Intelligenz abzielt. AI-Technologie lernt aus Datenmengen und verwendet diese Informationen, um Aufgaben zu erfüllen. Dies gilt für alle AI-Programme, unabhängig von ihrem Zweck oder ihrer Funktion.

Für Chatbot-AIs bedeutet dies, mehrere Antworten auf mögliche Benutzerfragen zu lernen. Dies ist jedoch auch eine der Gefahren von AI.

Diese Datenmengen sind oft Open-Source-Tools und Ressourcen, die für jeden zugänglich sind. Obwohl AI-Unternehmen ihre Datenquellen normalerweise streng geheim halten, können Cyber-Angreifer herausfinden, welche sie verwenden, und die Daten manipulieren.

Cyber-Angreifer können Wege finden, die Datenmengen zu manipulieren, die zur Ausbildung von AIs verwendet werden, um ihre Entscheidungen und Antworten zu manipulieren. Die AI verwendet die Informationen aus den veränderten Daten und führt die Handlungen aus, die die Angreifer wollen.

Ein Beispiel dafür ist die Verwendung von Wiki-Ressourcen wie Wikipedia als Datenquelle. Obwohl die Daten nicht direkt aus dem Live-Wikipedia-Artikel stammen, stammen sie aus Datenmomentaufnahmen, die zu bestimmten Zeiten aufgenommen wurden. Hacker können eine Möglichkeit finden, die Daten zu bearbeiten, um sie für ihre eigenen Zwecke zu nutzen.

Im Falle von Chatbot-AIs können Hacker die Datenmengen, die zur Ausbildung von Chatbots verwendet werden, die für medizinische oder finanzielle Institutionen arbeiten, manipulieren. Sie können Chatbot-Programme manipulieren, um Kunden falsche Informationen zu geben, die sie dazu bringen, auf einen Link mit Schadsoftware oder eine betrügerische Website zu klicken. Sobald die AI beginnt, aus vergifteten Daten zu schöpfen, ist es schwierig, dies zu erkennen, und es kann zu einem erheblichen Cybersicherheitsverstoß kommen, der lange Zeit unbemerkt bleibt.

Wie Man Die Gefahren von AI-Chatbots Abwehrt

Diese Risiken sind besorgniserregend, aber sie bedeuten nicht, dass Chatbots von Natur aus gefährlich sind. Man sollte sie vielmehr mit Vorsicht angehen und diese Gefahren berücksichtigen, wenn man Chatbots erstellt und verwendet.

Der Schlüssel zur Vermeidung von AI-Vorurteilen besteht darin, nach ihnen während der Ausbildung zu suchen. Stellen Sie sicher, dass Sie es auf diverse Datenmengen trainieren und es speziell darauf programmiert ist, Faktoren wie Rasse, Geschlecht oder sexuelle Orientierung bei seinen Entscheidungen auszuschließen. Es ist auch ratsam, ein diverses Team von Datenwissenschaftlern zu haben, um die internen Abläufe von Chatbots zu überprüfen und sicherzustellen, dass sie keine Vorurteile zeigen, wie subtil auch immer.

Die beste Verteidigung gegen Phishing ist Schulung. Schulen Sie alle Mitarbeiter, um gemeinsame Anzeichen von Phishing-Versuchen zu erkennen, damit sie nicht auf diese Angriffe hereinfallen. Die Verbreitung von Verbraucherbewusstsein über das Problem hilft auch.

Sie können Datenvergiftung verhindern, indem Sie den Zugriff auf die Trainingsdaten von Chatbots einschränken. Nur Personen, die Zugriff auf diese Daten benötigen, um ihre Arbeit ordnungsgemäß auszuführen, sollten autorisiert sein – ein Konzept, das als Prinzip des geringsten Privilegs bezeichnet wird. Nach der Implementierung dieser Einschränkungen verwenden Sie starke Überprüfungsmaßnahmen wie Multi-Faktor-Authentifizierung oder Biometrie, um die Risiken von Cyberkriminellen zu verhindern, die in ein autorisiertes Konto eindringen.

Wachsam Bleiben Gegen Die Gefahren von AI-Abhängigkeit

Künstliche Intelligenz ist eine wahrhaft wunderbare Technologie mit fast unendlichen Anwendungen. Die Gefahren von AI mögen jedoch verborgen sein. Sind Chatbots gefährlich? Nicht von Natur aus, aber Cyberkriminelle können sie auf verschiedene Weise nutzen. Es liegt an den Nutzern, zu entscheiden, welche Anwendungen diese neue Technologie hat.