Was sind LLM-Halluzinationen? Ursachen, ethische Bedenken und Prävention

Große Sprachmodelle (LLMs) sind künstliche Intelligenzsysteme, die in der Lage sind, menschliche Texte zu analysieren und zu generieren. Aber sie haben ein Problem – LLMs halluzinieren, d.h. sie erfinden Dinge. LLM-Halluzinationen haben Forscher besorgt gemacht, da sie die Fortschritte in diesem Bereich behindern könnten, wenn Forscher die Ergebnisse der Modelle nicht kontrollieren können, um kritische Systeme für die Menschheit zu entwickeln. Mehr darüber später.

Im Allgemeinen verwenden LLMs große Mengen an Trainingsdaten und komplexe Lernalgorithmen, um realistische Ausgaben zu generieren. In einigen Fällen wird in-context-Lernen verwendet, um diese Modelle mit nur wenigen Beispielen zu trainieren. LLMs werden immer beliebter in verschiedenen Anwendungsbereichen, von der Maschinensprachübersetzung bis hin zur Sentiment-Analyse, virtuellen KI-Assistenten, Bildannotierung, natürlicher Sprachverarbeitung usw.

Trotz der fortschrittlichen Natur von LLMs sind sie immer noch anfällig für Vorurteile, Fehler und Halluzinationen. Yann LeCun, der derzeitige Chief AI Scientist bei Meta, erwähnte kürzlich den zentralen Fehler in LLMs, der Halluzinationen verursacht: “Große Sprachmodelle haben keine Vorstellung von der zugrunde liegenden Realität, die die Sprache beschreibt. Diese Systeme generieren Text, der grammatisch und semantisch korrekt klingt, aber sie haben keine objektive Vorstellung davon, außer dass sie einfach statistische Konsistenz mit dem Prompt erfüllen”.

Halluzinationen in LLMs

Bild von Gerd Altmann von Pixabay

Halluzinationen beziehen sich auf die Generierung von Ausgaben, die syntaktisch und semantisch korrekt sind, aber von der Realität abgekoppelt sind und auf falschen Annahmen basieren. Halluzination ist einer der größten ethischen Bedenken von LLMs, und es kann schädliche Folgen haben, wenn Benutzer ohne ausreichende Domänenkenntnisse auf diese zunehmend überzeugenden Sprachmodelle vertrauen.

Ein bestimmtes Maß an Halluzination ist unvermeidlich bei allen autoregressiven LLMs. Zum Beispiel kann ein Modell einem Celebrity ein gefälschtes Zitat zuweisen, das nie gesagt wurde. Sie können etwas über ein bestimmtes Thema behaupten, das tatsächlich falsch ist, oder nicht existierende Quellen in Forschungsarbeiten zitieren, wodurch Fehlinformationen verbreitet werden.

Es ist jedoch nicht immer der Fall, dass die Halluzination von KI-Modellen negative Auswirkungen hat. Zum Beispiel legt eine neue Studie nahe, dass Wissenschaftler durch halluzinierende LLMs “neue Proteine mit einer unbegrenzten Anzahl von Eigenschaften” entdecken.

Was verursacht LLM-Halluzinationen?

LLMs können aufgrund verschiedener Faktoren halluzinieren, von Überanpassungsfehlern bei der Kodierung und Dekodierung bis hin zu Trainingsvorurteilen.

Überanpassung

Bild von janjf93 von Pixabay

Überanpassung ist ein Problem, bei dem ein KI-Modell die Trainingsdaten zu gut anpasst, aber nicht in der Lage ist, den gesamten Bereich von Eingaben, die es möglicherweise begegnen wird, vollständig darzustellen, d.h. es versagt bei der Verallgemeinerung seiner Vorhersagekraft auf neue, unbekannte Daten. Überanpassung kann dazu führen, dass das Modell halluzinierte Inhalte produziert.

Kodier- und Dekodierfehler

Bild von geralt von Pixabay

Wenn es Fehler bei der Kodierung und Dekodierung von Text und seinen nachfolgenden Darstellungen gibt, kann dies auch dazu führen, dass das Modell unsinnige und fehlerhafte Ausgaben generiert.

Trainingsvorurteil

Bild von Quince Creative von Pixabay

Ein weiterer Faktor ist das Vorhandensein bestimmter Vorurteile in den Trainingsdaten, die dazu führen können, dass das Modell Ergebnisse liefert, die diese Vorurteile repräsentieren, anstatt die tatsächliche Natur der Daten. Dies ist ähnlich wie der Mangel an Vielfalt in den Trainingsdaten, der die Fähigkeit des Modells einschränkt, sich auf neue Daten zu verallgemeinern.

Die komplexe Struktur von LLMs macht es für KI-Forscher und -Praktiker sehr schwierig, die zugrunde liegenden Ursachen von Halluzinationen zu identifizieren, zu interpretieren und zu korrigieren.

Ethische Bedenken von LLM-Halluzinationen

LLMs können schädliche Vorurteile durch Halluzinationen verbreiten und können negative soziale Konsequenzen haben. Einige der wichtigsten ethischen Bedenken sind unten aufgeführt:

Diskriminierender und toxischer Inhalt

Bild von ar130405 von Pixabay

Da die Trainingsdaten von LLMs oft voller soziokultureller Stereotypen aufgrund der inhärenten Vorurteile und des Mangels an Vielfalt sind, können LLMs diese schädlichen Ideen gegen benachteiligte Gruppen in der Gesellschaft produzieren und verstärken.

Sie können diesen diskriminierenden und hassenden Inhalt aufgrund von Rasse, Geschlecht, Religion, Ethnie usw. generieren.

Datenschutzprobleme

Bild von JanBaby von Pixabay

LLMs werden auf einer großen Trainingskorpus trainiert, die oft persönliche Informationen von Personen enthält. Es gab Fälle, in denen solche Modelle die Privatsphäre von Personen verletzt haben. Sie können spezifische Informationen wie Sozialversicherungsnummern, Wohnanschriften, Telefonnummern und medizinische Details preisgeben.

Fehlinformationen und Desinformation

Bild von geralt von Pixabay

Sprachmodelle können menschlich klingenden Inhalt produzieren, der tatsächlich falsch und nicht durch empirische Beweise gestützt ist. Dies kann unbeabsichtigt sein und zu Fehlinformationen führen, oder es kann eine böswillige Absicht haben, um absichtlich Desinformation zu verbreiten. Wenn dies unkontrolliert bleibt, kann es negative sozio-kulturelle, wirtschaftliche und politische Trends erzeugen.

Verhinderung von LLM-Halluzinationen

Bild von athree23 von Pixabay

Forscher und Praktiker nutzen verschiedene Ansätze, um das Problem der Halluzinationen in LLMs anzugehen. Dazu gehören die Verbesserung der Vielfalt der Trainingsdaten, die Beseitigung inhärenter Vorurteile, die Verwendung besserer Regularisierungstechniken und die Anwendung von adversarialen Trainings- und Verstärkungslernalgorithmen:

• Die Entwicklung besserer Regularisierungstechniken ist von zentraler Bedeutung, um Halluzinationen zu bekämpfen. Sie helfen, Überanpassung und andere Probleme zu vermeiden, die Halluzinationen verursachen.
• Die Datenvergrößerung kann die Häufigkeit von Halluzinationen verringern, wie eine Studie zeigt. Die Datenvergrößerung beinhaltet die Erweiterung des Trainingssets durch Hinzufügen eines zufälligen Tokens an einer beliebigen Stelle im Satz. Dies verdoppelt die Größe des Trainingssets und führt zu einer Verringerung der Häufigkeit von Halluzinationen.
• OpenAI und Google’s DeepMind entwickelten eine Technik namens Reinforcement Learning mit menschlicher Rückmeldung (RLHF), um das Halluzinationsproblem von ChatGPT zu bekämpfen. Dabei wird ein menschlicher Evaluator eingesetzt, der die Antworten des Modells häufig überprüft und die am besten geeigneten für die Benutzereingaben auswählt. Diese Rückmeldung wird dann verwendet, um das Verhalten des Modells anzupassen. Ilya Sutskever, OpenAIs Chief Scientist, erwähnte kürzlich, dass dieser Ansatz potenziell Halluzinationen in ChatGPT beheben kann: “Ich bin zuversichtlich, dass wir durch die Verbesserung dieses nachfolgenden Reinforcement Learning mit menschlicher Rückmeldung Halluzinationen in ChatGPT verhindern können.”
• Die Identifizierung von halluziniertem Inhalt, um es als Beispiel für zukünftiges Training zu verwenden, ist auch eine Methode, um Halluzinationen zu bekämpfen. Eine neue Technik in diesem Bereich erkennt Halluzinationen auf Token-Ebene und prognostiziert, ob jedes Token in der Ausgabe halluziniert ist. Sie umfasst auch eine Methode für unsupervisiertes Lernen von Halluzinationsdetektoren.

Token-Ebene Halluzinationsdetektion

Um es einfach auszudrücken, sind LLM-Halluzinationen ein wachsendes Problem. Und trotz der Bemühungen muss noch viel Arbeit geleistet werden, um das Problem anzugehen. Die Komplexität dieser Modelle macht es im Allgemeinen schwierig, die inhärenten Ursachen von Halluzinationen korrekt zu identifizieren und zu korrigieren.

Es ist jedoch möglich, Halluzinationen in LLMs zu mindern und ihre ethischen Konsequenzen zu verringern, wenn Forschung und Entwicklung fortgesetzt werden.

Wenn Sie mehr über LLMs und die präventiven Techniken erfahren möchten, die entwickelt werden, um LLM-Halluzinationen zu korrigieren, besuchen Sie unite.ai, um Ihr Wissen zu erweitern.