Wie beeinflusst synthetische Daten künstliche Intelligenz-Halluzinationen?

Obwohl synthetische Daten ein leistungsfähiges Werkzeug sind, können sie künstliche Intelligenz-Halluzinationen nur unter bestimmten Umständen reduzieren. In fast allen anderen Fällen werden sie Halluzinationen verstärken. Warum ist das so? Was bedeutet dieses Phänomen für diejenigen, die in sie investiert haben?

Wie unterscheiden sich synthetische Daten von echten Daten?

Synthetische Daten sind Informationen, die von künstlicher Intelligenz generiert werden. Anstatt aus realen Ereignissen oder Beobachtungen gesammelt zu werden, werden sie künstlich produziert. Sie ähneln dem Original jedoch genug, um genaue und relevante Ausgaben zu produzieren. Das ist zumindest die Idee.

Um eine künstliche Datenbank zu erstellen, trainieren KI-Ingenieure ein generatives Algorithmus auf einer realen relationalen Datenbank. Wenn es aufgefordert wird, produziert es eine zweite Menge, die der ersten sehr ähnelt, aber keine echten Informationen enthält. Während die allgemeinen Trends und mathematischen Eigenschaften intakt bleiben, gibt es genug Rauschen, um die ursprünglichen Beziehungen zu maskieren.

Eine von KI generierte Datenbank geht über die Entidentifizierung hinaus, indem sie die zugrunde liegende Logik der Beziehungen zwischen Feldern repliziert, anstatt einfach Felder durch äquivalente Alternativen zu ersetzen. Da sie keine identifizierenden Details enthält, können Unternehmen sie verwenden, um Datenschutz- und Urheberrechtsvorschriften zu umgehen. Wichtiger noch, sie können sie frei teilen oder verteilen, ohne Angst vor einem Datenleck zu haben.

Allerdings werden falsche Informationen häufiger für die Ergänzung verwendet. Unternehmen können sie verwenden, um Stichproben zu bereichern oder zu erweitern, die zu klein sind, um KI-Systeme effektiv zu trainieren.

Minimieren synthetische Daten künstliche Intelligenz-Halluzinationen?

Manchmal beziehen sich Algorithmen auf nicht existierende Ereignisse oder machen logisch unmögliche Vorschläge. Diese Halluzinationen sind oft unsinnig, irreführend oder falsch. Zum Beispiel könnte ein großes Sprachmodell einen Artikel über die Domestizierung von Löwen oder das Werden eines Arztes im Alter von 6 Jahren schreiben. Sie sind jedoch nicht alle so extrem, was es schwierig machen kann, sie zu erkennen.

Wenn sie entsprechend kuratiert werden, können künstliche Daten diese Vorfälle mildern. Eine relevante, authentische Trainingsdatenbank ist die Grundlage für jedes Modell, also ist es logisch, dass je mehr Details jemand hat, desto genauer die Ausgabe seines Modells sein wird. Eine ergänzende Datenbank ermöglicht Skalierbarkeit, sogar für Nischenanwendungen mit begrenzten öffentlichen Informationen.

Debiasing ist eine weitere Möglichkeit, wie eine synthetische Datenbank künstliche Intelligenz-Halluzinationen minimieren kann. Laut der MIT Sloan School of Management kann sie helfen, Voreingenommenheit zu bekämpfen, da sie nicht auf die ursprüngliche Stichprobengröße beschränkt ist. Fachleute können realistische Details verwenden, um die Lücken zu füllen, in denen bestimmte Subpopulationen unter- oder überrepräsentiert sind.

Wie machen künstliche Daten Halluzinationen schlimmer

Da intelligente Algorithmen nicht ableiten oder kontextualisieren können, sind sie anfällig für Halluzinationen. Generative Modelle — insbesondere vorab trainierte große Sprachmodelle — sind besonders anfällig. Auf einige Weise verschlimmern künstliche Fakten das Problem.

Voreingenommenheitsverstärkung

Wie Menschen können auch KI-Systeme lernen und Voreingenommenheit reproduzieren. Wenn eine künstliche Datenbank bestimmte Gruppen überbewertet, während sie andere unterrepräsentiert — was besorgniserregend leicht zu tun ist — wird ihre Entscheidungslogik schiefgehen und die Ausgabegenauigkeit beeinträchtigen.

Ein ähnliches Problem kann entstehen, wenn Unternehmen künstliche Daten verwenden, um reale Voreingenommenheit zu eliminieren, da sie dann möglicherweise nicht mehr der Realität entsprechen. Zum Beispiel können über 99% aller Brustkrebsfälle bei Frauen auftreten, also kann die Verwendung von ergänzenden Informationen, um die Repräsentation auszugleichen, die Diagnose verzerren.

Intersektionale Halluzinationen

Intersektionalität ist ein soziologischer Rahmen, der beschreibt, wie Demografien wie Alter, Geschlecht, Rasse, Beruf und Klasse sich überschneiden. Sie analysiert, wie die sich überschneidenden sozialen Identitäten von Gruppen zu einzigartigen Kombinationen von Diskriminierung und Privilegien führen.

Wenn ein generatives Modell aufgefordert wird, künstliche Details auf der Grundlage dessen zu produzieren, was es trainiert hat, kann es Kombinationen erzeugen, die im Original nicht existierten oder logisch unmöglich sind.

Ericka Johnson, Professorin für Geschlecht und Gesellschaft an der Linköping-Universität, arbeitete mit einem Maschinellem-Lern-Wissenschaftler zusammen, um dieses Phänomen zu demonstrieren. Sie verwendeten ein generatives adversarisches Netzwerk , um synthetische Versionen der US-Volkszählungsdaten von 1990 zu erstellen.

Sofort bemerkten sie ein großes Problem. Die künstliche Version hatte Kategorien mit den Titeln “Ehefrau und ledig” und “nie verheiratete Ehemänner”, beides intersektionale Halluzinationen.

Ohne ordnungsgemäße Kuratierung wird die Replikadatenbank immer die dominanten Subpopulationen in Datenbanken überrepräsentieren, während sie unterrepräsentierte Gruppen — oder sogar ausschließt — unterrepräsentiert. Randfälle und Ausreißer können vollständig ignoriert werden, um dominanten Trends zu bevorzugen.

Modellkollaps

Eine Überbetonung künstlicher Muster und Trends führt zu einem Modellkollaps — wo die Leistung eines Algorithmus drastisch verschlechtert, wenn er weniger anpassungsfähig an reale Beobachtungen und Ereignisse wird.

Dieses Phänomen ist besonders offensichtlich in der nächsten Generation von generativen KI. Die wiederholte Verwendung einer künstlichen Version, um sie zu trainieren, führt zu einer sich selbst verbrauchenden Schleife. Eine Studie fand heraus, dass ihre Qualität und Abrufquote progressiv abnehmen, wenn nicht genug aktuelle, tatsächliche Zahlen in jeder Generation vorhanden sind.

Überanpassung

Überanpassung ist eine Überbetonung der Trainingsdaten. Der Algorithmus funktioniert anfangs gut, aber halluziniert, wenn er mit neuen Datenpunkten konfrontiert wird. Künstliche Informationen können dieses Problem verschlimmern, wenn sie nicht genau der Realität entsprechen.

Aussichten für den weiteren Einsatz synthetischer Daten

Der Markt für synthetische Daten boomt. Unternehmen in dieser Nischenindustrie sammelten etwa 328 Millionen Dollar im Jahr 2022, im Vergleich zu 53 Millionen Dollar im Jahr 2020 — ein Anstieg von 518% in nur 18 Monaten. Es ist erwähnenswert, dass dies ausschließlich öffentlich bekannte Finanzierungen sind, was bedeutet, dass die tatsächliche Summe noch höher sein könnte. Es ist sicher zu sagen, dass Unternehmen unglaublich in diese Lösung investiert sind.

Wenn Unternehmen weiterhin eine künstliche Datenbank ohne ordnungsgemäße Kuratierung und Debiasing verwenden, wird die Leistung ihres Modells progressiv abnehmen, was ihre KI-Investitionen verderben wird. Die Ergebnisse können je nach Anwendung noch schwerwiegender sein. Zum Beispiel kann in der Gesundheitsversorgung ein Anstieg von Halluzinationen zu Fehldiagnosen oder unangemessenen Behandlungsplänen führen, was zu schlechteren Patientenergebnissen führt.

Die Lösung wird nicht darin bestehen, zu echten Daten zurückzukehren

KI-Systeme benötigen Millionen, wenn nicht Milliarden von Bildern, Texten und Videos für die Ausbildung, von denen die meisten von öffentlichen Websites gesammelt und in großen, offenen Datenbanken zusammengestellt werden. Leider verbrauchen Algorithmen diese Informationen schneller, als Menschen sie generieren können. Was passiert, wenn sie alles gelernt haben?

Unternehmensleiter sind besorgt über die Datenwand — den Punkt, an dem alle öffentlichen Informationen im Internet aufgebraucht sind. Sie könnte näher sein, als sie denken.

Obwohl sowohl die Menge an Klartext auf der durchschnittlichen gemeinsamen Web-Seite als auch die Anzahl der Internetnutzer jährlich um 2% bis 4% wachsen, laufen Algorithmen aus hochwertigen Daten aus. Nur 10% bis 40% können für die Ausbildung verwendet werden, ohne die Leistung zu beeinträchtigen. Wenn Trends anhalten, könnte der Bestand an öffentlich generierten Informationen bis 2026 aufgebraucht sein.

In aller Wahrscheinlichkeit wird der KI-Sektor die Datenwand sogar noch früher erreichen. Der generative KI-Boom der letzten Jahre hat die Spannungen über Informationsbesitz und Urheberrechtsverletzungen erhöht. Mehr Website-Besitzer verwenden das Robots Exclusion Protocol — ein Standard, der ein robots.txt-File verwendet, um Web-Crawler zu blockieren — oder machen es deutlich, dass ihre Website gesperrt ist.

Eine 2024 veröffentlichte Studie einer MIT-geführten Forschungsgruppe zeigte, dass die Colossal Cleaned Common Crawl (C4)-Datenbank — ein großes Web-Crawl-Korpus — Einschränkungen auf dem Vormarsch sind. Über 28% der aktivsten, kritischsten Quellen in C4 waren vollständig eingeschränkt. Darüber hinaus sind 45% von C4 durch die Nutzungsbedingungen als gesperrt markiert.

Wenn Unternehmen diese Einschränkungen respektieren, wird die Frische, Relevanz und Genauigkeit von realen öffentlichen Fakten abnehmen, was sie dazu zwingt, auf künstliche Datenbanken zurückzugreifen. Sie haben möglicherweise keine andere Wahl, wenn die Gerichte entscheiden, dass jede Alternative Urheberrechtsverletzung ist.

Die Zukunft synthetischer Daten und künstlicher Intelligenz-Halluzinationen

Wenn Urheberrechtsgesetze modernisiert werden und mehr Website-Besitzer ihre Inhalte vor Web-Crawlern verstecken, wird die Erzeugung künstlicher Datenbanken immer beliebter. Organisationen müssen sich auf die Bedrohung durch Halluzinationen vorbereiten.