Sind unterkuratierte Hyperscale-KI-Datensätze schlimmer als das Internet selbst?

Forscher aus Irland, dem Vereinigten Königreich und den USA warnen davor, dass das Wachstum von Hyperscale-KI-Trainingsdatensätzen die schlechtesten Aspekte ihrer Internetquellen verbreiten könnte. Sie argumentieren, dass ein kürzlich veröffentlichter akademischer Datensatz ‘problematische und explizite Bilder und Textpaare von Vergewaltigung, Pornografie, bösartigen Stereotypen, rassistischen und ethnischen Beleidigungen sowie anderen extrem problematischen Inhalten’ enthält.

Die Forscher glauben, dass eine neue Welle von massiven, unterkuratierten oder falsch gefilterten multimodalen Datensätzen (zum Beispiel Bilder und Bilder) möglicherweise schädlicher sind, da sie Bilder und andere Inhalte bewahren, die möglicherweise aus Online-Plattformen durch Benutzerbeschwerden, lokale Moderation oder Algorithmen entfernt wurden.

Sie bemerken weiter, dass es Jahre dauern kann – im Fall des mächtigen ImageNet-Datensatzes sogar ein ganzes Jahrzehnt – bis langjährige Beschwerden über den Inhalt des Datensatzes bearbeitet werden, und dass diese späteren Überarbeitungen nicht immer in neuen Datensätzen widergespiegelt werden, die von ihnen abgeleitet sind.

Das Papier, betitelt Multimodale Datensätze: Misogynie, Pornografie und bösartige Stereotypen, stammt von Forschern der University College Dublin & Lero, der University of Edinburgh und dem Chief Scientist der UnifyID-Authentifizierungsplattform.

Obwohl die Arbeit sich auf die kürzliche Veröffentlichung des CLIP-gefilterten LAION-400M-Datensatzes konzentriert, argumentieren die Autoren gegen den allgemeinen Trend, immer mehr Daten an maschinelle Lernframeworks wie das neuronale Sprachmodell GPT-3 zu werfen, und behaupten, dass der Ergebnis-fokussierte Drang nach besserer Inferenz (und sogar nach künstlicher allgemeiner Intelligenz [AGI]) zu einer ad-hoc-Verwendung schädlicher Datenquellen mit nachlässiger Urheberrechtsüberwachung führt; das Potenzial, Schaden zu verursachen und zu fördern; und die Fähigkeit, nicht nur illegale Daten zu verbreiten, die möglicherweise aus dem öffentlichen Bereich verschwunden wären, sondern auch die moralischen Modelle solcher Daten in nachgelagerte KI-Implementierungen zu integrieren.

LAION-400M

Im letzten Monat wurde der LAION-400M-Datensatz veröffentlicht, der die wachsende Zahl von multi-modalen, linguistischen Datensätzen erweitert, die auf dem Common Crawl-Repository basieren, das das Internet unvoreingenommen durchsucht und die Verantwortung für die Filterung und Kuratierung an Projekte überträgt, die es nutzen. Der abgeleitete Datensatz enthält 400 Millionen Text-Bild-Paare.

LAION-400M ist eine Open-Source-Variante des geschlossenen WIT-(WebImageText)-Datensatzes von Google AI, der im März 2021 veröffentlicht wurde, und enthält Text-Bild-Paare, bei denen ein Bild in der Datenbank mit begleitendem explizitem oder Metadatentext (zum Beispiel dem Alt-Text eines Bildes in einer Web-Galerie) verknüpft ist. Dies ermöglicht es Benutzern, textbasierte Bildabfrage durchzuführen und die Assoziationen aufzudecken, die die zugrunde liegende KI über diese Domänen (z. B. ‘Tier’, ‘Fahrrad’, ‘Person’, ‘Mann’, ‘Frau’) gebildet hat.

Diese Beziehung zwischen Bild und Text und die Kosinus-Ähnlichkeit, die Vorurteile in die Abfrageergebnisse einbauen kann, stehen im Mittelpunkt des Aufrufs des Papiers zu verbesserten Methoden, da sehr einfache Abfragen an die LAION-400M-Datenbank Vorurteile aufdecken können.

Beispielsweise ruft das Bild der Pionierin und Astronautin Eileen Collins in der scitkit-Bibliothek zwei zugehörige Untertitel in LAION-400M auf: ‘Dies ist ein Porträt eines Astronauten mit der amerikanischen Flagge’ und ‘Dies ist ein Foto einer lächelnden Hausfrau in einem orangefarbenen Overall mit der amerikanischen Flagge’.

Die amerikanische Astronautin Eileen Collins erhält zwei sehr unterschiedliche Auslegungen ihrer Leistungen als erste Frau im Weltraum unter LAION-400M. Quelle: https://arxiv.org/pdf/2110.01963.pdf

Die berichteten Kosinus-Ähnlichkeiten, die entweder Untertitel wahrscheinlich machen, sind sehr nahe beieinander, und die Autoren behaupten, dass KI-Systeme, die LAION-400M nutzen, relativ wahrscheinlich entweder als geeigneten Untertitel präsentieren.

Pornografie kommt wieder an die Spitze

LAION-400M hat eine durchsuchbare Schnittstelle verfügbar gemacht, bei der das Deaktivieren des “Sichere Suche”-Buttons das Ausmaß zeigt, in dem pornografische Bilder und textuelle Assoziationen Labels und Klassen dominieren. Beispielsweise sucht nach ‘Nonne’ (nicht jugendfrei, wenn Sie den “Sichere Suche”-Modus deaktivieren) in der Datenbank, was hauptsächlich Ergebnisse im Zusammenhang mit Horror, Cosplay und Kostümen zurückgibt, mit sehr wenigen tatsächlichen Nonnen.

Das Deaktivieren des “Sichere Suche”-Modus bei der gleichen Suche zeigt eine Flut von pornografischen Bildern im Zusammenhang mit dem Begriff, die alle nicht-pornografischen Bilder in den Suchergebnissen nach unten drängen und das Ausmaß zeigen, in dem LAION-400M den pornografischen Bildern aufgrund ihrer Häufigkeit im Internet eine größere Gewichtung gegeben hat.

Die Standardaktivierung des “Sichere Suche”-Modus in der Online-Suchoberfläche ist irreführend, da es sich um eine Benutzeroberflächenanomalie handelt, ein Filter, der nicht unbedingt in abgeleiteten KI-Systemen aktiviert wird und der in die “Nonne”-Domäne verallgemeinert wurde, auf eine Weise, die nicht so leicht zu filtern oder von den (relativ) sicheren Ergebnissen in Bezug auf algorithmische Verwendung zu unterscheiden ist.

Das Papier enthält im Anhang unscharfe Beispiele für verschiedene Suchbegriffe. Sie können hier nicht gezeigt werden, da die Sprache im Text, der die unscharfen Fotos begleitet, nicht geeignet ist. Die Forscher bemerken jedoch, dass die Untersuchung und Unscharfzeichnung der Bilder sie und ihre Kollegen belastet hat, und erkennen die Herausforderung an, solche Materialien für die menschliche Überwachung von großen Datenbanken zu kuratieren:

‘Wir (sowie unsere Kollegen, die uns halfen) erlebten während des Prozesses der Untersuchung des Datensatzes unterschiedliche Grade von Unbehagen, Übelkeit und Kopfschmerzen. Darüber hinaus trifft diese Art von Arbeit in der akademischen KI-Sphäre auf erhebliche negative Kritik, was nicht nur eine zusätzliche emotionale Belastung für die bereits schwierige Aufgabe der Untersuchung und Analyse solcher Datensätze darstellt, sondern auch ähnliche zukünftige Arbeiten behindert, was der KI-Branche und der Gesellschaft als Ganzes sehr schadet.’

Die Forscher argumentieren, dass menschliche Kuratierung teuer ist und persönliche Kosten verursacht, die automatischen Filter-systeme, die zur Entfernung oder Bearbeitung solcher Materialien konzipiert sind, jedoch offensichtlich nicht für die Aufgabe ausreichend sind, da NLP-Systeme Schwierigkeiten haben, anstößige Materialien zu isolieren oder zu diskontieren, die aufgrund ihrer bloßen Menge in einem gesammelten Datensatz dominieren können.

Verewigung von verbotenem Inhalt und Entfernung von Urheberrechtsschutz

Das Papier argumentiert, dass unterkuratierte Datensätze dieser Art sehr wahrscheinlich die Ausbeutung von Minderheitenbefürwortern fördern und diskutiert, ob ähnliche Open-Source-Dataprojekte das Recht haben, die Verantwortung für das Material auf den Endbenutzer zu übertragen:

‘Einzelne können ihre Daten von einer Website löschen und annehmen, dass sie für immer verschwunden sind, während sie möglicherweise immer noch auf den Servern mehrerer Forscher und Organisationen vorhanden sind. Es stellt sich die Frage, wer für die Entfernung dieser Daten aus dem Datensatz verantwortlich ist? Für LAION-400M haben die Ersteller diese Aufgabe dem Datensatz-Benutzer übertragen. Angesichts der Tatsache, dass diese Prozesse absichtlich komplex gemacht werden und der durchschnittliche Benutzer nicht über die notwendigen technischen Kenntnisse verfügt, um seine Daten zu entfernen, ist dies ein vernünftiger Ansatz?’

Sie argumentieren weiter, dass LAION-400M möglicherweise nicht unter der von ihm angenommenen Creative-Commons-CC-BY-4.0-Lizenzmodell veröffentlicht werden sollte, trotz der potenziellen Vorteile für die Demokratisierung großer Datensätze, die zuvor das exklusive Gebiet von gut finanzierten Unternehmen wie Google und OpenAI waren.

Das LAION-400M-Domain behauptet, dass die Datensatzbilder ‘unter ihrem eigenen Urheberrecht’ sind – ein ‘Durchgangs’-Mechanismus, der größtenteils durch Gerichtsentscheidungen und Regierungsvorschriften der letzten Jahre ermöglicht wird, die das Web-Scraping für Forschungszwecke im Allgemeinen billigen. Quelle: https://rom1504.github.io/clip-retrieval/

Die Autoren schlagen vor, dass Graswurzel- (d. h. Crowdsourcing-) Initiativen einige der Probleme des Datensatzes angehen könnten und dass Forscher verbesserte Filtertechniken entwickeln könnten.

‘Trotzdem bleiben die Rechte des Datenunterfangs ungelöst. Es ist leichtsinnig und gefährlich, die Schäden, die in solchen großen Datensätzen enthalten sind, herunterzuspielen und ihre Verwendung in industriellen und kommerziellen Umgebungen zu fördern. Die Verantwortung des Lizenzschemas, unter dem der Datensatz bereitgestellt wird, liegt allein bei den Datensatz-Erstellern’.

Die Probleme der Demokratisierung von Hyperscale-Daten

Das Papier argumentiert, dass visio-linguistische Datensätze wie LAION-400M zuvor nicht außerhalb von Großunternehmen und der begrenzten Anzahl von Forschungseinrichtungen verfügbar waren, die die Ressourcen haben, sie zu sammeln, zu kuratieren und zu verarbeiten. Sie loben den Geist der neuen Veröffentlichung, während sie deren Ausführung kritisieren.

Die Autoren argumentieren, dass die allgemein akzeptierte Definition von “Demokratisierung”, wie sie auf offene Hyperscale-Datensätze anwendbar ist, zu eng ist und ‘die Rechte, das Wohlergehen und die Interessen von gefährdeten Personen und Gemeinschaften nicht berücksichtigt, von denen viele wahrscheinlich am stärksten unter den nachgelagerten Auswirkungen dieses Datensatzes und der Modelle, die darauf trainiert werden, leiden werden’.

Da die Entwicklung von GPT-3-Modellen im großen Maßstab letztendlich darauf abzielt, sie Millionen (und möglicherweise Milliarden) von Benutzern weltweit zu verbreiten, und da Forschungsprojekte möglicherweise Datensätze übernehmen, bevor sie bearbeitet oder entfernt werden, und somit die Probleme, die in den Änderungen behoben werden sollten, perpetuieren, argumentieren die Autoren, dass sorglose Veröffentlichungen von unterkuratierten Datensätzen nicht zu einer Gewohnheit in der Open-Source-Maschinenlernen-Branche werden sollten.

Das Gespenst wieder in die Flasche stecken

Einige Datensätze, die nach langem unterdrückt wurden, weil ihr Inhalt möglicherweise untrennbar in langfristige KI-Projekte gelangt war, haben einschließlich des Duke MTMC (Multi-Target, Multi-Camera)-Datensatzes, der letztendlich wegen wiederholter Bedenken von Menschenrechtsorganisationen über seine Verwendung durch repressive Behörden in China zurückgezogen wurde; Microsoft Celeb (MS-Celeb-1M), ein Datensatz von 10 Millionen “Prominenten”-Gesichtsbildern, der zutage förderte, dass er Journalisten, Aktivisten, Politiker und Schriftsteller enthielt, deren Offenlegung biometrischer Daten in der Veröffentlichung stark kritisiert wurde; und den Tiny Images-Datensatz, zurückgezogen im Jahr 2020 wegen selbst zugegebener “Vorurteile, anstößiger und voreingenommener Bilder sowie abwertender Terminologie”.

Was die Datensätze angeht, die nach Kritik überarbeitet und nicht zurückgezogen wurden, sind Beispiele der sehr beliebte ImageNet-Datensatz, der, wie die Forscher bemerken, zehn Jahre (2009-2019) benötigte, um auf wiederholte Kritik an Datenschutz und nicht-bildbaren Klassen zu reagieren.

Das Papier bemerkt, dass LAION-400M diese langsamen Verbesserungen sogar zurücksetzt, indem es die oben genannten Überarbeitungen in der neuen Veröffentlichung “weitgehend ignoriert”, und vermutet einen weiteren Trend in dieser Hinsicht*:

‘Dies wird in der Entstehung größerer Datensätze wie dem Tencent ML-Bild-Datensatz (im Februar 2020) hervorgehoben, der die meisten dieser nicht-bildbaren Klassen umfasst, die anhaltende Verfügbarkeit von Modellen, die auf dem vollständigen ImageNet-21k-Datensatz in Repositories wie TF-Hub trainiert wurden, die anhaltende Verwendung des unverarbeiteten ImageNet-21k in den neuesten SotA-Modellen (wie Google’s EfficientNetV2 und CoAtNet-Modellen) und die expliziten Ankündigungen, die die Verwendung des unverarbeiteten ImageNet-21k-Pretrainings in anerkannten Wettbewerben wie dem LVIS-Herausforderung 2021 erlauben.

‘Wir betonen diese entscheidende Beobachtung: Ein Team von ImageNet, das weniger als 15 Millionen Bilder verwaltet, hat bei diesen Entgiftungsversuchen bisher gestritten und ist gescheitert.

‘Der Umfang der sorgfältigen Bemühungen, die erforderlich sind, um diesen massiven multimodalen Datensatz und die nachgelagerten Modelle, die auf diesem Datensatz trainiert werden, der möglicherweise Milliarden von Bild-Text-Paaren umfasst, gründlich zu entgiften, wird unbestreitbar astronomisch sein.’

* Meine Umwandlung der Inline-Zitate des Autors in Hyperlinks.