KI-basierte generative Schreibmodelle kopieren und fügen Quelldaten häufig ein

Amerikanischer Dramatiker und Unternehmer Wilson Mizner wird oft mit dem berühmten Zitat zitiert: “Wenn man von einem Autor stiehlt, ist es Plagiat; wenn man von vielen stiehlt, ist es Recherche”.

Ähnlich verhält es sich mit der Annahme über die neue Generation von KI-basierten kreativen Schreibsystemen, dass die großen Mengen an Daten, die ihnen während der Trainingsphase zugeführt werden, zu einer echten Abstraktion von hochrangigen Konzepten und Ideen geführt haben; dass diese Systeme über die destillierte Weisheit von Tausenden von beitragenden Autoren verfügen, aus der die KI innovative und originelle Texte formulieren kann; und dass diejenigen, die solche Systeme verwenden, sicher sein können, dass sie nicht ungewollt Plagiate begehen.

Es ist eine Annahme, die von einer neuen Studie eines Forschungskonsortiums (darunter die KI-Forschungsabteilungen von Facebook und Microsoft ) in Frage gestellt wird, die festgestellt hat, dass maschinelle Lern-Generative Sprachmodelle wie die GPT-Serie “manchmal sogar sehr lange Passagen” in ihre angeblich originale Ausgabe kopieren, ohne Quellenangabe.

In einigen Fällen dupliziert GPT-2, wie die Autoren feststellen, über 1.000 Wörter aus dem Trainingsset in seiner Ausgabe.

Die Studie trägt den Titel Wie viel kopieren Sprachmodelle von ihren Trainingsdaten? Bewertung der linguistischen Neuheit in der Textgenerierung mit RAVEN und ist eine Zusammenarbeit zwischen der Johns Hopkins University, Microsoft Research, der New York University und Facebook AI Research.

RAVEN

Die Studie verwendet einen neuen Ansatz namens RAVEN (RAtingVErbalNovelty), ein Akronym, das unterhaltsam so gestaltet wurde, dass es den vogelhaften Bösewicht eines klassischen Gedichts widerspiegelt:

‘Dieses Akronym bezieht sich auf “The Raven” von Edgar Allan Poe, in dem der Erzähler einem mysteriösen Raben begegnet, der wiederholt “Niemals” ruft. Der Erzähler kann nicht sagen, ob der Rabe einfach etwas wiederholt, das er von einem Menschen gehört hat, oder ob er seine eigenen Äußerungen konstruiert (vielleicht, indem er nie und mehr)—die gleiche grundlegende Zweideutigkeit, die unser Papier anspricht.’

Die Ergebnisse der neuen Studie kommen im Kontext eines starken Wachstums von KI-Content-Systemen, die darauf abzielen, “einfache” Editieraufgaben zu ersetzen und sogar vollständige Inhalte zu erstellen. Ein solches System erhielt vor kurzem 21 Millionen Dollar an Series-A-Finanzierung.

Die Forscher stellen fest, dass ‘GPT-2 manchmal Trainingspassagen dupliziert, die über 1.000 Wörter lang sind.‘ (ihrer Betonung), und dass generative Sprachsysteme linguistische Fehler in den Quelldaten verbreiten.

Die in RAVEN untersuchten Sprachmodelle waren die GPT-Serie von Versionen bis hin zu GPT-2 (die Autoren hatten zu diesem Zeitpunkt keinen Zugang zu GPT-3), ein Transformer, Transformer-XL und ein LSTM.

Neuheit

Die Studie stellt fest, dass GPT-2 Bush-2-Stil-Inflektionen wie ‘Schweizerifiziert’ und Ableitungen wie ‘IKEA-ness’ prägt, indem es solche neuen Wörter (die nicht in GPT-2s Trainingsdaten vorkommen) auf linguistischen Prinzipien erstellt, die während der Trainingsphase aus höheren Dimensionen etabliert wurden.

Die Ergebnisse zeigen auch, dass ‘74% der von Transformer-XL generierten Sätze eine syntaktische Struktur haben, die kein Trainingsatz hat’, was, wie die Autoren feststellen, ‘neuronale Sprachmodelle nicht einfach memorieren; stattdessen verwenden sie produktive Prozesse, die es ihnen ermöglichen, vertraute Teile auf neue Weise zu kombinieren.’

So sollten technisch gesehen die Verallgemeinerung und Abstraktion sollten innovative und neuartige Texte hervorbringen.

Daten-Duplizierung kann das Problem sein

Die Studie geht davon aus, dass lange und wörtliche Zitate, die von Natural Language Generation (NLG)-Systemen produziert werden, in das KI-Modell “gebacken” werden könnten, weil der ursprüngliche Quelltext mehrmals in nicht ausreichend deduplizierten Datensätzen wiederholt wird.

Obwohl ein anderes Forschungsprojekt festgestellt hat, dass eine vollständige Duplizierung von Text auch dann auftreten kann, wenn der Quelltext nur einmal im Datensatz vorkommt, stellen die Autoren fest, dass das Projekt eine andere konzeptionelle Architektur als die gängigen Content-erzeugenden KI-Systeme hat.

Die Autoren stellen auch fest, dass die Änderung des Decodierungscomponents in Sprachgenerierungssystemen die Neuheit erhöhen kann, aber in Tests feststellten, dass dies auf Kosten der Ausgabegüte geschieht.

Weitere Probleme treten auf, da die Datensätze, die die Algorithmen für die Erstellung von Inhalten antreiben, immer größer werden. Neben der Verschärfung von Problemen um die Affordability und Machbarkeit der Daten-Vorverarbeitung sowie der Qualitätssicherung und Deduplizierung der Daten bleiben viele grundlegende Fehler in den Quelldaten bestehen, die dann in der von der KI erzeugten Inhaltsausgabe verbreitet werden.

Die Autoren stellen fest*:

‘Die jüngsten Erhöhungen der Größe der Trainingsdatensätze machen es besonders kritisch, die Neuheit zu überprüfen, da die Größe dieser Trainingsdatensätze unsere Intuitionen über das, was natürlich auftreten kann, durchbrechen kann. Zum Beispiel basiert einige bemerkenswerte Arbeit in Sprache Erwerb auf der Annahme, dass regelmäßige Vergangenheitsformen unregelmäßiger Verben (z. B. becomed, teached) nicht in der Erfahrung eines Lernenden vorkommen, so dass, wenn ein Lerner solche Wörter produziert, sie für den Lerner neu sein müssen.

‘Es stellt sich jedoch heraus, dass für alle 92 grundlegenden unregelmäßigen Verben im Englischen die falsche regelmäßige Form im Trainingsset von GPT-2 vorkommt.’

Mehr Datenkuratierung erforderlich

Die Studie behauptet, dass mehr Aufmerksamkeit auf die Neuheit bei der Formulierung von generativen Sprachsystemen gelegt werden muss, mit besonderem Augenmerk auf die Sicherstellung, dass der “zurückgehaltene” Testteil der Daten (der Teil der Quelldaten, der für die Überprüfung, wie gut der endgültige Algorithmus die Hauptdatenmenge bewertet hat, beiseite gelegt wird) für die Aufgabe geeignet ist.

‘In der maschinellen Lerntheorie ist es kritisch, Modelle auf einem zurückgehaltenen Testdatensatz zu bewerten. Aufgrund der offenen Natur der Textgenerierung kann der generierte Text eines Modells aus dem Trainingsset kopiert werden, in dem Fall ist es nicht zurückgehalten – also ist es nicht gültig, diese Daten zum Bewerten des Modells (z. B. für Kohärenz oder Grammatikalität) zu verwenden.’

Die Autoren behaupten auch, dass mehr Sorgfalt bei der Erstellung von Sprachmodellen erforderlich ist, insbesondere aufgrund des Eliza-Effekts, eines Syndroms, das 1966 identifiziert wurde und “die Anfälligkeit von Menschen, viel mehr Verständnis in Symbolketten zu lesen, insbesondere in Wörtern, die von Computern zusammengestellt werden”.

* Meine Umwandlung von Inline-Zitaten in Hyperlinks