KI-Modelle und Plattformen

GPT-2, Künstliche Intelligenz Text-Generator wird vollständig veröffentlicht

mm
Veröffentlicht am
Aktualisiert am
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen

Wie TheNextWeb (TNW) berichtet, hat OpenAI, die Non-Profit-Organisation hinter zahlreichen künstlichen Intelligenz-Projekten, soeben das finale Modell in der geplanten schrittweisen Veröffentlichung für GPT-2 veröffentlicht, einen Text-Generator, der seit seiner angekündigten Veröffentlichung im Februar für viel Diskussion gesorgt hat.

Basierend auf OpenAIs Forschungsarbeit mit dem Titel Language Models are Unsupervised Multitask Learners, “verwendet GPT-2 maschinelles Lernen, um auf der Grundlage begrenzter Eingaben neue Texte zu generieren.” Das bedeutet, dass ein Benutzer einen Satz oder zwei über jedes Thema eingeben kann und der AI-Generator einen Text erstellt, der eine Beziehung zum ursprünglichen Eingabe-Text hat. Im Wesentlichen, wie TNW feststellt, gibt GPT-2 im Gegensatz zu den meisten “Text-Generatoren” keine vorher geschriebenen Zeichenfolgen aus. GPT-2 erzeugt Texte, die zuvor nicht existierten.

In seinem Tweet gibt Scott B. Weingart, Programm-Direktor der Carnegie Mellon University Libraries, ein konkretes Beispiel:

 

OpenAI war ursprünglich besorgt über mögliche schädliche Anwendungen ihres Systems, daher entschied sich die Organisation im Februar 2019, GPT-2 in vier Teilen über acht Monate zu veröffentlichen. Wie sie in ihrem Blog erklärten, “wir veröffentlichen aufgrund unserer Bedenken hinsichtlich schädlicher Anwendungen der Technologie nicht das trainierte Modell. Als Experiment in verantwortungsvoller Offenlegung veröffentlichen wir stattdessen ein viel kleineres Modell für Forscher, um damit zu experimentieren, sowie einen technischen Artikel.”

Wie erklärt, enthält das vollständige Modell 1,5 Milliarden Parameter. “Je mehr Parameter ein Modell trainiert, desto ‘intelligenter’ erscheint es – genau wie bei Menschen, Übung macht den Meister.”

TNW berichtet, dass OpenAI ursprünglich ein Modell mit 124 Millionen Parametern veröffentlichte, gefolgt von Veröffentlichungen mit 355 und 774 Millionen Parametern. Laut TNW zeigte jedes Update eine signifikante Verbesserung der Fähigkeiten im Vergleich zu den vorherigen Iterationen.

Um Missbrauch zu verhindern, veröffentlichte OpenAI GPT-2-Erkennungsmodelle, die “vorbeugend Missbrauch bekämpfen” sollen. In einem Blog-Beitrag räumt OpenAI ein, dass diese Erkennungsmodelle noch weitere Arbeit benötigen, um das Qualitätssiveau zu erreichen, das bisher in GPT-2 selbst erreicht wurde.

Interessierte können das GPT-2-Modell hier auf Github herunterladen, die Modellkarte hier ansehen und den Blog-Beitrag von OpenAI hier lesen.

mm

Ehemaliger Diplomat und Übersetzer für die UN, derzeit freiberuflicher Journalist/Schriftsteller/Forscher, der sich auf moderne Technologie, künstliche Intelligenz und moderne Kultur konzentriert.