Generative KI: Die Idee hinter CHATGPT, Dall-E, Midjourney und mehr

Die Welt der Kunst, der Kommunikation und der Art und Weise, wie wir die Realität wahrnehmen, verändert sich rasant. Wenn wir auf die Geschichte der menschlichen Innovation zurückblicken, könnten wir die Erfindung des Rades oder die Entdeckung der Elektrizität als monumentale Sprünge betrachten. Heute findet eine neue Revolution statt – die Überbrückung der Kluft zwischen menschlicher Kreativität und maschineller Berechnung. Das ist generative KI.

Generative Modelle haben die Grenze zwischen Mensch und Maschine verwischt. Mit dem Aufkommen von Modellen wie GPT-4, das Transformatormodule verwendet, sind wir der natürlichen und kontextreichen Sprachgenerierung einen Schritt näher gekommen. Diese Fortschritte haben Anwendungen in der Dokumentenerstellung, in Chatbot-Dialogsystemen und sogar in der synthetischen Musikkomposition vorangetrieben.

Jüngste Big-Tech-Entscheidungen unterstreichen seine Bedeutung. Microsoft ist es bereits stellt die Cortana-App ein diesen Monat, um neuere generative KI-Innovationen wie Bing Chat zu priorisieren. Auch Apple hat einen erheblichen Teil davon gewidmet 22.6 Milliarden US-Dollar Forschungs- und Entwicklungsbudget zur generativen KI, wie CEO Tim Cook andeutete.

Eine neue Ära der Modelle: Generativ vs. Diskriminierend

In der Geschichte der generativen KI geht es nicht nur um ihre Anwendungen, sondern im Wesentlichen um ihr Innenleben. Im Ökosystem der künstlichen Intelligenz gibt es zwei Modelle: diskriminativ und generativ.

Diskriminative Modelle sind etwas, mit dem die meisten Menschen im Alltag zu tun haben. Diese Algorithmen verarbeiten Eingabedaten wie Texte oder Bilder und verknüpfen sie mit einer Zielausgabe, beispielsweise einer Wortübersetzung oder einer medizinischen Diagnose. Sie dienen der Abbildung und Vorhersage.

Generative Modelle hingegen sind Schöpfer. Sie interpretieren oder prognostizieren nicht nur, sondern erzeugen neue, komplexe Ergebnisse aus Zahlenvektoren, die oft nicht einmal mit realen Werten in Verbindung stehen.

Die Technologien hinter generativen Modellen

Generative Modelle verdanken ihre Existenz tiefen neuronalen Netzwerken – hochentwickelten Strukturen, die die Funktionsweise des menschlichen Gehirns nachahmen. Durch die Erfassung und Verarbeitung vielfältiger Datenvariationen bilden diese Netzwerke das Rückgrat zahlreicher generativer Modelle.

Wie werden diese generativen Modelle zum Leben erweckt? Normalerweise basieren sie auf tiefen neuronalen Netzen, die für die Erfassung vielfältiger Datenvariationen optimiert sind. Ein Paradebeispiel ist das Generative Adversarial Network (GAN), bei dem zwei neuronale Netze, der Generator und der Diskriminator, in einer einzigartigen Lehrer-Schüler-Beziehung miteinander konkurrieren und voneinander lernen. Von der Malerei bis zum Stiltransfer, von der Musikkomposition bis zum Spielen – diese Modelle entwickeln und erweitern sich auf bisher unvorstellbare Weise.

Dies hört bei GANs nicht auf. Variations-Autoencoder (VAEs) sind ein weiterer zentraler Akteur im Bereich der generativen Modelle. VAEs zeichnen sich durch ihre Fähigkeit aus, fotorealistische Bilder aus scheinbar zufälligen Zahlen zu erstellen. Wie? Durch die Verarbeitung dieser Zahlen durch einen latenten Vektor entsteht Kunst, die die Komplexität der menschlichen Ästhetik widerspiegelt.

Generative KI-Typen: Text zu Text, Text zu Bild

Transformatoren & LLM

Das Papier "Aufmerksamkeit ist alles was Sie brauchen„von Google Brain markierte einen Wandel in der Art und Weise, wie wir über Textmodellierung denken. Anstelle komplexer und sequenzieller Architekturen wie Recurrent Neural Networks (RNNs) oder Convolutional Neural Networks (CNNs) führte das Transformer-Modell das Konzept der Aufmerksamkeit ein, das im Wesentlichen bedeutete, sich je nach Kontext auf verschiedene Teile des Eingabetextes zu konzentrieren. Einer der Hauptvorteile davon war die einfache Parallelisierung. Im Gegensatz zu RNNs, die Text sequentiell verarbeiten, was ihre Skalierung erschwert, können Transformers Teile des Textes gleichzeitig verarbeiten, wodurch das Training bei großen Datensätzen schneller und effizienter wird.

In einem langen Text hat nicht jedes Wort oder jeder Satz, den Sie lesen, die gleiche Bedeutung. Einige Teile erfordern je nach Kontext mehr Aufmerksamkeit. Diese Fähigkeit, unseren Fokus je nach Relevanz zu verschieben, wird vom Aufmerksamkeitsmechanismus nachgeahmt.

Um dies zu verstehen, denken Sie an einen Satz: „Unite AI – Veröffentlichen Sie Neuigkeiten zu KI und Robotik.“ Um das nächste Wort vorherzusagen, muss man verstehen, was im vorherigen Kontext am wichtigsten ist. Der Begriff „Robotik“ könnte darauf hindeuten, dass sich das nächste Wort auf einen bestimmten Fortschritt oder ein Ereignis im Bereich der Robotik bezieht, während „Veröffentlichen“ darauf hinweisen könnte, dass sich der folgende Kontext auf eine aktuelle Veröffentlichung oder einen Artikel bezieht.

Aufmerksamkeitsmechanismen in Transformern sind darauf ausgelegt, diesen selektiven Fokus zu erreichen. Sie messen die Wichtigkeit verschiedener Teile des Eingabetextes und entscheiden, wo bei der Generierung einer Antwort „hingesehen“ werden soll. Dies ist eine Abkehr von älteren Architekturen wie RNNs, die versuchten, die Essenz des gesamten Eingabetextes in einen einzigen „Zustand“ oder „Speicher“ zu packen.

Die Funktionsweise der Aufmerksamkeit lässt sich mit einem Schlüssel-Wert-Abrufsystem vergleichen. Beim Versuch, das nächste Wort in einem Satz vorherzusagen, bietet jedes vorangehende Wort einen „Schlüssel“, der auf seine potenzielle Relevanz hindeutet. Je nachdem, wie gut diese Schlüssel zum aktuellen Kontext (oder zur Abfrage) passen, tragen sie einen „Wert“ oder eine Gewichtung zur Vorhersage bei.

Diese fortschrittlichen KI-Deep-Learning-Modelle wurden nahtlos in verschiedene Anwendungen integriert, von den Suchmaschinenerweiterungen von Google mit BERT bis hin zu Copilot von GitHub, das die Fähigkeiten von Large Language Models (LLMs) nutzt, um einfache Codeausschnitte in voll funktionsfähige Quellcodes umzuwandeln.

Große Sprachmodelle (LLMs) wie GPT-4, Bard und LLaMA sind kolossale Konstrukte, die dazu dienen, menschliche Sprache, Code und mehr zu entschlüsseln und zu generieren. Ihre immense Größe, die von Milliarden bis Billionen Parametern reicht, ist eines ihrer charakteristischen Merkmale. Diese LLMs werden mit großen Mengen an Textdaten gefüttert, die es ihnen ermöglichen, die Feinheiten der menschlichen Sprache zu erfassen. Ein auffälliges Merkmal dieser Modelle ist ihre Eignung für „wenige Schüsse" Lernen. Im Gegensatz zu herkömmlichen Modellen, die große Mengen spezifischer Trainingsdaten benötigen, können LLMs aus einer sehr begrenzten Anzahl von Beispielen (oder „Aufnahmen“) verallgemeinern.

Stand der Large Language Models (LLMs) ab Mitte 2023

Wie werden LLMs verwendet?

LLMs können auf verschiedene Arten verwendet werden, darunter:

1. Direkte Nutzung: Einfache Nutzung eines vorab trainierten LLM zur Textgenerierung oder -verarbeitung. Verwenden Sie beispielsweise GPT-4, um einen Blog-Beitrag ohne zusätzliche Feinabstimmung zu schreiben.
2. Feinabstimmung: Anpassen eines vorab trainierten LLM für eine bestimmte Aufgabe, eine Methode, die als Transferlernen bezeichnet wird. Ein Beispiel wäre die Anpassung von T5, um Zusammenfassungen für Dokumente in einer bestimmten Branche zu erstellen.
3. Informationsabruf: Verwendung von LLMs wie BERT oder GPT als Teil größerer Architekturen zur Entwicklung von Systemen, die Informationen abrufen und kategorisieren können.

Aufmerksamkeit für mehrere Köpfe: Warum einen, wenn man viele haben kann?

Allerdings kann es einschränkend sein, sich auf einen einzigen Aufmerksamkeitsmechanismus zu verlassen. Verschiedene Wörter oder Sequenzen in einem Text können unterschiedliche Arten von Relevanz oder Assoziationen haben. Hier kommt die Multi-Head-Aufmerksamkeit ins Spiel. Anstelle eines Satzes von Aufmerksamkeitsgewichtungen verwendet die Multi-Head-Aufmerksamkeit mehrere Sätze, wodurch das Modell eine größere Vielfalt an Beziehungen im Eingabetext erfassen kann. Jeder Aufmerksamkeits-„Kopf“ kann sich auf verschiedene Teile oder Aspekte der Eingabe konzentrieren, und ihr kombiniertes Wissen wird für die endgültige Vorhersage verwendet.

ChatGPT: Das beliebteste generative KI-Tool

Seit der Einführung von GPT im Jahr 2018 basiert das Modell im Wesentlichen auf 12 Schichten, 12 Aufmerksamkeitsköpfen und 120 Millionen Parametern, die hauptsächlich auf einem Datensatz namens BookCorpus trainiert wurden. Dies war ein beeindruckender Start und bot einen Einblick in die Zukunft von Sprachmodellen.

GPT-2, das 2019 vorgestellt wurde, konnte mit einer Vervierfachung der Anzahl an Ebenen und Aufmerksamkeitsköpfen aufwarten. Bezeichnenderweise stieg die Parameterzahl auf 1.5 Milliarden. Diese erweiterte Version leitete ihr Training von WebText ab, einem Datensatz, der mit 40 GB Text aus verschiedenen Reddit-Links angereichert ist.

GPT-3, das im Mai 2020 gestartet wurde, hatte 96 Schichten, 96 Aufmerksamkeitsköpfe und eine riesige Parameteranzahl von 175 Milliarden. Was GPT-3 auszeichnete, waren seine vielfältigen Trainingsdaten, die CommonCrawl, WebText, englische Wikipedia, Buchkorpora und andere Quellen umfassten und insgesamt 570 GB umfassten.

Die Feinheiten der Funktionsweise von ChatGPT bleiben ein streng gehütetes Geheimnis. Ein Prozess namens „Reinforcement Learning from Human Feedback“ (RLHF) ist jedoch bekanntermaßen entscheidend. Diese Technik, die aus einem früheren ChatGPT-Projekt stammt, trug maßgeblich dazu bei, das GPT-3.5-Modell besser an schriftliche Anweisungen anzupassen.

Das Training von ChatGPT umfasst einen dreistufigen Ansatz:

1. Überwachte Feinabstimmung: Beinhaltet die Kuratierung von von Menschen geschriebenen Konversationseingaben und -ausgaben, um das zugrunde liegende GPT-3.5-Modell zu verfeinern.
2. Belohnungsmodellierung: Menschen bewerten verschiedene Modellausgaben nach ihrer Qualität und helfen so beim Trainieren eines Belohnungsmodells, das jede Ausgabe unter Berücksichtigung des Gesprächskontexts bewertet.
3. Reinforcement Learning: Der Gesprächskontext dient als Hintergrund, vor dem das zugrunde liegende Modell eine Antwort vorschlägt. Diese Reaktion wird durch das Belohnungsmodell bewertet und der Prozess mithilfe eines Algorithmus namens „Proximal Policy Optimization“ (PPO) optimiert.

Für diejenigen, die gerade erst in ChatGPT eintauchen, gibt es einen umfassenden Einstiegsleitfaden werden auf dieser Seite erläutert. Wenn Sie tiefer in die Prompt-Technik mit ChatGPT eintauchen möchten, haben wir auch einen erweiterten Leitfaden, der die neuesten und modernsten Prompt-Techniken beleuchtet, verfügbar unter 'ChatGPT und Advanced Prompt Engineering: Die KI-Evolution vorantreiben'.

Diffusions- und multimodale Modelle

Während Modelle wie VAEs und GANs ihre Ausgaben in einem einzigen Durchgang erzeugen und somit an das gebunden sind, was sie produzieren, haben Diffusionsmodelle das Konzept eingeführt: „Iterative Verfeinerung'. Mit dieser Methode kehren sie zurück, verfeinern Fehler aus vorherigen Schritten und erzielen nach und nach ein ausgefeilteres Ergebnis.

Im Mittelpunkt von Diffusionsmodellen steht die Kunst des „Korruption“ und „Verfeinerung“. In der Trainingsphase wird ein typisches Bild durch Hinzufügen unterschiedlicher Rauschpegel schrittweise verfälscht. Diese verrauschte Version wird dann dem Modell zugeführt, das versucht, sie zu „entrauschen“ oder „zu entfälschen“. Durch mehrere Runden dieser Methode wird das Modell geschickt in der Wiederherstellung und erkennt sowohl subtile als auch signifikante Abweichungen.

Der Prozess der Bildgenerierung nach dem Training ist faszinierend. Ausgehend von einem vollständig randomisierten Input wird dieser anhand der Modellvorhersagen kontinuierlich verfeinert. Ziel ist es, mit möglichst wenigen Schritten ein makelloses Bild zu erhalten. Der Grad der Bildverfälschung wird durch einen „Noise Schedule“ gesteuert, einen Mechanismus, der die Rauschintensität in den verschiedenen Phasen regelt. Ein Scheduler, wie er in Bibliotheken wie „Diffusoren„, bestimmt die Art dieser verrauschten Wiedergaben basierend auf etablierten Algorithmen.

Ein wesentliches architektonisches Rückgrat für viele Diffusionsmodelle ist das UNet– ein Convolutional Neural Network, das speziell für Aufgaben entwickelt wurde, deren Ausgaben die räumliche Dimension der Eingaben widerspiegeln. Es handelt sich um eine Mischung aus Downsampling- und Upsampling-Ebenen, die eng miteinander verbunden sind, um hochauflösende Daten zu erhalten, die für bildbezogene Ausgaben von entscheidender Bedeutung sind.

OpenAIs geht tiefer in den Bereich der generativen Modelle ein DALL-E2 erweist sich als leuchtendes Beispiel für die Verschmelzung textlicher und visueller KI-Fähigkeiten. Es verwendet eine dreistufige Struktur:

DALL-E 2 weist eine dreifache Architektur auf:

1. Text Encoder: Er transformiert die Texteingabe in eine konzeptionelle Einbettung in einen latenten Raum. Dieses Modell beginnt nicht bei Null. Es basiert auf OpenAIs Contrastive Language–Image Pre-training (CLIP) Datensatz als Grundlage. CLIP dient als Brücke zwischen visuellen und textuellen Daten, indem es visuelle Konzepte mithilfe natürlicher Sprache lernt. Durch einen Mechanismus, der als kontrastives Lernen bekannt ist, werden Bilder identifiziert und mit den entsprechenden Textbeschreibungen abgeglichen.
2. Der Prior: Die vom Encoder abgeleitete Texteinbettung wird dann in eine Bildeinbettung umgewandelt. DALL-E 2 testete für diese Aufgabe sowohl autoregressive als auch Diffusionsmethoden, wobei letztere überlegene Ergebnisse lieferten. Autoregressive Modelle, wie sie in Transformers und PixelCNN zu sehen sind, generieren Ausgaben in Sequenzen. Andererseits wandeln Diffusionsmodelle, wie das in DALL-E 2 verwendete, zufälliges Rauschen mithilfe von Texteinbettungen in vorhergesagte Bildeinbettungen um.
3. Der Decoder: Dieser Teil ist der Höhepunkt des Prozesses und generiert die endgültige visuelle Ausgabe basierend auf der Texteingabe und der Bildeinbettung aus der vorherigen Phase. Der Decoder von DALL.E 2 verdankt seine Architektur einem anderen Modell, GLEITEN, das auch realistische Bilder aus Texthinweisen erzeugen kann.

Interessierte Python-Benutzer Langkette Schauen Sie sich unser ausführliches Tutorial an, das alles von den Grundlagen bis hin zu fortgeschrittenen Techniken abdeckt.

Anwendungen generativer KI

Textdomänen

Beginnend mit Text wurde die generative KI durch Chatbots wie z. B. grundlegend verändert ChatGPT. Diese Einheiten stützen sich stark auf die Verarbeitung natürlicher Sprache (NLP) und große Sprachmodelle (LLMs) und sind in der Lage, Aufgaben auszuführen, die von der Codegenerierung und Sprachübersetzung bis hin zur Zusammenfassung und Stimmungsanalyse reichen. ChatGPT zum Beispiel hat eine breite Akzeptanz erfahren und ist für Millionen zu einem festen Bestandteil geworden. Dies wird durch Konversations-KI-Plattformen, die auf LLMs wie GPT-4 basieren, noch verstärkt. Palme und BLOOM, die mühelos Text erstellen, beim Programmieren helfen und sogar mathematische Argumente bieten.

Aus kommerzieller Sicht werden diese Modelle immer wertvoller. Unternehmen setzen sie für eine Vielzahl von Aufgaben ein, darunter Risikomanagement, Bestandsoptimierung und Prognoseanforderungen. Einige bemerkenswerte Beispiele sind Bing AI, Googles BARD und die ChatGPT API.

Kunst

Die Welt der Bilder hat durch generative KI dramatische Veränderungen erlebt, insbesondere seit der Einführung von DALL-E 2 im Jahr 2022. Diese Technologie, die Bilder aus Texteingaben generieren kann, hat sowohl künstlerische als auch professionelle Auswirkungen. Midjourney beispielsweise nutzt diese Technologie, um beeindruckend realistische Bilder zu produzieren. Dieser aktuelle Beitrag entmystifiziert Midjourney in einem detaillierten Leitfaden, der sowohl die Plattform als auch ihre technischen Feinheiten erläutert. Darüber hinaus nutzen Plattformen wie Alpaca AI und Photoroom AI generative KI für erweiterte Bildbearbeitungsfunktionen wie Hintergrundentfernung, Objektlöschung und sogar Gesichtswiederherstellung.

Video Produktion

Die Videoproduktion steckt im Bereich der generativen KI zwar noch in den Kinderschuhen, zeigt aber vielversprechende Fortschritte. Plattformen wie Imagen Video, Meta Make A Video und Runway Gen-2 verschieben die Grenzen des Möglichen, auch wenn wirklich realistische Ergebnisse noch in weiter Ferne liegen. Diese Modelle bieten einen erheblichen Nutzen für die Erstellung digitaler menschlicher Videos, wobei Anwendungen wie Synthesia und SuperCreator die Nase vorn haben. Insbesondere Tavus AI bietet ein Alleinstellungsmerkmal durch die Personalisierung von Videos für einzelne Zuschauer – ein Segen für Unternehmen.

Code-Erstellung

Auch das Programmieren, ein unverzichtbarer Aspekt unserer digitalen Welt, ist von generativer KI nicht unberührt geblieben. ChatGPT ist zwar ein beliebtes Tool, doch wurden bereits mehrere andere KI-Anwendungen speziell für Programmierzwecke entwickelt. Plattformen wie GitHub Copilot, Alphacode und CodeComplete dienen als Programmierassistenten und können sogar Code aus Texteingaben generieren. Faszinierend ist die Anpassungsfähigkeit dieser Tools. Codex, die treibende Kraft hinter GitHub Copilot, lässt sich an den individuellen Programmierstil anpassen, was das Personalisierungspotenzial generativer KI unterstreicht.

Da Tools wie ChatGPT immer zugänglicher werden, ist jetzt der perfekte Zeitpunkt, um zu experimentieren. Ob Künstler, Programmierer oder Technikbegeisterter – die Welt der generativen KI bietet unzählige Möglichkeiten, die darauf warten, erkundet zu werden. Die Revolution ist nicht nur in Sicht, sie ist bereits da. Also, tauchen Sie ein!