Der wesentliche Leitfaden für Prompt Engineering in ChatGPT

Seit seiner Einführung ChatGPT hat im KI-Bereich für Aufsehen gesorgt und in Rekordzeit über 100 Millionen Nutzer angezogen. Das Geheimnis der beeindruckenden Leistung und Vielseitigkeit von ChatGPT liegt in einer Kunst, die subtil in seine Programmierung eingebettet ist – Prompt Engineering.

DALL-E, MidJourney und StableDiffusion wurden 2022 eingeführt und unterstrichen das disruptive Potenzial der generativen KI. Aber es war AI öffnenist ChatGPT, das später im Jahr 2022 wirklich im Mittelpunkt stand. Und diese Dynamik zeigte keine Anzeichen einer Verlangsamung.

Googles Ankündigung von Bard und Metas Lamma 2  Die Reaktion auf OpenAIs ChatGPT hat die Dynamik des KI-Wettlaufs deutlich verstärkt. Indem wir diese Modelle mit Inputs versorgen, steuern wir ihr Verhalten und ihre Reaktionen. Das macht uns alle bis zu einem gewissen Grad zu Prompt-Engineerern. Die Tech-Branche hat dies bemerkt. Risikokapitalgeber investieren in Startups, die sich auf Prompt-Engineering konzentrieren, wie zum Beispiel Pergament-KI. Darüber hinaus berichtet Forbes, dass schnelle Ingenieure Befehle erteilen Gehälter über 300,000 US-Dollar, ein Zeichen für einen florierenden und wertvollen Arbeitsmarkt.

In diesem Artikel entmystifizieren wir die Welt des Prompt Engineering im Kontext von ChatGPT. Wir erkunden die Kernprinzipien und -techniken und untersuchen ihre kommerziellen Anwendungen.

Lassen Sie uns zunächst verstehen, wie ChatGPT funktioniert und welche zentrale Rolle die Prompt-Technik in diesem Prozess spielt.

Die Mechanismen hinter ChatGPT Prompt Engineering

Das Erfolgsgeheimnis von ChatGPT liegt in seiner Fähigkeit, die Nuancen menschlicher Konversation zu verstehen und nachzuahmen. Das Modell wird anhand einer Vielzahl von Internettexten trainiert, kennt aber keine spezifischen Dokumente oder Quellen in seinem Trainingsset, wodurch Generalisierung vor Spezifität gewährleistet wird. Dieser Trainingsansatz ermöglicht es ChatGPT, kreative Antworten zu generieren, komplexe Dialoge zu meistern und sogar Humor zu zeigen. Dabei ist jedoch zu beachten, dass ChatGPT weder wirklich versteht noch Überzeugungen hat; es generiert Antworten basierend auf Mustern, die es während des Trainings gelernt hat.

Die Fähigkeit von ChatGPT, die menschliche Sprache zu verstehen und differenziert und kontextbewusst darauf zu reagieren, macht es zu einem unglaublich vielseitigen Tool.

Die Mechanik dieser Modelle basiert auf dem Konzept von „Tokens“ – diskreten Sprachblöcken, die von einem einzelnen Buchstaben bis zu einem ganzen Wort reichen können. Diese Modelle arbeiten mit einer bestimmten Anzahl von Tokens gleichzeitig (4096 für GPT-3.5-Turbo oder 8192 bzw. 32768 für GPT-4) und sagen die nächste Sequenz wahrscheinlicher Tokens voraus. Die Modelle verarbeiten die Tokens mithilfe komplexer linearer Algebra und sagen das wahrscheinlichste nachfolgende Token voraus.

Beispielsweise könnte ein einfacher Satz mit neun Wörtern zu zehn Token werden. Sogar ein einzelnes komplexes Wort könnte in mehrere Token umgewandelt werden, was dem Modell hilft, Sprache besser zu verstehen und zu generieren. Selbst Sprachen mit komplexen Wortstrukturen wie Deutsch werden durch Tokenisierung verwaltet.

GPT-Modelle (Generative Pre-trained Transformer) funktionieren, indem sie jeweils einen Token generieren, beginnend beim ersten Token bis zum letzten. Nach der Generierung jedes Tokens durchsucht das Modell die gesamte Sequenz erneut und verarbeitet sie erneut, um das nächste Token zu generieren. Dieser iterative Prozess wird fortgesetzt, bis das endgültige Token generiert wird, wodurch die Textgenerierung einer großen for-Schleife ähnelt.

Doch hier liegt der Haken: Die Qualität dieser Antworten hängt maßgeblich von den Eingabeaufforderungen ab. Genau wie die Steuerung eines Gesprächs mit einem Menschen erfordert auch die Dialogführung mit ChatGPT ein gewisses Maß an Geschick und Verständnis. Hier kommt die Prompt-Technik ins Spiel.

Was ist Prompt-Engineering?

Prompt Engineering ist die Kunst, präzise, ​​effektive Eingabeaufforderungen/Eingaben zu erstellen, um die KI zu steuern (NLP/Vision)-Modelle wie ChatGPT, um die kostengünstigsten, genauesten, nützlichsten und sichersten Ausgaben zu generieren.

Prompt Engineering beschränkt sich nicht nur auf die Textgenerierung, sondern hat weitreichende Anwendungen im gesamten KI-Bereich. Es wird zunehmend in Bereichen wie Roboter-Prozessautomatisierungs-Bots, 3D-Assets, Skripten, Roboteranweisungen und anderen Arten von Inhalten und digitalen Medien eingesetzt. Es bietet eine einzigartige Mischung aus Logik, Codierung, Kunst und in bestimmten Fällen speziellen Modifikatoren.

Während eine Eingabeaufforderung Text, Bilder oder andere Arten von Eingabedaten in natürlicher Sprache enthalten kann, kann die Ausgabe je nach KI-Dienst und -Tool erheblich variieren. Jedes Tool verfügt über spezielle Modifikatoren, die das Gewicht von Wörtern, Stilen, Perspektiven, Layout oder anderen Eigenschaften der gewünschten Antwort beschreiben.

Dieser Bereich ist von wesentlicher Bedeutung für die Entwicklung besserer KI-gestützter Dienste und die Erzielung überlegener Ergebnisse mit vorhandenen generativen KI-Tools. Unternehmensentwickler nutzen beispielsweise häufig Prompt Engineering, um Large Language Models (LLMs) wie GPT-3 so anzupassen, dass sie eine kundenorientierte Kommunikation ermöglichen Chatbot oder erledigen Sie Aufgaben wie die Erstellung branchenspezifischer Verträge.

Dieser iterative Prozess der zeitnahen Verfeinerung und Messung der KI-Leistung ist ein Schlüsselelement, damit KI-Modelle in verschiedenen Kontexten äußerst gezielte, nützliche Antworten generieren können.

Werden Sie ein Prompt-Ingenieur

Die Fähigkeit des GPT-4-Modells, komplexe Anweisungen zu verstehen und komplizierte Probleme präzise zu lösen, macht es zu einer unschätzbar wertvollen Ressource. Es gibt jedoch verschiedene Methoden, um auf die Fähigkeiten dieses Modells zuzugreifen. Deren Verständnis kann für die Rolle eines Ingenieurs bei der Optimierung von Effizienz und Kosteneffizienz von entscheidender Bedeutung sein.

Es gibt grundsätzlich zwei Möglichkeiten, mit GPT-Modellen wie GPT-4 zu interagieren. Eine Möglichkeit ist die API von OpenAI, wo die Kosten pro Eingabe- und Ausgabetoken berechnet werden. In diesem Szenario können die Kosten pro 1 Token je nach Kontextgröße schwanken. Beispielsweise könnten die Kosten in einem größeren 32-Kontext auf 0.06 US-Dollar für Eingabetoken und 0.12 US-Dollar für Ausgabetoken steigen. Bei der Verarbeitung eines hohen Anfragevolumens können sich die Nutzungskosten daher schnell summieren.

Alternativ arbeitet ChatGPT, das das GPT-4-Modell nutzt, auf einem abonnementbasierten Modell.

Eine weitere wichtige Aufgabe des Prompt Engineering ist die Optimierung der Modellparameter. Dabei werden die Variablen angepasst, die das Modell für seine Vorhersagen verwendet. Durch die Feinabstimmung dieser Parameter können Prompt Engineers die Qualität und Genauigkeit der Modellantworten verbessern und sie so kontextbezogener und hilfreicher gestalten.

Obwohl viele Prompt Engineers einen technischen Hintergrund haben, ist das Feld aufgrund seiner Multidisziplinarität für Menschen mit unterschiedlichem beruflichen Hintergrund zugänglich. Immer mehr Schriftsteller, Forscher und sogar Künstler nutzen ihre einzigartigen Fähigkeiten, um die Wirksamkeit von KI-Modellen zu verbessern. Dieser Wandel spiegelt sich auch auf dem Arbeitsmarkt wider: Immer mehr Unternehmen suchen nach Prompt Engineers mit unterschiedlichsten Fähigkeiten und Hintergründen.

Promptes Design und Engineering in ChatGPT

Prompt Design und Engineering spielen eine entscheidende Rolle bei der Optimierung der Leistung von Sprachmodellen und umfassen mehr als nur das Erstellen von Fragen. Sie erfordern ein tiefes Verständnis des KI-Modells und einen hochgradig iterativen und verfeinerten Ansatz.

Promptes Design

Prompt-Design ist im Kern die Kunst und Wissenschaft, den perfekten Prompt für ein bestimmtes großes Sprachmodell (LLM) wie ChatGPT zu erstellen, um ein klar formuliertes Ziel zu erreichen. Es ist eine Mischung aus:

• Verständnis des LLM: Verschiedene Sprachmodelle können unterschiedlich auf dieselbe Eingabeaufforderung reagieren. Darüber hinaus verfügen bestimmte Sprachmodelle möglicherweise über eindeutige Schlüsselwörter oder Auslöser, die sie auf eine bestimmte Weise interpretieren.
• Domänenwissen: Bei der Gestaltung von Eingabeaufforderungen ist Fachwissen auf dem relevanten Gebiet von entscheidender Bedeutung. Um beispielsweise eine Aufforderung zur Ableitung einer medizinischen Diagnose zu generieren, wären medizinische Kenntnisse erforderlich.
• Iterativer Ansatz und Qualitätsmessung: Der Prozess zur Erstellung der idealen Eingabeaufforderung erfordert häufig Versuch und Irrtum. Daher ist es von entscheidender Bedeutung, die Ausgabequalität über eine rein subjektive Beurteilung hinaus bewerten zu können, insbesondere wenn die Eingabeaufforderung in größerem Maßstab verwendet wird.

Schnelles Engineering

Prompt Engineering ist ein erweiterter Bereich des Prompt Design, der mehrere kritische Prozesse umfasst:

• Design von Eingabeaufforderungen im großen Maßstab: Dieser Prozess umfasst das Design von Meta-Eingabeaufforderungen (Eingabeaufforderungen, die andere Eingabeaufforderungen generieren) und Eingabeaufforderungsvorlagen, bei denen es sich um parametrisierte Eingabeaufforderungen handelt, die zur Laufzeit instanziiert werden können.
• Tool-Design und -Integration: Eingabeaufforderungen können manchmal Ergebnisse von externen Tools enthalten, und die nahtlose Integration dieser Tools in das System ist von entscheidender Bedeutung.
• Workflow, Planung und Eingabeaufforderungsmanagement: Die Bereitstellung einer LLM-Anwendung, wie eines Chatbots, erfordert häufig die Verwaltung von Eingabeaufforderungsbibliotheken, die Planung und Auswahl der richtigen Eingabeaufforderungen sowie die effiziente Integration verschiedener Tools.
• Bewertung und Qualitätssicherung von Eingabeaufforderungen: Dieser Aspekt umfasst die Definition von Metriken und Prozessen zur Bewertung der Eingabeaufforderungen sowohl automatisch als auch unter menschlicher Beteiligung.
• Prompt-Optimierung: Die Kosten und die Latenz des KI-Modells können von der Wahl des Modells und der Länge des Prompts (Anzahl der Token) abhängen.

Es wurden zahlreiche automatisierte Ansätze, Tools und Frameworks für die Prompt-Gestaltung entwickelt, um Prompts in großem Maßstab zu verwalten. Es ist jedoch wichtig zu verstehen, dass keines dieser Tools das differenzierte Verständnis, das Urteilsvermögen und die Erfahrung eines erfahrenen Prompt-Ingenieurs ersetzen kann.

Prompt Engineering: Techniken und Best Practices

1) Schnelle Platzierung und Beschreibung

Wenn Sie Anweisungen zu Beginn der Eingabeaufforderung platzieren, kann dies das Verständnis und die Reaktion der KI erheblich beeinflussen. Stellen Sie sich die Aufgabe vor, einen Text in Stichpunkten zusammenzufassen. Ein weniger effektiver Ansatz wäre:

Mitglied: Fassen Sie den folgenden Text als Aufzählung der wichtigsten Punkte zusammen.
{Texteingabe hier}

Andererseits könnte eine effektivere Technik sein:

Mitglied: Fassen Sie den folgenden Text als Aufzählung der wichtigsten Punkte zusammen.
Text: „““
{Texteingabe hier}
"" "

Durch die klare Trennung der Anweisungen und des Kontexts durch Symbole wie ### oder „““ kann das KI-Modell seine Aufgabe und den zu verarbeitenden Text besser abgrenzen und so genauere und relevantere Antworten geben.

Zweitens kann die Präzision von KI-Antworten erheblich verbessert werden, wenn der Kontext, das erwartete Ergebnis, die Länge, das Format, der Stil usw. spezifisch, beschreibend und detailliert sind. Angenommen, Sie müssen einen kurzen Überblick über eine wissenschaftliche Arbeit in einem ansprechenden, laienfreundlichen Stil erstellen. Eine vage Anweisung wie „Fassen Sie die wissenschaftliche Arbeit zusammen“ würde im Vergleich zu einer spezifischen, detaillierten Aufforderung zu weniger effektiven Ergebnissen führen:

Mitglied: Erstellen Sie eine kurze (ca. 200 Wörter), ansprechende Zusammenfassung der folgenden wissenschaftlichen Arbeit. Die Zusammenfassung sollte auch für Laien verständlich sein und gleichzeitig die wichtigsten Ergebnisse der Arbeit präzise wiedergeben.
Papier: """
{Text der wissenschaftlichen Arbeit hier}
"" "

2) Persona-Muster

Das Persona Pattern ist eine Strategie, die die KI so einstellt, dass sie aus einer bestimmten Perspektive funktioniert, beispielsweise einer beruflichen Rolle oder einer fiktiven Figur. Diese Taktik ermöglicht es dem Modell, Ergebnisse bereitzustellen, die sich auf die spezifischen Rollen beziehen, die die Persona übernehmen würde. Beispielsweise könnte man die KI anweisen, bei einer Codeüberprüfung als Cybersicherheitsexperte zu fungieren. Dieses Muster ist besonders nützlich, wenn Benutzer Hilfe benötigen, sich aber nicht sicher sind, welche genauen Details in der Ausgabe erforderlich sind.

Nehmen Sie das Folgende als Beispiel:

Mitglied: „Nehmen Sie die Rolle eines erfahrenen Historikers an, der sich auf die Französische Revolution spezialisiert hat. Erklären Sie anhand dieser Person die wichtigsten Ereignisse und Gründe, die zum Untergang der französischen Monarchie führten.“

In diesem Szenario wird von der KI erwartet, dass sie mit einer detaillierten Analyse der Französischen Revolution reagiert und sich dabei auf den Fall der Monarchie konzentriert, wie es ein Historiker tun würde.

Einführung neuer Informationen

ChatGPT verfügt über kein Wissen, das über den Trainingszeitpunkt hinausgeht, und kann daher nach dem Training keine Informationen zu aktuellen Ereignissen oder Updates bereitstellen. Sie können dem Modell jedoch über Ihre Eingabeaufforderungen neue Informationen hinzufügen.

Mitglied: „Was ist Kryptowährung?“
ChatGPT: „Kryptowährung ist eine Art digitale oder virtuelle Währung, die Kryptographie zur Sicherheit nutzt. Die bekannteste Kryptowährung ist Bitcoin.“

Wenn wir der Eingabeaufforderung nun etwas mehr Kontext hinzufügen, können wir die Erklärung noch intuitiver gestalten:

Mitglied: „Erklären Sie einem High-School-Schüler, der digitale Finanzen studiert, das Konzept der Kryptowährung.“
ChatGPT: „Stellen Sie sich vor, Sie spielen ein Online-Videospiel und können mit Spielgeld Upgrades oder neue Charaktere kaufen. Kryptowährungen funktionieren ähnlich, sind aber nicht auf das Spiel beschränkt, sondern können für den Kauf realer Güter und Dienstleistungen genutzt werden. Sie sind wie digitales Geld, das weder von Banken noch von Regierungen kontrolliert wird.“

3) Größenbeschränkungen für Eingabeaufforderungen

Es ist wichtig, die Größenbeschränkung von ChatGPT zu verstehen, da sie sich direkt auf die Menge und Art der Informationen auswirkt, die wir eingeben können. Sprachmodelle sind nicht für die gleichzeitige Verarbeitung unbegrenzter Datenmengen ausgelegt. Sie haben eine inhärente Einschränkung hinsichtlich der Größe der Eingabeaufforderung, die wir erstellen und eingeben können. Diese Einschränkung hat tiefgreifende Auswirkungen auf die Gestaltung und Ausführung der Eingabeaufforderungen.

ChatGPT hat ein Token-Limit (in der Regel 2048 Token), das sowohl die Eingabeaufforderung als auch die generierte Antwort umfasst. Das bedeutet, dass lange Eingabeaufforderungen die Länge der Antwort begrenzen können. Daher ist es wichtig, die Eingabeaufforderungen kurz und dennoch informativ zu halten.

In der Praxis müssen wir als Redakteure agieren und gezielt die relevantesten Informationen für die jeweilige Aufgabe auswählen. Stellen Sie sich vor, Sie schreiben eine Arbeit oder einen Artikel mit einer Wort- oder Seitenbegrenzung – Sie können nicht einfach beliebige Fakten hineinwerfen, sondern müssen die für das Thema relevanten Informationen sorgfältig auswählen und strukturieren.

Mitglied: „Angesichts der symbolischen Einschränkungen des Modells fassen Sie die wichtigsten Ereignisse des Zweiten Weltkriegs in weniger als 1000 Wörtern zusammen.“

Durch die Anerkennung der symbolischen Einschränkungen des Modells weist diese Eingabeaufforderung die KI an, eine präzise und dennoch umfassende Zusammenfassung des Zweiten Weltkriegs bereitzustellen.

Eingabeaufforderungen zur wiederholten Verwendung: In einem Gesprächsszenario können Sie Eingabeaufforderungen wiederverwenden oder sie basierend auf früheren Antworten verfeinern. Dies sorgt für einen Gesprächsfluss und behält den Kontext in der Interaktion bei.

4) Fragenverfeinerungsmuster

ChatGPT kann auch dabei helfen, Ihre Fragen zu verfeinern. Wenn Sie beispielsweise eine Frage stellen, kann eine besser formulierte Frage vorgeschlagen werden, um genauere Ergebnisse zu erzielen.

Beim Question Refinement Pattern verfeinert der LLM die vom Benutzer gestellten Fragen. Dies ist besonders nützlich, wenn Benutzer keine Experten auf einem Gebiet sind oder sich nicht sicher sind, wie sie ihre Frage formulieren sollen.

Eine Beispielaufforderung könnte so aussehen:

Mitglied: „Wenn ich eine Frage zur Datenwissenschaft stelle, schlagen Sie eine verfeinerte Frage unter Berücksichtigung der Besonderheiten der statistischen Analyse vor und fragen Sie, ob ich mit der verfeinerten Frage fortfahren möchte.“

Dabei soll die KI die allgemeinen Data-Science-Fragen des Nutzers unter Berücksichtigung statistischer Analyseaspekte zu detaillierteren Fragen verfeinern.

5) Kognitives Prüfmuster

Das Cognitive Verifier Pattern zerlegt komplexe Fragen in kleinere, überschaubare Unterfragen. Die Antworten auf diese Unterfragen werden dann zu einer umfassenden Antwort auf die Hauptfrage zusammengefasst. Dieser Ansatz ist nützlich, wenn die anfänglichen Fragen zu anspruchsvoll sind oder wenn zusätzliche Klarheit erforderlich ist, um eine vollständige Antwort zu geben.

Zum Beispiel:

Mitglied: „Wenn ich eine Frage zum Klimawandel stelle, teilen Sie sie in drei kleinere Fragen auf, die Ihnen helfen, eine genauere Antwort zu geben. Kombinieren Sie die Antworten auf diese Unterfragen, um die endgültige Antwort zu erhalten.“

In diesem Szenario wird die KI die komplexe Frage zum Klimawandel in drei überschaubare Teilfragen zerlegen. Nachdem die KI Antworten auf diese Unterfragen erhalten hat, kombiniert sie diese, um eine umfassendere und genauere Antwort zu liefern.

Bei diesem Muster werden mehrere Fragen generiert, um eine präzisere Endantwort zu erhalten. Es handelt sich um einen Prozess der Überprüfung und Konsolidierung von Informationen für ein robustes Endergebnis.

6) Ansatz mit wenigen Schüssen

Few-Shot-Prompting ist ein leistungsstarker Ansatz, um KI-Modellen beizubringen, bestimmten Mustern zu folgen oder Aufgaben auszuführen. Die Idee besteht darin, dem Modell eine Reihe von Beispielen zu geben, bevor die gewünschte Frage gestellt wird. Dies hilft, das gewünschte Verhalten festzulegen und die Antworten des Modells zu steuern.

Stellen Sie sich ein Szenario vor, in dem ein Benutzer versucht, einen prägnanten, überzeugenden Marketingtext für ein neues technisches Gerät zu verfassen:

Mitglied: „Hier sind einige Beispiele für Marketingtexte im Technologiebereich: ‚Erleben Sie Musik wie nie zuvor mit unseren hochmodernen kabellosen Kopfhörern.‘ ‚Halten Sie Ihre Welt in atemberaubendem 4K mit unserer ultraschlanken Action-Kamera fest.‘ Verfassen Sie anhand dieser Beispiele einen Marketingtext für unsere neue KI-gesteuerte Smartwatch.“

ChatGPT: „Optimieren Sie Ihren Lebensstil mit unserer KI-gestützten Smartwatch, Ihrem Begleiter für Gesundheit, Konnektivität und Produktivität.“ Das Besondere am Few-Shot-Learning ist, dass es keine detaillierte Beschreibung der Aufgabenausführung erfordert. Stattdessen sind Demonstrationen der Vorgehensweise erforderlich, was es für viele Anwendungen geeignet macht.

Darüber hinaus geht diese Technik über die einfache Eingabe-Ausgabe-Paarung hinaus. Dem Modell kann auch beigebracht werden, Zwischenschritte zum Erreichen eines Ziels zu bewältigen.

7) Aufforderung zur Gedankenkette

In ihrer jüngsten Forschungsarbeit heißt es: „Die Aufforderung zur Gedankenkette löst Argumentation in großen Sprachmodellen aus„Die Autoren Jason Wei und sein Team wollen das Denken innerhalb großer Sprachmodelle anregen. Anstatt traditionelle, direkte Eingabeaufforderungen zu verwenden, nutzt das Team eine Reihe miteinander verbundener Eingabeaufforderungen, die eine „Gedankenkette“ bilden.

Ein Benutzer könnte beispielsweise an den möglichen Auswirkungen künstlicher Intelligenz auf den Arbeitsmarkt interessiert sein:

Mitglied: „Könnten Sie kurz das Konzept der künstlichen Intelligenz erläutern?“

ChatGPT: „Künstliche Intelligenz, kurz KI, bezeichnet die Fähigkeit einer Maschine, intelligentes menschliches Verhalten nachzuahmen. Es geht darum, Maschinen zu entwickeln, die wie Menschen denken und lernen können und so Aufgaben wie Sprachübersetzung, Entscheidungsfindung und Problemlösung übernehmen können.“

Mitglied: „Wie beeinflusst KI den aktuellen Arbeitsmarkt?“

ChatGPT: „KI schafft neue Arbeitsplätze und verändert zugleich die Art bestehender. Einerseits automatisiert sie Routineaufgaben, was in bestimmten Branchen zu Arbeitsplatzverlusten führt. Andererseits schafft sie Nachfrage nach bisher nicht vorhandenen Positionen, wie etwa nach KI-Ethikbeauftragten, Datenanalysten und Machine-Learning-Ingenieuren. Darüber hinaus kann KI menschliche Rollen ergänzen und es Menschen ermöglichen, Aufgaben effizienter und präziser zu erledigen.“

Die Gedankenketten-Eingabeaufforderung folgt einer Abfolge verwandter Eingabeaufforderungen und führt eine „Konversation“ mit dem Modell durch, die es zu präziseren und kontextuell angemesseneren Antworten führt.

ChatGPT-API und Prompt Engineering aus der Sicht eines Entwicklers verstehen

Aus der Sicht eines Entwicklers oder Forschers ist Prompt Engineering ein komplexerer Prozess. Es umfasst die Entwicklung von Algorithmen und Techniken, die dem KI-Modell helfen, Prompts besser zu verstehen und darauf zu reagieren. Dies könnte Strategien für den Umgang mit mehrdeutigen Prompts, die Identifizierung des Kontexts von Prompts oder die Verkettung von Prompts umfassen, um komplexere Denkprozesse in der KI anzuregen.

In der obigen Abbildung interagiert ein Nutzer mit einer Chat-Oberfläche, die auf GPT-4 basiert. Seine Eingaben werden durch ein spezielles Modul für mehr Klarheit und kontextuelle Konsistenz optimiert, bevor sie an das KI-Modell weitergeleitet werden. Die Aufgabe dieses Moduls besteht darin, die Eingaben des Nutzers zu verfeinern und zu verbessern, um ein besseres Verständnis zu gewährleisten und gleichzeitig den Kontext der Konversation beizubehalten. Die auf der verfeinerten Eingabeaufforderung basierende Antwort der KI wird dem Nutzer über die Chat-Oberfläche zurückgegeben. Der Interaktionsverlauf wird kontinuierlich aktualisiert, wodurch der Konversationskontext erhalten bleibt. Insgesamt veranschaulicht dieses Diagramm einen dynamischen Benutzer-KI-Konversationsfluss, der durch Prompt-Engineering-Techniken ermöglicht wird.

Die Lebensdauer eines ChatGPT-APIs Die Benutzeroberfläche ist mit verschiedenen Hyperparametern ausgestattet, die es Nutzern ermöglichen, die Antworten der KI auf Eingabeaufforderungen zu verfeinern und sie so effektiver und vielseitiger zu gestalten. Dazu gehören die Parameter Temperatur, Maximallänge und Stoppsequenzen. Sehen wir uns an, wie sie funktionieren und in verschiedenen Kontexten eingesetzt werden können.

1) Temperatur

Der Temperaturparameter beeinflusst die Zufälligkeit der KI-Antworten. Eine höhere Temperatur, beispielsweise 1.0, fördert eine zufälligere Ausgabe, was zu vielfältigen, aber möglicherweise themenfremden Antworten führt. Im Gegensatz dazu veranlasst eine niedrigere Temperatur, beispielsweise 0.2, die KI, deterministischere Antworten auszuwählen, was für fokussierte und spezifische Ausgaben von Vorteil sein kann, aber möglicherweise an Abwechslung mangelt.

Beispiel: Wenn Sie eine kreative Geschichte schreiben und unvorhersehbare, fantasievolle Elemente wünschen, stellen Sie die Temperatur auf einen höheren Wert ein. Eine Aufforderung könnte lauten: „Schreiben Sie eine Kurzgeschichte über eine zeitreisende Katze.“ Bei einer hohen Temperatur erhalten Sie möglicherweise eine wilde, fantastische Geschichte mit unvorhersehbaren Wendungen.

2) Maximale Länge

Dieser Parameter steuert die maximale Tokenlänge der Modellausgabe, die sowohl die Token in der Nachrichteneingabe als auch in der Nachrichtenausgabe umfasst. Ein höherer Grenzwert ermöglicht ausführlichere Antworten, während ein niedrigerer Grenzwert die Ausgabe kurz und prägnant hält.

Beispiel: Für kurze Antworten auf triviale Fragen wie „Wer hat 2020 den Nobelpreis für Literatur gewonnen?“ Möglicherweise möchten Sie die maximale Länge auf einen niedrigen Wert festlegen, um sicherzustellen, dass die Antwort prägnant und direkt ist.

3) Stoppsequenzen

Stoppsequenzen sind bestimmte Textzeichenfolgen, bei denen das Modell, wenn es darauf stößt, keine weitere Ausgabe mehr generiert. Diese Funktion kann nützlich sein, um die Länge der Ausgabe zu steuern oder das Modell anzuweisen, an logischen Endpunkten anzuhalten.

Beispiel: Für einen formellen Brief könnten Sie „Mit freundlichen Grüßen“ als Stoppsequenz verwenden, um sicherzustellen, dass die KI über das richtige Ende des Briefes hinaus keinen zusätzlichen Text generiert.

4) Oben P

Der „Top P“-Parameter, auch als Nucleus Sampling bekannt, ist eine Methode, die eine dynamische Auswahl der Anzahl der Wörter ermöglicht, die in jedem Schritt der Modellvorhersagen berücksichtigt werden. Ein niedrigerer Wert, beispielsweise 0.5, führt zu sichereren, fokussierteren Ergebnissen. Ein höherer Wert, beispielsweise 0.9, umfasst eine breitere Auswahl an Wörtern und führt zu vielfältigeren Ergebnissen.

Beispiel: Wenn Sie eine KI zum Verfassen von Gedichten erstellen und dabei ein breites Spektrum an Vokabeln und stilistischen Ausdrücken verwenden möchten, können Sie „Top P“ auf einen höheren Wert setzen. Eine Aufforderung könnte lauten: „Verfassen Sie ein Gedicht über die Schönheit des Herbstes.“

5) Frequenzstrafe

Frequency Penalty steuert, wie stark das Modell weniger häufige Wörter bevorzugen soll. Eine höhere Strafe (bis zu 1) ermutigt das Modell, weniger gebräuchliche Wörter zu verwenden, während ein niedrigerer Wert (bis zu -1) das Modell dazu ermutigt, gebräuchlichere Wörter zu verwenden.

Beispiel: Wenn Sie versuchen, ein Geschäftsangebot zu erstellen und Fachjargon vermeiden möchten, können Sie die Häufigkeitsstrafe auf einen niedrigeren Wert setzen, um die Sprache klar und verständlich zu halten.

6) Anwesenheitsstrafe

Der Parameter „Presence Penalty“ beeinflusst, wie stark das Modell bestraft wird, wenn es neue Ideen oder Themen generiert, die nicht im Gesprächsverlauf vorhanden waren. Höhere Werte ermutigen das Modell, sich an die bereits erwähnten Themen zu halten, während niedrigere Werte es dem Modell ermöglichen, neue Konzepte freier einzuführen.

Beispiel: Für Brainstorming-Sitzungen könnten Sie den Anwesenheitsabzug auf einen niedrigeren Wert festlegen, um eine vielfältige Auswahl an Ideen zu fördern. Sie könnten eine Aufforderung wie „Generieren Sie innovative Marketingstrategien für eine Online-Bildungsplattform“ verwenden.

Branchenanwendung von Prompt Engineering