Der wesentliche Leitfaden zur Prompt-Engineering in ChatGPT

Seit seinem Start hat ChatGPT Wellen in der KI-Sphäre gemacht und über 100 Millionen Benutzer in Rekordzeit angezogen. Das Geheimnis hinter ChatGPTs beeindruckender Leistung und Vielseitigkeit liegt in einer Kunst, die subtil in seine Programmierung eingebettet ist – Prompt-Engineering.

Im Jahr 2022 unterstrichen DALL-E, MidJourney und StableDiffusion das disruptiven Potenzial von Generative KI. Aber es war Open AI’s ChatGPT, das später im Jahr 2022 wirklich im Mittelpunkt stand. Und dieser Schwung zeigte keine Anzeichen von Nachlassen.

Googles Ankündigung von Bard und Metas Llama 2 als Antwort auf OpenAI’s ChatGPT hat den Schwung des KI-Wettlaufs erheblich verstärkt. Indem wir diesen Modellen Eingaben liefern, lenken wir ihr Verhalten und ihre Antworten. Das macht uns alle zu einem bestimmten Grad zu Prompt-Engineers. Die Tech-Industrie hat davon Kenntnis genommen. Venture-Kapitalisten investieren in Startups, die sich auf Prompt-Engineering konzentrieren, wie z.B. Vellum AI. Darüber hinaus berichtet Forbes, dass Prompt-Engineers Gehälter von über 300.000 Dollar verdienen, was auf einen blühenden und wertvollen Arbeitsmarkt hindeutet.

In diesem Artikel werden wir die Welt des Prompt-Engineerings im Kontext von ChatGPT entmystifizieren. Wir werden die Kernprinzipien und -techniken erkunden und ihre kommerziellen Anwendungen untersuchen.

Lassen Sie uns zunächst verstehen, wie ChatGPT funktioniert und die entscheidende Rolle, die Prompt-Engineering in diesem Prozess spielt.

Die Mechanik hinter ChatGPT-Prompt-Engineering

Das Geheimnis hinter ChatGPTs Erfolg ist seine Fähigkeit, die Nuancen der menschlichen Konversation zu verstehen und nachzuahmen. Das Modell wurde auf einer vielfältigen Reihe von Internet-Texten trainiert, aber es kennt keine spezifischen Dokumente oder Quellen in seinem Trainingsset, was eine Generalisierung über Spezifität ermöglicht. Dieser Trainingsansatz ermöglicht es ChatGPT, kreative Antworten zu generieren, komplexe Dialoge zu navigieren und sogar einen Sinn für Humor zu zeigen. Es ist jedoch wichtig zu beachten, dass ChatGPT nicht wirklich versteht oder Überzeugungen hat; es generiert Antworten auf der Grundlage von Mustern, die es während des Trainings gelernt hat.

ChatGPTs Fähigkeit, menschliche Sprache in einer nuancierten und kontextbewussten Weise zu verstehen und zu antworten, macht es zu einem unglaublich vielseitigen Werkzeug.

Die Mechanik dieser Modelle basiert auf dem Konzept von “Tokens” – diskreten Sprachblöcken, die von einem einzelnen Zeichen bis zu einem ganzen Wort reichen. Diese Modelle arbeiten mit einer bestimmten Anzahl von Tokens gleichzeitig (4096 für GPT-3.5-Turbo oder 8192 oder 32768 für GPT-4), indem sie die nächste Folge von wahrscheinlichen Tokens vorhersagen. Die Modelle verarbeiten die Tokens mithilfe komplexer lineare Algebra, indem sie das wahrscheinlichste nachfolgende Token vorhersagen.

Zum Beispiel könnte ein einfacher neun-Wörter-Satz zu zehn Tokens werden. Selbst ein einzelnes komplexes Wort könnte zu mehreren Tokens werden, was dem Modell hilft, die Sprache besser zu verstehen und zu generieren. Selbst Sprachen mit komplexen Wortstrukturen wie Deutsch werden durch Tokenisierung verwaltet.

GPT (Generative Pre-trained Transformer)-Modelle funktionieren, indem sie ein Token nach dem anderen generieren, beginnend mit dem ersten Token und fortlaufend bis zum letzten. Nach der Generierung jedes Tokens verarbeitet das Modell die gesamte Sequenz erneut, um das nächste Token zu generieren. Dieser iterative Prozess wird fortgesetzt, bis das finale Token generiert ist, was die Generierung von Text ähnlich einem großen For-Schleife macht.

Aber hier ist der Haken – die Qualität dieser Antworten hängt größtenteils von den Prompts ab, die es erhält. Genau wie bei der Steuerung einer Konversation mit einem Menschen erfordert die Steuerung eines Dialogs mit ChatGPT ein bestimmtes Maß an Fähigkeit und Verständnis. Das ist der Punkt, an dem Prompt-Engineering ins Spiel kommt.

Was ist Prompt-Engineering?

Prompt-Engineering ist die Kunst, präzise, effektive Prompts/Eingaben zu erstellen, um KI-Modelle wie ChatGPT dazu zu bringen, die kostengünstigsten, genauesten, nützlichsten und sichersten Ausgaben zu generieren.

Prompt-Engineering ist nicht nur auf Textgenerierung beschränkt, sondern hat weitreichende Anwendungen im gesamten KI-Bereich. Es wird zunehmend in Bereichen wie Robotic Process Automation-Bots, 3D-Assets, Skripten, Roboteranweisungen und anderen Arten von Inhalten und digitalen Medien eingesetzt. Es bietet eine einzigartige Mischung aus Logik, Codierung, Kunst und in bestimmten Fällen speziellen Modifikatoren.

Während ein Prompt natürliche Sprachtext, Bilder oder andere Arten von Eingabedaten enthalten kann, kann die Ausgabe erheblich über verschiedene KI-Dienste und -Tools variieren. Jedes Tool hat seine eigenen speziellen Modifikatoren, die das Gewicht von Wörtern, Stilen, Perspektiven, Layouts oder anderen Eigenschaften der gewünschten Antwort beschreiben.

Dieses Feld ist entscheidend für die Erstellung besserer KI-gesteuerter Dienste und die Erzielung höherer Ergebnisse aus vorhandenen generativen KI-Tools. Enterprise-Entwickler nutzen beispielsweise Prompt-Engineering, um Large Language Models (LLMs) wie GPT-3 zu anpassen, um einen kundenorientierten Chatbot zu betreiben oder Aufgaben wie die Erstellung von branchenspezifischen Verträgen zu bearbeiten.

Dieser iterative Prozess der Prompt-Verfeinerung und der Messung der KI-Leistung ist ein wichtiger Bestandteil der Ermöglichung von KI-Modellen, hochzielgerichtete, nützliche Antworten in verschiedenen Kontexten zu generieren.

Wie wird man Prompt-Engineer?

Das GPT-4-Modell ist in der Lage, komplexe Anweisungen zu verstehen und genaue Lösungen zu finden, was es zu einer unschätzbaren Ressource macht. Es gibt jedoch verschiedene Methoden, auf diese Fähigkeiten des Modells zuzugreifen, und das Verständnis dieser Methoden ist für die Rolle eines Prompt-Engineers bei der Optimierung von Effizienz und Kosten entscheidend.

Es gibt im Wesentlichen zwei Möglichkeiten, mit GPT-Modellen wie GPT-4 zu interagieren. Eine Möglichkeit ist über die OpenAI-API, bei der die Kosten pro Eingabe- und Ausgabetoken berechnet werden. In diesem Szenario können die Kosten pro 1.000 Token je nach Kontextgröße schwanken. Beispielsweise könnte die Kosten in einem größeren Kontext von 32.000 Token auf 0,06 Dollar für Eingabetoken und 0,12 Dollar für Ausgabetoken ansteigen. Wenn also eine große Anzahl von Anfragen bearbeitet wird, können die Nutzungskosten schnell ansteigen.

Alternativ funktioniert ChatGPT, das das GPT-4-Modell nutzt, auf Basis eines Abonnements.

Eine weitere wichtige Aufgabe im Prompt-Engineering besteht darin, die Modellparameter anzupassen. Dieser Prozess beinhaltet die Anpassung der Variablen, die das Modell verwendet, um Vorhersagen zu treffen. Durch die Feinabstimmung dieser Parameter können Prompt-Engineers die Qualität und Genauigkeit der Antworten des Modells verbessern, sie kontextuell relevanter und hilfreicher machen.

Obwohl viele Prompt-Engineers aus einem technischen Hintergrund stammen, macht die multidisziplinäre Natur dieses Feldes es für Personen aus verschiedenen beruflichen Hintergründen zugänglich. Immer mehr Schriftsteller, Forscher und sogar Künstler nutzen ihre einzigartigen Fähigkeiten, um die Effektivität von KI-Modellen zu verbessern. Diese Verschiebung spiegelt sich auch auf dem Arbeitsmarkt wider, da immer mehr Unternehmen nach Prompt-Engineers mit einer Vielzahl von Fähigkeiten und Hintergründen suchen.

Prompt-Design und -Engineering in ChatGPT

Prompt-Design und -Engineering spielen eine entscheidende Rolle bei der Optimierung der Leistung von Sprachmodellen und erfordern mehr als nur das Erstellen von Fragen; sie erfordern ein tiefes Verständnis des KI-Modells und einen hoch iterativen und verfeinerten Ansatz.

Prompt-Design

Prompt-Design ist im Kern die Kunst und Wissenschaft, den perfekten Prompt für ein bestimmtes Large Language Model (LLM) wie ChatGPT zu erstellen, um ein klar definiertes Ziel zu erreichen. Es handelt sich um eine Mischung aus:

• Verständnis des LLM: Verschiedene Sprachmodelle können auf denselben Prompt unterschiedlich reagieren. Darüber hinaus können bestimmte Sprachmodelle einzigartige Schlüsselwörter oder Auslöser haben, die sie auf eine bestimmte Weise interpretieren.
• Fachwissen: Fachwissen im relevanten Bereich ist entscheidend, wenn Prompts erstellt werden. Beispielsweise würde die Erstellung eines Prompts, um eine medizinische Diagnose abzuleiten, medizinisches Wissen erfordern.
• Iterativer Ansatz und Qualitätsmessung: Der Prozess der Erstellung des idealen Prompts beinhaltet oft Trial und Error. Daher ist es wichtig, eine Möglichkeit zu haben, die Ausgabequalität über subjektive Urteile hinaus zu bewerten, insbesondere wenn der Prompt in größeren Kontexten verwendet wird.

Prompt-Engineering

Prompt-Engineering ist ein erweiterter Bereich des Prompt-Designs, der mehrere kritische Prozesse umfasst:

• Design von Prompts im großen Maßstab: Dieser Prozess umfasst das Design von Meta-Prompts (Prompts, die andere Prompts generieren) und Prompt-Vorlagen, die parameterisierte Prompts sind, die zur Laufzeit instantiiert werden können.
• Tool-Design und -Integration: Prompts können manchmal Ergebnisse aus externen Tools enthalten, und die Integration dieser Tools in die Systematik ist entscheidend.
• Workflow-, Planungs- und Prompt-Management: Die Bereitstellung einer LLM-Anwendung, wie z.B. eines Chatbots, erfordert oft das Management von Prompt-Bibliotheken, die Auswahl der richtigen Prompts und die effiziente Integration verschiedener Tools.
• Bewertung und Qualitätsicherung von Prompts: Dieser Aspekt umfasst die Definition von Metriken und Prozessen, um Prompts sowohl automatisch als auch mit menschlicher Beteiligung zu bewerten.
• Prompt-Optimierung: Die Kosten und Latenz des KI-Modells können von der Wahl des Modells und der Länge des Prompts (Anzahl der Tokens) abhängen.

Viele automatisierte Prompt-Design-Ansätze, -Tools und -Frameworks wurden entwickelt, um Prompts im großen Maßstab zu verwalten. Es ist jedoch wichtig zu verstehen, dass keines dieser Tools den differenzierten Verständnis-, Urteils- und Erfahrungshorizont eines erfahrenen Prompt-Engineers ersetzen kann.

Prompt-Engineering: Techniken und Best Practices

1) Prompt-Platzierung und -Beschreibung

Die Platzierung von Anweisungen am Anfang des Prompts kann die Art und Weise, wie die KI das Prompt versteht und darauf reagiert, erheblich beeinflussen. Betrachten Sie die Aufgabe, einen Text in einer Bullet-Point-Liste zusammenzufassen. Ein weniger effektiver Ansatz wäre:

Benutzer: Fassen Sie den folgenden Text als Bullet-Point-Liste der wichtigsten Punkte zusammen.
{text input hier}

Andererseits könnte ein effektiveres Verfahren sein:

Benutzer: Fassen Sie den folgenden Text als Bullet-Point-Liste der wichtigsten Punkte zusammen.
Text: “””
{text input hier}
“””

Indem Sie die Anweisungen und den Kontext mit Symbolen wie ### oder “”” klar trennen, kann das KI-Modell seine Aufgabe und den Text, den es verarbeiten muss, besser erkennen und damit genauere und relevantere Antworten liefern.

Zweitens kann die spezifische, detaillierte und genaue Beschreibung des Kontexts, des erwarteten Ergebnisses, der Länge, des Formats, des Stils und so weiter die Genauigkeit der KI-Antworten erheblich verbessern. Angenommen, Sie müssen eine kurze Übersicht über ein wissenschaftliches Papier in einem ansprechenden, für Laien verständlichen Stil erstellen. Eine vage Anweisung wie “Zusammenfassung des wissenschaftlichen Papiers” würde weniger effektive Ergebnisse liefern als eine spezifische, detaillierte Anfrage:

Benutzer: Erstellen Sie eine kurze (ca. 200 Wörter) ansprechende Zusammenfassung des folgenden wissenschaftlichen Papiers. Die Zusammenfassung sollte für jemanden ohne wissenschaftlichen Hintergrund verständlich sein und gleichzeitig die wichtigsten Ergebnisse des Papiers genau widerspiegeln.
Papier: “””
{wissenschaftlicher Papier-Text hier}
“””

2) Persona-Muster

Das Persona-Muster ist eine Strategie, bei der die KI so programmiert wird, dass sie aus einer bestimmten Perspektive, wie z.B. einer professionellen Rolle oder einer fiktiven Figur, agiert. Diese Taktik ermöglicht es dem Modell, Ausgaben zu liefern, die mit den spezifischen Rollen verbunden sind, die die Persona ausführen würde.

Ein Beispiel könnte wie folgt aussehen:

Benutzer: “Nehmen Sie die Rolle eines erfahrenen Historikers, der sich auf die Französische Revolution spezialisiert hat. Als diese Persona erklären Sie die wichtigsten Ereignisse und Gründe, die zum Niedergang der französischen Monarchie führten.”

In diesem Szenario wird die KI erwartet, eine detaillierte Analyse der Französischen Revolution zu liefern, die sich auf den Niedergang der Monarchie konzentriert, wie ein Historiker es tun würde.

Einführung neuer Informationen

ChatGPT verfügt nicht über Kenntnisse über Ereignisse, die nach seinem Trainingsabschluss liegen, und kann daher keine Informationen über aktuelle Ereignisse oder Updates liefern, die nach seinem Trainingsabschluss erfolgt sind. Sie können jedoch neue Informationen an das Modell übermitteln, indem Sie sie in Ihre Prompts einbeziehen.

Benutzer: “Was ist Kryptowährung?”
ChatGPT: “Kryptowährung ist eine Art digitaler oder virtueller Währung, die Kryptographie für die Sicherheit verwendet. Die bekannteste Kryptowährung ist Bitcoin.”

Nun, wenn wir dem Prompt ein bisschen mehr Kontext hinzufügen, können wir die Erklärung noch intuitiver machen:

Benutzer: “Erklären Sie das Konzept der Kryptowährung einem Schüler der High School, der digitale Finanzen studiert”
ChatGPT: “Stellen Sie sich vor, Sie spielen ein Online-Videospiel und es gibt Spielgeld, das Sie verdienen können, um Upgrades oder neue Charaktere zu kaufen. Kryptowährung ist ähnlich, aber anstelle von nur im Spiel zu verwenden, können Sie sie tatsächlich verwenden, um echte Waren und Dienstleistungen zu kaufen. Es ist wie digitales Geld, das keine Bank oder Regierung kontrolliert.”

3) Prompt-Größenbeschränkungen

Das Verständnis der Größenbeschränkung von ChatGPT ist entscheidend, da es direkt die Menge und Art der Informationen beeinflusst, die wir eingeben können. Sprachmodelle sind nicht so konzipiert, dass sie unbegrenzte Daten auf einmal verarbeiten. Sie haben eine inhärente Einschränkung der Größe des Prompts, das wir erstellen und eingeben können. Diese Einschränkung hat erhebliche Auswirkungen auf die Gestaltung und Ausführung der Prompts.

ChatGPT hat eine Token-Beschränkung (normalerweise 2048 Token), die sowohl den Prompt als auch die generierte Antwort umfasst. Das bedeutet, dass lange Prompts die Länge der Antwort einschränken können. Es ist daher wichtig, Prompts prägnant, aber informativ zu halten.

In der Praxis müssen wir als Redakteure handeln, indem wir selektiv die relevantesten Informationen für die Aufgabe auswählen. Stellen Sie sich vor, Sie schreiben einen Artikel oder eine Arbeit mit einem Wort- oder Seitenlimit – Sie können nicht einfach beliebige Fakten einfügen, sondern müssen sorgfältig auswählen und strukturieren, was für das Thema relevant ist.

Benutzer: “Unter Berücksichtigung der Token-Beschränkung des Modells zusammenfassen Sie die wichtigsten Ereignisse des Zweiten Weltkriegs in weniger als 1000 Wörtern.”

Indem Sie die Token-Beschränkung des Modells anerkennen, lenkt dieser Prompt die KI an, eine prägnante, aber umfassende Zusammenfassung des Zweiten Weltkriegs zu liefern.

Prompts für wiederholten Gebrauch: In einem konversationellen Szenario können Sie Prompts wiederverwenden oder auf der Grundlage vorheriger Antworten verfeinern. Dies gibt der Interaktion einen konversationellen Fluss und erhält den Kontext aufrecht.

4) Frage-Verfeinerungsmuster

ChatGPT kann auch dabei helfen, Fragen zu verfeinern. Wenn Sie beispielsweise eine Frage stellen, kann es eine besser formulierte Frage für genauere Ergebnisse vorschlagen.

Das Frage-Verfeinerungsmuster beinhaltet, dass die KI die vom Benutzer gestellten Fragen verfeinert. Es ist besonders nützlich, wenn Benutzer keine Experten in einem Bereich sind oder sich unsicher sind, wie sie ihre Frage formulieren sollen.

Ein Beispiel-Prompt könnte wie folgt aussehen:

Benutzer: “Wenn ich eine Frage zur Datenwissenschaft stelle, schlagen Sie eine verfeinerte Frage vor, die spezifische Aspekte der statistischen Analyse berücksichtigt, und fragen Sie, ob ich mit der verfeinerten Frage fortfahren möchte.”

Hier wird die KI erwartet, die allgemeine Frage des Benutzers zu Datenwissenschaft zu verfeinern, indem sie Aspekte der statistischen Analyse berücksichtigt.

5) Kognitiver Verifizierer-Muster

Das kognitive Verifizierer-Muster zerlegt komplexe Fragen in kleinere, handhabbare Unterfragen. Die Antworten auf diese Unterfragen werden dann kombiniert, um eine umfassende Antwort auf die Hauptfrage zu liefern. Dieser Ansatz ist nützlich, wenn die anfänglichen Fragen zu hoch sind oder wenn zusätzliche Klarheit erforderlich ist, um eine vollständige Antwort zu liefern.

Ein Beispiel könnte wie folgt aussehen:

Benutzer: “Wenn ich eine Frage zur Klimaveränderung stelle, brechen Sie sie in drei kleinere Fragen auf, die Ihnen helfen, eine genauere Antwort zu liefern. Kombinieren Sie die Antworten auf diese Unterfragen, um die endgültige Antwort zu geben.”

In diesem Szenario wird die KI die komplexe Frage zur Klimaveränderung in drei handhabbare Unterfragen aufteilen. Nachdem sie Antworten auf diese Unterfragen erhalten hat, kombiniert die KI diese, um eine umfassendere und genauere Antwort zu liefern.

Dieses Muster beinhaltet die Generierung mehrerer Fragen, um eine genauere endgültige Antwort zu erhalten. Es handelt sich um einen Prozess der Verifizierung und Konsolidierung von Informationen für eine robuste endgültige Ausgabe.

6) Few-Shot-Prompting-Ansatz

Few-Shot-Prompting ist ein leistungsfähiger Ansatz, um KI-Modelle zu lehren, bestimmte Muster zu folgen oder Aufgaben auszuführen. Die Idee besteht darin, dem Modell eine Reihe von Beispielen vorzugeben, bevor die gewünschte Frage gestellt wird. Dies hilft, das gewünschte Verhalten zu etablieren und die Antworten des Modells zu lenken.

Betrachten Sie ein Szenario, in dem ein Benutzer versucht, eine prägnante und überzeugende Marketing-Kopie für ein neues Technik-Gadget zu erstellen:

Benutzer: “Hier sind einige Beispiele für Technik-Marketing-Kopien: ‘Erleben Sie Musik wie nie zuvor mit unseren bahnbrechenden kabellosen Kopfhörern.’ ‘Fangen Sie Ihre Welt in atemberaubendem 4K mit unserer ultraschlanken Action-Kamera ein.’ Gegeben diese Beispiele, erstellen Sie eine Marketing-Kopie für unsere neue KI-gesteuerte Smartwatch.”

ChatGPT: “Ermächtigen Sie Ihr Leben mit unserer KI-gesteuerten Smartwatch, Ihrem Begleiter für Gesundheit, Konnektivität und Produktivität.” Die bemerkenswerte Eigenschaft des Few-Shot-Lernens ist, dass es keine detaillierte Beschreibung dessen erfordert, wie die Aufgabe durchzuführen ist. Stattdessen erfordert es Demonstrationen dessen, was durchgeführt wird, was es für viele Anwendungen geeignet machen kann.

Darüber hinaus kann diese Technik über einfache Input-Output-Paare hinausgehen. Das Modell kann auch dazu gebracht werden, Zwischenschritte zur Erreichung eines Ziels auszuführen.

7) Chain-of-Thought-Prompting

In ihrer aktuellen Forschungsarbeit “Chain-of-Thought-Prompting Elicits Reasoning in Large Language Models” zielen Jason Wei und sein Team darauf ab, Reasoning in Large Language Models zu stimulieren. Anstatt traditionelle, direkte Prompts zu verwenden, nutzen sie eine Reihe von miteinander verbundenen Prompts, die eine “Chain-of-Thought” bilden.

Ein Beispiel könnte wie folgt aussehen:

Benutzer: “Könnten Sie mir bitte das Konzept der künstlichen Intelligenz kurz erklären?”

ChatGPT: “Künstliche Intelligenz, oder KI, bezieht sich auf die Fähigkeit einer Maschine, intelligentes menschliches Verhalten zu imitieren. Es geht darum, Maschinen zu entwerfen, die wie Menschen denken und lernen können, um Aufgaben wie Sprachübersetzung, Entscheidungsfindung und Problemlösung durchzuführen.”

Benutzer: “Wie beeinflusst KI den aktuellen Arbeitsmarkt?”

ChatGPT: “KI ist sowohl dabei, neue Jobs zu schaffen als auch die Natur bestehender Jobs zu verändern. Einerseits automatisiert sie Routineaufgaben, was zu Jobverlusten in bestimmten Branchen führt. Andererseits schafft sie Nachfrage nach Rollen, die zuvor nicht existierten, wie z.B. KI-Ethik-Offiziere, Datenanalysten und Maschinenlern-Ingenieure. Darüber hinaus kann KI menschliche Rollen ergänzen, um es Menschen zu ermöglichen, Aufgaben effizienter und genauer auszuführen.”

Chain-of-Thought-Prompting folgt einer Reihe von verwandten Prompts, die eine “Konversation” mit dem Modell aufrechterhalten, um es zu genaueren und kontextuell angemesseneren Antworten zu führen.

Verständnis von ChatGPT-API und Prompt-Engineering aus Sicht eines Entwicklers

Aus Sicht eines Entwicklers oder Forschers ist Prompt-Engineering ein komplexerer Prozess. Er beinhaltet die Entwicklung von Algorithmen und Techniken, um dem KI-Modell zu helfen, Prompts effektiver zu verstehen und zu beantworten. Dies kann Strategien zur Behandlung mehrdeutiger Prompts, zur Identifizierung des Kontexts von Prompts oder zur Verkettung von Prompts umfassen, um komplexere Denkprozesse im KI-Modell zu stimulieren.

In der obigen Abbildung interagiert ein Benutzer mit einer Chat-Schnittstelle, die von GPT-4 angetrieben wird. Die Eingabe des Benutzers wird durch ein spezielles Modul für Klarheit und kontextuelle Konsistenz verbessert, bevor sie an das KI-Modell übergeben wird. Die Rolle dieses Moduls besteht darin, die Eingabe des Benutzers zu verfeinern und zu verbessern, um ein besseres Verständnis zu ermöglichen, während der Kontext der Konversation aufrechterhalten wird. Die Antwort des KI-Modells, die auf der verfeinerten Eingabe basiert, wird an den Benutzer über die Chat-Schnittstelle zurückgegeben. Die Interaktionsgeschichte wird konsistent aktualisiert, um den konversationellen Kontext aufrechtzuerhalten. Insgesamt veranschaulicht diese Abbildung einen dynamischen Benutzer-KI-Konversationsfluss, der durch Prompt-Engineering-Techniken ermöglicht wird.

Die ChatGPT-API ist mit verschiedenen Hyperparametern ausgestattet, die es Benutzern ermöglichen, die Antworten des KI-Modells auf Prompts zu verfeinern, um sie effektiver und vielseitiger zu machen. Dazu gehören die Parameter Temperatur, Maximale Länge und Stoppsequenzen. Lassen Sie uns untersuchen, wie sie funktionieren und in verschiedenen Kontexten eingesetzt werden können.

1) Temperatur

Der Temperaturparameter beeinflusst die Zufälligkeit der Antworten des KI-Modells. Eine höhere Temperatur, wie 1,0, fördert zufälligere Ausgaben, was zu vielfältigen, aber möglicherweise nicht zum Thema passenden Antworten führen kann. Im Gegensatz dazu führt eine niedrigere Temperatur, wie 0,2, das Modell dazu, deterministischere Antworten auszuwählen, was für fokussierte und spezifische Ausgaben nützlich sein kann, aber an Vielfalt mangeln kann.

Beispiel: Wenn Sie eine kreative Geschichte schreiben und unvorhersehbare, fantasievolle Elemente wünschen, setzen Sie die Temperatur auf einen höheren Wert. Ein Prompt könnte wie folgt lauten: “Schreiben Sie eine kurze Geschichte über eine zeitreisende Katze.” Mit einer hohen Temperatur erhalten Sie möglicherweise eine wilde, fantastische Geschichte mit unvorhersehbaren Wendungen und Umschwüngen.

2) Maximale Länge

Dieser Parameter steuert die maximale Tokenlänge der Ausgabe des Modells, einschließlich der Tokens in der Eingabe- und Ausgabenachricht. Die Festlegung einer höheren Grenze ermöglicht längere Antworten, während eine niedrigere Grenze die Ausgabe kurz und prägnant hält.

Beispiel: Für kurze Antworten auf Trivia-Fragen wie “Wer gewann den Nobelpreis für Literatur im Jahr 2020?” möchten Sie die maximale Länge möglicherweise auf einen niedrigen Wert setzen, um eine präzise und direkte Antwort zu erhalten.

3) Stoppsequenzen

Stoppsequenzen sind spezifische Textzeichenfolgen, bei denen das Modell, wenn es sie erkennt, die Ausgabe einstellt. Diese Funktion kann nützlich sein, um die Länge der Ausgabe zu kontrollieren oder dem Modell zu sagen, an welchen logischen Endpunkten es stoppen soll.

Beispiel: Für ein formales Schreiben könnten Sie “Mit freundlichen Grüßen” als Stoppsequenz verwenden, um sicherzustellen, dass das Modell nach dem ordnungsgemäßen Abschluss des Briefes keine weitere Texte generiert.

4) Top P

Der ‘Top P’-Parameter, auch bekannt als Nukleus-Sampling, ist eine Methode, die eine dynamische Auswahl der Anzahl der Wörter ermöglicht, die bei jedem Schritt der Vorhersage des Modells berücksichtigt werden. Ein niedrigerer Wert, wie 0,5, führt zu sichereren, fokussierteren Ausgaben. Ein höherer Wert, wie 0,9, umfasst eine breitere Auswahl von Wörtern, was zu vielfältigeren Ausgaben führt.

Beispiel: Wenn Sie ein KI-Modell zum Schreiben von Gedichten einsetzen und eine breite Palette von Vokabular und stilistischen Phrasen verwenden möchten, setzen Sie ‘Top P’ auf einen höheren Wert. Ein Prompt könnte wie folgt lauten: “Komponieren Sie ein Gedicht über die Schönheit des Herbstes.”

5) Frequenzstrafe

Die Frequenzstrafe kontrolliert, wie sehr das Modell weniger häufige Wörter bevorzugen sollte. Eine höhere Strafe (bis zu 1) ermutigt das Modell, weniger gebräuchliche Wörter zu verwenden, während ein niedrigerer Wert (bis zu -1) das Modell dazu bringt, gebräuchlichere Wörter zu verwenden.

Beispiel: Wenn Sie ein Geschäftsproposals erstellen und vermeiden möchten, Fachjargon zu verwenden, setzen Sie die Frequenzstrafe auf einen niedrigeren Wert, um die Sprache klar und zugänglich zu halten.

6) Präsenzstrafe

Die Präsenzstrafe beeinflusst, wie sehr das Modell bestraft wird, wenn es neue Ideen oder Themen generiert, die nicht im Konversationsverlauf erwähnt wurden. Höhere Werte ermutigen das Modell, bei den bereits erwähnten Themen zu bleiben, während niedrigere Werte es ermöglichen, neue Konzepte freier zu einführen.

Beispiel: Bei Brainstorming-Sitzungen setzen Sie die Präsenzstrafe auf einen niedrigeren Wert, um eine Vielzahl von Ideen zu fördern. Sie könnten einen Prompt wie folgt verwenden: “Generieren Sie innovative Marketingstrategien für eine Online-Bildungsplattform.”

Branchenanwendung von Prompt-Engineering