Die ultimative Anleitung zur Prompt-Engineering in ChatGPT

Seit seiner Einführung hat ChatGPT Wellen in der KI-Szene gemacht und über 100 Millionen Nutzer in Rekordzeit angezogen. Das Geheimnis hinter ChatGPTs beeindruckender Leistung und Vielseitigkeit liegt in einer Kunst, die subtil in seine Programmierung eingebettet ist – Prompt-Engineering.

Im Jahr 2022 haben DALL-E, MidJourney und StableDiffusion das disruptives Potenzial der generativen KI unterstrichen. Doch es war Open AI’s ChatGPT, das später im Jahr 2022 wirklich im Mittelpunkt stand. Und dieser Schwung zeigte keine Anzeichen von Nachlassen.

Googles Ankündigung von Bard und Metas Lamma 2 als Antwort auf Open AI’s ChatGPT haben den Schwung des KI-Rennens erheblich verstärkt. Indem wir diesen Modellen Eingaben liefern, lenken wir ihr Verhalten und ihre Antworten. Das macht uns alle zu einem bestimmten Grad zu Prompt-Engineers. Die Tech-Industrie hat darauf reagiert. Venture-Kapitalisten investieren in Start-ups, die sich auf Prompt-Engineering konzentrieren, wie Vellum AI. Darüber hinaus berichtet Forbes, dass Prompt-Engineers Gehälter von über 300.000 Dollar verdienen, was auf einen blühenden und wertvollen Arbeitsmarkt hindeutet.

In diesem Artikel werden wir die Welt des Prompt-Engineerings im Kontext von ChatGPT entmystifizieren. Wir werden die Kernprinzipien und -techniken erkunden und ihre kommerziellen Anwendungen untersuchen.

Lassen Sie uns zunächst verstehen, wie ChatGPT funktioniert und die entscheidende Rolle, die Prompt-Engineering in diesem Prozess spielt.

Die Mechanik hinter ChatGPT-Prompt-Engineering

Das Geheimnis hinter ChatGPTs Erfolg liegt in seiner Fähigkeit, die Nuancen der menschlichen Konversation zu verstehen und nachzuahmen. Das Modell wird auf einer vielfältigen Palette von Internet-Texten trainiert, aber es kennt keine spezifischen Dokumente oder Quellen in seinem Trainingsset, was die Verallgemeinerung über die Spezifität ermöglicht. Dieser Trainingsansatz ermöglicht es ChatGPT, kreative Antworten zu generieren, komplexe Dialoge zu navigieren und sogar einen Sinn für Humor zu zeigen. Es ist jedoch wichtig zu beachten, dass ChatGPT nicht wirklich versteht oder Überzeugungen hat; es generiert Antworten auf der Grundlage von Mustern, die es während des Trainings gelernt hat.

ChatGPTs Fähigkeit, menschliche Sprache in einer nuancierten und kontextbewussten Weise zu verstehen und zu antworten, macht es zu einem unglaublich vielseitigen Werkzeug.

Die Mechanik dieser Modelle basiert auf dem Konzept von “Tokens” – diskreten Sprachblöcken, die von einem einzelnen Zeichen bis zu einem ganzen Wort reichen können. Diese Modelle arbeiten mit einer bestimmten Anzahl von Tokens gleichzeitig (4096 für GPT-3.5-Turbo oder 8192 oder 32768 für GPT-4), indem sie die nächste Folge von wahrscheinlichen Tokens vorhersagen. Die Modelle verarbeiten die Tokens mithilfe komplexer linearen Algebra, indem sie das wahrscheinlichste nachfolgende Token vorhersagen.

Beispielsweise könnte ein einfacher neun-Wort-Satz zu zehn Tokens werden. Selbst ein einzelnes komplexes Wort könnte zu mehreren Tokens werden, was dem Modell hilft, die Sprache besser zu verstehen und zu generieren. Selbst Sprachen mit komplexen Wortstrukturen wie Deutsch werden durch Tokenisierung verwaltet.

GPT-Modelle (Generative Pre-trained Transformer) arbeiten, indem sie ein Token nach dem anderen generieren, beginnend mit dem ersten Token und fortgesetzt bis zum letzten. Nach der Generierung jedes Tokens besucht das Modell die gesamte Sequenz erneut und verarbeitet sie, um das nächste Token zu generieren. Dieser iterative Prozess wird fortgesetzt, bis das finale Token generiert ist, was die Generierung von Text ähnlich einem großen For-Schleife macht.

Aber hier ist der Haken – die Qualität dieser Antworten hängt größtenteils von den Prompts ab, die es erhält. Genau wie bei der Steuerung einer Konversation mit einem Menschen erfordert die Steuerung einer Konversation mit ChatGPT ein bestimmtes Maß an Fähigkeit und Verständnis. Das ist der Punkt, an dem Prompt-Engineering ins Spiel kommt.

Was ist Prompt-Engineering?

Prompt-Engineering ist die Kunst, präzise, effektive Prompts/Eingaben zu erstellen, um KI-Modelle wie ChatGPT dazu zu bringen, die kostengünstigsten, genauesten, nützlichsten und sichersten Ausgaben zu generieren.

Prompt-Engineering ist nicht nur auf die Textgenerierung beschränkt, sondern hat weitreichende Anwendungen im gesamten KI-Bereich. Es wird zunehmend in Bereichen wie der Robotik, der Automatisierung von Prozessen, der Erstellung von 3D-Assets, der Erstellung von Skripten, der Anweisung von Robotern und anderen Arten von Inhalten und digitalen Medien eingesetzt. Es bietet eine einzigartige Mischung aus Logik, Codierung, Kunst und in bestimmten Fällen speziellen Modifikatoren.

Während ein Prompt natürliche Sprachtexte, Bilder oder andere Arten von Eingabedaten enthalten kann, kann die Ausgabe erheblich je nach KI-Dienst oder -Werkzeug variieren. Jedes Werkzeug hat seine eigenen speziellen Modifikatoren, die das Gewicht von Wörtern, Stilen, Perspektiven, Layouts oder anderen Eigenschaften der gewünschten Antwort beschreiben.

Dieses Feld ist entscheidend für die Erstellung besserer KI-gesteuerter Dienste und die Erzielung von besseren Ergebnissen mit bestehenden generativen KI-Werkzeugen. Enterprise-Entwickler nutzen beispielsweise häufig Prompt-Engineering, um Large Language Models (LLMs) wie GPT-3 anzupassen, um einen kundenorientierten Chatbot zu betreiben oder Aufgaben wie die Erstellung von branchenspezifischen Verträgen zu bearbeiten.

Dieser iterative Prozess der Prompt-Verfeinerung und der Messung der KI-Leistung ist ein wichtiger Bestandteil der Aktivierung von KI-Modellen, um hochzielgerichtete, nützliche Antworten in verschiedenen Kontexten zu generieren.

Wie wird man Prompt-Engineer?

Die Fähigkeit des GPT-4-Modells, komplexe Anweisungen zu verstehen und genau zu lösen, macht es zu einer unschätzbaren Ressource. Es gibt jedoch verschiedene Methoden, auf diese Fähigkeiten zuzugreifen, und das Verständnis dieser Methoden ist für die Rolle eines Prompt-Engineers von entscheidender Bedeutung, um sowohl Effizienz als auch Kosteneffizienz zu optimieren.

Es gibt im Wesentlichen zwei Möglichkeiten, mit GPT-Modellen wie GPT-4 zu interagieren. Eine Möglichkeit ist über die OpenAI-API, bei der die Kosten pro Eingabe- und Ausgab-Token berechnet werden. In diesem Szenario können die Kosten pro 1.000 Token je nach Kontextszahl variieren. Beispielsweise könnte die Kosten in einem größeren Kontext von 32.000 Token bis zu 0,06 Dollar für Eingabe-Tokens und 0,12 Dollar für Ausgabe-Tokens betragen. Wenn also eine große Anzahl von Anfragen bearbeitet wird, können die Nutzungskosten schnell ansteigen.

Alternativ funktioniert ChatGPT, das das GPT-4-Modell nutzt, auf Basis eines Abonnements.

Eine weitere wichtige Aufgabe im Prompt-Engineering umfasst die Feinabstimmung der Modellparameter. Dieser Prozess umfasst die Anpassung der Variablen, die das Modell zur Vorhersage verwendet. Durch die Feinabstimmung dieser Parameter können Prompt-Engineers die Qualität und Genauigkeit der Modellantworten verbessern, indem sie diese kontextuell relevanter und nützlicher machen.

Obwohl viele Prompt-Engineers aus einem technischen Hintergrund stammen, macht die multidisziplinäre Natur des Feldes es für Personen aus verschiedenen beruflichen Hintergründen zugänglich. Immer mehr Schriftsteller, Forscher und sogar Künstler nutzen ihre einzigartigen Fähigkeiten, um die Wirksamkeit von KI-Modellen zu verbessern. Diese Verschiebung spiegelt sich auch auf dem Arbeitsmarkt wider, da immer mehr Unternehmen nach Prompt-Engineers mit einer Vielzahl von Fähigkeiten und Hintergründen suchen.

Prompt-Design und -Engineering in ChatGPT

Prompt-Design und -Engineering spielen eine entscheidende Rolle bei der Optimierung der Leistung von Sprachmodellen und umfassen mehr als nur das Erstellen von Fragen; sie erfordern ein tiefes Verständnis des KI-Modells und einen hochgradig iterativen und verfeinerten Ansatz.

Prompt-Design

Prompt-Design ist im Kern die Kunst und Wissenschaft, den perfekten Prompt für ein bestimmtes Large Language Model (LLM) wie ChatGPT zu erstellen, um ein klar definiertes Ziel zu erreichen. Es ist eine Mischung aus:

• Verständnis des LLM: Verschiedene Sprachmodelle können auf denselben Prompt unterschiedlich reagieren. Darüber hinaus können bestimmte Sprachmodelle einzigartige Schlüsselwörter oder Auslöser haben, die sie auf eine bestimmte Weise interpretieren.
• Domänenwissen: Fachwissen im relevanten Bereich ist entscheidend, wenn Prompts erstellt werden. Beispielsweise würde die Generierung eines Prompts, um eine medizinische Diagnose abzuleiten, medizinisches Wissen erfordern.
• Iterativer Ansatz und Qualitätsmessung: Der Prozess der Erstellung des idealen Prompts erfordert oft Trial und Error. Daher ist es wichtig, eine Möglichkeit zu haben, die Ausgabqualität über subjektive Urteile hinaus zu bewerten, insbesondere wenn der Prompt in größeren Maßstäben verwendet wird.

Prompt-Engineering

Prompt-Engineering ist ein erweiterter Bereich des Prompt-Designs, der mehrere kritische Prozesse umfasst:

• Design von Prompts im großen Maßstab: Dieser Prozess umfasst das Design von Meta-Prompts (Prompts, die andere Prompts generieren) und Prompt-Vorlagen, die parameterisierte Prompts sind, die zur Laufzeit instantiiert werden können.
• Werkzeug-Design und -Integration: Prompts können manchmal Ergebnisse aus externen Werkzeugen enthalten, und die Integration dieser Werkzeuge in das System ist von entscheidender Bedeutung.
• Workflow-, Planungs- und Prompt-Management: Die Bereitstellung einer LLM-Anwendung, wie eines Chatbots, erfordert oft das Management von Prompt-Bibliotheken, die Auswahl der richtigen Prompts und die effiziente Integration verschiedener Werkzeuge.
• Auswertung und Qualitätsicherung von Prompts: Dieser Aspekt umfasst die Definition von Metriken und Prozessen, um Prompts sowohl automatisch als auch mit menschlicher Beteiligung zu bewerten.
• Prompt-Optimierung: Die Kosten und Latenz des KI-Modells können von der Wahl des Modells und der Länge des Prompts (Anzahl der Tokens) abhängen.

Viele automatisierte Prompt-Design-Ansätze, -Werkzeuge und -Rahmenwerke wurden entwickelt, um Prompts im großen Maßstab zu verwalten. Es ist jedoch wichtig zu verstehen, dass keines dieser Werkzeuge die nuancierte Verständnis, das Urteilsvermögen und die Erfahrung eines erfahrenen Prompt-Engineers ersetzen kann.

Prompt-Engineering: Techniken und Best Practices

1) Prompt-Platzierung und -Beschreibung

Die Platzierung von Anweisungen am Anfang des Prompts kann die Antwort des KI-Modells erheblich beeinflussen. Betrachten Sie die Aufgabe, einen Text in einer Bullet-Point-Liste zusammenzufassen. Ein weniger effektiver Ansatz wäre:

Benutzer: “Zusammenfassen Sie den folgenden Text als Bullet-Point-Liste der wichtigsten Punkte.
{text input hier}

Im Gegensatz dazu könnte ein effektiverer Ansatz sein:

Benutzer: “Zusammenfassen Sie den folgenden Text als Bullet-Point-Liste der wichtigsten Punkte.
Text: “””
{text input hier}
“””

Indem Sie die Anweisungen und den Kontext mit Symbolen wie ### oder “” klar trennen, kann das KI-Modell seine Aufgabe besser definieren und die Texte, die es verarbeiten muss, besser erkennen, was zu genauereren und relevanteren Antworten führt.

Zweitens kann die Spezifität, Beschreibung und Detailtiefe hinsichtlich des Kontexts, des erwarteten Ergebnisses, der Länge, des Formats, des Stils usw. die Genauigkeit der KI-Antworten erheblich verbessern. Angenommen, Sie müssen eine kurze Übersicht über ein wissenschaftliches Papier in einer ansprechenden, für Laien verständlichen Sprache erstellen. Eine vage Anweisung wie “Zusammenfassen Sie das wissenschaftliche Papier” würde weniger effektive Ergebnisse liefern als eine spezifische, detaillierte Anweisung:

Benutzer: “Erstellen Sie eine kurze (ca. 200 Wörter) Zusammenfassung des folgenden wissenschaftlichen Papiers. Die Zusammenfassung sollte für jemanden ohne wissenschaftlichen Hintergrund verständlich sein und gleichzeitig die wichtigsten Ergebnisse des Papiers genau widerspiegeln.
Papier: “””
{wissenschaftlicher Text hier}
“””

2) Persona-Muster

Das Persona-Muster ist eine Strategie, die das KI-Modell dazu bringt, aus einer bestimmten Perspektive zu agieren, wie z.B. einer professionellen Rolle oder einer fiktiven Figur. Diese Taktik ermöglicht es dem Modell, Ausgaben zu liefern, die mit den spezifischen Rollen der Persona zusammenhängen. Beispielsweise könnte man das KI-Modell anweisen, als Sicherheitsexperte während einer Code-Überprüfung zu agieren. Dieses Muster ist besonders nützlich, wenn Benutzer Hilfe benötigen, aber unsicher sind, welche Details in der Ausgabe erforderlich sind.

Nehmen Sie beispielsweise folgendes:

Benutzer: “Nehmen Sie die Rolle eines erfahrenen Historikers, der sich auf die Französische Revolution spezialisiert hat. In dieser Rolle erklären Sie die wichtigsten Ereignisse und Gründe, die zum Niedergang der französischen Monarchie geführt haben.”

In diesem Szenario wird das KI-Modell erwartet, eine tiefgehende Analyse der Französischen Revolution zu liefern, die sich auf den Niedergang der Monarchie konzentriert, wie es ein Historiker tun würde.

Neue Informationen einführen

ChatGPT verfügt nicht über Kenntnisse, die über sein Trainingsdatum hinausgehen, daher kann es keine Informationen über aktuelle Ereignisse oder Updates nach seinem Trainingsdatum liefern. Sie können jedoch dem Modell neue Informationen über Ihre Prompts zuführen.

Benutzer: “Was ist Kryptowährung?”
ChatGPT: “Kryptowährung ist eine Art digitale oder virtuelle Währung, die Kryptographie für die Sicherheit verwendet. Die bekannteste Kryptowährung ist Bitcoin.”

Wenn Sie nun dem Prompt ein wenig mehr Kontext hinzufügen, können Sie die Erklärung noch intuitiver machen:

Benutzer: “Erklären Sie das Konzept der Kryptowährung einem Schüler, der digitale Finanzen studiert”
ChatGPT: “Stellen Sie sich vor, Sie spielen ein Online-Videospiel und es gibt Spielgeld, das Sie verdienen können, um Upgrades oder neue Charaktere zu kaufen. Kryptowährung ist ähnlich, aber anstelle von nur im Spiel beschränkt zu sein, können Sie sie tatsächlich verwenden, um echte Waren und Dienstleistungen zu kaufen. Es ist wie digitales Geld, das keine Bank oder Regierung kontrolliert.”

3) Prompt-Größenbeschränkung

Das Verständnis der Größenbeschränkung von ChatGPT ist entscheidend, da es direkt die Menge und Art der Informationen beeinflusst, die wir eingeben können. Sprachmodelle sind nicht dafür ausgelegt, unbegrenzte Daten auf einmal zu verarbeiten. Sie haben eine inhärente Einschränkung der Größe des Prompts, den wir erstellen und eingeben können. Diese Einschränkung hat erhebliche Auswirkungen auf das Design und die Ausführung der Prompts.

ChatGPT hat eine Token-Beschränkung (normalerweise 2048 Token), die sowohl den Prompt als auch die generierte Antwort umfasst. Das bedeutet, dass lange Prompts die Länge der Antwort einschränken können. Es ist daher wichtig, Prompts prägnant und informativ zu halten.

Benutzer: “Angesichts der Token-Beschränkung des Modells zusammenfassen Sie die wichtigsten Ereignisse des Zweiten Weltkriegs in weniger als 1000 Wörtern.”

Indem dieser Prompt die Token-Beschränkung des Modells anerkennt, weist er das KI-Modell an, eine prägnante und umfassende Zusammenfassung des Zweiten Weltkriegs zu liefern.

Prompts für wiederholte Verwendung: In einer konversationellen Situation können Sie Prompts wiederholen oder verfeinern, basierend auf vorherigen Antworten. Dies ermöglicht einen konversationellen Fluss und bewahrt den Kontext in der Interaktion.

4) Frage-Verfeinerungsmuster

ChatGPT kann auch dabei helfen, Fragen zu verfeinern. Wenn Sie beispielsweise eine Frage stellen, kann es eine besser formulierte Frage für genauere Ergebnisse vorschlagen.

Das Frage-Verfeinerungsmuster umfasst die Verfeinerung der Fragen, die der Benutzer stellt, durch das LLM. Es ist besonders nützlich, wenn Benutzer keine Experten in einem Bereich sind oder unsicher sind, wie sie ihre Frage formulieren sollen.

Ein Beispiel-Prompt könnte wie folgt aussehen:

Benutzer: “Wenn ich eine Frage zur Datenanalyse stelle, schlagen Sie eine verfeinerte Frage vor, die statistische Analyse-Aspekte berücksichtigt, und fragen Sie, ob ich fortfahren möchte.”

Hier wird das KI-Modell erwartet, allgemeine Datenanalyse-Fragen in detailliertere Fragen zu verfeinern, die statistische Analyse-Aspekte berücksichtigen.

5) Kognitiver Verifizierer

Das kognitive Verifizierer-Muster zerlegt komplexe Fragen in kleinere, handhabbare Unterfragen. Die Antworten auf diese Unterfragen werden dann kombiniert, um eine umfassende Antwort auf die Hauptfrage zu liefern. Dieser Ansatz ist nützlich, wenn die anfänglichen Fragen zu hoch sind oder wenn zusätzliche Klarheit erforderlich ist, um eine vollständige Antwort zu liefern.

Beispielsweise:

Benutzer: “Wenn ich eine Frage zum Klimawandel stelle, brechen Sie sie in drei kleinere Fragen auf, die Ihnen helfen, eine genauere Antwort zu liefern. Kombinieren Sie die Antworten auf diese Unterfragen, um die endgültige Antwort zu liefern.”

Das KI-Modell wird die komplexe Frage zum Klimawandel in drei handhabbare Unterfragen aufteilen. Nachdem es die Antworten auf diese Unterfragen erhalten hat, wird es diese kombinieren, um eine umfassendere und genauere Antwort zu liefern.

Dieses Muster umfasst die Generierung mehrerer Fragen, um eine genauere endgültige Antwort zu erhalten. Es ist ein Prozess der Verifizierung und Konsolidierung von Informationen für eine robuste endgültige Ausgabe

6) Few-Shot-Prompting-Ansatz

Few-Shot-Prompting ist ein leistungsfähiger Ansatz zum Lehren von KI-Modellen, bestimmte Muster zu befolgen oder Aufgaben auszuführen. Die Idee besteht darin, dem Modell eine Reihe von Beispielen vorzugeben, bevor die gewünschte Frage gestellt wird. Dies hilft, das gewünschte Verhalten zu etablieren und die Antworten des Modells zu lenken.

Betrachten Sie ein Szenario, in dem ein Benutzer versucht, eine prägnante Marketing-Kopie für ein neues Technologie-Produkt zu erstellen:

Benutzer: “Hier sind einige Beispiele für Technologie-Marketing-Kopien: ‘Erleben Sie Musik wie nie zuvor mit unseren bahnbrechenden kabellosen Kopfhörern.’ ‘Fangen Sie Ihre Welt in atemberaubendem 4K mit unserer ultraschlanken Action-Kamera ein.’ Gegeben diese Beispiele, erstellen Sie eine Marketing-Kopie für unser neues KI-gestütztes Smartwatch.”

ChatGPT: “Ermächtigen Sie Ihren Lebensstil mit unserem KI-gestützten Smartwatch, Ihrem Begleiter für Gesundheit, Konnektivität und Produktivität.” Die bemerkenswerte Eigenschaft des Few-Shot-Lernens ist, dass es keine detaillierte Beschreibung der Aufgabe erfordert. Stattdessen erfordert es Demonstrationen dessen, was getan wird, was es für viele Anwendungen geeignet macht.

Darüber hinaus kann diese Technik über die einfache Eingabe-Ausgabe-Paarung hinausgehen. Das Modell kann auch dazu gelehrt werden, Zwischenschritte auszuführen, um ein Ziel zu erreichen.

7) Chain-of-Thought-Prompting

In ihrer jüngsten Forschungsarbeit “Chain-of-Thought-Prompting Elicits Reasoning in Large Language Models” zielen die Autoren Jason Wei und sein Team darauf ab, eine Kette von Gedanken in großen Sprachmodellen zu stimulieren. Anstatt traditionelle, direkte Prompts zu verwenden, nutzt das Team eine Reihe von miteinander verbundenen Prompts, die eine “Kette von Gedanken” bilden.

Beispielsweise könnte ein Benutzer an der potenziellen Auswirkung von künstlicher Intelligenz auf Arbeitsmärkte interessiert sein:

Benutzer: “Können Sie mir bitte kurz die Konzepte der künstlichen Intelligenz erklären?”

ChatGPT: “Künstliche Intelligenz, oder AI, bezieht sich auf die Fähigkeit einer Maschine, intelligentes menschliches Verhalten nachzuahmen. Es geht darum, Maschinen zu entwerfen, die wie Menschen denken und lernen können, um Aufgaben wie Sprachübersetzung, Entscheidungsfindung und Problemlösung auszuführen, unter anderem.”

Benutzer: “Wie beeinflusst AI den aktuellen Arbeitsmarkt?”

ChatGPT: “AI schafft sowohl neue Jobs als auch verändert die Natur bestehender. Einerseits automatisiert es Routineaufgaben, was zu Jobverlusten in bestimmten Branchen führt. Andererseits schafft es Nachfrage nach Rollen, die zuvor nicht existierten, wie z.B. AI-Ethik-Offiziere, Datenanalysten und Maschinenlern-Ingenieure. Darüber hinaus kann AI menschliche Rollen ergänzen, indem es Menschen ermöglicht, Aufgaben effizienter und genauer auszuführen.”

Chain-of-Thought-Prompting folgt einer Abfolge von verwandten Prompts, die eine “Konversation” mit dem Modell aufrechterhalten, das es zu präziseren und kontextuell angemesseneren Antworten führt.

Verständnis von ChatGPT-API und Prompt-Engineering aus Sicht eines Entwicklers

Aus Sicht eines Entwicklers oder Forschers ist Prompt-Engineering ein komplexerer Prozess. Es umfasst das Design von Algorithmen und Techniken, um dem KI-Modell zu helfen, Prompts effektiver zu verstehen und zu beantworten. Dies kann Strategien für die Behandlung mehrdeutiger Prompts, die Identifizierung des Kontexts von Prompts oder die Verkettung von Prompts umfassen, um komplexere Denkprozesse im KI-Modell zu stimulieren.

In der obigen Abbildung interagiert ein Benutzer mit einer Chat-Schnittstelle, die von GPT-4 angetrieben wird. Die Eingabe des Benutzers wird durch ein spezielles Modul für Klarheit und kontextuelle Konsistenz optimiert, bevor sie dem KI-Modell zugeführt wird. Die Rolle dieses Moduls besteht darin, die Eingabe des Benutzers zu verfeinern und zu optimieren, um das Verständnis und die Antwort des Modells zu verbessern, während gleichzeitig der Kontext der Konversation beibehalten wird. Die Antwort des KI-Modells, die auf der verfeinerten Eingabe basiert, wird dem Benutzer über die Chat-Schnittstelle zurückgegeben. Die Interaktionsgeschichte wird konsistent aktualisiert, um den Kontext der Konversation beizubehalten. Insgesamt veranschaulicht diese Abbildung einen dynamischen Benutzer-KI-Konversationsfluss, der durch Prompt-Engineering-Techniken ermöglicht wird.

Die ChatGPT-API ist mit verschiedenen Hyperparametern ausgestattet, die es Benutzern ermöglichen, die Antworten des KI-Modells auf Prompts zu verfeinern, um sie effektiver und vielseitiger zu machen. Dazu gehören die Parameter Temperatur, Maximale Länge und Stoppsequenzen. Lassen Sie uns sehen, wie sie funktionieren und in verschiedenen Kontexten eingesetzt werden können.

1) Temperatur

Der Temperaturparameter beeinflusst die Zufälligkeit der Antworten des KI-Modells. Eine höhere Temperatur (z.B. 1,0) fördert zufälligere Ausgaben, was zu vielfältigen, aber möglicherweise nicht themenbezogenen Antworten führt. Im Gegensatz dazu führt eine niedrigere Temperatur (z.B. 0,2) das KI-Modell dazu, deterministischere Antworten zu wählen, was für fokussierte und spezifische Ausgaben nützlich ist, aber möglicherweise an Vielfalt fehlt.

Beispiel: Wenn Sie eine kreative Geschichte schreiben und unvorhersehbare, phantasievolle Elemente wünschen, setzen Sie die Temperatur auf einen höheren Wert. Ein Prompt könnte lauten: “Schreiben Sie eine kurze Geschichte über eine Zeitreise-Katze.” Mit einer hohen Temperatur erhalten Sie möglicherweise eine wilde, phantasievolle Erzählung mit unvorhersehbaren Wendungen und Umschwüngen.

2) Maximale Länge

Dieser Parameter steuert die maximale Tokenlänge der Ausgabe des Modells, einschließlich der Tokens in der Eingabe- und Ausgabenachricht. Das Setzen einer höheren Grenze ermöglicht längere Antworten, während eine niedrigere Grenze die Ausgabe kurz und prägnant hält.

Beispiel: Für kurze Antworten auf Trivia-Fragen wie “Wer hat den Nobelpreis für Literatur im Jahr 2020 gewonnen?” möchten Sie die maximale Länge möglicherweise auf einen niedrigen Wert setzen, um die Antwort prägnant und direkt zu halten.

3) Stoppsequenzen

Stoppsequenzen sind spezifische Textzeichenfolgen, bei denen das Modell, wenn es sie erkennt, die Ausgabe einstellt. Diese Funktion kann nützlich sein, um die Länge der Ausgabe zu kontrollieren oder dem Modell anzuweisen, an logischen Endpunkten zu stoppen.

Beispiel: Für ein formales Schreiben könnten Sie “Mit freundlichen Grüßen” als Stoppsequenz verwenden, um sicherzustellen, dass das KI-Modell nicht über das ordnungsgemäße Ende des Briefes hinaus generiert.

4) Top P

Der Top-P-Parameter, auch bekannt als Nukleus-Sampling, ist eine Methode, die eine dynamische Auswahl der Anzahl der Wörter ermöglicht, die bei jedem Schritt der Modellvorhersage berücksichtigt werden. Ein niedrigerer Wert (z.B. 0,5) führt zu sichereren, fokussierteren Ausgaben. Ein höherer Wert (z.B. 0,9) umfasst eine breitere Auswahl von Wörtern, was zu vielfältigeren Ausgaben führt.

Beispiel: Wenn Sie ein KI-Modell zum Verfassen von Gedichten verwenden und eine breite Palette von Vokabeln und stilistischen Phrasen wünschen, setzen Sie den Top-P-Parameter auf einen höheren Wert. Ein Prompt könnte lauten: “Komponieren Sie ein Gedicht über die Schönheit des Herbstes.”

5) Frequenzstrafe

Die Frequenzstrafe kontrolliert, wie sehr das Modell seltene Wörter bevorzugen sollte. Eine höhere Strafe (bis 1) ermutigt das Modell, seltene Wörter zu verwenden, während ein niedrigerer Wert (bis -1) das Modell dazu bringt, häufigere Wörter zu verwenden.

Beispiel: Wenn Sie ein Geschäftsangebot erstellen und vermeiden möchten, Fachjargon zu verwenden, setzen Sie die Frequenzstrafe auf einen niedrigeren Wert, um die Sprache klar und zugänglich zu halten.

6) Präsenzstrafe

Die Präsenzstrafe beeinflusst, wie sehr das Modell bestraft wird, wenn es neue Ideen oder Themen generiert, die nicht in der Konversationsgeschichte erwähnt wurden. Höhere Werte ermutigen das Modell, bei den bereits erwähnten Themen zu bleiben, während niedrigere Werte es ermöglichen, neue Konzepte freier zu einführen.

Beispiel: Für Brainstorming-Sitzungen könnten Sie die Präsenzstrafe auf einen niedrigeren Wert setzen, um eine Vielzahl von Ideen zu fördern. Sie könnten einen Prompt wie “Generieren Sie innovative Marketingstrategien für eine Online-Bildungsplattform” verwenden.

Branchenanwendung von Prompt-Engineering