Der wesentliche Leitfaden für Prompt Engineering in ChatGPT

Seit seiner Einführung ChatGPT hat im KI-Bereich für Aufsehen gesorgt und in Rekordzeit über 100 Millionen Nutzer angezogen. Das Geheimnis der beeindruckenden Leistung und Vielseitigkeit von ChatGPT liegt in einer Kunst, die subtil in die Programmierung eingebettet ist: Prompt Engineering.

DALL-E, MidJourney und StableDiffusion wurden 2022 eingeführt und unterstrichen das disruptive Potenzial der generativen KI. Aber es war AI öffnenist ChatGPT, das später im Jahr 2022 wirklich im Mittelpunkt stand. Und diese Dynamik zeigte keine Anzeichen einer Verlangsamung.

Googles Ankündigung von Bard und Metas Lamma 2  Die Reaktion auf ChatGPT von OpenAI hat die Dynamik des KI-Wettlaufs erheblich verstärkt. Indem wir diese Modelle mit Eingaben versorgen, steuern wir ihr Verhalten und ihre Reaktionen. Das macht uns alle bis zu einem gewissen Grad zu schnellen Ingenieuren. Die Tech-Industrie hat es zur Kenntnis genommen. Risikokapitalgeber investieren Geld in Start-ups, die sich beispielsweise auf schnelles Engineering konzentrieren Pergament-KI. Darüber hinaus berichtet Forbes, dass schnelle Ingenieure Befehle erteilen Gehälter über 300,000 US-Dollar, ein Zeichen für einen florierenden und wertvollen Arbeitsmarkt.

In diesem Artikel werden wir die Welt des Prompt Engineering im Kontext von ChatGPT entmystifizieren. Wir werden die Kernprinzipien und -techniken erkunden und ihre kommerziellen Anwendungen untersuchen.

Lassen Sie uns zunächst verstehen, wie ChatGPT funktioniert und welche zentrale Rolle Prompt Engineering in diesem Prozess spielt.

Die Mechanismen hinter ChatGPT Prompt Engineering

Das Erfolgsgeheimnis von ChatGPT ist seine Fähigkeit, die Nuancen menschlicher Gespräche zu verstehen und nachzuahmen. Das Modell wird auf einer Vielzahl von Internettexten trainiert, aber entscheidend ist, dass es keine spezifischen Dokumente oder Quellen in seinem Trainingssatz kennt, wodurch eine Verallgemeinerung statt einer Spezifität sichergestellt wird. Dieser Trainingsansatz ermöglicht es ChatGPT, kreative Antworten zu generieren, durch komplexe Dialoge zu navigieren und sogar Sinn für Humor zu zeigen. Es ist jedoch wichtig, sich daran zu erinnern, dass ChatGPT die Überzeugungen nicht wirklich versteht oder hat; Es generiert Antworten basierend auf Mustern, die es während des Trainings gelernt hat.

Die Fähigkeit von ChatGPT, menschliche Sprache differenziert und kontextbewusst zu verstehen und darauf zu reagieren, macht sie zu unglaublich vielseitigen Werkzeugen.

Die Mechanik dieser Modelle basiert auf dem Konzept von „Tokens“ – diskreten Sprachblöcken, die von einem einzelnen Zeichen bis zu einem ganzen Wort reichen können. Diese Modelle arbeiten mit einer bestimmten Anzahl von Tokens gleichzeitig (4096 für GPT-3.5-Turbo oder 8192 oder 32768 für GPT-4) und sagen die nächste Sequenz wahrscheinlicher Tokens voraus. Die Modelle verarbeiten die Token mithilfe komplexer linearer Algebra und sagen den wahrscheinlichsten nachfolgenden Token voraus.

Beispielsweise könnte ein einfacher Satz mit neun Wörtern zu zehn Token werden. Sogar ein einzelnes komplexes Wort könnte in mehrere Token umgewandelt werden, was dem Modell hilft, Sprache besser zu verstehen und zu generieren. Selbst Sprachen mit komplexen Wortstrukturen wie Deutsch werden durch Tokenisierung verwaltet.

GPT-Modelle (Generative Pre-trained Transformer) funktionieren, indem sie jeweils einen Token generieren, beginnend beim ersten Token bis zum letzten. Nach der Generierung jedes Tokens durchsucht das Modell die gesamte Sequenz erneut und verarbeitet sie erneut, um das nächste Token zu generieren. Dieser iterative Prozess wird fortgesetzt, bis das endgültige Token generiert wird, wodurch die Textgenerierung einer großen for-Schleife ähnelt.

Aber hier ist der Haken: Die Qualität dieser Antworten hängt weitgehend von den Aufforderungen ab, die sie erhalten. Genauso wie die Führung eines Gesprächs mit einem Menschen erfordert die Führung eines Dialogs mit ChatGPT ein gewisses Maß an Geschick und Verständnis. Hier kommt promptes Engineering ins Spiel.

Was ist Prompt-Engineering?

Prompt Engineering ist die Kunst, präzise, ​​effektive Eingabeaufforderungen/Eingaben zu erstellen, um die KI zu steuern (NLP/Vision)-Modelle wie ChatGPT, um die kostengünstigsten, genauesten, nützlichsten und sichersten Ausgaben zu generieren.

Prompt Engineering beschränkt sich nicht nur auf die Textgenerierung, sondern hat weitreichende Anwendungen im gesamten KI-Bereich. Es wird zunehmend in Bereichen wie Roboter-Prozessautomatisierungs-Bots, 3D-Assets, Skripten, Roboteranweisungen und anderen Arten von Inhalten und digitalen Medien eingesetzt. Es bietet eine einzigartige Mischung aus Logik, Codierung, Kunst und in bestimmten Fällen speziellen Modifikatoren.

Während eine Eingabeaufforderung Text, Bilder oder andere Arten von Eingabedaten in natürlicher Sprache enthalten kann, kann die Ausgabe je nach KI-Dienst und -Tool erheblich variieren. Jedes Tool verfügt über spezielle Modifikatoren, die das Gewicht von Wörtern, Stilen, Perspektiven, Layout oder anderen Eigenschaften der gewünschten Antwort beschreiben.

Dieser Bereich ist von wesentlicher Bedeutung für die Entwicklung besserer KI-gestützter Dienste und die Erzielung überlegener Ergebnisse mit vorhandenen generativen KI-Tools. Unternehmensentwickler nutzen beispielsweise häufig Prompt Engineering, um Large Language Models (LLMs) wie GPT-3 so anzupassen, dass sie eine kundenorientierte Kommunikation ermöglichen Chatbot oder erledigen Sie Aufgaben wie die Erstellung branchenspezifischer Verträge.

Dieser iterative Prozess der zeitnahen Verfeinerung und Messung der KI-Leistung ist ein Schlüsselelement, damit KI-Modelle in verschiedenen Kontexten äußerst gezielte, nützliche Antworten generieren können.

Werden Sie ein Prompt-Ingenieur

Die Fähigkeit des GPT-4-Modells, komplexe Anweisungen zu verstehen und komplizierte Probleme präzise zu lösen, macht es zu einer unschätzbar wertvollen Ressource. Es gibt jedoch unterschiedliche Methoden, um auf die Fähigkeiten dieses Modells zuzugreifen, und das Verständnis dieser Methoden kann für die Rolle eines Pünktlichkeitsingenieurs bei der Optimierung von Effizienz und Kosteneffizienz von entscheidender Bedeutung sein.

Es gibt im Wesentlichen zwei Möglichkeiten, mit GPT-Modellen wie GPT-4 zu interagieren. Eine Möglichkeit ist die OpenAI-API, bei der die Kosten pro Eingabe- und Ausgabe-Token berechnet werden. In diesem Szenario können die Kosten pro 1K-Token je nach Kontextgröße schwanken. In einem größeren 32K-Kontext könnten die Kosten beispielsweise auf 0.06 $ für Eingabe-Tokens und 0.12 $ für Ausgabe-Tokens steigen. Daher können sich bei der Bearbeitung einer großen Anzahl von Anfragen schnell die Nutzungskosten summieren.

Alternativ arbeitet ChatGPT, das das GPT-4-Modell nutzt, auf einem abonnementbasierten Modell.

Eine weitere wichtige Aufgabe beim Prompt Engineering ist die Optimierung der Modellparameter. Bei diesem Prozess werden die Variablen angepasst, die das Modell verwendet, um Vorhersagen zu treffen. Durch die Feinabstimmung dieser Parameter können Prompt-Ingenieure die Qualität und Genauigkeit der Modellantworten verbessern und sie kontextuell relevanter und hilfreicher machen.

Obwohl viele Prompt-Ingenieure einen technischen Hintergrund haben, ist das Fachgebiet aufgrund seines multidisziplinären Charakters für Personen mit unterschiedlichem beruflichen Hintergrund zugänglich. Zunehmend nutzen Schriftsteller, Forscher und sogar Künstler ihre einzigartigen Fähigkeiten, um die Wirksamkeit von KI-Modellen zu verbessern. Dieser Wandel spiegelt sich auch auf dem Arbeitsmarkt wider: Immer mehr Unternehmen sind auf der Suche nach schnellen Ingenieuren mit unterschiedlichen Fähigkeiten und Hintergründen.

Promptes Design und Engineering in ChatGPT

Prompt Design und Engineering spielen eine entscheidende Rolle bei der Optimierung der Leistung von Sprachmodellen und umfassen mehr als nur das Erstellen von Fragen. Sie erfordern ein tiefes Verständnis des KI-Modells und einen hochgradig iterativen und verfeinerten Ansatz.

Promptes Design

Beim Prompt-Design handelt es sich im Kern um die Kunst und Wissenschaft, den perfekten Prompt für ein gegebenes großes Sprachmodell (LLM) wie ChatGPT zu erstellen, um ein klar formuliertes Ziel zu erreichen. Es ist eine Mischung aus:

• Verständnis des LLM: Verschiedene Sprachmodelle können unterschiedlich auf dieselbe Eingabeaufforderung reagieren. Darüber hinaus verfügen bestimmte Sprachmodelle möglicherweise über eindeutige Schlüsselwörter oder Auslöser, die sie auf eine bestimmte Weise interpretieren.
• Domänenwissen: Bei der Gestaltung von Eingabeaufforderungen ist Fachwissen auf dem relevanten Gebiet von entscheidender Bedeutung. Um beispielsweise eine Aufforderung zur Ableitung einer medizinischen Diagnose zu generieren, wären medizinische Kenntnisse erforderlich.
• Iterativer Ansatz und Qualitätsmessung: Der Prozess zur Erstellung der idealen Eingabeaufforderung erfordert häufig Versuch und Irrtum. Daher ist es von entscheidender Bedeutung, die Ausgabequalität über eine rein subjektive Beurteilung hinaus bewerten zu können, insbesondere wenn die Eingabeaufforderung in größerem Maßstab verwendet wird.

Schnelles Engineering

Prompt Engineering ist ein erweiterter Bereich des Prompt Design, der mehrere kritische Prozesse umfasst:

• Design von Eingabeaufforderungen im großen Maßstab: Dieser Prozess umfasst das Design von Meta-Eingabeaufforderungen (Eingabeaufforderungen, die andere Eingabeaufforderungen generieren) und Eingabeaufforderungsvorlagen, bei denen es sich um parametrisierte Eingabeaufforderungen handelt, die zur Laufzeit instanziiert werden können.
• Tool-Design und -Integration: Eingabeaufforderungen können manchmal Ergebnisse von externen Tools enthalten, und die nahtlose Integration dieser Tools in das System ist von entscheidender Bedeutung.
• Workflow, Planung und Eingabeaufforderungsmanagement: Die Bereitstellung einer LLM-Anwendung, wie eines Chatbots, erfordert häufig die Verwaltung von Eingabeaufforderungsbibliotheken, die Planung und Auswahl der richtigen Eingabeaufforderungen sowie die effiziente Integration verschiedener Tools.
• Bewertung und Qualitätssicherung von Eingabeaufforderungen: Dieser Aspekt umfasst die Definition von Metriken und Prozessen zur Bewertung der Eingabeaufforderungen sowohl automatisch als auch unter menschlicher Beteiligung.
• Prompt-Optimierung: Die Kosten und die Latenz des KI-Modells können von der Wahl des Modells und der Länge des Prompts (Anzahl der Token) abhängen.

Für die Verwaltung von Eingabeaufforderungen im großen Maßstab wurden viele automatisierte Ansätze, Tools und Frameworks für das Design von Eingabeaufforderungen entwickelt. Es ist jedoch wichtig zu verstehen, dass keines dieser Tools das differenzierte Verständnis, Urteilsvermögen und die Erfahrung eines erfahrenen Prompt-Ingenieurs ersetzen kann.

Prompt Engineering: Techniken und Best Practices

1) Schnelle Platzierung und Beschreibung

Das Platzieren von Anweisungen zu Beginn der Eingabeaufforderung kann sich erheblich auf das Verständnis und die Reaktion der KI auswirken. Stellen Sie sich die Aufgabe vor, einen Text in einem Aufzählungspunktformat zusammenzufassen. Ein weniger effektiver Ansatz wäre:

Mitglied: Fassen Sie den folgenden Text als Aufzählung der wichtigsten Punkte zusammen.
{Texteingabe hier}

Andererseits könnte eine effektivere Technik sein:

Mitglied: Fassen Sie den folgenden Text als Aufzählung der wichtigsten Punkte zusammen.
Text: „““
{Texteingabe hier}
"" "

Durch die klare Trennung der Anweisungen und des Kontexts durch Symbole wie ### oder „““ kann das KI-Modell seine Aufgabe und den zu verarbeitenden Text besser abgrenzen und so genauere und relevantere Antworten geben.

Zweitens kann die Präzision von KI-Antworten erheblich verbessert werden, wenn der Kontext, das erwartete Ergebnis, die Länge, das Format, der Stil usw. spezifisch, beschreibend und detailliert sind. Angenommen, Sie müssen einen kurzen Überblick über eine wissenschaftliche Arbeit in einem ansprechenden, laienfreundlichen Stil erstellen. Eine vage Anweisung wie „Fassen Sie die wissenschaftliche Arbeit zusammen“ würde im Vergleich zu einer spezifischen, detaillierten Aufforderung zu weniger effektiven Ergebnissen führen:

Mitglied: Erstellen Sie eine kurze (ca. 200 Wörter) und ansprechende Zusammenfassung der folgenden wissenschaftlichen Arbeit. Die Zusammenfassung sollte für jemanden ohne wissenschaftlichen Hintergrund verständlich sein und gleichzeitig die wichtigsten Ergebnisse der Arbeit genau wiedergeben.
Papier: """
{Text der wissenschaftlichen Arbeit hier}
"" "

2) Persona-Muster

Das Persona Pattern ist eine Strategie, die die KI so einstellt, dass sie aus einer bestimmten Perspektive funktioniert, beispielsweise einer beruflichen Rolle oder einer fiktiven Figur. Diese Taktik ermöglicht es dem Modell, Ergebnisse bereitzustellen, die sich auf die spezifischen Rollen beziehen, die die Persona übernehmen würde. Beispielsweise könnte man die KI anweisen, bei einer Codeüberprüfung als Cybersicherheitsexperte zu fungieren. Dieses Muster ist besonders nützlich, wenn Benutzer Hilfe benötigen, sich aber nicht sicher sind, welche genauen Details in der Ausgabe erforderlich sind.

Nehmen Sie das Folgende als Beispiel:

Mitglied: „Nehmen Sie die Rolle eines erfahrenen Historikers an, der sich auf die Französische Revolution spezialisiert hat. Erklären Sie anhand dieser Person die wichtigsten Ereignisse und Gründe, die zum Untergang der französischen Monarchie führten.“

In diesem Szenario wird von der KI erwartet, dass sie mit einer detaillierten Analyse der Französischen Revolution reagiert und sich dabei auf den Fall der Monarchie konzentriert, wie es ein Historiker tun würde.

Einführung neuer Informationen

ChatGPT verfügt über kein Wissen, das über den Schulungszeitraum hinausgeht, und kann daher nach der Schulung keine Informationen zu aktuellen Ereignissen oder Aktualisierungen bereitstellen. Sie können dem Modell jedoch über Ihre Eingabeaufforderungen neue Informationen hinzufügen.

Mitglied: „Was ist Kryptowährung?“
ChatGPT: „Kryptowährung ist eine Art digitale oder virtuelle Währung, die Kryptographie zur Sicherheit nutzt. Die bekannteste Kryptowährung ist Bitcoin.“

Wenn wir der Eingabeaufforderung nun etwas mehr Kontext hinzufügen, können wir die Erklärung noch intuitiver gestalten:

Mitglied: „Erklären Sie einem High-School-Schüler, der digitale Finanzen studiert, das Konzept der Kryptowährung.“
ChatGPT: „Stellen Sie sich vor, Sie spielen ein Online-Videospiel und Sie können Spielgeld verdienen, um Upgrades oder neue Charaktere zu kaufen. Kryptowährungen sind in etwa so, aber anstatt sich auf das Spiel zu beschränken, können Sie damit tatsächlich Waren und Dienstleistungen aus der realen Welt kaufen. Es ist wie digitales Geld, das keine Bank oder Regierung kontrolliert.“

3) Größenbeschränkungen für Eingabeaufforderungen

Es ist wichtig, die Größenbeschränkung von ChatGPT zu verstehen, da sie sich direkt auf die Menge und Art der Informationen auswirkt, die wir eingeben können. Sprachmodelle sind nicht für die gleichzeitige Verarbeitung unbegrenzter Datenmengen ausgelegt. Sie haben eine inhärente Einschränkung hinsichtlich der Größe der Eingabeaufforderung, die wir erstellen und eingeben können. Diese Einschränkung hat tiefgreifende Auswirkungen auf die Gestaltung und Ausführung der Eingabeaufforderungen.

ChatGPT hat ein Token-Limit (im Allgemeinen 2048 Token), das sowohl die Eingabeaufforderung als auch die generierte Antwort umfasst. Dies bedeutet, dass lange Eingabeaufforderungen die Länge der Antwort begrenzen können. Daher ist es wichtig, die Eingabeaufforderungen prägnant und dennoch informativ zu halten.

Im praktischen Einsatz müssen wir als Redakteure fungieren und selektiv die relevantesten Informationen für die jeweilige Aufgabe auswählen. Stellen Sie sich vor, Sie schreiben eine Arbeit oder einen Artikel mit einer Wort- oder Seitenbeschränkung – Sie können nicht einfach zufällige Fakten wegwerfen, sondern die für das Thema relevanten Informationen sorgfältig auswählen und strukturieren.

Mitglied: „Angesichts der symbolischen Einschränkungen des Modells fassen Sie die wichtigsten Ereignisse des Zweiten Weltkriegs in weniger als 1000 Wörtern zusammen.“

Durch die Anerkennung der Token-Einschränkungen des Modells weist diese Eingabeaufforderung die KI an, eine prägnante, aber umfassende Zusammenfassung des Zweiten Weltkriegs bereitzustellen.

Eingabeaufforderungen zur wiederholten Verwendung: In einem Gesprächsszenario können Sie Eingabeaufforderungen wiederverwenden oder sie basierend auf früheren Antworten verfeinern. Dies sorgt für einen Gesprächsfluss und behält den Kontext in der Interaktion bei.

4) Fragenverfeinerungsmuster

ChatGPT kann auch dabei helfen, Ihre Fragen zu verfeinern. Wenn Sie beispielsweise eine Frage stellen, kann eine besser formulierte Frage vorgeschlagen werden, um genauere Ergebnisse zu erzielen.

Beim Fragenverfeinerungsmuster verfeinert der LLM die vom Benutzer gestellten Fragen. Dies ist besonders nützlich, wenn Benutzer keine Experten auf einem Gebiet sind oder sich nicht sicher sind, wie sie ihre Frage formulieren sollen.

Eine Beispielaufforderung könnte so aussehen:

Mitglied: „Wenn ich eine Frage zur Datenwissenschaft stelle, schlagen Sie eine verfeinerte Frage unter Berücksichtigung der Besonderheiten der statistischen Analyse vor und fragen Sie, ob ich mit der verfeinerten Frage fortfahren möchte.“

Dabei wird von der KI erwartet, dass sie die allgemeinen datenwissenschaftlichen Fragen des Benutzers zu detaillierteren Fragen unter Berücksichtigung statistischer Analyseaspekte verfeinert.

5) Kognitives Prüfmuster

Das Cognitive Verifier Pattern zerlegt komplexe Fragen in kleinere, überschaubare Unterfragen. Die Antworten auf diese Unterfragen werden dann zu einer umfassenden Antwort auf die Hauptfrage zusammengefasst. Dieser Ansatz ist nützlich, wenn die anfänglichen Fragen zu anspruchsvoll sind oder wenn zusätzliche Klarheit erforderlich ist, um eine vollständige Antwort zu geben.

Zum Beispiel:

Mitglied: „Wenn ich eine Frage zum Klimawandel stelle, teilen Sie sie in drei kleinere Fragen auf, die Ihnen helfen, eine genauere Antwort zu geben. Kombinieren Sie die Antworten auf diese Unterfragen, um die endgültige Antwort zu erhalten.“

In diesem Szenario wird die KI die komplexe Frage zum Klimawandel in drei überschaubare Teilfragen zerlegen. Nachdem die KI Antworten auf diese Unterfragen erhalten hat, kombiniert sie diese, um eine umfassendere und genauere Antwort zu liefern.

Bei diesem Muster werden mehrere Fragen generiert, um eine genauere endgültige Antwort zu erhalten. Es handelt sich um einen Prozess der Überprüfung und Konsolidierung von Informationen für ein robustes Endergebnis

6) Ansatz mit wenigen Schüssen

Few-Shot-Prompting ist ein leistungsstarker Ansatz, um KI-Modellen beizubringen, bestimmten Mustern zu folgen oder Aufgaben auszuführen. Die Idee besteht darin, das Modell mit einer Reihe von Beispielen zu füttern, bevor die gewünschte Frage gestellt wird. Dies hilft dabei, das gewünschte Verhalten festzulegen und die Reaktionen des Modells zu steuern.

Stellen Sie sich ein Szenario vor, in dem ein Benutzer versucht, einen prägnanten, überzeugenden Marketingtext für ein neues technisches Gerät zu verfassen:

Mitglied: „Hier sind einige Beispiele für Tech-Marketing-Kopien: ‚Erleben Sie Musik wie nie zuvor mit unseren hochmodernen kabellosen Kopfhörern.‘ „Erfassen Sie Ihre Welt in atemberaubendem 4K mit unserer ultraschlanken Action-Kamera.“ Entwerfen Sie anhand dieser Beispiele einen Marketingtext für unsere neue KI-gestützte Smartwatch.“

ChatGPT: „Stärken Sie Ihren Lebensstil mit unserer KI-gestützten Smartwatch, Ihrem Begleiter für Gesundheit, Konnektivität und Produktivität.“ Das bemerkenswerte Merkmal des Wenig-Schuss-Lernens besteht darin, dass keine detaillierte Beschreibung der Ausführung der Aufgabe erforderlich ist. Stattdessen erfordert es Demonstrationen dessen, was getan wird, wodurch es für viele Anwendungen gut geeignet sein kann.

Darüber hinaus geht diese Technik über die einfache Eingabe-Ausgabe-Paarung hinaus. Dem Modell kann auch beigebracht werden, Zwischenschritte zum Erreichen eines Ziels zu bewältigen.

7) Aufforderung zur Gedankenkette

In ihrer jüngsten Forschungsarbeit heißt es: „Die Aufforderung zur Gedankenkette löst Argumentation in großen Sprachmodellen aus„Ziel der Autoren Jason Wei und seines Teams ist es, das Denken in großen Sprachmodellen anzuregen. Anstatt traditionelle, direkte Eingabeaufforderungen zu verwenden, nutzt das Team eine Reihe miteinander verbundener Eingabeaufforderungen, die eine „Gedankenkette“ bilden.

Ein Benutzer könnte beispielsweise an den möglichen Auswirkungen künstlicher Intelligenz auf den Arbeitsmarkt interessiert sein:

Mitglied: „Könnten Sie kurz das Konzept der künstlichen Intelligenz erläutern?“

ChatGPT: „Künstliche Intelligenz oder KI bezeichnet die Fähigkeit einer Maschine, intelligentes menschliches Verhalten nachzuahmen. Es geht darum, Maschinen zu entwerfen, die wie Menschen denken und lernen können und es ihnen ermöglichen, unter anderem Aufgaben wie Sprachübersetzung, Entscheidungsfindung und Problemlösung auszuführen.“

Mitglied: „Wie beeinflusst KI den aktuellen Arbeitsmarkt?“

ChatGPT: „KI schafft sowohl neue Arbeitsplätze als auch verändert die Art bestehender Arbeitsplätze. Einerseits werden Routineaufgaben automatisiert, was in bestimmten Branchen zur Arbeitsplatzverlagerung führt. Auf der anderen Seite entsteht eine Nachfrage nach Rollen, die es bisher nicht gab, etwa nach KI-Ethikbeauftragten, Datenanalysten und Ingenieuren für maschinelles Lernen. Darüber hinaus kann KI menschliche Rollen ergänzen und es Menschen ermöglichen, Aufgaben effizienter und genauer zu erledigen.“

Die Eingabeaufforderung in der Gedankenkette folgt einer Abfolge verwandter Eingabeaufforderungen und führt eine „Konversation“ mit dem Modell, die es zu präziseren und kontextuell angemessenen Antworten führt.

ChatGPT-API und Prompt Engineering aus der Sicht eines Entwicklers verstehen

Aus der Sicht eines Entwicklers oder Forschers ist Prompt Engineering ein komplexerer Prozess. Dabei geht es um die Entwicklung von Algorithmen und Techniken, die dem KI-Modell dabei helfen, Aufforderungen besser zu verstehen und darauf zu reagieren. Dazu könnten Strategien für den Umgang mit mehrdeutigen Eingabeaufforderungen, die Identifizierung des Kontexts von Eingabeaufforderungen oder die Verkettung von Eingabeaufforderungen gehören, um komplexere Denkprozesse in der KI anzuregen

In der obigen Abbildung interagiert ein Benutzer mit einer Chat-Oberfläche, die von GPT-4 unterstützt wird. Ihre Eingaben werden durch ein spezielles Modul im Hinblick auf Klarheit und kontextbezogene Konsistenz verbessert, bevor sie dem KI-Modell zugeführt werden. Die Aufgabe dieses Moduls besteht darin, die Eingaben des Benutzers für ein besseres Verständnis zu verfeinern und zu verbessern und gleichzeitig den Kontext des Gesprächs beizubehalten. Die Antwort der KI, die auf der Grundlage der verfeinerten Eingabeaufforderung erstellt wurde, wird über die Chat-Schnittstelle an den Benutzer zurückgegeben. Der Interaktionsverlauf wird kontinuierlich aktualisiert, wobei der Gesprächskontext erhalten bleibt. Insgesamt veranschaulicht dieses Diagramm einen dynamischen Benutzer-KI-Konversationsfluss, der durch Prompt-Engineering-Techniken ermöglicht wird.

Das ChatGPT-APIs Die Benutzeroberfläche ist mit verschiedenen Hyperparametern ausgestattet, die es Benutzern ermöglichen, die Reaktionen der KI auf Eingabeaufforderungen zu verfeinern und sie so effektiver und vielseitiger zu machen. Dazu gehören die Parameter Temperatur, maximale Länge und Stoppsequenzen. Lassen Sie uns untersuchen, wie sie funktionieren und in verschiedenen Kontexten eingesetzt werden können.

1) Temperatur

Der Temperaturparameter beeinflusst die Zufälligkeit der Antworten der KI. Eine höhere Temperatur, z. B. 1.0, fördert eine zufälligere Ausgabe, was zu vielfältigen, aber möglicherweise nicht zum Thema gehörenden Antworten führt. Im Gegensatz dazu veranlasst eine niedrigere Temperatur wie 0.2 die KI dazu, deterministischere Antworten auszuwählen, was für fokussierte und spezifische Ergebnisse von Vorteil sein kann, aber möglicherweise an Abwechslung mangelt.

Beispiel: Wenn Sie eine kreative Geschichte schreiben und unvorhersehbare, fantasievolle Elemente wünschen, stellen Sie die Temperatur auf einen höheren Wert ein. Eine Aufforderung könnte sein: „Schreiben Sie eine Kurzgeschichte über eine zeitreisende Katze.“ Bei hohen Temperaturen kann es zu einer wilden, fantastischen Geschichte mit unvorhersehbaren Wendungen kommen.

2) Maximale Länge

Dieser Parameter steuert die maximale Tokenlänge der Modellausgabe, die sowohl die Token in der Nachrichteneingabe als auch in der Nachrichtenausgabe umfasst. Das Festlegen eines höheren Grenzwerts ermöglicht ausführlichere Antworten, während ein niedrigerer Grenzwert die Ausgabe kurz und prägnant hält.

Beispiel: Für kurze Antworten auf triviale Fragen wie „Wer hat 2020 den Nobelpreis für Literatur gewonnen?“ Möglicherweise möchten Sie die maximale Länge auf einen niedrigen Wert festlegen, um sicherzustellen, dass die Antwort prägnant und direkt ist.

3) Stoppsequenzen

Stoppsequenzen sind bestimmte Textzeichenfolgen, bei denen das Modell, wenn es darauf stößt, keine weitere Ausgabe mehr generiert. Diese Funktion kann nützlich sein, um die Länge der Ausgabe zu steuern oder das Modell anzuweisen, an logischen Endpunkten anzuhalten.

Beispiel: Für einen formellen Brief könnten Sie „Mit freundlichen Grüßen“ als Stoppsequenz verwenden, um sicherzustellen, dass die KI über das richtige Ende des Briefes hinaus keinen zusätzlichen Text generiert.

4) Oben P

Der „Top P“-Parameter, auch bekannt als Nucleus Sampling, ist eine Methode, die eine dynamische Auswahl der Anzahl der Wörter ermöglicht, die bei jedem Schritt der Modellvorhersagen berücksichtigt werden. Ein niedrigerer Wert, beispielsweise 0.5, führt zu sichereren und fokussierteren Ausgaben. Ein höherer Wert wie 0.9 umfasst eine breitere Auswahl an Wörtern, was zu vielfältigeren Ausgaben führt.

Beispiel: Wenn Sie eine KI zum Schreiben von Gedichten erstellen und möchten, dass sie ein breites Spektrum an Vokabeln und Stilphrasen verwendet, können Sie „Top P“ auf einen höheren Wert setzen. Eine Aufforderung könnte sein: „Verfassen Sie ein Gedicht über die Schönheit des Herbstes.“

5) Frequenzstrafe

Frequency Penalty steuert, wie stark das Modell weniger häufige Wörter bevorzugen soll. Eine höhere Strafe (bis zu 1) ermutigt das Modell, weniger gebräuchliche Wörter zu verwenden, während ein niedrigerer Wert (bis zu -1) das Modell dazu ermutigt, gebräuchlichere Wörter zu verwenden.

Beispiel: Wenn Sie versuchen, einen Geschäftsvorschlag zu erstellen und Fachjargon vermeiden möchten, können Sie die Häufigkeitsstrafe auf einen niedrigeren Wert festlegen, um die Sprache klar und verständlich zu halten.

6) Anwesenheitsstrafe

Der Parameter „Presence Penalty“ beeinflusst, wie stark das Modell bestraft wird, wenn es neue Ideen oder Themen generiert, die nicht im Gesprächsverlauf vorhanden waren. Höhere Werte ermutigen das Modell, sich an die bereits erwähnten Themen zu halten, während niedrigere Werte es dem Modell ermöglichen, neue Konzepte freier einzuführen.

Beispiel: Für Brainstorming-Sitzungen könnten Sie den Anwesenheitsabzug auf einen niedrigeren Wert festlegen, um eine vielfältige Auswahl an Ideen zu fördern. Sie könnten eine Aufforderung wie „Generieren Sie innovative Marketingstrategien für eine Online-Bildungsplattform“ verwenden.

Branchenanwendung von Prompt Engineering