Základní průvodce rychlým inženýrstvím v ChatGPT

Od svého uvedení do provozu, ChatGPT dělá vlny v oblasti umělé inteligence a v rekordním čase přilákal přes 100 milionů uživatelů. Tajná přísada působivého výkonu a všestrannosti ChatGPT spočívá v umění nenápadně zasazeném do jeho programování – rychlém inženýrství.

DALL-E, MidJourney a StableDiffusion, které byly spuštěny v roce 2022, podtrhly rušivý potenciál generativní umělé inteligence. Ale bylo Otevřete AIChatGPT společnosti 's, který se skutečně dostal do centra pozornosti později v roce 2022. A tato dynamika nevykazovala žádné známky zpomalení.

Oznámení Googlu o Bardovi si Meta's Lamma 2  Reakce na ChatGPT od OpenAI výrazně zesílila dynamiku závodu v oblasti umělé inteligence. Poskytováním vstupů těmto modelům ovlivňujeme jejich chování a reakce. To z nás všech dělá do určité míry pohotové inženýry. Technologický průmysl si toho všiml. Rizikoví kapitalisté investují do startupů zaměřených na pohotové inženýrství, jako například Vellum AI. Forbes navíc uvádí, že inženýři požadují příkaz platy přesahující 300,000 XNUMX USD, svědčící o prosperujícím a hodnotném trhu práce.

V tomto článku se podíváme na svět promptního inženýrství v kontextu ChatGPT. Prozkoumáme základní principy a techniky a prozkoumáme jejich komerční aplikace.

Nejprve si ujasněme, jak ChatGPT funguje a jakou klíčovou roli v tomto procesu hraje prompts engineering.

Mechanika za rychlým inženýrstvím ChatGPT

Tajným kouzlem úspěchu ChatGPT je jeho schopnost rozumět a napodobovat nuance lidské konverzace. Model je trénován na rozmanité škále internetového textu, ale co je zásadní, ve své trénovací sadě nezná konkrétní dokumenty ani zdroje, což zajišťuje zobecnění namísto specifičnosti. Tento trénovací přístup umožňuje ChatGPT generovat kreativní odpovědi, orientovat se ve složitých dialozích a dokonce projevovat smysl pro humor. Je však důležité si uvědomit, že ChatGPT ve skutečnosti nerozumí ani nemá přesvědčení; generuje odpovědi na základě vzorců, které se naučil během trénování.

Schopnost ChatGPT rozumět lidskému jazyku a reagovat na něj s nuancemi a s ohledem na kontext z něj dělá neuvěřitelně všestranné nástroje.

Mechanika těchto modelů spočívá na konceptu „tokenů“ – samostatných bloků jazyka, které mohou mít délku od jednoho znaku až po celé slovo. Tyto modely pracují s určitým počtem tokenů najednou (4096 pro GPT-3.5-Turbo nebo 8192 nebo 32768 pro GPT-4) a předpovídají další sekvenci pravděpodobných tokenů. Modely zpracovávají tokeny pomocí komplexní lineární algebry a předpovídají nejpravděpodobnější následující token.

Například jednoduchá devítislovná věta se může změnit na deset žetonů. I jediné složité slovo se může proměnit ve více tokenů, což pomáhá modelu lépe porozumět a generovat jazyk. Dokonce i jazyky se složitou strukturou slov, jako je němčina, jsou spravovány pomocí tokenizace.

Modely GPT (Generative Pre-trained Transformer) fungují tak, že generují vždy jeden token, počínaje prvním tokenem a pokračovat až k poslednímu. Po vygenerování každého tokenu model znovu navštíví celou sekvenci a znovu ji zpracuje, aby vygeneroval další token. Tento iterativní proces pokračuje, dokud není vygenerován konečný token, čímž se generování textu podobá velké smyčce for.

Ale tady je háček – kvalita těchto odpovědí do značné míry závisí na výzvách, které dostávají. Stejně jako řízení konverzace s člověkem, i vedení dialogu pomocí ChatGPT vyžaduje určitou úroveň dovedností a porozumění. A právě zde přichází na řadu inženýrství výzev.

Co je rychlé inženýrství?

Prompt Engineering je umění vytvářet přesné, efektivní výzvy/vstupy pro vedení AI (NLP/Vision) modely, jako je ChatGPT, s cílem generovat co nejhospodárnější, nejpřesnější, nejužitečnější a nejbezpečnější výstupy.

Pohotové inženýrství se neomezuje pouze na generování textu, ale má široké uplatnění v celé doméně umělé inteligence. Stále více se používá v oblastech, jako jsou roboti pro automatizaci robotických procesů, 3D aktiva, skripty, instrukce robotů a další typy obsahu a digitálních médií. Poskytuje jedinečnou směs logiky, kódování, umění a v některých případech i speciálních modifikátorů.

Zatímco výzva může obsahovat text v přirozeném jazyce, obrázky nebo jiné typy vstupních dat, výstup se může mezi službami a nástroji umělé inteligence výrazně lišit. Každý nástroj má své speciální modifikátory, které popisují váhu slov, styly, perspektivy, rozložení nebo jiné vlastnosti požadované odpovědi.

Tato oblast je nezbytná pro vytváření lepších služeb založených na AI a získávání vynikajících výsledků ze stávajících generativních nástrojů AI. Podnikoví vývojáři například často využívají rychlé inženýrství k přizpůsobení velkých jazykových modelů (LLM), jako je GPT-3, aby posílily potřeby zákazníků. chatbot nebo zpracovávat úkoly, jako je vytváření smluv pro konkrétní odvětví.

Tento iterativní proces rychlého zdokonalování a měření výkonu umělé inteligence je klíčovým prvkem umožňujícím modelům umělé inteligence generovat vysoce cílené a užitečné reakce v různých kontextech.

Stát se rychlým inženýrem

Díky schopnosti modelu GPT-4 porozumět složitým instrukcím a přesně řešit složité problémy je neocenitelným zdrojem. Existují však různé metody, jak využít možnosti tohoto modelu, a jejich pochopení může být klíčové pro roli pohotového inženýra při optimalizaci efektivity i nákladové efektivity.

V zásadě existují dva způsoby, jak interagovat s modely GPT, jako je GPT-4. Jedním ze způsobů je prostřednictvím API OpenAI, kde se náklady počítají za vstupní a výstupní tokeny. V tomto scénáři se náklady na 1 tokenů mohou kolísat v závislosti na velikosti kontextu. Například ve větším kontextu o velikosti 32 tokenů by náklady mohly dosáhnout až 0.06 USD pro vstupní tokeny a 0.12 USD pro výstupní tokeny. Při zpracování velkého objemu požadavků se tedy náklady na používání mohou rychle nahromadit.

Případně ChatGPT, který využívá model GPT-4, funguje na modelu založeném na předplatném.

Dalším klíčovým úkolem v prompt engineeringu je ladění parametrů modelu. Tento proces zahrnuje úpravu proměnných, které model používá k vytváření predikcí. Jemným doladěním těchto parametrů mohou prompt engineeři zlepšit kvalitu a přesnost odpovědí modelu, čímž je učiní kontextově relevantnějšími a užitečnějšími.

Přestože mnoho promptnich inženýrů pochází z technického prostředí, multidisciplinární povaha oboru jej zpřístupňuje jednotlivcům z různých profesních prostředí. Stále častěji spisovatelé, výzkumníci a dokonce i umělci využívají své jedinečné dovednosti ke zvýšení účinnosti modelů umělé inteligence. Tento posun se odráží i na trhu práce, kde roste počet společností, které hledají promptne inženýry s rozmanitou škálou dovedností a vzdělání.

Rychlý návrh a inženýrství v ChatGPT

Rychlý návrh a inženýrství hrají klíčovou roli při optimalizaci výkonu jazykových modelů a zahrnují více než jen vytváření otázek; vyžadují hluboké porozumění modelu AI a vysoce iterativní a rafinovaný přístup.

Prompt Design

Návrh promptu je ve své podstatě umění a věda o vytvoření perfektního promptu pro daný model velkého jazyka (LLM), jako je ChatGPT, k dosažení jasně stanoveného cíle. Je to kombinace:

• Porozumění LLM: Různé jazykové modely mohou na stejnou výzvu reagovat různě. Některé jazykové modely navíc mohou mít jedinečná klíčová slova nebo spouštěče, které interpretují specifickým způsobem.
• Znalost domény: Odbornost v příslušné oblasti je klíčová při navrhování výzev. Například generování výzvy k odvození lékařské diagnózy by vyžadovalo lékařské znalosti.
• Iterativní přístup a měření kvality: Proces vytváření ideální výzvy často zahrnuje pokusy a omyly. Proto je životně důležité mít způsob, jak hodnotit kvalitu výstupu nad rámec pouhého subjektivního úsudku, zejména při použití výzvy ve větším měřítku.

Prompt Engineering

Prompt engineering je rozšířená oblast promptního návrhu, která zahrnuje několik kritických procesů:

• Návrh výzev ve velkém měřítku: Tento proces zahrnuje návrh meta výzev (výzev, které generují další výzvy) a šablon výzev, což jsou parametrizované výzvy, které lze vytvořit za běhu.
• Návrh a integrace nástrojů: Výzvy mohou někdy zahrnovat výsledky externích nástrojů a bezproblémová integrace těchto nástrojů do systému je zásadní.
• Workflow, Planning and Prompt Management: Nasazení LLM aplikace, jako je chatbot, často vyžaduje správu knihoven výzev, plánování a výběr správných výzev a efektivní integraci různých nástrojů.
• Vyhodnocování a zajišťování kvality výzev: Tento aspekt zahrnuje definování metrik a procesů pro vyhodnocování výzev jak automaticky, tak se zapojením člověka.
• Optimalizace výzvy: Náklady a latence modelu AI mohou záviset na volbě modelu a délce výzvy (počet tokenů).

Pro správu prompts ve velkém měřítku bylo vyvinuto mnoho automatizovaných přístupů, nástrojů a frameworků pro návrh prompts. Je však důležité si uvědomit, že žádný z těchto nástrojů nemůže nahradit detailní porozumění, úsudek a zkušenosti zkušeného inženýra prompts.

Prompt Engineering: Techniky a osvědčené postupy

1) Okamžité umístění a popis

Umístění instrukcí na začátek výzvy může významně ovlivnit porozumění a reakci umělé inteligence. Vezměte si například úkol shrnout text ve formátu odrážek. Méně efektivní přístup by byl:

Uživatel: Shrňte níže uvedený text jako odrážkový seznam nejdůležitějších bodů.
{textový vstup zde}

Na druhou stranu, účinnější technika by mohla být:

Uživatel: Shrňte níže uvedený text jako odrážkový seznam nejdůležitějších bodů.
Text: """
{textový vstup zde}
„“ “

Jasným oddělením pokynů a kontextu pomocí symbolů jako ### nebo „“ může model umělé inteligence lépe vymezit svůj úkol a text, který potřebuje zpracovat, a tím poskytnout přesnější a relevantnější odpovědi.

Za druhé, konkrétní, popisné a podrobné informace o kontextu, očekávaném výsledku, délce, formátu, stylu atd. mohou významně zvýšit přesnost odpovědí AI. Předpokládejme, že potřebujete vytvořit stručný přehled vědeckého článku v poutavém stylu, který je vhodný pro laiky. Vágní instrukce jako „Shrňte vědeckou práci“ by přinesla méně efektivní výsledky ve srovnání s konkrétní, podrobnou výzvou:

UživatelVytvořte stručné (cca 200 slov) a poutavé shrnutí následující vědecké práce. Shrnutí by mělo být srozumitelné i pro někoho bez vědeckého vzdělání a zároveň by mělo přesně odrážet klíčová zjištění práce.
Papír: """
{text vědeckého článku zde}
„“ “

2) Vzor persony

Persona Pattern je strategie, která nastavuje AI tak, aby fungovala z určité perspektivy, jako je profesionální role nebo fiktivní postava. Tato taktika umožňuje modelu poskytovat výstupy související s konkrétními rolemi, které by persona zvládala. Například by bylo možné instruovat AI, aby jednala jako expert na kybernetickou bezpečnost během kontroly kódu. Tento vzor je zvláště užitečný, když uživatelé potřebují pomoc, ale nejsou si jisti přesnými podrobnostmi požadovanými ve výstupu.

Vezměte si jako příklad následující:

Uživatel: „Předpokládejme, že jde o osobu staršího historika specializujícího se na Francouzskou revoluci. Vzhledem k této osobě vysvětlete klíčové události a důvody vedoucí k pádu francouzské monarchie.“

V tomto scénáři se očekává, že AI zareaguje hloubkovou analýzou francouzské revoluce se zaměřením na pád monarchie, jak by to udělal historik.

Představujeme nové informace

ChatGPT nemá znalosti nad rámec svého trénovacího limitu, proto nemůže poskytovat informace o nedávných událostech ani aktualizacích po trénování. Nové informace však můžete do modelu zavést prostřednictvím výzev.

Uživatel: "Co je to kryptoměna?"
ChatGPT: „Kryptoměna je typ digitální nebo virtuální měny, která používá k zabezpečení kryptografii. Nejznámější kryptoměnou je bitcoin.”

Nyní, když k výzvě přidáme trochu více kontextu, můžeme vysvětlení učinit ještě intuitivnějším:

Uživatel: „Vysvětlete pojem kryptoměna středoškolskému studentovi studujícímu digitální finance“
ChatGPT: „Představte si, že hrajete online videohru a máte herní peníze, které si můžete vydělat na nákup vylepšení nebo nových postav. Kryptoměny jsou něco podobného, ​​ale místo aby se omezovaly pouze na hru, můžete je skutečně použít k nákupu zboží a služeb v reálném světě. Je to jako digitální peníze, které nekontroluje žádná banka ani vláda.“

3) Omezení velikosti výzvy

Pochopení omezení velikosti ChatGPT je zásadní, protože přímo ovlivňuje objem a typ informací, které můžeme vkládat. Jazykové modely nejsou stavěny pro zpracování neomezeného množství dat najednou. Mají vlastní omezení velikosti výzvy, kterou můžeme vytvořit a zadat. Toto omezení má hluboké důsledky pro návrh a provádění výzev.

ChatGPT má limit tokenů (obecně 2048 tokenů), který zahrnuje jak výzvu, tak vygenerovanou odpověď. To znamená, že dlouhé výzvy mohou omezit délku odpovědi. Proto je důležité, aby výzvy byly stručné, ale zároveň informativní.

V praxi musíme fungovat jako editoři a selektivně vybírat informace, které jsou pro daný úkol nejrelevantnější. Představte si, že píšete článek nebo práci s limitem slov nebo stránek – nemůžete jen tak vyhodit náhodná fakta, ale pečlivě vybrat a strukturovat informace relevantní pro dané téma.

Uživatel: „S ohledem na symbolická omezení modelu shrňte klíčové události druhé světové války do méně než 1000 slov.“

Uznáním omezení modelu z hlediska tokenů tato výzva vede umělou inteligenci k poskytnutí stručného, ​​ale komplexního shrnutí druhé světové války.

Výzvy pro opakované použití: V konverzačním scénáři můžete výzvy znovu použít nebo je upřesnit na základě předchozích odpovědí. To dává konverzační tok a udržuje kontext v interakci.

4) Vzor zpřesnění otázky

ChatGPT může také pomoci upřesnit vaše otázky. Pokud například položíte otázku, může vám navrhnout lépe formulovanou otázku pro přesnější výsledky.

Vzor pro zpřesnění otázky spočívá v tom, že LLM zpřesňuje otázky kladené uživatelem. Je to obzvláště užitečné, když uživatelé nejsou odborníky v dané oblasti nebo si nejsou jisti, jak formulovat svou otázku.

Příklad výzvy může vypadat takto:

Uživatel: „Kdykoli položím otázku o datové vědě, navrhněte jemnější otázku s ohledem na specifika statistické analýzy a zeptejte se, zda chci pokračovat s rafinovanou otázkou.“

Zde se od umělé inteligence očekává, že zpřesní obecné otázky uživatele týkající se datové vědy na podrobnější otázky s ohledem na aspekty statistické analýzy.

5) Vzor kognitivního ověřovače

Kognitivní ověřovací vzor rozděluje složité otázky na menší, zvládnutelné podotázky. Odpovědi na tyto dílčí otázky jsou pak kombinovány tak, aby poskytovaly komplexní odpověď na hlavní otázku. Tento přístup je užitečný, když jsou počáteční otázky příliš vysoké úrovně nebo když je pro poskytnutí úplné odpovědi potřeba další srozumitelnost.

Například:

Uživatel: „Pokud položím otázku týkající se změny klimatu, rozdělte ji na tři menší otázky, které vám pomohou poskytnout přesnější odpověď. Spojte odpovědi na tyto dílčí otázky a dejte konečnou odpověď.“

V tomto scénáři AI rozdělí složitou otázku o změně klimatu do tří zvládnutelných dílčích otázek. Po obdržení odpovědí na tyto dílčí otázky je AI zkombinuje, aby poskytla komplexnější a přesnější odpověď.

Tento vzorec zahrnuje generování více otázek za účelem získání přesnější konečné odpovědi. Jedná se o proces ověřování a konsolidace informací pro dosažení robustního konečného výstupu.

6) Přístup nabádající k několika výstřelům

Nápovědy několika pokusů (few-shot prompting) jsou účinným přístupem k učení modelů umělé inteligence řídit se specifickými vzorci nebo provádět úkoly. Cílem je poskytnout modelu několik příkladů před položením požadované otázky. To pomáhá nastavit požadované chování a řídit reakce modelu.

Zvažte scénář, kdy se uživatel pokouší navrhnout stručnou a působivou marketingovou kopii pro nový technický gadget:

Uživatel„Zde je několik příkladů marketingových textů pro technologie: ‚Zažijte hudbu jako nikdy předtím s našimi špičkovými bezdrátovými sluchátky.‘ ‚Zachyťte svůj svět v úžasném rozlišení 4K s naší ultra elegantní akční kamerou.‘ Na základě těchto příkladů vytvořte marketingový text pro naše nové chytré hodinky s umělou inteligencí.“

ChatGPT„Posilte svůj životní styl s našimi chytrými hodinkami s umělou inteligencí, vaším společníkem pro zdraví, konektivitu a produktivitu.“ Pozoruhodnou vlastností učení v několika krocích je, že nevyžaduje podrobný popis provedení úkolu. Místo toho vyžaduje demonstrace toho, co se dělá, což z něj činí dobrou volbu pro mnoho aplikací.

Navíc tato technika přesahuje jednoduché vstupně-výstupní párování. Model lze také naučit zvládat mezikroky k dosažení cíle.

7) Vybízení k řetězci myšlení

Ve svém nedávném výzkumném článku „Chain-of-Thought Prompting vyvolává uvažování ve velkých jazykových modelechAutoři Jason Wei a jejich tým se snaží stimulovat uvažování v rámci rozsáhlých jazykových modelů. Namísto tradičních, přímých výzev tým využívá řadu vzájemně propojených výzev, které tvoří „řetězec myšlenek“.

Uživatel by se například mohl zajímat o potenciální dopad umělé inteligence na trhy práce:

Uživatel: "Mohl byste stručně vysvětlit pojem umělé inteligence?"

ChatGPT„Umělá inteligence, neboli AI, označuje schopnost stroje napodobovat inteligentní lidské chování. Jde o navrhování strojů, které dokáží myslet a učit se jako lidé, což jim umožňuje vykonávat úkoly, jako je mimo jiné překlad jazyka, rozhodování a řešení problémů.“

Uživatel: "Jak AI ovlivňuje současný trh práce?"

ChatGPT„Umělá inteligence vytváří nová pracovní místa a zároveň mění povahu těch stávajících. Na jedné straně automatizuje rutinní úkoly, což vede k jejich vytlačování v určitých odvětvích. Na druhé straně vytváří poptávku po rolích, které dříve neexistovaly, jako jsou etické úředníci pro umělou inteligenci, datoví analytici a inženýři strojového učení. Umělá inteligence navíc může rozšířit lidské role a umožnit lidem plnit úkoly efektivněji a přesněji.“

Řetězec myšlenkových podnětů sleduje postup souvisejících podnětů a udržuje „konverzaci“ s modelem, která jej vede k přesnějším a kontextově vhodnějším reakcím.

Pochopení ChatGPT API a Prompt Engineering z pohledu vývojáře

Z pohledu vývojáře nebo výzkumníka je prompting engineering složitější proces. Zahrnuje návrh algoritmů a technik, které pomáhají modelu umělé inteligence efektivněji porozumět promptem a reagovat na ně. To by mohlo zahrnovat strategie pro zpracování nejednoznačných promptem, identifikaci kontextu promptem nebo řetězení promptem za účelem stimulace složitějších myšlenkových procesů v umělé inteligenci.

Na výše uvedeném obrázku uživatel interaguje s chatovacím rozhraním, které je poháněno technologií GPT-4. Jeho vstup je před odesláním do modelu umělé inteligence vylepšen specializovaným modulem pro zajištění srozumitelnosti a kontextové konzistence. Úlohou tohoto modulu je zpřesnit a vylepšit vstup uživatele pro lepší pochopení a zároveň zachovat kontext konverzace. Odpověď umělé inteligence, vytvořená na základě zpřesněné výzvy, je uživateli vrácena prostřednictvím chatovacího rozhraní. Historie interakcí se průběžně aktualizuje a zachovává se tak kontext konverzace. Celkově tento diagram ilustruje dynamický tok konverzace mezi uživatelem a umělou inteligencí, který je umožněn technikami inženýrství výzev.

Jedno Rozhraní API ChatGPT Rozhraní je navrženo s různými hyperparametry, které uživatelům umožňují zpřesnit reakce umělé inteligence na výzvy, čímž je činí efektivnějšími a všestrannějšími. Patří mezi ně parametry Teplota, Maximální délka a Počet zastavovacích sekvencí. Pojďme se podívat na to, jak fungují a lze je využít v různých kontextech.

1) Teplota

Parametr teploty ovlivňuje náhodnost odpovědí umělé inteligence. Vyšší teplota, například 1.0, podporuje náhodnější výstup, což vede k rozmanitějším, ale potenciálně odchylkovým odpovědím. Naproti tomu nižší teplota, například 0.2, vede umělou inteligenci k výběru determinističtějších odpovědí, což může být výhodné pro cílené a specifické výstupy, ale může postrádat rozmanitost.

Příklad: Pokud píšete kreativní příběh a chcete nepředvídatelné, nápadité prvky, nastavte teplotu na vyšší hodnotu. Výzva by mohla znít: „Napište krátký příběh o kočce cestující v čase.“ S vysokou teplotou můžete získat divoký, fantastický příběh s nepředvídatelnými zvraty.

2) Maximální délka

Tento parametr řídí maximální délku tokenu ve výstupu modelu, která zahrnuje jak tokeny ve vstupu zprávy, tak i ve výstupu zprávy. Nastavení vyššího limitu umožňuje delší odpovědi, zatímco nižší limit udržuje výstup krátký a výstižný.

Příklad: Stručné odpovědi na triviální otázky jako: „Kdo získal Nobelovu cenu za literaturu v roce 2020?“ možná budete chtít nastavit maximální délku na nízkou hodnotu, aby byla odpověď stručná a přímá.

3) Zastavte sekvence

Stop sekvence jsou specifické textové řetězce, u kterých, když se s nimi model setká, přestane generovat další výstup. Tato funkce může být užitečná pro řízení délky výstupu nebo pokyn modelu, aby se zastavil na logických koncových bodech.

Příklad: U formálního dopisu můžete použít „S pozdravem“ jako stop sekvenci, abyste zajistili, že AI nevygeneruje žádný další text nad rámec správného konce dopisu.

4) Nahoru P

Parametr „Top P“, známý také jako nukleo sampling, je metoda, která umožňuje dynamický výběr počtu slov uvažovaných v každém kroku predikcí modelu. Nižší hodnota, například 0.5, vede k bezpečnějším a cílenějším výstupům. Vyšší hodnota, například 0.9, zahrnuje širší výběr slov, což vede k rozmanitějším výstupům.

Příklad: Pokud vytváříte umělou inteligenci pro psaní básní a chcete, aby používala širokou škálu slovní zásoby a stylistických frází, můžete nastavit „Top P“ na vyšší hodnotu. Výzva by mohla znít: „Složte báseň o kráse podzimu.“

5) Frekvenční trest

Frequency Penalty řídí, jak moc by měl model upřednostňovat méně frekventovaná slova. Vyšší trest (až 1) povzbudí model k používání méně obvyklých slov, zatímco nižší hodnota (až -1) povzbudí model, aby používal běžnější slova.

Příklad: Pokud se snažíte vygenerovat obchodní návrh a chcete se vyhnout žargonu, můžete nastavit frekvenční penalizaci na nižší hodnotu, aby jazyk zůstal srozumitelný a přístupný.

6) Trest za přítomnost

Parametr Penalta za přítomnost ovlivňuje, jak moc je model penalizován za generování nových nápadů nebo témat, která nebyla přítomna v historii konverzace. Vyšší hodnoty povzbuzují model, aby se držel již zmíněných témat, zatímco nižší hodnoty umožňují modelu volněji zavádět nové koncepty.

Příklad: U brainstormingových relací můžete nastavit penalizaci za přítomnost na nižší hodnotu, abyste podpořili různorodou škálu nápadů. Můžete použít výzvu jako: „Vytvářejte inovativní marketingové strategie pro online vzdělávací platformu.“

Průmyslová aplikace rychlého inženýrství