Az alapvető útmutató a gyors tervezéshez a ChatGPT-ben

Elindítása óta ChatGPT hullámokat keltett az AI-szférában, rekordidő alatt több mint 100 millió felhasználót vonzva. A ChatGPT lenyűgöző teljesítményének és sokoldalúságának titkos szósza a programozásba finoman beágyazott művészetben rejlik – a gyors tervezésben.

A 2022-ben elindított DALL-E, a MidJourney és a StableDiffusion hangsúlyozta a Generative AI bomlasztó potenciálját. De az volt Nyissa meg az AI-tA ChatGPT valóban a középpontba került 2022-ben. És ez a lendület nem mutatta a lassulás jeleit.

A Google bejelentése Bardról és a Meta Lamma 2  Az OpenAI ChatGPT-jére adott válasz jelentősen felerősítette az AI-verseny lendületét. Azáltal, hogy ezeket a modelleket bemenetekkel látjuk el, irányítjuk viselkedésüket és válaszaikat. Ez bizonyos fokig mindannyiunkat késztet mérnökökre. A technológiai ipar felfigyelt rá. A kockázati tőkések pénzeszközöket öntenek olyan induló vállalkozásokba, amelyek az azonnali tervezésre összpontosítanak, mint pl Vellum AI. Ráadásul a Forbes arról számol be, hogy a felszólító mérnökök parancsolnak 300,000 XNUMX dollárt meghaladó fizetések, amely virágzó és értékes munkaerőpiacot jelez.

Ebben a cikkben megfejtjük a gyors tervezés világát a ChatGPT kontextusában. Feltárjuk az alapvető elveket és technikákat, és megvizsgáljuk azok kereskedelmi alkalmazását.

Először is ismerjük meg, hogyan működik a ChatGPT, és milyen kulcsfontosságú szerepet játszik az azonnali tervezés ebben a folyamatban.

A ChatGPT gyors tervezésének mechanikája

A ChatGPT sikere mögött meghúzódó titkos szósz az, hogy képes megérteni és utánozni az emberi beszélgetés árnyalatait. A modell az internetes szövegek széles skáláján van kiképezve, de alapvetően fontos, hogy nem ismer konkrét dokumentumokat vagy forrásokat a képzési készletében, így biztosítva a specifikusság feletti általánosítást. Ez a képzési megközelítés lehetővé teszi a ChatGPT számára, hogy kreatív válaszokat generáljon, bonyolult párbeszédekben navigáljon, és még humorérzéket is tanúsítson. Fontos azonban emlékezni arra, hogy a ChatGPT nem igazán érti, és nincsenek meggyőződései; válaszokat generál a képzés során tanult minták alapján.

A ChatGPT azon képessége, hogy az emberi nyelvet árnyalt és környezettudatos módon tudja megérteni és reagálni rá, hihetetlenül sokoldalú eszközzé teszi őket.

Ezeknek a modelleknek a mechanikája a „tokenek” fogalmán nyugszik – a nyelv különálló darabjai, amelyek egyetlen karaktertől egy egész szóig terjedhetnek. Ezek a modellek meghatározott számú tokennel működnek egyszerre (4096 a GPT-3.5-Turbo vagy 8192 vagy 32768 a GPT-4 esetében), előre jelezve a valószínű tokenek következő sorozatát. A modellek komplex lineáris algebra segítségével dolgozzák fel a tokeneket, előre jelezve a legvalószínűbb következő tokent.

Például egy egyszerű kilencszavas mondat tíz jelzővé változhat. Még egyetlen összetett szó is több tokenné alakulhat, ami segít a modellnek jobban megérteni és létrehozni a nyelvet. Még az olyan összetett szószerkezetű nyelveket is, mint a német, tokenizálással kezelik.

A GPT (Generative Pre-train Transformer) modellek úgy működnek, hogy egyszerre egy tokent generálnak, az első tokentől kezdve és az utolsóig folytatva. Az egyes token generálása után a modell újra megtekinti a teljes sorozatot, és újra feldolgozza a következő token létrehozásához. Ez az iteratív folyamat mindaddig folytatódik, amíg a végső token létre nem jön, így a szöveg generálása egy nagy for-ciklushoz hasonló.

De itt van a bökkenő – ezeknek a válaszoknak a minősége nagyban függ a kapott felszólításoktól. Csakúgy, mint az emberrel folytatott beszélgetés irányítása, a ChatGPT-vel folytatott párbeszéd irányítása bizonyos szintű készségeket és megértést igényel. Itt jön képbe az azonnali tervezés.

Mi az a Prompt Engineering?

A Prompt Engineering a precíz, hatékony felszólítások/bemenetek elkészítésének művészete a mesterséges intelligencia irányításához (NLP/Vision) modellek, mint a ChatGPT, hogy a legköltséghatékonyabb, legpontosabb, leghasznosabb és legbiztonságosabb kimeneteket állítsák elő.

Az azonnali tervezés nem csak a szöveggenerálásra korlátozódik, hanem széles körű alkalmazásai is vannak az AI tartományban. Egyre gyakrabban alkalmazzák olyan területeken, mint a robotizált folyamatautomatizálási robotok, 3D-s eszközök, szkriptek, robotutasítások és más típusú tartalom és digitális média. A logika, a kódolás, a művészet és bizonyos esetekben a speciális módosítók egyedülálló keverékét biztosítja.

Míg a felszólítás természetes nyelvű szöveget, képeket vagy más típusú bemeneti adatokat tartalmazhat, a kimenet jelentősen eltérhet az AI-szolgáltatások és -eszközök között. Minden eszköznek megvannak a speciális módosítói, amelyek leírják a szavak súlyát, stílusokat, perspektívákat, elrendezést vagy a kívánt válasz egyéb tulajdonságait.

Ez a terület elengedhetetlen a jobb mesterségesintelligencia-alapú szolgáltatások létrehozásához és a meglévő generatív AI-eszközök kiváló eredményének eléréséhez. A vállalati fejlesztők például gyakran alkalmazzák az azonnali tervezést a nagy nyelvi modellek (LLM-ek), mint például a GPT-3 személyre szabásához, hogy az ügyfelek felé forduljanak. chatbot vagy olyan feladatokat kezelhet, mint az ágazatspecifikus szerződések létrehozása.

Az AI-teljesítmény gyors finomításának és mérésének ez az iteratív folyamata kulcsfontosságú eleme annak, hogy az AI-modellek rendkívül célzott, hasznos válaszokat tudjanak generálni különböző kontextusokban.

Legyen gyors mérnök

A GPT-4 modell képessége az összetett utasítások megértésében és a bonyolult problémák pontos megoldásában felbecsülhetetlen értékű erőforrássá teszi. Ennek a modellnek a képességeihez azonban különböző módszerek állnak rendelkezésre, és ezek megértése kulcsfontosságú lehet a gyors mérnök szerepében a hatékonyság és a költséghatékonyság optimalizálása terén.

Lényegében kétféleképpen lehet kapcsolatba lépni a GPT-modellekkel, például a GPT-4-gyel. Az egyik módja az OpenAI API-n keresztüli, ahol a költségeket bemeneti és kimeneti tokenenként számítják ki. Ebben a forgatókönyvben az 1 32 tokenenkénti költségek a környezet méretétől függően ingadozhatnak. Például egy nagyobb, 0.06 0.12-as kontextusban a költség akár XNUMX USD-ig is felmehet a bemeneti tokenekért és XNUMX USD-ig a kimeneti tokenekért. Így nagy mennyiségű kérés kezelésekor a használati költségek gyorsan felhalmozódhatnak.

Alternatív megoldásként a ChatGPT, amely a GPT-4 modellt használja, előfizetés alapú modellen működik.

Az azonnali tervezés másik kulcsfontosságú feladata a modellparaméterek hangolása. Ez a folyamat magában foglalja a modell által az előrejelzésekhez használt változók beállítását. E paraméterek finomhangolásával a gyors mérnökök javíthatják a modell válaszainak minőségét és pontosságát, így azok kontextus szempontjából relevánsabbak és hasznosabbak.

Bár sok gyors mérnök technológiai háttérrel rendelkezik, a terület multidiszciplináris jellege lehetővé teszi a különböző szakmai háttérrel rendelkező egyének számára. Az írók, kutatók, sőt művészek is egyre gyakrabban kamatoztatják egyedi készségeiket az AI-modellek hatékonyságának fokozása érdekében. Ez az elmozdulás a munkaerőpiacon is megmutatkozik, egyre több vállalat keres azonnali mérnököket, sokrétű készségekkel és háttérrel.

Gyors tervezés és tervezés a ChatGPT-ben

Az azonnali tervezés és tervezés kritikus szerepet játszik a nyelvi modellek teljesítményének optimalizálásában, és nem csupán kérdéseket foglal magában; szükségessé teszik az AI-modell mélyreható megértését, valamint egy erősen iteratív és kifinomult megközelítést.

Gyors tervezés

Az azonnali tervezés lényegében az a művészet és tudomány, amely egy adott nagy nyelvi modellhez (LLM), például a ChatGPT-hez, tökéletes promptot hoz létre egy egyértelműen meghatározott cél elérése érdekében. Ez a következők keveréke:

• Az LLM értelmezése: Különböző nyelvi modellek eltérően reagálhatnak ugyanarra a promptra. Ezenkívül egyes nyelvi modellek egyedi kulcsszavakkal vagy triggerekkel rendelkezhetnek, amelyeket meghatározott módon értelmeznek.
• Tartományi ismeretek: Az adott területen szerzett szakértelem kulcsfontosságú a promptok megtervezésekor. Például az orvosi diagnózis megállapításához szükséges felszólítás generálása orvosi ismereteket igényel.
• Iteratív megközelítés és minőségmérés: Az ideális felszólítás létrehozásának folyamata gyakran próba- és tévedésből áll. Ezért létfontosságú, hogy legyen mód a kimenet minőségének értékelésére a szubjektív megítélés mellett, különösen akkor, ha a promptot nagyobb léptékben használjuk.

Prompt Engineering

Az azonnali tervezés az azonnali tervezés kiterjesztett területe, amely számos kritikus folyamatot foglal magában:

• Prompts méretarányos tervezése: Ez a folyamat magában foglalja a meta promptok (más promptokat generáló promptok) és prompt sablonok tervezését, amelyek paraméterezett promptok, amelyek futás közben példányosíthatók.
• Eszköztervezés és integráció: A felszólítások néha külső eszközökből származó eredményeket is tartalmazhatnak, és ezeknek az eszközöknek a rendszerbe való zökkenőmentes integrálása kulcsfontosságú.
• Munkafolyamat, tervezés és azonnali felügyelet: Egy LLM-alkalmazás, mint egy chatbot, telepítése gyakran megköveteli a promptok könyvtárainak kezelését, a megfelelő promptok tervezését és kiválasztását, valamint a különböző eszközök hatékony integrálását.
• A felszólítások értékelése és minőségbiztosítása: Ez a szempont magában foglalja a mérőszámok és folyamatok meghatározását a felszólítások automatikus és emberi bevonásával történő értékeléséhez.
• Prompt optimalizálás: Az AI modell költsége és késleltetése függhet a modell kiválasztásától és a prompt hosszától (a tokenek számától).

Számos automatizált prompt tervezési megközelítést, eszközt és keretrendszert fejlesztettek ki a promptok nagyarányú kezelésére. Fontos azonban megérteni, hogy ezen eszközök egyike sem helyettesítheti egy tapasztalt, gyors mérnök árnyalt megértését, ítélőképességét és tapasztalatát.

Gyors tervezés: technikák és legjobb gyakorlatok

1) Gyors elhelyezés és leírás

Az utasítások a felszólítás elején történő elhelyezése jelentősen befolyásolhatja az AI megértését és válaszát. Fontolja meg a szöveg összefoglalásának feladatát felsoroláspontos formátumban. Egy kevésbé hatékony módszer a következő lenne:

használó: Foglalja össze az alábbi szöveget a legfontosabb pontok felsorolásaként.
{szövegbevitel ide}

Másrészt egy hatékonyabb technika lehet:

használó: Foglalja össze az alábbi szöveget a legfontosabb pontok felsorolásaként.
Szöveg: ""
{szövegbevitel ide}
„”

Az instrukciók és a szövegkörnyezet világos elkülönítésével olyan szimbólumokkal, mint a ### vagy a ""”, az AI-modell jobban körülhatárolja feladatát és a feldolgozandó szöveget, ezáltal pontosabb és relevánsabb válaszokat ad.

Másodszor, ha konkrét, leíró és részletes a kontextus, a várható eredmény, a hossz, a formátum, a stílus és így tovább, az jelentősen javíthatja az AI-válaszok pontosságát. Tegyük fel, hogy rövid áttekintést kell készítenie egy tudományos cikkről, megnyerő, laikusbarát stílusban. Egy olyan homályos utasítás, mint az „Összefoglalja a tudományos dolgozatot”, kevésbé hatékony eredményeket adna, mint egy konkrét, részletes felszólítás:

használó: Hozzon létre egy rövid (kb. 200 szavas), lebilincselő összefoglalót a következő tudományos cikkről. Az összefoglalónak érthetőnek kell lennie a tudományos háttérrel nem rendelkező személyek számára, ugyanakkor pontosan tükröznie kell a dolgozat legfontosabb megállapításait.
Papír: ""
{tudományos dolgozat szövege itt}
„”

2) Persona Pattern

A Persona Pattern egy olyan stratégia, amely beállítja az AI-t egy bizonyos perspektívából, például szakmai szerepkörből vagy kitalált karakterből. Ez a taktika lehetővé teszi a modell számára, hogy a személy által kezelt konkrét szerepekhez kapcsolódó kimeneteket biztosítson. Például utasíthatjuk az AI-t, hogy a kód felülvizsgálata során kiberbiztonsági szakértőként járjon el. Ez a minta különösen akkor hasznos, ha a felhasználók segítségre szorulnak, de nem biztosak abban, hogy a kimenetben pontosan milyen részletekre van szükség.

Vegyük példaként a következőket:

használó: „Vegyük fel a francia forradalomra szakosodott vezető történész személyét. Tekintettel erre a személyre, fejtse ki a legfontosabb eseményeket és okokat, amelyek a francia monarchia bukásához vezettek.”

Ebben a forgatókönyvben az AI várhatóan a francia forradalom mélyreható elemzésével válaszol, a monarchia bukására összpontosítva, ahogy egy történész tenné.

Új információk bemutatása

A ChatGPT nem rendelkezik a képzési határértéken túlmutató tudással, ezért nem tud tájékoztatást adni a legutóbbi eseményekről vagy frissítésekről a képzés után. A promptokon keresztül azonban új információkat is bevezethet a modellbe.

használó: "Mi az a kriptovaluta?"
ChatGPT: „A kriptovaluta olyan digitális vagy virtuális valuta, amely titkosítást használ a biztonság érdekében. A legismertebb kriptovaluta a Bitcoin.”

Most, ha egy kicsit több kontextust adunk a prompthoz, még intuitívabbá tehetjük a magyarázatot:

használó: „magyarázza el a kriptovaluta fogalmát egy digitális pénzügyet tanuló középiskolás diáknak”
ChatGPT: „Képzeld el, hogy egy online videojátékkal játszol, és játékpénzt kereshetsz frissítések vagy új karakterek vásárlásával. A kriptovaluta nagyjából ilyen, de ahelyett, hogy a játékra korlátozná, ténylegesen felhasználhatja valós áruk és szolgáltatások vásárlására. Olyan ez, mint a digitális pénz, amelyet egyetlen bank vagy kormány sem ellenőriz.”

3) Prompt méretkorlátozások

A ChatGPT méretkorlátozásának megértése elengedhetetlen, mivel közvetlenül befolyásolja a bevihető információk mennyiségét és típusát. A nyelvi modellek nem korlátlan számú adat egyidejű feldolgozására készültek. A létrehozható és beírható prompt méretére vonatkozó belső korlátozásuk van. Ennek a korlátozásnak mélyreható következményei vannak az utasítások tervezésére és végrehajtására.

A ChatGPT token-korláttal rendelkezik (általában 2048 token), amely magában foglalja a prompt és a generált választ is. Ez azt jelenti, hogy a hosszú felszólítások korlátozhatják a válasz hosszát. Ezért fontos, hogy az utasítások tömörek, de informatívak legyenek.

Gyakorlatilag szerkesztőként kell fellépnünk, szelektíven kiválasztva az adott feladathoz leginkább releváns információkat. Képzeld el, hogy egy dolgozatot vagy egy cikket írsz egy szó- vagy oldalkorláttal – nem csak véletlenszerű tényeket írhatsz ki, hanem gondosan válogathatod ki és strukturálhatod a témához kapcsolódó információkat.

használó: „Tekintettel a modell jelképes korlátaira, foglalja össze kevesebb, mint 1000 szóban a második világháború legfontosabb eseményeit.”

Elismerve a modell token korlátait, ez a felszólítás arra utasítja az AI-t, hogy tömör, de átfogó összefoglalót készítsen a második világháborúról.

Felszólítások ismételt használathoz: Beszélgetési forgatókönyv esetén újra felhasználhatja a felszólításokat, vagy finomíthatja azokat a korábbi válaszok alapján. Ez párbeszédet biztosít, és kontextust tart fenn az interakcióban.

4) Kérdés finomítási minta

A ChatGPT segíthet a kérdések pontosításában is. Például, ha feltesz egy kérdést, az egy jobban megfogalmazott kérdést javasolhat a pontosabb eredmények érdekében.

A kérdésfinomítási minta azt jelenti, hogy az LLM finomítja a felhasználó által feltett kérdéseket. Ez különösen akkor hasznos, ha a felhasználók nem szakértők egy adott területen, vagy nem biztosak abban, hogyan fogalmazzák meg kérdésüket.

Egy példaprompt így nézhet ki:

használó: "Amikor adattudományról teszek fel kérdést, javasoljon egy finomabb kérdést, figyelembe véve a statisztikai elemzés sajátosságait, és kérdezze meg, hogy folytatni akarom-e a finomított kérdést."

Itt a mesterséges intelligencia várhatóan finomítja a felhasználó általános adattudományi kérdéseit részletesebb kérdésekre, figyelembe véve a statisztikai elemzés szempontjait.

5) Kognitív ellenőrző minta

A kognitív ellenőrző minta az összetett kérdéseket kisebb, kezelhető részkérdésekre bontja. Az ezekre az alkérdésekre adott válaszokat azután kombináljuk, hogy átfogó választ adjunk a fő kérdésre. Ez a megközelítés akkor hasznos, ha a kezdeti kérdések túl magas szintűek, vagy ha további egyértelműségre van szükség a teljes válaszhoz.

Például:

használó: „Ha kérdést teszek fel az éghajlatváltozással kapcsolatban, bontsa le három kisebb kérdésre, amelyek segítségével pontosabb választ adhat. Kombinálja az ezekre az alkérdésekre adott válaszokat, és adja meg a végső választ.”

Ebben a forgatókönyvben az MI az éghajlatváltozással kapcsolatos összetett kérdést három kezelhető alkérdésre bontja. Miután megkapta a válaszokat ezekre az alkérdésekre, az AI kombinálja ezeket, hogy átfogóbb és pontosabb választ adjon.

Ez a minta több kérdést generál a pontosabb végső válasz megszerzéséhez. Ez az információk ellenőrzésének és konszolidációjának folyamata a robusztus végső kimenet érdekében

6) Kevés lövésű felszólító megközelítés

A néhány lövésű felszólítás hatékony módszer az AI-modellek meghatározott minták követésére vagy feladatok végrehajtására való tanítására. Az ötlet az, hogy a modellt számos példával látjuk el, mielőtt feltennénk a kívánt kérdést. Ez segít beállítani a kívánt viselkedést és irányítani a modell válaszait.

Tekintsünk egy olyan forgatókönyvet, amelyben a felhasználó egy tömör, meggyőző marketingpéldányt próbál készíteni egy új technológiai eszközhöz:

használó: „Íme néhány példa a technológiai marketinges másolatokra: „Tapasztalja meg úgy a zenét, ahogy még soha nem volt élvonalbeli vezeték nélküli fejhallgatóinkkal.” "Rögzítse meg világát lenyűgöző 4K-ban ultra-karcsú akciókameránkkal." Ezeket a példákat figyelembe véve készítsünk marketing példányt az új AI-alapú okosóránkról.”

ChatGPT: „Fokozza életstílusát a mesterséges intelligenciával hajtott okosóránkkal, amely az egészség, a kapcsolódás és a termelékenység társa. A néhány lépésben történő tanulás figyelemre méltó jellemzője, hogy nincs szükség a feladat végrehajtásának részletes leírására. Ehelyett megköveteli a folyamatok bemutatását, ami számos alkalmazáshoz jól illeszkedik.

Ezenkívül ez a technika túlmutat az egyszerű bemenet-kimenet párosításon. A modell megtanítható a cél eléréséhez szükséges köztes lépések kezelésére is.

7) Gondolatlánc-felhívás

Legutóbbi kutatási cikkükben „A gondolatlánc ösztönzése érvelést vált ki a nagy nyelvi modellekben” szerző, Jason Wei és csapata arra törekszik, hogy ösztönözze az érvelést a nagy nyelvi modelleken belül. Ahelyett, hogy hagyományos, közvetlen felszólításokat használna, a csapat egymáshoz kapcsolódó felszólítások sorozatát alkalmazza, „gondolati láncot” alkotva.

Például egy felhasználót érdekelhet a mesterséges intelligencia potenciális hatása a munkaerőpiacokra:

használó: "El tudnád magyarázni röviden a mesterséges intelligencia fogalmát?"

ChatGPT: „A mesterséges intelligencia vagy az AI egy gép azon képességére utal, hogy utánozza az intelligens emberi viselkedést. Olyan gépek tervezéséről van szó, amelyek képesek emberként gondolkodni és tanulni, lehetővé téve számukra, hogy olyan feladatokat hajtsanak végre, mint például a nyelvi fordítás, a döntéshozatal és a problémamegoldás.

használó: "Hogyan befolyásolja a mesterséges intelligencia a jelenlegi munkaerőpiacot?"

ChatGPT: „A mesterséges intelligencia egyszerre teremt új munkahelyeket és megváltoztatja a meglévők jellegét. Egyrészt automatizálja a rutinfeladatokat, ami bizonyos ágazatokban munkahely-eltolódáshoz vezet. Másrészt keresletet teremt olyan szerepkörök iránt, amelyek korábban nem léteztek, mint például az AI etikai tisztek, adatelemzők és gépi tanulási mérnökök. Ezenkívül az AI kibővítheti az emberi szerepeket, lehetővé téve az emberek számára a feladatok hatékonyabb és pontosabb elvégzését.”

A gondolatlánc-felhívás a kapcsolódó felszólítások előrehaladását követi, fenntartva a „beszélgetést” a modellel, amely pontosabb és kontextuálisan megfelelő válaszok felé irányítja.

A ChatGPT API és az azonnali tervezés megértése fejlesztői szemszögből

Fejlesztői vagy kutatói szempontból az azonnali tervezés összetettebb folyamat. Ez magában foglalja az algoritmusok és technikák tervezését, amelyek segítenek az AI-modellnek megérteni és hatékonyabban reagálni a felszólításokra. Ez magában foglalhat olyan stratégiákat a kétértelmű felszólítások kezelésére, a felszólítások kontextusának azonosítására, vagy a felszólítások összeláncolására, hogy ösztönözze a bonyolultabb gondolkodási folyamatokat az AI-ban.

A fenti ábrán a felhasználó a GPT-4 által működtetett csevegőfelülettel lép kapcsolatba. Bemenetüket az egyértelműség és a kontextus konzisztenciája érdekében egy speciális modul javítja, mielőtt az AI-modellbe táplálná őket. Ennek a modulnak az a szerepe, hogy finomítsa és javítsa a felhasználói bemenetet a jobb megértés érdekében, miközben fenntartja a beszélgetés kontextusát. Az AI finomított prompt alapján kialakított válasza a chat felületen keresztül jut vissza a felhasználóhoz. Az interakciós előzmények folyamatosan frissülnek, fenntartva a beszélgetési kontextust. Összességében ez a diagram egy dinamikus felhasználói mesterséges intelligencia párbeszédfolyamatot mutat be, amelyet azonnali tervezési technikák tesznek lehetővé.

A ChatGPT API-k Az interfész különféle hiperparaméterekkel lett kialakítva, amelyek lehetővé teszik a felhasználók számára, hogy finomítsák az AI válaszait a felszólításokra, ezáltal hatékonyabbá és sokoldalúbbá téve azokat. Ide tartoznak a hőmérséklet, a maximális hossz és a leállítási sorozatok paraméterek. Vizsgáljuk meg, hogyan működnek, és hogyan használhatók különböző kontextusokban.

1) Hőmérséklet

A hőmérsékleti paraméter befolyásolja az AI válaszainak véletlenszerűségét. A magasabb hőmérséklet, például az 1.0, több véletlenszerű kimenetet ösztönöz, ami változatos, de potenciálisan nem téma válaszokat eredményez. Ezzel szemben az alacsonyabb hőmérséklet, mint például a 0.2, arra készteti az MI-t, hogy határozottabb válaszokat válasszon, amelyek előnyösek lehetnek fókuszált és specifikus kimenetek esetén, de hiányozhatnak a változatosságból.

Példa: Ha kreatív történetet ír, és kiszámíthatatlan, ötletes elemeket szeretne, állítsa a hőmérsékletet magasabb értékre. A felszólítás a következő lehet: „Írj egy rövid történetet egy időutazó macskáról.” Magas hőmérsékleten egy vad, fantasztikus mesét kaphatsz, kiszámíthatatlan fordulatokkal.

2) Maximális hossz

Ez a paraméter szabályozza a modell kimenetének maximális tokenhosszát, amely magában foglalja az üzenetbemenetben és az üzenetkimenetben lévő tokeneket is. A magasabb korlát beállítása kiterjesztettebb válaszokat tesz lehetővé, míg az alsó határ rövid és tömör marad a kimeneten.

Példa: Rövid válaszok olyan triviális kérdésekre, mint például: „Ki nyerte az irodalmi Nobel-díjat 2020-ban?” érdemes lehet a maximális hosszt alacsony értékre állítani, biztosítva, hogy a válasz tömör és közvetlen legyen.

3) Állítsa le a sorozatokat

A leállítási szekvenciák meghatározott szövegláncok, ahol a modell, amikor találkozik velük, leállítja a további kimenet generálását. Ez a szolgáltatás hasznos lehet a kimenet hosszának szabályozásához vagy a modell logikai végpontokon való megállásra utasításához.

Példa: Formális levél esetén használhatja az „Üdvözlettel” kifejezést leállítási szekvenciaként annak biztosítására, hogy az AI ne generáljon további szöveget a levél megfelelő befejezésén túl.

4) Felső P

A „Top P” paraméter, más néven magmintavétel, egy olyan módszer, amely dinamikusan kiválasztja a modell előrejelzéseinek egyes lépéseiben figyelembe vett szavak számát. Az alacsonyabb érték, például a 0.5, biztonságosabb, fókuszáltabb kimenetekhez vezet. A magasabb érték, mint például a 0.9, a szavak szélesebb választékát tartalmazza, ami változatosabb kimenetekhez vezet.

Példa: Ha MI-t hoz létre versek írásához, és azt szeretné, hogy az a szókincs és a stilisztikai kifejezések széles skáláját használja, akkor a „Top P” értékét magasabb értékre állíthatja. A felszólítás a következő lehet: „Készítsen verset az ősz szépségéről.”

5) Frekvenciabüntetés

A Frequency Penalty szabályozza, hogy a modell mennyire részesítsen előnyben a ritkábban előforduló szavakat. A magasabb büntetés (legfeljebb 1) arra ösztönzi a modellt, hogy kevésbé gyakori szavakat használjon, míg az alacsonyabb érték (legfeljebb -1) a gyakoribb szavak használatára ösztönzi a modellt.

Példa: Ha üzleti ajánlatot próbál létrehozni, és szeretné elkerülni a zsargont, a gyakorisági büntetést alacsonyabb értékre állíthatja, hogy a nyelvezet világos és hozzáférhető maradjon.

6) Jelenléti büntetés

A jelenléti büntetés paraméter befolyásolja, hogy a modell mekkora büntetést kapjon olyan új ötletek vagy témák generálásáért, amelyek nem szerepeltek a beszélgetési előzményekben. A magasabb értékek arra ösztönzik a modellt, hogy ragaszkodjon a már említett témákhoz, míg az alacsonyabb értékek lehetővé teszik, hogy a modell szabadabban vezessen be új fogalmakat.

Példa: Ötletgyűjtések esetén beállíthatja a jelenléti büntetést alacsonyabb értékre, hogy sokféle ötletet ösztönözzön. Használhat egy felszólítást, például: „Innovatív marketingstratégiák létrehozása online oktatási platformhoz”.

Az azonnali tervezés ipari alkalmazása