Die noodsaaklike gids tot vinnige ingenieurswese in ChatGPT

Sedert die bekendstelling daarvan, Klets GPT maak golwe in die KI-sfeer en lok meer as 100 miljoen gebruikers in rekordtyd. Die geheime sous van ChatGPT se indrukwekkende prestasie en veelsydigheid lê in 'n kuns wat subtiel in sy programmering geleë is – vinnige ingenieurswese.

DALL-E, MidJourney en StableDiffusion, wat in 2022 bekendgestel is, het die ontwrigtende potensiaal van Generatiewe KI onderstreep. Maar dit was Maak AI oopse ChatGPT wat werklik later in 2022 die middelpunt was. En hierdie momentum het geen tekens van verlangsaming getoon nie.

Google se aankondiging van Bard en Meta se Lamma 2  reaksie op OpenAI se ChatGPT het die momentum van die KI-wedloop aansienlik versterk. Deur hierdie modelle van insette te voorsien, lei ons hul gedrag en reaksies. Dit maak ons ​​almal tot 'n sekere mate vinnige ingenieurs. Die tegnologiebedryf het kennis geneem. Waagkapitaliste stort fondse in beginondernemings wat op vinnige ingenieurswese fokus, soos Vellum AI. Verder, Forbes berig dat vinnige ingenieurs beveel salarisse van meer as $300,000, 'n aanduiding van 'n florerende en waardevolle arbeidsmark.

In hierdie artikel sal ons die wêreld van vinnige ingenieurswese in die konteks van ChatGPT ontmystifiseer. Ons sal die kernbeginsels en -tegnieke ondersoek en die kommersiële toepassings daarvan ondersoek.

Kom ons verstaan ​​eers hoe ChatGPT funksioneer en die deurslaggewende rol wat vinnige ingenieurswese in hierdie proses speel.

Die meganika agter ChatGPT Prompt Engineering

Die geheime sous agter ChatGPT se sukses is sy vermoë om die nuanses van menslike gesprek te verstaan ​​en na te boots. Die model is opgelei op 'n diverse reeks internetteks, maar dit is belangrik dat dit nie spesifieke dokumente of bronne in sy opleidingstel ken nie, wat veralgemening bo spesifisiteit verseker. Hierdie opleidingsbenadering laat ChatGPT toe om kreatiewe reaksies te genereer, komplekse dialoë te navigeer en selfs 'n sin vir humor te toon. Dit is egter belangrik om te onthou dat ChatGPT nie werklik verstaan ​​of oortuigings het nie; dit genereer response gebaseer op patrone wat dit tydens opleiding aangeleer het.

ChatGPT se vermoë om menslike taal op 'n genuanseerde en konteksbewuste manier te verstaan ​​en daarop te reageer, maak hulle ongelooflik veelsydige hulpmiddels.

Die meganika van hierdie modelle berus op die konsep van 'tokens'—diskrete stukke taal wat kan wissel van 'n enkele karakter tot 'n hele woord. Hierdie modelle werk met 'n spesifieke aantal tekens op 'n slag (4096 vir GPT-3.5-Turbo of 8192 of 32768 vir GPT-4), wat die volgende volgorde van waarskynlike tekens voorspel. Die modelle verwerk die tekens met behulp van komplekse lineêre algebra, wat die mees waarskynlike daaropvolgende teken voorspel.

Byvoorbeeld, 'n eenvoudige sin van nege woorde kan in tien tekens verander. Selfs 'n enkele komplekse woord kan in veelvuldige tekens verander, wat die model help om taal beter te verstaan ​​en te genereer. Selfs tale met komplekse woordstrukture, soos Duits, word deur tokenisering bestuur.

GPT (Generative Pre-trained Transformer) modelle werk deur een teken op 'n slag te genereer, vanaf die eerste teken en voort te gaan tot by die laaste. Nadat elke teken gegenereer is, hersien die model die hele reeks en verwerk dit weer om die volgende teken te genereer. Hierdie iteratiewe proses duur voort totdat die finale teken gegenereer word, wat die generering van teks soortgelyk maak aan 'n groot for-lus.

Maar hier is die vangplek – die kwaliteit van hierdie antwoorde hang grootliks af van die aansporings wat dit ontvang. Net soos om 'n gesprek met 'n mens te stuur, vereis die leiding van 'n dialoog met ChatGPT 'n sekere vlak van vaardigheid en begrip. Dit is waar vinnige ingenieurswese ter sprake kom.

Wat is vinnige ingenieurswese?

Vinnige Ingenieurswese is die kuns om presiese, effektiewe aanwysings/insette te skep om KI te lei (NLP/Vision) modelle soos ChatGPT om die mees koste-effektiewe, akkurate, bruikbare en veilige uitsette te genereer.

Vinnige ingenieurswese is nie net beperk tot teksgenerering nie, maar het wye toepassings oor die KI-domein. Dit word toenemend gebruik in gebiede soos robotiese proses-outomatiseringsbots, 3D-bates, skrifte, robotinstruksies en ander soorte inhoud en digitale media. Dit bied 'n unieke mengsel van logika, kodering, kuns en in sekere gevalle spesiale wysigers.

Alhoewel 'n versoek natuurlike taalteks, beelde of ander soorte invoerdata kan insluit, kan die uitset aansienlik verskil tussen KI-dienste en -nutsmiddels. Elke instrument het sy spesiale wysigers wat die gewig van woorde, style, perspektiewe, uitleg of ander eienskappe van die verlangde reaksie beskryf.

Hierdie veld is noodsaaklik vir die skep van beter KI-aangedrewe dienste en die verkryging van voortreflike resultate uit bestaande generatiewe KI-nutsgoed. Ondernemingsontwikkelaars, byvoorbeeld, gebruik dikwels vinnige ingenieurswese om groottaalmodelle (LLM's) soos GPT-3 aan te pas om 'n kliëntgerigte Chatbot of take te hanteer soos die skep van bedryfspesifieke kontrakte.

Hierdie iteratiewe proses van vinnige verfyning en die meting van KI-prestasie is 'n sleutelelement om KI-modelle in staat te stel om hoogs geteikende, bruikbare antwoorde in verskeie kontekste te genereer.

Word 'n vinnige ingenieur

Die GPT-4-model se vaardigheid om komplekse instruksies te verstaan ​​en ingewikkelde probleme akkuraat op te los, maak dit 'n onskatbare hulpbron. Daar is egter verskillende metodes om toegang tot hierdie model se vermoëns te verkry, en om dit te verstaan ​​kan noodsaaklik wees vir 'n vinnige ingenieur se rol in die optimalisering van beide doeltreffendheid en koste-effektiwiteit.

Daar is in wese twee maniere om by GPT-modelle soos GPT-4 betrokke te raak. Een manier is deur OpenAI se API, waar koste per inset- en uitsettokens bereken word. In hierdie scenario kan die koste per 1K tokens wissel op grond van die konteksgrootte. Byvoorbeeld, in 'n groter 32K-konteks, kan die koste tot $0.06 vir invoertekens en $0.12 vir uitvoertekens styg. Dus, wanneer 'n groot volume versoeke hanteer word, kan die gebruikskoste vinnig ophoop.

Alternatiewelik werk ChatGPT, wat die GPT-4-model gebruik, op 'n intekeninggebaseerde model.

Nog 'n sleuteltaak in vinnige ingenieurswese behels modelparameterinstelling. Hierdie proses behels die aanpassing van die veranderlikes wat die model gebruik om voorspellings te maak. Deur hierdie parameters fyn in te stel, kan vinnige ingenieurs die kwaliteit en akkuraatheid van die model se antwoorde verbeter, wat dit meer kontekstueel relevant en nuttig maak.

Alhoewel baie vinnige ingenieurs uit 'n tegnologiese agtergrond kom, maak die veld se multidissiplinêre aard dit toeganklik vir individue van uiteenlopende professionele agtergronde. Skrywers, navorsers en selfs kunstenaars gebruik toenemend hul unieke vaardighede om die doeltreffendheid van KI-modelle te verbeter. Hierdie verskuiwing word ook in die arbeidsmark weerspieël, met 'n groeiende aantal maatskappye wat vinnige ingenieurs met 'n uiteenlopende reeks vaardighede en agtergronde soek.

Vinnige ontwerp en ingenieurswese in ChatGPT

Vinnige ontwerp en ingenieurswese speel 'n kritieke rol in die optimalisering van die werkverrigting van taalmodelle en behels meer as net handwerkvrae; dit vereis 'n diepgaande begrip van die KI-model en 'n hoogs iteratiewe en verfynde benadering.

Vinnige ontwerp

Vinnige ontwerp, in sy kern, is die kuns en wetenskap om die perfekte aansporing te skep vir 'n gegewe groot taalmodel (LLM), soos ChatGPT, om 'n duidelik gestelde doel te bereik. Dit is 'n mengsel van:

• Begrip van die LLM: Verskillende taalmodelle kan wisselvallig op dieselfde versoek reageer. Boonop kan sekere taalmodelle unieke sleutelwoorde of snellers hê, wat hulle op 'n spesifieke manier interpreteer.
• Domeinkennis: Kundigheid in die betrokke veld is van kardinale belang wanneer aansporings ontwerp word. Byvoorbeeld, om 'n boodskap te genereer om 'n mediese diagnose af te lei, sal mediese kennis vereis.
• Iteratiewe benadering en kwaliteitmeting: Die proses om die ideale aansporing te skep, behels dikwels proef en fout. Daarom is dit noodsaaklik om 'n manier te hê om die uitsetkwaliteit verder as net subjektiewe oordeel te evalueer, veral wanneer die prompt op 'n groter skaal gebruik word.

Vinnige Ingenieurswese

Vinnige ingenieurswese is 'n uitgebreide gebied van vinnige ontwerp wat verskeie kritieke prosesse insluit:

• Ontwerp van aanwysings op skaal: Hierdie proses sluit die ontwerp in van meta-aanwysings (aanwysings wat ander aanwysings genereer) en spoedsjablone, wat geparameteriseerde aanwysings is wat tydens looptyd geïnstantieer kan word.
• Gereedskapontwerp en -integrasie: Aansporings kan soms resultate van eksterne nutsmiddels insluit, en die integrasie van hierdie nutsmiddels naatloos in die stelsel is van kardinale belang.
• Werkvloei, beplanning en vinnige bestuur: Die implementering van 'n LLM-toepassing, soos 'n kletsbot, vereis dikwels die bestuur van biblioteke van aanwysings, die beplanning en keuse van die regte aanwysings, en die doeltreffende integrasie van verskillende nutsmiddels.
• Evaluering en kwaliteitversekering van aanmanings: Hierdie aspek sluit in die definisie van maatstawwe en prosesse om die aanmanings outomaties en met menslike betrokkenheid te evalueer.
• Vinnige optimalisering: Die koste en vertraging van die KI-model kan afhang van die keuse van die model en die lengte van die aansporing (aantal tekens).

Baie outomatiese vinnige ontwerpbenaderings, gereedskap en raamwerke is ontwikkel om opdragte op skaal te bestuur. Dit is egter belangrik om te verstaan ​​dat nie een van hierdie instrumente die genuanseerde begrip, oordeel en ervaring van 'n ervare vinnige ingenieur kan vervang nie.

Vinnige Ingenieurswese: Tegnieke en Beste Praktyke

1) Vinnige plasing en beskrywing

Om instruksies aan die begin van die opdrag te plaas, kan die KI se begrip en reaksie aansienlik beïnvloed. Oorweeg die taak om 'n teks in 'n kolpuntformaat op te som. 'n Minder effektiewe benadering sou wees:

gebruikers: Som die teks hieronder op as 'n kolpuntlys van die belangrikste punte.
{teks invoer hier}

Aan die ander kant kan 'n meer effektiewe tegniek wees:

gebruikers: Som die teks hieronder op as 'n kolpuntlys van die belangrikste punte.
Teks: """
{teks invoer hier}
"" "

Deur die instruksies en die konteks duidelik te skei met simbole soos ### of “””, kan die KI-model sy taak en die teks wat dit moet verwerk beter omlyn, en sodoende meer akkurate en relevante antwoorde gee.

Tweedens, om spesifiek, beskrywend en gedetailleerd oor die konteks te wees, kan verwagte uitkoms, lengte, formaat, styl, ensovoorts die akkuraatheid van KI-reaksies aansienlik verbeter. Gestel jy moet 'n kort oorsig van 'n wetenskaplike artikel in 'n boeiende, lekevriendelike styl genereer. 'n Vae instruksie soos "Som die wetenskaplike artikel op" sal minder effektiewe resultate lewer in vergelyking met 'n spesifieke, gedetailleerde opdrag:

gebruikers: Genereer 'n kort (ongeveer 200 woorde), boeiende opsomming van die volgende wetenskaplike referaat. Die opsomming moet verstaanbaar wees vir iemand met geen wetenskaplike agtergrond nie, terwyl dit die vraestel se sleutelbevindinge akkuraat weerspieël.
Papier: """
{wetenskaplike referaatteks hier}
"" "

2) Persona Patroon

Die Persona Patroon is 'n strategie wat die KI stel om vanuit 'n sekere perspektief te funksioneer, soos 'n professionele rol of fiktiewe karakter. Hierdie taktiek stel die model in staat om uitsette te verskaf wat verband hou met die spesifieke rolle wat die persona sou hanteer. Byvoorbeeld, 'n mens kan die KI opdrag gee om as 'n kuberveiligheidsdeskundige op te tree tydens 'n kode-hersiening. Hierdie patroon is veral nuttig wanneer gebruikers hulp nodig het, maar onseker is oor die presiese besonderhede wat in die afvoer vereis word.

Neem die volgende as voorbeeld:

gebruikers: “Veronderstel die persona van 'n senior historikus wat spesialiseer in die Franse Revolusie. Gegewe daardie persona, verduidelik die belangrikste gebeure en redes wat tot die ondergang van die Franse monargie gelei het.”

In hierdie scenario word verwag dat die KI sal reageer met 'n diepgaande ontleding van die Franse Revolusie, met die fokus op die val van die monargie, soos 'n historikus sou doen.

Bekendstelling van nuwe inligting

ChatGPT beskik nie oor kennis buite die opleidingsgrens nie, daarom kan dit nie inligting verskaf oor onlangse gebeure of opdaterings na opleiding nie. U kan egter nuwe inligting aan die model bekendstel via u aanwysings.

gebruikers: "Wat is cryptocurrency?"
Klets GPT: “Cryptocurrency is 'n tipe digitale of virtuele geldeenheid wat kriptogram vir sekuriteit gebruik. Die bekendste kripto-geldeenheid is Bitcoin.”

Nou, as ons 'n bietjie meer konteks by die opdrag voeg, kan ons die verduideliking selfs meer intuïtief maak:

gebruikers: "Verduidelik die konsep van cryptocurrency aan 'n hoërskoolleerling wat digitale finansies studeer"
ChatGPT: “Stel jou voor jy speel 'n aanlyn videospeletjie en daar is spelgeld wat jy kan verdien om opgraderings of nuwe karakters te koop. Kriptogeldeenheid is soort van so, maar in plaas daarvan om tot die spel beperk te wees, kan jy dit eintlik gebruik om werklike goedere en dienste te koop. Dit is soos digitale geld wat geen bank of regering beheer nie.”

3) Vinnige Groottebeperkings

Dit is noodsaaklik om die groottebeperking van ChatGPT te verstaan, aangesien dit die volume en tipe inligting wat ons kan invoer direk beïnvloed. Taalmodelle is nie gebou om onbeperkte data op een slag te verwerk nie. Hulle het 'n inherente beperking op die grootte van die boodskap wat ons kan skep en invoer. Hierdie beperking het diepgaande implikasies vir die ontwerp en uitvoering van die opdragte.

ChatGPT het 'n tekenlimiet (gewoonlik 2048 tekens), wat beide die vinnige en die gegenereerde reaksie insluit. Dit beteken lang opdragte kan die lengte van die antwoord beperk. Daarom is dit belangrik om opdragte bondig maar insiggewend te hou.

In praktiese gebruik moet ons as redakteurs optree, en selektief die mees relevante inligting vir die taak op hande kies. Stel jou voor dat jy 'n referaat of 'n artikel met 'n woord- of bladsyperk skryf – jy kan nie net willekeurige feite dump nie, maar inligting wat relevant is tot die onderwerp noukeurig kies en struktureer.

gebruikers: "Gegewe die tekenbeperkings van die model, som die sleutelgebeure van die Tweede Wêreldoorlog in minder as 1000 woorde op."

Deur die model se tekenbeperkings te erken, beveel hierdie aansporing die KI om 'n bondige dog omvattende opsomming van die Tweede Wêreldoorlog te verskaf.

Vrae vir herhaalde gebruik: In 'n gesprekscenario kan jy aansporings hergebruik of verfyn op grond van vorige antwoorde. Dit gee 'n gespreksvloei en behou konteks in die interaksie.

4) Vraag Verfyning Patroon

ChatGPT kan ook help om jou vrae te verfyn. Byvoorbeeld, as jy 'n vraag vra, kan dit 'n beter geformuleerde vraag voorstel vir meer akkurate resultate.

Die vraagverfyningspatroon behels dat die LLM die vrae wat deur die gebruiker gevra word, verfyn. Dit is veral nuttig wanneer gebruikers nie kundiges in 'n domein is nie of onseker is oor hoe om hul vraag te formuleer.

'n Voorbeeldopdrag kan soos volg lyk:

gebruikers: "Wanneer ek 'n vraag oor datawetenskap vra, stel 'n meer verfynde vraag voor met inagneming van die besonderhede van statistiese analise en vra of ek met die verfynde vraag wil voortgaan."

Hier word van die KI verwag om die gebruiker se algemene datawetenskapvrae te verfyn tot meer gedetailleerde vrae wat statistiese ontledingsaspekte in ag neem.

5) Kognitiewe verifikasiepatroon

Die kognitiewe verifikasiepatroon breek komplekse vrae op in kleiner, hanteerbare subvrae. Die antwoorde op hierdie subvrae word dan saamgevoeg om 'n omvattende antwoord op die hoofvraag te verskaf. Hierdie benadering is nuttig wanneer aanvanklike vrae te hoog is of wanneer bykomende duidelikheid nodig is om 'n volledige antwoord te verskaf.

Byvoorbeeld:

gebruikers: “As ek ’n vraag oor klimaatsverandering vra, verdeel dit in drie kleiner vrae wat jou sal help om ’n meer akkurate antwoord te gee. Kombineer die antwoorde op hierdie subvrae om die finale antwoord te gee.”

In hierdie scenario sal die KI die komplekse vraag oor klimaatsverandering in drie hanteerbare subvrae verdeel. Nadat antwoorde op hierdie subvrae ontvang is, sal die KI dit dan kombineer om 'n meer omvattende en akkurate antwoord te verskaf.

Hierdie patroon behels die generering van veelvuldige vrae om 'n meer akkurate finale antwoord te verkry. Dit is 'n proses van verifikasie en konsolidasie van inligting vir 'n robuuste finale uitset

6) Min-skote-vraende benadering

Min-skoot-aansporing is 'n kragtige benadering om KI-modelle te leer om spesifieke patrone te volg of take uit te voer. Die idee is om die model met 'n aantal voorbeelde te voed voordat die verlangde vraag gevra word. Dit help om die gewenste gedrag te stel en die model se reaksies te lei.

Oorweeg 'n scenario waar 'n gebruiker probeer om 'n bondige, boeiende bemarkingskopie vir 'n nuwe tegnologie-toestel op te stel:

gebruikers: "Hier is 'n paar voorbeelde van tegnologiebemarkingskopieë: 'Ervaar musiek soos nog nooit tevore met ons nuutste draadlose oorfone nie." 'Vang jou wêreld vas in pragtige 4K met ons ultra-slanke aksiekamera.' Gegewe hierdie voorbeelde, stel 'n bemarkingskopie vir ons nuwe KI-aangedrewe slimhorlosie op."

Klets GPT: "Bemagtig jou leefstyl met ons KI-aangedrewe slimhorlosie, jou metgesel vir gesondheid, konnektiwiteit en produktiwiteit." Die merkwaardige kenmerk van min-skoot-leer is dat dit nie 'n gedetailleerde beskrywing van hoe om die taak uit te voer, noodsaak nie. In plaas daarvan, vereis dit demonstrasies van wat gedoen word, wat dit 'n goeie pas vir baie toepassings kan maak.

Verder strek hierdie tegniek verder as eenvoudige inset-uitset-paring. Die model kan ook geleer word om tussenstappe te hanteer om 'n doelwit te bereik.

7) Ketting-van-gedagte-aansporing

In hul onlangse navorsingsartikel, "Ketting-van-denk-aansporing lok redenasie in groot taalmodelle” skrywers Jason Wei en span poog om redenering binne groot taalmodelle te stimuleer. Eerder as om tradisionele, direkte aanmanings te gebruik, maak die span gebruik van 'n reeks onderling gekoppelde aansporings, wat 'n 'ketting-van-gedagte' vorm.

Byvoorbeeld, 'n gebruiker kan belangstel in die potensiële impak van kunsmatige intelligensie op arbeidsmarkte:

gebruikers: "Kan jy die konsep van kunsmatige intelligensie kortliks verduidelik?"

Klets GPT: “Kunsmatige intelligensie, of KI, verwys na die vermoë van 'n masjien om intelligente menslike gedrag na te boots. Dit gaan daaroor om masjiene te ontwerp wat soos mense kan dink en leer, wat hulle in staat stel om onder meer take soos taalvertaling, besluitneming en probleemoplossing uit te voer.”

gebruikers: "Hoe beïnvloed KI die huidige arbeidsmark?"

Klets GPT: “KI skep beide nuwe werksgeleenthede en verander die aard van bestaandes. Aan die een kant outomatiseer dit roetinetake, wat lei tot werkverplasing in sekere sektore. Aan die ander kant skep dit 'n vraag na rolle wat nie voorheen bestaan ​​het nie, soos KI-etiekbeamptes, data-ontleders en masjienleer-ingenieurs. Boonop kan KI menslike rolle aanvul, wat mense in staat stel om take meer doeltreffend en akkuraat uit te voer.”

Ketting-van-gedagte-aansporing volg 'n vordering van verwante aansporings, wat 'n 'gesprek' met die model handhaaf wat dit lei na meer presiese en kontekstueel gepaste antwoorde.

Verstaan ​​ChatGPT API en Prompt Engineering vanuit 'n ontwikkelaar se perspektief

Vanuit 'n ontwikkelaar of navorser se perspektief is vinnige ingenieurswese 'n meer komplekse proses. Dit behels die ontwerp van algoritmes en tegnieke om die KI-model te help om opdragte meer effektief te verstaan ​​en daarop te reageer. Dit kan strategieë insluit vir die hantering van dubbelsinnige opdragte, die identifisering van die konteks van opdragte, of om aansporings aanmekaar te ketting om meer komplekse denkprosesse in die KI te stimuleer

In die bostaande illustrasie het 'n gebruiker interaksie met 'n kletskoppelvlak, aangedryf deur GPT-4. Hul insette word verbeter vir duidelikheid en kontekstuele konsekwentheid deur 'n gespesialiseerde module voordat dit na die KI-model gevoer word. Die rol van hierdie module is om die gebruiker se insette te verfyn en te verbeter vir beter begrip, terwyl dit ook die konteks van die gesprek behou. Die KI se reaksie, gemaak op grond van die verfynde boodskap, word deur die kletskoppelvlak aan die gebruiker teruggestuur. Die interaksiegeskiedenis word konsekwent opgedateer, wat die gesprekskonteks behou. Oor die algemeen illustreer hierdie diagram 'n dinamiese gebruiker-KI-gespreksvloei wat deur vinnige ingenieurstegnieke moontlik gemaak word.

Die ChatGPT API's koppelvlak is ontwerp met verskeie hiperparameters wat gebruikers in staat stel om die KI se reaksies op aanmanings te verfyn, wat hulle meer effektief en veelsydig maak. Dit sluit die parameters Temperatuur, Maksimum Lengte en Stopreekse in. Kom ons ondersoek hoe hulle funksioneer en in verskillende kontekste gebruik kan word.

1) temperatuur

Die temperatuurparameter beïnvloed die ewekansigheid van die KI se reaksies. 'n Hoër temperatuur, soos 1.0, moedig meer ewekansige uitset aan, wat lei tot diverse maar potensieel buite-onderwerp reaksies. In teenstelling hiermee, 'n laer temperatuur, soos 0.2, spoor die KI aan om meer deterministiese reaksies te kies, wat voordelig kan wees vir gefokusde en spesifieke uitsette, maar dalk 'n gebrek aan verskeidenheid.

Voorbeeld: As jy 'n kreatiewe storie skryf en onvoorspelbare, verbeeldingryke elemente wil hê, stel die temperatuur op 'n hoër waarde. 'n Opdrag kan wees: "Skryf 'n kortverhaal oor 'n kat wat deur die tyd reis." Met 'n hoë temperatuur kan jy dalk 'n wilde, fantastiese verhaal kry met onvoorspelbare kinkels.

2) Maksimum lengte

Hierdie parameter beheer die maksimum tokenlengte van die model se uitset, wat beide die tokens in die boodskapinvoer en boodskapuitvoer insluit. Die opstel van 'n hoër limiet maak voorsiening vir meer uitgebreide antwoorde, terwyl 'n laer limiet die uitset kort en bondig hou.

Voorbeeld: Vir kort antwoorde op trivia-vrae soos: "Wie het die Nobelprys vir Letterkunde in 2020 gewen?" jy wil dalk die maksimum lengte op 'n lae waarde stel, om te verseker dat die reaksie bondig en direk is.

3) Stop Sequences

Stopreekse is spesifieke stringe teks waar, wanneer die model dit teëkom, dit ophou om verdere uitvoer te genereer. Hierdie kenmerk kan nuttig wees om die lengte van die uitset te beheer of om die model opdrag te gee om by logiese eindpunte te stop.

Voorbeeld: Vir 'n formele brief kan jy "Die uwe" as 'n stopvolgorde gebruik om te verseker dat die KI geen bykomende teks genereer as die regte einde van die brief nie.

4) Top P

Die 'Top P'-parameter, ook bekend as kernsteekproefneming, is 'n metode wat 'n dinamiese keuse verskaf van die aantal woorde wat by elke stap van die model se voorspellings oorweeg word. 'n Laer waarde, soos 0.5, lei tot veiliger, meer gefokusde uitsette. 'n Hoër waarde, soos 0.9, sluit 'n breër keuse van woorde in, wat lei tot meer diverse uitsette.

Voorbeeld: As jy 'n KI skep om gedigte te skryf en wil hê dit moet 'n wye verskeidenheid woordeskat en stilistiese frases gebruik, kan jy 'Top P' op 'n hoër waarde stel. 'n Opdrag kan wees: "Skryf 'n gedig oor die herfs se skoonheid."

5) Frekwensie Straf

Frekwensiestraf beheer hoeveel die model minder gereelde woorde moet bevoordeel. 'n Hoër straf (tot 1) moedig die model aan om minder algemene woorde te gebruik, terwyl 'n laer waarde (tot -1) die model aanmoedig om meer algemene woorde te gebruik.

Voorbeeld: As jy 'n besigheidsvoorstel probeer genereer en jargon wil vermy, kan jy die frekwensiestraf op 'n laer waarde stel om die taal duidelik en toeganklik te hou.

6) Teenwoordigheidstraf

Die Presence Penalty-parameter beïnvloed hoeveel die model gepenaliseer word vir die generering van nuwe idees of onderwerpe wat nie in die gesprekgeskiedenis teenwoordig was nie. Hoër waardes moedig die model aan om by die onderwerpe wat reeds genoem is te hou, terwyl laer waardes die model toelaat om nuwe konsepte meer vrylik bekend te stel.

Voorbeeld: Vir dinkskrumsessies kan jy die teenwoordigheidstraf op 'n laer waarde stel om 'n diverse verskeidenheid idees aan te moedig. U kan 'n opdrag gebruik soos: "Genereer innoverende bemarkingstrategieë vir 'n aanlyn opvoedkundige platform."

Bedryfstoepassing van vinnige ingenieurswese