Ohjeellinen opas ChatGPT:n ohjelmointiin

ChatGPT on saanut paljon huomiota AI-piirissä sen julkaisun jälkeen, kerätessään yli 100 miljoonaa käyttäjää ennätyksellisessä ajassa. ChatGPT:n vaikuttavan suorituskyvyn ja monipuolisuuden salaisuus piilee hienovaraisesti sen ohjelmoinnissa olevassa taidossa – ohjelmoinnin insinöörit.

DALL-E, MidJourney ja StableDiffusion korostivat generatiivisen AI:n disruptoivan potentiaalin vuonna 2022. Mutta Open AI:n ChatGPT oli se, joka todella otti keskeisen aseman myöhemmin vuonna 2022. Tämä momentum ei osoittanut hidastuvan merkkejä.

Google ilmoitti Bardista ja Meta vastasi Open AI:n ChatGPT:hen Llama 2:lla, mikä on merkittävästi lisännyt AI-kilvan kannusta. Antamalla näille malleille syötteitä, ohjaamme niiden käyttäytymistä ja vastauksia. Tämä tekee meistä kaikista tietynlaisia ohjelmoinnin insinöörejä. Teknologiayritykset ovat ottaneet tämän huomioon. Venture-pääomasijoittajat ovat laskeneet varoja ohjelmoinnin startup-yrityksiin, kuten Vellum AI:hin. Lisäksi Forbes raportoi, että ohjelmoinnin insinöörit ansaitsevat palkkioita, jotka ylittävät 300 000 dollaria, mikä osoittaa elinvoimaista ja arvokasta työmarkkinaa.

Tässä artikkelissa me selvitämme ohjelmoinnin maailman ChatGPT:n kontekstissa. Tutkimme ohjelmoinnin perusperiaatteita ja -tekniikoita ja tarkastelemme niiden kaupallisia sovelluksia.

Tutkitaan ensin, miten ChatGPT toimii ja mitä roolia ohjelmoinnin insinöörit pelaavat tässä prosessissa.

ChatGPT:n ohjelmoinnin mekaniikka

ChatGPT:n menestys salaisuus on sen kyky ymmärtää ja jäljitellä ihmisen keskustelun nuansseja. Malli on koulutettu monipuoliseen internet-tekstiin, mutta se ei tiedä tiettyjä asiakirjoja tai lähteitä koulutusjoukossaan, varmistaen yleistymisen erityisyyden sijaan. Tämä koulutuslähestymistapa mahdollistaa ChatGPT:lle luovan vastausten generoimisen, monimutkaisten dialogien navigoinnin ja jopa huumorin osoittamisen. On kuitenkin tärkeää muistaa, että ChatGPT ei todella ymmärrä tai omista uskomuksia; se generoi vastauksia pohjautuen malleihin, joita se on oppinut koulutuksen aikana.

ChatGPT:n kyky ymmärtää ja vastata ihmisen kieleen hienovaraisesti ja kontekstuaalisesti tekee siitä erittäin monikäyttöisen työkalun.

Näiden mallien mekaniikka perustuu “tokeneihin” – erillisiin kielen palasiin, jotka voivat olla yksittäisiä merkkejä tai kokonaisia sanoja. Nämä mallit toimivat tietyn määrän tokenien kanssa kerran (4096 GPT-3.5-Turbo tai 8192 tai 32768 GPT-4), ennustamalla seuraavan tokenien järjestyksen. Mallit prosessoi tokenit monimutkaisen lineaarisen algebran avulla, ennustamalla todennäköisimmän seuraavan tokenin.

Esimerkiksi yksinkertainen yhdeksän sanan lause voi muuttua kymmeneksi tokeniksi. Jopa yksittäinen monimutkainen sana voi muuttua useaksi tokeniksi, mikä auttaa mallia ymmärtämään ja generoida kieltä paremmin. Jopa kielillä, joilla on monimutkaiset sanarakenteet, kuten saksalla, hallitaan tokenisoinnin kautta.

GPT (Generative Pre-trained Transformer) -mallit toimivat generoimalla yhden tokenin kerrallaan, aloittaen ensimmäisestä tokenista ja jatkuvaan viimeiseen asti. Jokaisen tokenin generoimisen jälkeen malli käy koko järjestyksen läpi uudelleen ja prosessoi sen uudelleen generoidakseen seuraavan tokenin. Tämä iteraatioprosessi jatkuu, kunnes viimeinen tokeni on generoitu, mikä tekee tekstin generoimisesta prosessin, joka on samanlainen kuin suuri for-silmukka.

Mutta tässä on koukku – näiden vastausten laatu riippuu suurelta osin syötteenä annetuista ohjelmistopäälliköistä. Ihmisen kanssa käytävän keskustelun ohjaaminen vaatii tietyn tason taitoa ja ymmärrystä. Siinä ohjelmoinnin insinöörit tulevat kuvaan.

Mikä on ohjelmoinnin insinöörit?

Ohjelmoinnin insinöörit on taidetta luoda tarkkaa, tehokasta ohjelmistoa/ohjelmaa ohjataksesi AI-malleja, kuten ChatGPT, generoimaan enemmän kustannustehokkaita, tarkkoja, hyödyllisiä ja turvallisia tuloksia.

Ohjelmoinnin insinöörit ei rajoitu vain tekstin generointiin, vaan sillä on laajat sovellukset koko AI-alalla. Se on yhä enenevissä määrin käytössä alueilla, kuten robotti-prosessiautomaatiobotit, 3D-varat, käsikirjoitukset, robotti-ohjeet ja muut tyypit sisältöä ja digitaalista mediaa. Se tarjoaa ainutlaatuisen yhdistelmän logiikkaa, koodaamista, taidetta ja tietyissä tapauksissa erityisiä muokkaajia.

Ohjelmoinnin insinöörit on välttämätöntä luodaksesi parempia AI-pohjaisia palveluita ja saadaksesi parempia tuloksia olemassa olevista generatiivisista AI-työkaluista. Esimerkiksi yrityskehittäjät käyttävät usein ohjelmoinnin insinöörejä sovittaakseen suuria kielen malleja, kuten GPT-3, voimaan asiakkaan puoleiseen chatbottiin tai tehtäviin, kuten luodakseen alan mukaisia sopimuksia.

Tämä iteraatioprosessi ohjelmoinnin hienosäätöä ja AI-suorituskyvyn mittaamista on avainelementti, joka mahdollistaa AI-mallien generoimisen erittäin kohdennettuja, hyödyllisiä vastauksia erilaisissa konteksteissa.

Miten tulla ohjelmoinnin insinööriksi?

GPT-4-mallin kyky ymmärtää monimutkaiset ohjeet ja ratkaista tarkasti monimutkaisia ongelmia tekee siitä arvokkaan resurssin. On kuitenkin eri tapoja päästä käsiksi tähän mallin kykyihin, ja ymmärtäminen näistä on tärkeää ohjelmoinnin insinöörin roolissa optimoidaksesi sekä tehokkuutta että kustannustehokkuutta.

On käytännössä kaksi tapaa käyttää GPT-malleja, kuten GPT-4. Yksi tapa on Open AI:n kautta, jossa kustannukset lasketaan syöte- ja tulostetokenien mukaan. Tässä skenaariossa kustannukset 1 000 tokenia kohti voivat vaihdella kontekstin koosta riippuen. Esimerkiksi suuremmassa 32K-kontekstissa kustannus voi nousta 0,06 dollariin syötetokeneille ja 0,12 dollariin tulostetokeneille. Näin ollen, kun käsitellään suurta määrää pyynnöitä, käytön kustannukset voivat kertyä nopeasti.

Toisaalta ChatGPT, joka hyödyntää GPT-4-mallia, toimii tilauspohjaisella mallilla.

Ohjelmoinnin insinöörien toinen tärkeä tehtävä on mallin parametrin säätö. Tämä prosessi käsittää muuttujien säätämistä, joita malli käyttää ennusteiden tekemiseen. Säätämällä näitä parametreja ohjelmoinnin insinöörit voivat parantaa mallin vastausten laatua ja tarkkuutta, tehdäkseen ne kontekstuaalisesti relevantimmiksi ja hyödyllisimmiksi.

Vaikka monet ohjelmoinnin insinöörit tulevat teknologialtaustasta, alan monitieteinen luonne tekee siitä saatavilla henkilöille erilaisista ammatillista taustoista. Kasvava määrä kirjailijoita, tutkijoita ja jopa taiteilijoita hyödyntää ainutlaatuisia taitojaan parantamaan AI-mallien tehokkuutta. Tämä muutos heijastuu myös työmarkkinoilla, jossa kasvava määrä yrityksiä etsii ohjelmoinnin insinöörejä, joilla on monipuolinen taitojen ja taustojen kirjo.

Ohjelmoinnin suunnittelu ja insinöörit ChatGPT:ssä

Ohjelmoinnin suunnittelu ja insinöörit ovat kriittisiä kielen mallien suorituskyvyn optimoinnissa ja ne vaativat enemmän kuin vain kysymyksen muodostamista; ne edellyttävät syvää ymmärrystä AI-mallista ja erittäin iteraatiota ja hienosäädettyä lähestymistapaa.

Ohjelmoinnin suunnittelu

Ohjelmoinnin suunnittelu on ydintä luoda täydellinen ohjelmointi annetulle suurelle kielen mallille, kuten ChatGPT, saavuttaaksesi selkeästi määritellyn tavoitteen. Se on sekoitus:

• Ymmärrystä LLM:stä: Erilaiset kielen mallit voivat reagoida eri tavoilla samaan ohjelmointiin. Lisäksi tietyt kielen mallit voivat olla erityisiä avainkohtia tai laukaisevia, joita ne tulkkaavat tietyllä tavalla.
• Alan tietämys: Asiantuntemus relevantissa alalla on olennaista ohjelmoinnin suunnittelussa. Esimerkiksi ohjelmoinnin luominen, joka johtaa lääketieteelliseen diagnoosiin, vaatii lääketieteellistä tietämystä.
• Iteratiivinen lähestymistapa ja laadun mittaaminen: Ohjelmoinnin luomisprosessi usein sisältää koetta ja virhettä. Siksi on tärkeää olla tapa arvioida tulosteen laatua subjektiivisen arvion ulottumattomissa, erityisesti kun käytetään ohjelmointia laajemmassa mittakaavassa.

Ohjelmoinnin insinöörit

Ohjelmoinnin insinöörit on laajempi alue ohjelmoinnin suunnittelua, joka sisältää useita kriittisiä prosesseja:

• Ohjelmointien suunnittelu suuressa mittakaavassa: Tämä prosessi sisältää metaohjelmointien suunnittelun (ohjelmointi, joka luo muita ohjelmointeja) ja ohjelmointimallien suunnittelun, jotka ovat parametrillisia ohjelmointeja, jotka voidaan toteuttaa suorittamisen aikana.
• Työkalujen suunnittelu ja integrointi: Ohjelmointi voi joskus sisältää ulkoisten työkalujen tuloksia, ja näiden työkalujen sulauttaminen järjestelmään on tärkeää.
• Työnkulun suunnittelu, ohjelmointien hallinta: LLM-sovelluksen käyttöönotto, kuten chatbotti, usein edellyttää ohjelmointikirjastojen hallintaa, oikean ohjelmoinnin valintaa ja eri työkalujen tehokasta integrointia.
• Ohjelmointien arviointi ja laadunvarmistus: Tämä osa sisältää metriikkojen ja prosessien määrittelyn ohjelmointien arvioimiseksi sekä automaattisesti että ihmisten osallistumisella.
• Ohjelmoinnin optimointi: AI-mallin kustannukset ja viive voivat riippua mallin valinnasta ja ohjelmoinnin pituudesta (tokenien määrä).

Monet automaattiset ohjelmoinnin suunnittelumenetelmät, työkalut ja kehykset on kehitetty hallinnoimaan ohjelmointeja suuressa mittakaavassa. On kuitenkin tärkeää ymmärtää, että mikään näistä työkaluista ei voi korvata kokeneen ohjelmoinnin insinöörin hienovaraisen ymmärryksen, arvion ja kokemuksen.

Ohjelmoinnin insinöörit: Tekniikat ja parhaat käytännöt

1) Ohjelmoinnin sijoittaminen ja kuvaus

Ohjeiden sijoittaminen ohjelmoinnin alkuun voi vaikuttaa merkittävästi AI:n ymmärtämiseen ja vastaukseen. Kuvitellaan tehtävää, jossa tiivistetään teksti luettelopisteenä tärkeimmistä kohdista. Vähemmän tehokas lähestymistapa voisi olla:

Käyttäjä: Tiivistä teksti alla olevana luettelopisteenä tärkeimmistä kohdista.
{sisältö tähän}

Toisaalta tehokkaampi tekniikka voisi olla:

Käyttäjä: Tiivistä teksti alla olevana luettelopisteenä tärkeimmistä kohdista.
Teksti: “””
{sisältö tähän}
“””

Erottamalla selkeästi ohjeet ja konteksti symboleilla, kuten ### tai “”, AI-malli voi paremmin erottaa tehtävänsä ja tekstin, jota se tarvitsee prosessoida, antaen tarkemmat ja relevantimmat vastaukset.

Toiseksi, olemalla tarkka, kuvaava ja yksityiskohtainen kontekstista, odotetusta tuloksesta, pituudesta, muodosta, tyylistä jne., voidaan parantaa merkittävästi AI-vastausten tarkkuutta. Oletetaan, että haluamme generoida lyhyen, mielenkiintoisen yhteenveto tieteellisestä artikkelista, joka on ymmärrettävissä henkilölle, jolla ei ole tieteellistä taustaa, ja joka heijastaa artikkelin keskeisiä löytöjä.

Käyttäjä: Generoi lyhyt (n. 200 sanaa) mielenkiintoinen yhteenveto seuraavasta tieteellisestä artikkelista. Yhteenveto on ymmärrettävissä henkilölle, jolla ei ole tieteellistä taustaa, ja se heijastaa artikkelin keskeisiä löytöjä.
Artikkeli: “””
{tieteellinen artikkeli tähän}
“””

2) Henkilöhahmo-malli

Henkilöhahmo-malli on strategia, joka asettaa AI:n toimimaan tietyn persoonan, kuten ammattiroolin tai kuvitteellisen hahmon, näkökulmasta. Tämä taktiikka mahdollistaa mallille antaa ulostuloja, jotka liittyvät tietyn roolin tehtäviin, joita henkilöhahmo hoitaisi. Esimerkiksi voitaisiin ohjeistaa AI toimimaan kyberTurvallisuuden asiantuntijana koodin tarkastelun aikana. Tämä malli on erityisen hyödyllinen, kun käyttäjillä on apua tarve, mutta he eivät ole varmoja tarkasta yksityiskohdasta, jota he tarvitsevat tuloksesta.

Oletetaan esimerkki:

Käyttäjä: “Oletko ranskalaisen vallankumouksen vanhempi historioitsija. Tässä roolissa selitä avain tapahtumat ja syyt, jotka johtivat Ranskan monarkian tuhoon.”

Tässä skenaariossa AI odotetaan vastaavan syvällisellä analyysillä Ranskan vallankumouksesta, keskittyen monarkian tuhoon, kuten historioitsija tekisi.

Uuden tiedon esittäminen

ChatGPT ei omista tietoa koulutuksensa jälkeisistä tapahtumista, eikä se voi antaa tietoa viimeaikaisista päivityksistä. Kuitenkin voit esittää uuden tiedon mallille ohjelmoinnin kautta.

Käyttäjä: “Mikä on kryptovaluutta?”
ChatGPT: “Kryptovaluutta on tyyppi digitaalista tai virtuaalista rahaa, joka käyttää salakirjoitusta turvallisuuden vuoksi. Tunnetuin kryptovaluutta on Bitcoin.”

Nyt, jos lisäämme ohjelmointiin hieman enemmän kontekstia, voimme tehdä selityksestä vielä intuitiivisemman:

Käyttäjä: “Selitä kryptovaluutan käsite lukio-opiskelijalle, joka opiskelee digitaalista taloutta”
ChatGPT: “Kuvitella, että pelaat verkkopeliä ja sinulla on pelirahaa, jonka voit käyttää hahmojen tai uusien ominaisuuksien ostamiseen. Kryptovaluutta on jonkinlainen vastaava, mutta sen sijaan, että se on rajoitettu peliin, voit käyttää sitä oikean maailman tuotteiden ja palveluiden ostamiseen. Se on digitaaliraha, jota ei hallinnoi pankki tai hallitus.”

3) Ohjelmoinnin koko rajoitukset

Ymmärtäminen ChatGPT:n koko rajoituksesta on olennaista, koska se vaikuttaa suoraan syötteen ja tulosteen määrään. Kielen mallit eivät ole suunniteltu käsittelemään rajattomia määriä tietoa kerran. Niillä on sisäänrakennettu rajoitus ohjelmoinnin koosta, jonka voimme luoda ja syöttää. Tämä rajoitus vaikuttaa ohjelmoinnin suunnittelun ja toteutuksen suunnitteluun.

ChatGPT:llä on tokenin rajoitus (yleensä 2048 tokenia), joka sisältää sekä ohjelmoinnin että generoidun tuloksen. Tämä tarkoittaa, että pitkät ohjelmoinnit voivat rajoittaa tuloksen pituutta. Siksi on tärkeää pitää ohjelmoinnit lyhyinä ja informatiivisina.

Käytännössä meidän on toimittava kuin toimittajat, valitsemalla valikoivasti tärkeintä tietoa tehtävään. Kuvitella, että kirjoitat artikkelin tai tutkielman, jossa on sana- tai sivurajoitus – et voi vain dumpata satunnaisia faktoja, vaan valitset ja rakentelet tietoa aiheeseen liittyvänä.

Käyttäjä: “Anna yhteenveto toisen maailmansodan tärkeimmistä tapahtumista alle 1000 sanan mittaiseksi.”

Tunnustamalla mallin tokenin rajoitukset, tämä ohjelmointi ohjaa AI:ta antamaan yhteenveto toisen maailmansodan tiivistettynä ja kattavasti.

Toistuvat ohjelmoinnit: Keskustelutilanteessa voit uudelleen käyttää ohjelmointeja tai hienosäätää niitä edellisten vastausten perusteella. Tämä antaa keskustelun virtauksen ja ylläpitää kontekstia vuorovaikutuksessa.

4) Kysymyksen hienosäätömalli

ChatGPT voi myös auttaa kysymyksen hienosäätössä. Esimerkiksi, jos kysyt kysymyksen, se voi ehdottaa paremmin muotoiltua kysymystä tarkempien tuloksien saamiseksi.

Kysymyksen hienosäätömalli käsittää LLM:n, joka hienosäätää käyttäjän kysymyksiä. Se on erityisen hyödyllinen, kun käyttäjät eivät ole asiantuntijoita aihealueella tai ovat epävarmoja siitä, miten muotoilla kysymyksensä.

Esimerkki ohjelmointi voisi näyttää tältä:

Käyttäjä: “Kun kysyn kysymyksen datasta, ehdota minulle paremmin muotoiltua kysymystä, joka ottaa huomioon tilastollisen analyysin yksityiskohdat, ja kysy, haluanko jatkaa hienosäätetyn kysymyksen kanssa.”

Tässä AI odotetaan hienosäätävän käyttäjän yleisiä data-analyysikysymyksiä tarkempiin kysymyksiin, jotka ottaa huomioon tilastollisen analyysin yksityiskohdat.

5) Kognitiivinen verifikaattorimalli

Kognitiivinen verifikaattorimalli jakaa monimutkaiset kysymykset pienempiin, hallitettaviin alakysymyksiin. Nämä alakysymysten vastaukset yhdistetään antamaan kattava vastaus pääkysymykseen. Tämä lähestymistapa on hyödyllinen, kun alkuperäiset kysymykset ovat liian yleisiä tai kun tarvitaan lisää selkeyttä antaaksesi täydellisen vastauksen.

Esimerkiksi:

Käyttäjä: “Jos kysyn kysymyksen ilmastonmuutoksesta, jakaa se kolmeen pienempään kysymykseen, jotka auttavat minua antamaan tarkemman vastauksen. Yhdistä näiden alakysymysten vastaukset antaaksesi lopullisen vastauksen.”

Tässä AI jakaa monimutkaisen kysymyksen ilmastonmuutoksesta kolmeen hallittavaan alakysymykseen. Saatuuaan vastaukset näihin alakysymyksiin, AI yhdistää ne antaakseen kattavan ja tarkan vastauksen.

Tämä malli käsittää useiden kysymysten generoimisen saadaksesi lopullisen vastauksen. Se on prosessi verifikaatiota ja tietojen konsolidointia vahvan lopullisen tuloksen saamiseksi.

6) Vähäinen ohjelmointi

Vähäinen ohjelmointi on voimakas lähestymistapa, jolla voidaan opettaa AI-malleja seuraamaan tiettyjä malleja tai suorittamaan tehtäviä. Ideana on syöttää malliin useita esimerkkejä ennen kuin kysytä haluamaasi kysymystä. Tämä auttaa asettamaan toivottua käyttäytymistä ja ohjaa mallin vastauksia.

Oletetaan skenaariota, jossa käyttäjä yrittää luoda lyhyen, mielenkiintoisen markkinointitekstin uudelle teknologiajärjestelmälle:

Käyttäjä: “Tässä on esimerkkejä teknologiajärjestelmien markkinointitekstejä: ‘Kokemus musiikin uudella tavalla meidän viimeisimmillä langattomilla kuulokkeilla.’ ‘Vangitse maailmaasi upeassa 4K-laadussa meidän ultra-sleekin toimintakameralla.’ Anna markkinointiteksti meidän uudelle AI-pohjaiselle älykellolemme.”

ChatGPT: “Vallitse elämäsi meidän AI-pohjaisen älykellomme, joka on kumppanisi terveydelle, yhteydenpidolle ja tuottavuudelle.” Vähäisen ohjelmoinnin huomattava ominaisuus on, että se ei edellytä yksityiskohtaista selitystä tehtävän suorittamiseksi. Sen sijaan se edellyttää esimerkkejä siitä, mitä tehdään, mikä tekee siitä hyvän sovelluksen moniin sovelluksiin.

Lisäksi tämä tekniikka laajenee yksinkertaisen syöte-vastaus-parin yli. Malli voidaan opettaa käsittelemään välitteisiä askelia tavoitteen saavuttamiseksi.

7) Ketjuajattelumalli

Viimeaikaisessa tutkimusartikkelissaan “Ketjuajattelumalli herättää päättelyä suurissa kielen malleissa” Jason Wei ja hänen tiiminsä pyrkivät herättämään päättelyä suurissa kielen malleissa. Sen sijaan, että käytettäisiin perinteisiä, suoria ohjelmointeja, tiimi käyttää sarjaa toisiinsa liittyviä ohjelmointeja, muodostamaan “ketjuajattelun”.

Esimerkiksi, jos käyttäjä on kiinnostunut tekoälyn vaikutuksista työmarkkinoihin:

Käyttäjä: “Voitko selittää lyhyesti, mitä tekoäly on?”

ChatGPT: “Tekoäly, tai AI, viittaa koneen kykyyn jäljitellä älykästä ihmisen käyttäytymistä. Se on suunniteltu koneiden, jotka voivat ajatella ja oppia ihmisten tavoin, mahdollistaen tehtäviä, kuten kielien kääntämistä, päätöksentekoa ja ongelmanratkaisua, muun muassa.”

Käyttäjä: “Miten tekoäly vaikuttaa nykyiseen työmarkkinaan?”

ChatGPT: “Tekoäly luo uusia työpaikkoja ja muuttaa olemassa olevien työpaikkojen luonnetta. Toisaalta se automatisoi routinemaiset tehtävät, johtaa työpaikkojen menetykseen tiettyjen alojen osalta. Toisaalta se luo uusia työpaikkoja, joita ei aiemmin ollut olemassa, kuten tekoälyn eettiset virkamiehet, data-analyytikot ja koneoppimisen insinöörit. Lisäksi tekoäly voi täydentää ihmisten rooleja, mahdollistaen heidän suorittaa tehtäviä tehokkaammin ja tarkemmin.”

Ketjuajattelumalli seuraa sarjaa liittyviä ohjelmointeja, joka muodostaa “keskustelun” mallin kanssa, joka ohjaa sitä tarkempiin ja kontekstuaalisesti soveltuvampiin vastauksiin.

Ymmärtäminen ChatGPT API:ta ja ohjelmoinnin insinöörejä kehittäjän näkökulmasta

Kehittäjän tai tutkijan näkökulmasta ohjelmoinnin insinöörit on monimutkaisempi prosessi. Se käsittää algoritmien ja tekniikoiden suunnittelun, jotta AI-malli voisi ymmärtää ja vastata ohjelmointeihin tehokkaammin. Tämä voi sisältää strategioita epäselvien ohjelmointien käsittelyyn, ohjelmointien kontekstin tunnistamiseen tai ohjelmointien ketjutus, jotta herätetään monimutkaisempia ajatteluprosesseja AI:ssa.

Yllä olevassa kuvassa käyttäjä vuorovaikuttaa chat-liittymän kanssa, jota ohjaa GPT-4. Käyttäjän syöte parannetaan selkeyden ja kontekstuaalisen johdonmukaisuuden vuoksi erityisellä moduulilla ennen kuin se syötetään AI-malliin. Tämän moduulin rooli on parantaa ja yksilöidä käyttäjän syötettä paremman ymmärtämisen ja kontekstin ylläpitämisen vuoksi. AI-mallin vastaus, joka on muodostettu parannetusta ohjelmoinnista, palautetaan käyttäjälle chat-liittymän kautta. Vuorovaikutuksen historia päivitetään jatkuvasti, ylläpitäen keskustelun kontekstia. Kokonaisuudessaan tämä kaavio havainnollistaa dynaamisen käyttäjä-AI-keskustelun, jota ohjaa ohjelmoinnin insinöörit.

ChatGPT API:n liittymä on suunniteltu useilla hyperparametreillä, jotka mahdollistavat käyttäjille ohjelmoinnin insinöörien hienosäätämisen, tehdäkseen ne tehokkaammaksi ja monipuolisemmaksi. Nämä sisältävät lämpötila-, enimmäispituus-, stop-merkkijonot-, Top P-, taajuusrangaistus- ja läsnäoloparametrit. Tutkitaan, miten ne toimivat ja miten niitä voidaan soveltaa eri konteksteissa.

1) Lämpötila

Lämpötilaparametri vaikuttaa AI-vastausten satunnaisuuteen. Korkeampi lämpötila, kuten 1,0, rohkaisee enemmän satunnaisia tuloksia, johtaa monipuolisiin mutta mahdollisesti aiheeseen liittymättömiin vastauksiin. Toisaalta alempi lämpötila, kuten 0,2, ohjaa AI:ta valitsemaan enemmän deterministisiä vastauksia, jotka ovat hyödyllisiä keskittyneille ja tarkoille tuloksille, mutta ne voivat puuttua monipuolisuudesta.

Esimerkki: Jos kirjoitat luovan tarinan ja haluat ennalta arvaamattomia, mielikuvituksellisia elementtejä, aseta lämpötila korkeaksi arvoon. Ohjelmointi voisi olla: “Kirjoita lyhyt tarina aikamatkustavasta kissasta.” Korkealla lämpötilalla saat ehkä villin, fantastisen tarinan, jossa on ennalta arvaamattomia käänteitä.

2) Enimmäispituus

Tämä parametri hallitsee mallin tulosteen enimmäistokenin pituutta, joka sisältää sekä syöte- että tulostetokenit. Korkeamman rajan asettaminen sallii pitemmät vastaukset, kun taas matalampi raja pitää tuloksen lyhyenä ja konsiisena.

Esimerkki: Lyhyille vastauksille triviaalikysymyksiin, kuten “Kuka voitti Nobelin kirjallisuuspalkinnon vuonna 2020?”, haluat ehkä asettaa enimmäispituuden matalaksi arvoon, varmistaaksesi, että vastaus on konsiinen ja suora.

3) Stop-merkkijonot

Stop-merkkijonot ovat tiettyjä teksti merkkijonoja, joissa malli lopettaa tulosteen generoimisen, kun se kohtaa ne. Tämä ominaisuus voi olla hyödyllinen tulosteen pituuden hallinnassa tai ohjeistaa mallia lopettamaan loogisissa päätepisteissä.

Esimerkki: Muodollisessa kirjeessä voit käyttää “Ystävällisin” stop-merkkijonona, jotta AI ei generoi lisää tekstiä kirjeen lopetuksen jälkeen.

4) Top P

Top P -parametri, myös tunnettu ydin näytteen ottamisena, on menetelmä, joka tarjoaa dynaamisen valinnan sanojen määrästä, jotka otetaan huomioon kussakin ennusteen vaiheessa. Alempi arvo, kuten 0,5, johtaa turvallisempiin, keskittyneempiin tuloksiin. Korkeampi arvo, kuten 0,9, sisältää laajemman sanavalikoiman, johtaa monipuolisempiin tuloksiin.

Esimerkki: Jos luot AI:ta kirjoittamaan runoja ja haluat, että se käyttää laajaa sanastoa ja tyyliin liittyviä fraaseja, voit asettaa Top P -arvon korkeaksi. Ohjelmointi voisi olla: “Sävelta runo syksyn kauneudesta.”

5) Taajuusrangaistus

Taajuusrangaistus ohjaa, kuinka paljon malli suosii vähemmän yleisiä sanoja. Korkeampi rangaistus (jopa 1) rohkaisee mallia käyttämään vähemmän yleisiä sanoja, kun taas matalampi arvo (alas -1) suosii yleisempiä sanoja.

Esimerkki: Jos generoit liiketoimintasuunnitelman ja haluat välttää jargonia, voit asettaa taajuusrangaistuksen matalaksi arvoon, pitääksesi kielen selkeänä ja helposti ymmärrettävänä.

6) Läsnäoloparametri

Läsnäoloparametri vaikuttaa, kuinka paljon mallia rangaistaan uusien ideoiden tai aiheiden generoimisesta, jotka eivät ole olleet aiemmin keskusteluhistoriassa. Korkeammat arvot ohjeistavat mallia pitämään kiinni aiemmin mainituista aiheista, kun taas matalammat arvot antavat mallille enemmän vapautta esittää uusia konsepteja.

Esimerkki: Aivopuhallusistunnoissa voit asettaa läsnäoloparametrin matalaksi arvoon, rohkaistaaksesi monipuolista ideoita. Voit käyttää ohjelmointia, kuten “Luo innovatiivisia markkinointistrategioita verkkokoulutus-alustalle.”

Teollisuuden sovellukset ohjelmoinnin insinööreille

_hyoast_wpseo_metadesc: Tutki ohjelmoinnin insinöörejä syvällisesti, keskittyen sen vaikutukseen nopeasti kasvavaan ChatGPT-käyttäjäkuntaan. Selvitä, mitä ohjelmoinnin insinöörit on, miten tulla ohjelmoinnin insinööriksi, parhaat tekniikat ja ymmärrä tämän trendikkään AI-uran mahdollisuudet.