Mitä työkalukutsu tarkoittaa? Näin tekoälymallit muuttavat päätökset toiminnaksi

Työkalukutsu on mekanismi, jonka avulla tekoälymalli voi pyytää tiettyä toimintoa tai ulkoista ominaisuutta rakenteisilla argumenteilla. Se muuttaa mallin päätöksen koneellisesti luettavaksi toiminnoksi. Näin ohjelmisto voi hakea tietoa, tehdä laskutoimituksia, noutaa tietueita, suorittaa koodia tai päivittää toista järjestelmää ilman, että mallia pyydetään jäljittelemään toimintoa sanallisesti.

Työkalukutsut ovat nykyisten tekoälyagenttien perusta. Malli voi päätellä, mitä pitäisi tehdä, mutta sitä ympäröivä sovellus hallitsee sitä, onko pyydetty toiminto kelvollinen ja valtuutettu, suoritetaanko se ja palautetaanko sen tulos mallille seuraavaa päätöstä varten.

Miksi mallit tarvitsevat työkaluja

Kielimallilla on merkittäviä rajoituksia. Sen oppima tieto ulottuu vain koulutuksen päättymisajankohtaan asti, se ei pysty luotettavasti tekemään kaikkia laskutoimituksia, sillä ei ole automaattisesti käytössään yksityisiä tai reaaliaikaisia tietoja, eikä se voi vaikuttaa ohjelmistojärjestelmiin pelkän tekstin tuottamisen avulla.

Työkalut laajentavat mallin kykyjä esimerkiksi seuraavasti:

• ajankohtaisten tietojen hakeminen;
• tietokannan tai tietämyskannan kysely;
• koodin suorittaminen tai tarkkojen laskutoimitusten tekeminen;
• tiedostojen lukeminen ja kirjoittaminen;
• tikettien, tapahtumien, viestien tai maksutapahtumien luominen;
• selaimen tai muun käyttöliittymän käyttäminen.

Työkalu ei tee mallista itsessään tietävämpää. Se antaa sovellukselle hallitun tavan hankkia näyttöä tai suorittaa toiminto.

Työkalumäärittelyn rakenne

Työkalun kuvauksessa tulisi kertoa, millä perusteilla sitä käytetään ja milloin sitä ei käytetä. ”Hae tietueita” on epämääräinen ilmaus, sillä mallille ei käy ilmi, haetaanko sillä asiakkaita, asiakirjoja vai julkisen verkon sisältöä. ”Hae hyväksyttyjä asiakastilejä yrityksen nimen tai tilitunnuksen perusteella; älä käytä yleiseen verkkohakuun” antaa mallille selkeät rajat.

Sovellukset kuvaavat kunkin käytettävissä olevan työkalun rakenteisessa muodossa. Määrittely sisältää yleensä seuraavat:

• Nimi: vakaa tunniste, kuten get_weather tai create_support_ticket.
• Kuvaus: täsmällinen selvitys siitä, mitä työkalu tekee ja milloin sitä tulisi käyttää.
• Syöteskeema: pakolliset ja valinnaiset argumentit, niiden tietotyypit ja sallitut arvot.
• Tuloskäytäntö: dokumentaatio tuloksesta tai virhetiloista, jotka sovellus palauttaa.

Monissa työkalurajapinnoissa käytetään JSON-skeemaa tai vastaavaa tyypitettyä esitystapaa. Rajattu ja yksiselitteinen skeema pienentää todennäköisyyttä, että malli keksii parametreja tai yhdistää keskenään yhteensopimattomia vaihtoehtoja.

Näin työkalukutsujen toimintaketju etenee

Kuvitellaan, että käyttäjä kysyy: ”Onko minulla kokouksia Manchesterissa ensi tiistaina, ja sataako silloin?”

1. Sovellus tarjoaa kontekstin. Se välittää mallille käyttäjän pyynnön, järjestelmäohjeet ja valittujen työkalujen määrittelyt.
2. Malli valitsee työkalun. Se voi pyytää kalenteritietojen hakua, johon sisältyy päivämääräväli ja sijaintisuodatin.
3. Sovellus validoi pyynnön. Se tarkistaa työkalun nimen, pakolliset argumentit, käyttöoikeuksien laajuuden ja liiketoimintasäännöt.
4. Suoritusympäristö suorittaa työkalun. Se kutsuu kalenterijärjestelmää ja palauttaa hakuehtoja vastaavat tapahtumat tai selkeän virheilmoituksen.
5. Malli havainnoi tuloksen. Se näkee, että Manchesterissa on kokous, ja pyytää säätietoja kyseiselle kaupungille ja päivälle tarkoitetulta työkalulta.
6. Sovellus toistaa tarkistukset ja suorittaa työkalun.
7. Malli muodostaa lopullisen vastauksen. Se yhdistää varmennetut tulokset ja mainitsee olennaiset tiedot.

Malli ehdottaa kutsuja, mutta sovellus suorittaa ne. Tämä rajanveto on yksi tärkeimmistä työkalujen käyttöön liittyvistä seikoista. Turvallinen suoritusympäristö ei koskaan käsittele mallin tulostetta automaattisesti valtuutettuna koodina.

Työkalun valinta voi olla automaattista tai rajoitettua

Sovellus voi antaa mallin päättää, tarvitaanko työkalua, edellyttää tietyn työkalun käyttöä, rajoittaa valinnan tiettyyn joukkoon tai kieltää työkalujen käytön vastauksessa. Eri vaihtoehdot sopivat erilaisiin työnkulkuihin.

Automaattinen valinta sopii joustaville avustajille. Pakollinen valinta on hyödyllinen esimerkiksi rakenteisessa poiminnassa, jossa jokainen pyyntö tulee käsitellä tietyn funktion kautta. Käytettävissä olevien työkalujen määrän rajaaminen vähentää sekaannuksia ja riskejä: laskun lukemiseen tarkoitetulla vaiheella ei tarvitse olla pääsyä sähköpostin lähettämiseen tarkoitettuun työkaluun.

Työkalukutsut ja rakenteinen tuloste

Molemmissa ominaisuuksissa mallia pyydetään tuottamaan skeemaa vastaavaa dataa, mutta niiden käyttötarkoitukset ovat erilaiset.

Rakenteinen tuloste muotoilee mallin vastauksen sovellusta varten – esimerkiksi poimimalla tuotteen nimen, määrän ja riskiluokituksen. Työkalukutsulla pyydetään sovellusta suorittamaan toiminto ja palauttamaan havainto.

Rakenteinen tulos voi päättää vuorovaikutuksen. Työkalukutsu puolestaan jatkaa tavallisesti silmukkaa: pyydä, suorita, havainnoi ja tee uusi päätös.

Työkalukutsut ja API-rajapinnat

API on rajapinta, jonka avulla ohjelmisto viestii toisen järjestelmän kanssa. Työkalukutsu on mallille näkyvä päätöksentekokerros, joka valitsee toiminnon ja antaa sille argumentit. Työkalun toteutus kietoo usein API-rajapinnan ympärilleen, mutta se voi perustua myös tietokantakyselyyn, paikalliseen funktioon, komentoriviohjelmaan tai käyttöliittymätoimintoon.

Parhaat työkalut tarjoavat harvoin suoraan käyttöön koko monimutkaista API-rajapintaa. Sen sijaan ne tarjoavat tehtäväkeskeisiä toimintoja, joiden merkitys on selkeä, käyttöala rajattu ja tulokset mallin tulkittavissa. ”Palauta tilaus” -toiminto, jossa käytetään validoituja käytäntöparametreja, on turvallisempi ja helpompi käyttää kuin yleiskäyttöinen pyyntötyökalu, jolla voi kutsua mitä tahansa päätepistettä.

Millainen on hyvä tekoälytyökalu?

Selkeä käyttötarkoitus. Nimen ja kuvauksen tulee erottaa työkalu samankaltaisista ominaisuuksista. Päällekkäiset työkalut johtavat epäjohdonmukaisiin valintoihin.

Pienet, tyypitetyt syötteet. Pakolliset kentät tulee määritellä selkeästi, ja rajattujen arvojen tulee mahdollisuuksien mukaan perustua lueteltuihin vaihtoehtoihin. Älä pakota mallia muodostamaan suuria ja virhealttiita tietosisältöjä.

Hyödylliset tulosteet. Palauta seuraavan päätöksen tueksi riittävästi tietoa, kuten pysyvät tunnisteet ja selkeä onnistumis- tai epäonnistumistila. Älä kätke osittaista epäonnistumista ystävällisen viestin sisään.

Idempotenssi aina kun mahdollista. Lukutoiminnon uudelleenyritys on yleensä turvallista; maksun tai viestin lähettämisen uudelleenyritys voi johtaa toiminnon toistumiseen. Suurivaikutteisissa työkaluissa tulee käyttää idempotenssiavaimia tai muuta suojauskeinoa.

Rajatut käyttöoikeudet. Vain luku -hakutyökalulla ei tule olla kirjoitusoikeuksia. Tunnistetiedot ja valtuutukset kuuluvat suoritusympäristöön, eivät kehotteeseen.

Työkalukutsujen yleiset virhetilanteet

Uusintayrityksille tarvitaan oma käytäntönsä. Vain lukuun tarkoitetun haun toistaminen voi olla harmitonta, mutta maksun tai viestin lähettävän työkalun uudelleenkäyttö voi toistaa peruuttamattoman toiminnon. Idempotenssiavainten, tapahtumatunnisteiden ja selkeiden vahvistustilojen avulla suoritusympäristö voi päätellä, epäonnistuiko ensimmäinen yritys vai jäikö vain vastaus palautumatta.

• Väärä työkalu: malli valitsee toiminnon, jonka kuvaus muistuttaa tarvittavaa ominaisuutta.
• Virheelliset argumentit: pakollinen kenttä puuttuu, on väärässä muodossa tai on semanttisesti mahdoton.
• Hallusinoitu tulos: malli vastaa ikään kuin työkalu olisi onnistunut odottamatta havaintoa.
• Epäselvät virheet: työkalu palauttaa tyhjän tuloksen, ja malli tulkitsee sen niin, ettei tietueita löytynyt.
• Turvaton ketjuttaminen: yhdestä työkalusta saatuun epäluotettavaan sisältöön perustuen malli saadaan kutsumaan toista työkalua sopimattomasti.
• Päällekkäiset sivuvaikutukset: aikakatkaisu käynnistää uuden yrityksen, vaikka ensimmäinen toiminto on jo onnistunut.
• Työkalujen ylikuormitus: liian monet epäolennaiset määrittelyt heikentävät valintojen tarkkuutta ja kuluttavat kontekstia.

Käyttöoikeudet ja ihmisen hyväksyntä

Työkalut voidaan ryhmitellä riskin mukaan. Vain lukuun tarkoitetut haut voidaan suorittaa automaattisesti rajatussa tietojoukossa. Peruutettavissa olevat luonnokset tai ehdotetut muutokset voidaan suorittaa lokituksen kanssa. Ulkoiset, taloudelliset, tuhoisat tai oikeudellisesti merkittävät toimet pitäisi yleensä edellyttää hyväksymään erikseen.

Hyväksynnän on perustuttava riittäviin tietoihin. Vahvistusnäkymässä pitäisi näkyä täsmällinen toiminto, sen kohde, tärkeät parametrit ja todennäköiset seuraukset. Pelkkä ”Sallitaanko työkalun käyttö?” ei riitä, jos työkalu lähettää sähköpostin 5 000 vastaanottajalle tai poistaa tuotantoresurssin.

OpenAI:n yleiskatsauksessa agenttien rakentamiseen tarkoitetuista työkaluista korostetaan, että työkalujen käyttö kuuluu agenttialustaan, jossa on jäljitys- ja havainnointitoiminnot. Ympäröivät hallintakeinot eivät ole valinnaisia lisäominaisuuksia, vaan ne tekevät mallin valitsemien toimintojen suorittamisesta hallittavaa.

Näin arvioit työkalujen käyttöä

Arvioi erikseen työkalun valinta, argumentit, suoritus, tulkinta ja tehtävän lopullinen onnistuminen. Malli voi valita oikean työkalun mutta täyttää väärän kentän, tai se voi saada oikean tuloksen ja tehdä siitä väärän johtopäätöksen. Koko tapahtumaketjun lokittaminen tuo nämä virheluokat näkyviin ja estää hyvää lopullista vastausta peittämästä turvatonta tai tuhlailevaa toimintaa.

Lopullinen vastaus voi vaikuttaa oikealta, vaikka agentti olisi valinnut tehottoman tai turvattoman toimintatavan. Siksi arvioinnissa pitäisi mitata sekä tuloksia että etenemispolkuja.

Hyödyllisiä mittareita ovat työkalun valinnan tarkkuus, argumenttien kelvollisuus, tehtävän suorittaminen, kutsujen määrä, viive, kustannukset, virheistä palautuminen, tarpeeton pääsy arkaluonteisiin tietoihin, päällekkäiset sivuvaikutukset ja hyväksymissääntöjen noudattaminen. Tee kokeita useita kertoja, sillä mallin toiminta voi vaihdella.

Näin luet työkalukutsukaavioita

Lue työkalukutsukaaviot numeroidusta syötteestä kohti havaittavaa lopputulosta. Vertailu eristää rajan, joka erottaa työkalukutsut niiden lähimmästä oikopolusta, kun taas ohjauspolku osoittaa, missä valtuudet tai epävarmuus on tarkistettava ennen kuin toiminnalla on seurauksia todellisessa maailmassa. Otsakkeet ovat tavallista mukautuvaa sivutekstiä, joten ne voidaan kääntää, rivittää ja järjestää uudelleen puhelimen näytöllä.

Artikkelin ”Mitä työkalukutsut ovat? Miten tekoälymallit muuttavat päätökset toiminnaksi” kuvitus on kartta, ei takuu. Todellisessa toteutuksessa vaiheita voidaan yhdistää, jokin vaihe voidaan toistaa tai prosessiin voidaan lisätä ihmisen hyväksyntää edellyttävä kohta. Olennaista on, pystyykö tiimi tunnistamaan samat toiminnot käytössä olevasta järjestelmästä, nimeämään kullekin rajakohdalle vastuuhenkilön ja testaamaan siirtymät niiden välillä. Jos jotakin vaihetta ei voida havainnoida tai mitata, siinä ilmeneviä virheitä on vaikea selvittää.

Mitä työkalukutsuista kannattaa muistaa

Työkalukutsut yhdistävät mallin harkinnan ohjelmiston toimintaan. Malli tunnistaa tarvittavan toiminnon ja ehdottaa jäsenneltyjä syötteitä; sovellus tarkistaa ja valtuuttaa ne, suorittaa toiminnon ja palauttaa havainnon.

Hyvin suunnitellut työkalut tekevät tekoälyjärjestelmistä ajantasaisempia, kyvykkäämpiä ja hyödyllisempiä. Huonosti suunnitellut työkalut muuttavat tavalliset mallivirheet ulkoisiksi seurauksiksi. Ratkaiseva suunnittelutyö koskee skeemoja, käyttöoikeuksia, virheenkäsittelyä, havainnoitavuutta ja suoritusta rajaavia käytäntöjä.