Mitä Agenttinen AI on? Kuinka Järjestelmät Suunnittelevat, Käyttävät Työkaluja ja Suorittavat Tehtäviä

Agenttinen AI on tekoäly, joka pystyy tavoittelemaan päämäärää päättämällä, mitä tehdä seuraavaksi, käyttämällä työkaluja, havainnoimalla tulosta ja säätämällä lähestymistapaansa. Sen sijaan, että se tuottaisi yhden vastauksen ja pysähtyisi, agentti toimii ohjauspiirin kautta, kunnes tehtävä on suoritettu, raja saavutettu tai työ palautetaan ihmiselle.

Tämä ero on merkittävä, koska tärkeimmät AI-järjestelmät siirtyvät puheesta eteenpäin. Ne voivat hakea tietoa eri lähteistä, kysyä tietokannoista, suorittaa koodia, ohjata ohjelmistoja, päivittää liiketoimintajärjestelmiä ja koordinoida muita agenteja. Lisääntynyt itsenäisyys voi avata hyödyllisempää työtä, mutta se tekee myös luotettavuudesta, käyttöoikeuksista, valvonnasta ja ihmisen hallinnasta entistä tärkeämpää.

Mikä tekee AI-järjestelmästä agenttisen?

Yhtä ainoaa kynnysarvoa, joka muuttaa mallin agentiksi, ei ole. Agenttisuus on spektrissä. Toisessa päässä kielimalli vastaa kehotteeseen. Toisessa päässä järjestelmä saa laajan tavoitteen, jakaa sen osiin, valitsee työkaluja, reagoi uuteen tietoon ja jatkaa pitkän ajan.

Itsenäisyys on myös monidimensionaalista. Yksi agentti voi valita omat tutkimuskysymyksensä, mutta ei pysty julkaisemaan mitään; toinen voi noudattaa ennalta määrättyä suunnitelmaa, mutta sillä on oikeus muuttaa tuotantojärjestelmää. “Kuinka agenttinen” järjestelmä on, täytyy siksi arvioida erikseen suunnittelun vapaus, työkalujen käyttöoikeus, toiminta-aika, peruutettavuus ja virheen seuraukset.

Hyödyllinen testaus on kysyä, kuka määrittää polun. Perinteisessä työnkulussa kehittäjä määrittelee sekvenssin etukäteen: suorita vaihe A, sitten B, sitten C. Agenttisessa järjestelmässä mallilla on jonkin verran harkintavaltaa, mitkä vaiheet ovat tarpeen ja missä järjestyksessä. Anthropicin opas tehokkaiden agenttien rakentamiseen tekee saman käytännöllisen erottelun ennalta määrättyjen koodipolkujen ja dynaamisesti omaa prosessiaan ja työkalujen käyttöä ohjaavien agenttien välillä.

Useimmat tuotantoon otetut agentit yhdistävät viisi elementtiä:

• Malli: päättely- ja kielimoottori, joka tulkitsee tavoitteen ja valitsee toimet.
• Instructions: järjestelmän säännöt, tehtävän kuvaus, politiikat ja onnistumisen määritelmät.
• Tools: funktiot, joiden avulla agentti voi hakea, laskea, noutaa dataa, kirjoittaa tiedostoja, kutsua API-rajapintoja tai käyttää käyttöliittymiä.
• Tila tai muisti: tieto, joka kulkee vaiheesta toiseen ja joskus myös istuntojen yli.
• Ohjaussilmukka: suoritusympäristö, joka palauttaa tulokset mallille ja päättää, jatketaanko, yritetäänkö uudelleen, pyydetäänkö apua vai lopetetaanko.

Agentin silmukka: Suunnittele, Toimi, Havaitse ja Sovita

Vaikka toteutukset vaihtelevat, agentti noudattaa tyypillisesti toistuvaa nelivaiheista mallia.

1. Tulkkaa tavoite

Agentti tunnistaa halutun lopputuloksen, asiaankuuluvat rajoitteet ja puuttuvan tiedon. Hyvä tehtävän määrittely sisältää paitsi sen, mitä tehdä, myös sen, milloin se on valmis. “Tutki tämä yritys” on epämääräinen; “tuota lähteistetty vertailu sen kolmen viimeisimmän vuosikertomuksen välillä ja merkitse merkittävät muutokset” luo testattavan tavoitteen.

2. Valitse toiminto

Malli voi vastata suoraan, luoda suunnitelman, kutsua työkalua, delegoida alatehtävän tai pyytää tarkennusta. Toiminto esitetään yleensä rakenteellisessa muodossa, jotta ohjelmisto voi tarkistaa sen ennen toteutusta. Tässä agenttisuunnittelu muuntaa todennäköisyyspohjaisen mallin tulosteen hallituksi järjestelmätoiminnoksi.

3. Havaitse tulos

Suoritusalusta palauttaa työkalun tulosteen, virheen, muuttuneen käyttöliittymän tai muun ympäristöpalautteen. Agentti lisää havainnon työkontekstiinsa. Jos haku antaa heikkoja todisteita tai API hylkää argumentin, seuraavan päätöksen tulee heijastaa tätä uutta tilaa.

4. Sovita tai lopeta

Agentti arvioi edistymistä ja valitsee seuraavan toiminnon. Se voi tarkistaa suunnitelman, kokeilla toista työkalua, vahvistaa tuloksen tai päätellä, että tavoite on saavutettu. OpenAI kuvaa tätä vuorovaikutusta silmukaksi mallin, sen työkalujen ja ympäristön välillä mallista agentiksi siirtymisessä.

Tämä malli liittyy ReAct-lähestymistapaan, jossa päättely ja toiminnot lomittuvat siten, että ulkoiset havainnot voivat päivittää myöhempää päättelyä. Alkuperäinen ReAct-paperi auttoi vakiinnuttamaan suunnittelun vaihtoehtona, jossa luodaan täydellinen suunnitelma ilman ympäristön palautetta.

Agenttinen AI vs. Generatiivinen AI

Generatiivinen AI kuvaa järjestelmiä, jotka luovat uutta sisältöä, kuten tekstiä, kuvia, ääntä, videoita tai koodia. Agenttinen AI kuvaa, miten järjestelmä pyrkii tavoitteeseen. Kategoriat limittyvät, mutta eivät ole vaihdettavissa.

Generatiivinen malli voi laatia sähköpostin ilman, että se on agentti. Agentti voi käyttää generatiivista mallia sähköpostin luonnosteluun, etsiä oikean vastaanottajan, tarkistaa politiikat, luoda liitteen ja asettaa viestin tarkistusjonoon. Malli tarjoaa älykkyyden; ympäröivä agenttijärjestelmä tarjoaa työkalut, tilan, orkestroinnin ja ohjaukset.

Missä agenttiset järjestelmät ovat hyödyllisiä

Agentit ovat arvokkaimpia, kun tavoitteen reittiä ei voida määritellä täysin etukäteen, mutta edistystä voidaan silti havaita ja tarkistaa. Yleisiä esimerkkejä ovat:

• Research: useiden lähteiden haku, aukkojen täyttäminen, todisteiden vertailu ja lähteistetyn raportin kokoaminen.
• Software engineering: koodivaraston läpikäynti, koodin muokkaus, testien suoritus, virheiden tulkinta ja iterointi.
• Customer operations: tilin kontekstin kerääminen, politiikan soveltaminen, ratkaisuehdotuksen tekeminen ja poikkeamien eskalointi.
• Data analysis: datasetin valinta, kyselyjen kirjoittaminen, poikkeamien tarkistus, visualisointien tuottaminen ja löydösten selittäminen.
• IT operations: hälytysten tutkiminen, diagnostiikan kerääminen, korjausohjeiden suosittelu ja hyväksyttyjen runbookien suoritus.
• Administrative work: kalentereiden, asiakirjojen, lomakkeiden, hyväksyntöjen ja päivitysten koordinointi eri järjestelmissä.

Kiinteä työnkulku on usein parempi, kun prosessi on vakaa ja jokainen vaihe on tiedossa. Agentin lisääminen, kun tavallinen automaatio riittää, voi nostaa kustannuksia ja vaihtelua ilman todellista lisäarvoa.

Milloin kannattaa käyttää agenttia automaation sijaan?

Paras arkkitehtuuri riippuu kahdesta kysymyksestä: kuinka ennustettavissa on polku ja kuinka kallista on huono toiminto? Järjestelmästä ei tule edistyneempiä pelkästään, koska mallille annetaan enemmän vapautta. Monissa korkean riskin tilanteissa vahvin suunnittelu yhdistää deterministisen ohjelmiston kapeaan agenttiseen komponenttiin.

Hyödyllinen kompromissi on rajoitettu agenttisuus. Agentti voi päättää, miten tietoa kerätään, mitä hyväksyttyä työkalua kutsutaan tai miten luonnos tarkistetaan, kun taas deterministinen koodi valvoo skeemoja, käyttöoikeuksia, budjetteja ja lopullista hyväksyntää. Tämä säilyttää mukautuvuuden ilman, että todennäköisyysmalli joutuu valvomaan omaa valtuuttaan.

Miksi agenttinen AI on vaikeaa

Agentti voi tehdä paikallisesti uskottavan päätöksen, joka ohjaa koko tehtävän väärään suuntaan. Pienet virheet voivat kasautua pitkän polun aikana, vaikka vakuuttava lopullinen vastaus peittääkin virheellisen tai epävarman prosessin.

Tämä kumuloituva vaikutus on yksi syy siihen, että agenttien arviointi eroaa tavallisesta vastausarvioinnista. Epäonnistunut tehtävä voi johtua mallin suunnitelmasta, harhaanjohtavasta työkalutuloksesta, virheellisestä tilapäivityksestä, ennenaikaisesta pysäytyspäätöksestä tai epävarmasta käyttöoikeusrajasta. Toisaalta oikea lopullinen vastaus voi olla hauraan polun tuote, joka epäonnistuu seuraavalla suorituskerralla. Tiimit tarvitsevat siis sekä tulosmittareita että polun tason todisteita.

Merkittävimmät haasteet ovat:

• Reliability: sama tehtävä voi tuottaa erilaisia polkuja ja tuloksia toistuvissa kokeissa.
• Grounding: malli voi ymmärtää väärin työkalun tulosteen, käyttöliittymän tilan tai käyttäjän todellisen tarkoituksen.
• Permissions: hyödyllinen agentti saattaa tarvita merkittävää pääsyä, mutta laaja pääsy kasvattaa virheen seurauksia.
• Prompt injection: epäluotettava sisältö voi sisältää ohjeita, joilla pyritään ohjaamaan agenttia tai paljastamaan dataa.
• Kustannukset ja viive: jokainen lisämallikutsu, työkalukutsu, tarkistusvaihe tai alagentti kuluttaa resursseja ja aikaa.
• Evaluation: pelkän lopullisen tuloksen arviointi voi ohittaa hauraan päättelyn, politiikkarikkomukset tai onnekkaan onnistumisen.

Miten pitää AI-agentti hallinnassa

Turvallinen autonomia on suunniteltu, ei oletettu. Agentin tulisi saada vain ne työkalut ja data, jotka ovat tehtävään välttämättömiä. Korkean vaikutuksen toiminnot – kuten viestin lähettäminen, rahan siirtäminen, datan poistaminen tai tuotantojärjestelmien muuttaminen – tulisi vaatia eksplisiittinen hyväksyntä tai tiukasti rajoitettu politiikka.

Vahvat järjestelmät erottavat myös suunnittelun toteutuksesta. Työkalujen argumentit voidaan tarkistaa skeemojen perusteella; toiminnot voidaan suorittaa hiekkalaatikoissa; arkaluontoiset toiminnot voidaan sallia valkoisella listalla; ja tuloksia voidaan tarkistaa ennen kuin ne syötetään toiseen järjestelmään. Aika-, token- ja toimintabudjetit estävät sekaisin olevan agentin silmukoimasta loputtomiin.

Havainnollisuus on yhtä tärkeää. Tiimit tarvitsevat kirjanpidon ohjeista, työkalukutsuista, välitason havainnoista, hyväksynnöistä, virheistä ja lopullisesta tuloksesta. Tämä polku tekee virheenkorjauksesta ja arvioinnista mahdollisen. Anthropicin työ luotettavien agenttien käytännöistä korostaa selkeitä valtuusrajoja ja merkittävää ihmisen hallintaa keskeisinä suunnitteluvaatimuksina.

Peruutettavuuden tulisi ohjata näitä kontrollia. Julkisen verkkosivun lukeminen on helppo peruuttaa, koska se ei muuta mitään; palautuksen antaminen, asiakkaan sähköpostiin vastaaminen tai pilviresurssin poistaminen ei ole. Kypsä agenttijärjestelmä luokittelee toiminnot seurauksien perusteella, vaatii tiukemman valtuutuksen vaikeammin peruutettaville toiminnoille ja antaa suoritusalustan – ei mallin – lopullisen sanan siitä, sallitaanko suoritus.

Mitä agenttinen AI ei tarkoita

“Agenttinen” ei tarkoita tietoista, itseä tiedostavaa tai itsenäisesti motivoitunutta. Järjestelmän näennäinen aloitteellisuus tulee mallista, joka toimii ohjelmistossa ja jota pyydetään toistuvasti valitsemaan seuraava askel. Sen tavoitteet, työkalut, käyttöoikeudet, pysäytysehdot ja ympäristö on suunnitellut ihmiset.

Se ei myöskään takaa yleistä älykkyyttä. Agentti voi olla erittäin kykenevä kapeassa ympäristössä ja hauras, kun käyttöliittymä, data tai tehtävä muuttuvat. Autonomia tulisi siksi kalibroida todistetun suorituskyvyn perusteella, ei sen perusteella, kuinka sujuvalta malli kuulostaa.

Mitä pitää muistaa agenttisesta AI:sta

Agenttinen AI muuttaa mallin pelkäksi vastausgeneraattoriksi osaksi tavoitekeskeistä järjestelmää. Määrittävä piirre ei ole tietty malli tai protokolla; se on suljettu silmukka, jossa järjestelmä valitsee toimenpiteet, käyttää työkaluja, havainnoi tapahtuneen ja sovittaa.

Tehokkaimmat agentit yhdistävät joustavuuden tiukkaan laajuuteen, vähimmän oikeuksien käyttöön, näkyviin polkuihin, tiukkaan arviointiin ja ihmisen hallintaan merkittävissä rajoissa. Keskeinen kysymys ei ole enää vain “Voiko malli tuottaa oikean vastauksen?” vaan myös “Voiko koko järjestelmä saavuttaa oikean lopputuloksen prosessissa, johon voimme luottaa?”