Mikä on agenttinen tekoäly? Kuinka järjestelmät suunnittelevat, käyttävät työkaluja ja suorittavat tehtäviä

Agenttinen tekoäly on tekoäly, joka voi tavoitella päämäärää päättämällä, mitä tehdä seuraavaksi, käyttämällä työkaluja, tarkkailemalla tulosta ja säätämällä lähestymistapaansa. Sen sijaan, että se tuottaisi yhden vastauksen ja pysähtyisi, agentti toimii ohjausloopin kautta, kunnes se suorittaa tehtävän, saavuttaa rajan tai palauttaa työn ihmiselle.

Tämä ero on merkittävä, koska tärkeimmät tekoälyjärjestelmät siirtyvät keskustelun ulkopuolelle. Ne voivat hakea tietoa eri lähteistä, kysyä tietokannoista, suorittaa koodia, käyttää ohjelmistoja, päivittää liiketoimintajärjestelmiä ja koordinoida muita agenteja. Suurempi autonomia voi avata hyödyllisempää työtä, mutta se tekee myös luotettavuudesta, oikeuksista, valvonnasta ja ihmisen hallinnasta paljon tärkeämpiä.

Mikä tekee tekoälyjärjestelmästä agenttisen?

Ei ole yhtä ainoaa kynnysarvoa, joka muuttaa mallin agentiksi. Agenttiys on spektrissä. Toisessa päässä kielimalli vastaa kehotteeseen. Toisessa päässä järjestelmä saa laajan tavoitteen, jakaa sen osiin, valitsee työkalut, reagoi uuteen tietoon ja jatkaa pitkän ajan kuluessa.

Autonomia on myös monidimensionaalista. Yksi agentti voi valita omat tutkimuskyselynsä, mutta ei pysty julkaisemaan mitään; toinen voi noudattaa kiinteää suunnitelmaa, mutta sillä on oikeus muuttaa tuotantojärjestelmää. Agenttisuuden arvioiminen edellyttää siis erillistä tarkastelua suunnittelun vapauden, työkalujen pääsyn, toiminta-ajan, palautumiskyvyn ja virheen seurauksien osalta.

Hyödyllinen testi on kysyä, kuka määrää polun. Perinteisessä työnkulussa kehittäjä määrittelee järjestyksen etukäteen: suorita vaihe A, sitten B, sitten C. Agenttisessa järjestelmässä mallilla on jonkin verran harkintavaltaa siitä, mitkä vaiheet ovat tarpeen ja missä järjestyksessä. Anthropicin opas tehokkaiden agenttien rakentamiseen tekee saman käytännöllisen eron ennalta määriteltyjen koodipolkujen ja dynaamisesti omaa prosessiaan ja työkalujen käyttöä ohjaavien agenttien välillä.

Useimmat tuotantoagentit yhdistävät viisi elementtiä:

• Malli: päättely- ja kielimoottori, joka tulkitsee tavoitteen ja valitsee toimenpiteet.
• Ohjeet: järjestelmän säännöt, tehtävän kuvaus, politiikat ja menestyksen määritelmät.
• Työkalut: toiminnot, jotka mahdollistavat agentin hakea, laskea, noutaa dataa, kirjoittaa tiedostoja, kutsua API-rajapintoja tai käyttää käyttöliittymiä.
• Tilanne tai muisti: tieto, joka siirtyy vaiheesta toiseen ja joskus istuntojen yli.
• Ohjausloop: ajoaika, joka palauttaa tulokset mallille ja päättää, jatketaanko, yritetäänkö uudelleen, pyydetäänkö apua tai lopetetaanko.

Agentin silmukka: suunnittele, toimi, havainnoi ja sopeudu

Vaikka toteutukset vaihtelevat, agentti noudattaa tyypillisesti toistuvaa nelivaiheista mallia.

1. Tulkitse tavoite

Agentti tunnistaa halutun lopputuloksen, olennaiset rajoitteet ja puuttuvan tiedon. Selkeä tehtävänmäärittely sisältää paitsi sen, mitä tehdä, myös sen, milloin se katsotaan valmiiksi. “Tutki tätä yritystä” on epäselvä; “tuota viitteellinen vertailu sen kolmen viimeisimmän vuosikerran raportista ja merkitse merkittävät muutokset” luo testattavan tavoitteen.

2. Valitse toiminto

Malli voi vastata suoraan, luoda suunnitelman, kutsua työkalun, delegoida alitehtävän tai pyytää tarkennusta. Toiminto ilmaistaan yleensä rakenteellisessa muodossa, jotta ohjelmisto voi tarkistaa sen ennen suoritusta. Tässä agenttisuunnittelu muuntaa todennäköisyysmallin tuloksen hallituksi järjestelmätoimeksiannoksi.

3. Havainnoi tulos

Ajoaika palauttaa työkalun tuloksen, virheen, muutetun käyttöliittymän tai muun ympäristön palautteen. Agentti lisää havainnon työskentelykontekstiinsa. Jos haku antaa heikkoa todistusaineistoa tai API hylkää argumentin, seuraavan päätöksen tulisi heijastaa tätä uutta tilaa.

4. Säädä tai lopeta

Agentti arvioi edistymistä ja valitsee toisen toiminnon. Se voi tarkistaa suunnitelmansa, kokeilla toista työkalua, vahvistaa tuloksen tai päätellä, että tavoite on saavutettu. OpenAI kuvaa tällaista vuorovaikutusta silmukkana mallin, sen työkalujen ja ympäristön välillä keskustellessaan siirtymisestä mallista agentiksi.

Tämä malli liittyy ReAct-lähestymistapaan, jossa päättely ja toiminnot vuorottelevat siten, että ulkoiset havainnot voivat päivittää myöhempää päättelyä. Alkuperäinen ReAct-paperi auttoi vakiinnuttamaan suunnittelun vaihtoehtona täydellisen suunnitelman luomiselle ilman ympäristöpalautetta.

Agenttinen tekoäly vs. generatiivinen tekoäly

Generatiivinen tekoäly kuvaa järjestelmiä, jotka luovat uutta sisältöä, kuten tekstiä, kuvia, ääntä, videota tai koodia. Agenttinen tekoäly kuvaa, miten järjestelmä pyrkii tavoitteeseen. Kategoriat limittyvät, mutta eivät ole toistensa korvattavissa.

Generatiivinen malli voi laatia sähköpostin ilman, että se on agentti. Agentti voi käyttää generatiivista mallia sähköpostin luonnosteluun, etsiä oikean vastaanottajan, tarkistaa politiikan, luoda liitteen ja sijoittaa viestin tarkistusjonoon. Malli tarjoaa älykkyyden; ympäröivä agenttijärjestelmä tarjoaa työkalut, tilan, orkestroinnin ja hallinnan.

Missä agenttiset järjestelmät ovat hyödyllisiä

Agentit ovat arvokkaimpia, kun tavoitteen polkua ei voida määritellä täysin etukäteen, mutta edistystä voidaan silti havainnoida ja tarkistaa. Yleisiä esimerkkejä ovat:

• Tutkimus: useiden lähteiden haku, aukkojen täyttäminen, todisteiden vertailu ja viitteellisen raportin kokoaminen.
• Ohjelmistokehitys: koodivaraston selaaminen, koodin muokkaus, testien suorittaminen, virheiden tulkitseminen ja iterointi.
• Asiakastoiminnot: tilin kontekstin kerääminen, politiikan soveltaminen, ratkaisuehdotuksen tekeminen ja poikkeamien eskalointi.
• Data-analyysi: datasetien valinta, kyselyjen kirjoittaminen, poikkeavuuksien tarkistus, visualisointien tuottaminen ja löydösten selittäminen.
• IT-toiminnot: hälytysten tutkiminen, diagnostiikan kerääminen, korjaustoimenpiteiden suositteleminen ja hyväksyttyjen runbookien suorittaminen.
• Hallinnollinen työ: kalentereiden, asiakirjojen, lomakkeiden, hyväksyntöjen ja päivitysten koordinointi järjestelmien välillä.

Kiinteä työnkulku on usein parempi, kun prosessi on vakaa ja jokainen vaihe on tiedossa. Agentin lisääminen, kun tavallinen automaatio riittää, voi nostaa kustannuksia ja vaihtelua ilman todellista lisäarvoa.

Milloin sinun tulisi käyttää agenttia automaation sijaan?

Paras arkkitehtuuri riippuu kahdesta kysymyksestä: kuinka ennustettava polku on ja kuinka kallista huono toiminto on. Järjestelmä ei tule kehittyneemmäksi pelkästään siksi, että se antaa mallille enemmän vapautta. Monissa korkean riskin ympäristöissä vahvin suunnittelu yhdistää tarkoituksellisesti deterministisen ohjelmiston kapeaan agenttiseen komponenttiin.

Hyödyllinen kompromissi on rajoitettu agenttiys. Agentti voi päättää, miten kerätä tietoa, mitä hyväksyttyä työkalua kutsua tai miten tarkistaa luonnoksen, kun taas deterministinen koodi pakottaa skeemat, käyttöoikeussäännöt, budjetit ja lopullisen hyväksynnän. Tämä säilyttää sopeutumiskyvyn ilman, että todennäköisyysmallia pyydetään valvomaan omaa auktoriteettiaan.

Miksi agenttinen tekoäly on vaikeaa

Agentti voi tehdä paikallisesti uskottavan päätöksen, joka ohjaa koko tehtävän väärään suuntaan. Pienet virheet voivat kasautua pitkän polun aikana, kun taas vakuuttava lopullinen vastaus voi peittää virheellisen tai epävarman prosessin.

Tämä kertautuva vaikutus on yksi syy siihen, että agenttien arviointi poikkeaa tavallisen vastauksen arvioinnista. Epäonnistunut tehtävä voi johtua mallin suunnitelmasta, harhaanjohtavasta työkalutuloksesta, virheellisestä tilapäivityksestä, ennenaikaisesta pysäytyspäätöksestä tai epävarmasta käyttöoikeusrajasta. Vastaavasti oikea lopullinen vastaus voi olla hauraan polun tuote, joka epäonnistuu seuraavalla suorituksella. Tiimit tarvitsevat siis sekä tulosmittareita että polun tasoista todistusaineistoa.

Keskeisiä haasteita ovat:

• Luotettavuus: sama tehtävä voi tuottaa erilaisia polkuja ja tuloksia toistuvissa kokeissa.
• Perustaminen: malli voi ymmärtää väärin työkalun tuloksen, käyttöliittymän tilan tai käyttäjän todellisen tarkoituksen.
• Käyttöoikeudet: hyödyllinen agentti saattaa tarvita merkittävää pääsyä, mutta laaja pääsy suurentaa virheen seurauksia.
• Prompt-injektio: epäluotettava sisältö voi sisältää ohjeita, jotka on suunniteltu ohjaamaan agenttia tai paljastamaan dataa.
• Kustannus ja viive: jokainen lisämalli-kutsu, työkalun kutsu, tarkistusvaihe tai al-agentti lisää resursseja ja aikaa.
• Arviointi: pelkän lopullisen tuloksen arviointi voi ohittaa hauraan päättelyn, politiikkarikkeet tai onnekkaan onnistumisen.

Kuinka pitää tekoälyagentti hallinnassa

Turvallinen autonomia on suunniteltu, ei oletettu. Agentin tulisi saada vain ne vähimmäistyökalut ja -data, joita tehtävä vaatii. Korkean vaikutuksen toiminnot—kuten viestin lähettäminen, rahansiirto, datan poistaminen tai tuotantojärjestelmien muuttaminen—tulisi vaatia eksplisiittisen hyväksynnän tai tiukasti rajoitetun politiikan.

Vahvat järjestelmät erottavat myös suunnittelun toteutuksesta. Työkalujen argumentit voidaan tarkistaa skeemoja vastaan; toiminnot voidaan suorittaa hiekkalaatikoissa; arkaluontoiset toiminnot voidaan sallittujen listalle; ja tuotokset voidaan tarkistaa ennen kuin ne syötetään toiseen järjestelmään. Aika-, token- ja toimintabudjetit estävät sekaisin olevan agentin silmukoimasta loputtomiin.

Havainnollisuus on yhtä tärkeää. Tiimit tarvitsevat kirjanpidon ohjeista, työkalukutsuista, välihavainnoista, hyväksynnöistä, virheistä ja lopullisesta tuloksesta. Tämä polku mahdollistaa virheenkorjauksen ja arvioinnin. Anthropicin työ luotettavien agenttien käytännöistä korostaa selkeitä auktoriteettirajoja ja merkityksellistä ihmishallintaa keskeisinä suunnitteluvaatimuksina.

Palautettavuuden tulisi muokata näitä hallintoja. Julkisen verkkosivun lukeminen on helppo peruuttaa, koska se ei muuta mitään; palautuksen antaminen, asiakkaan sähköpostittaminen tai pilviresurssin poistaminen ei ole. Kypsä agenttijärjestelmä luokittelee toiminnot niiden seurauksen perusteella, vaatii vahvempaa valtuutusta vaikeammin peruutettaville toiminnoille ja antaa ajoaikaan—ei malliin—lopullisen päätöksen siitä, sallitaanko suoritus.

Mitä agenttinen tekoäly ei tarkoita

“Agenttinen” ei tarkoita tietoista, itseä tietävää tai itsenäisesti motivoitunutta. Järjestelmän näennäinen aloitteellisuus johtuu mallista, joka toimii ohjelmistossa ja pyytää sitä toistuvasti valitsemaan seuraavan askeleen. Sen tavoitteet, työkalut, oikeudet, pysäytysehdot ja ympäristö on kaikki suunnitellut ihmiset.

Se ei myöskään takaa yleistä älykkyyttä. Agentti voi olla erittäin kykenevä kapeassa ympäristössä, mutta hauras, kun käyttöliittymä, data tai tehtävä muuttuu. Autonomia tulisi siksi kalibroida todistetun suorituskyvyn perusteella, ei sen perusteella, kuinka sujuvalta malli kuulostaa.

Loppupäätelmä

Agenttinen tekoäly muuttaa mallin pelkästä vastausgeneraattorista osaksi tavoitteellista järjestelmää. Määrittelevä piirre ei ole tietty malli tai protokolla; se on suljettu silmukka, jossa järjestelmä valitsee toimenpiteet, käyttää työkaluja, havainnoi tapahtumat ja sopeutuu.

Tehokkaimmat agentit yhdistävät joustavuuden tiukkaan laajuuteen, vähiten oikeuksia omaavaan pääsyyn, näkyviin polkuihin, tiukkaan arviointiin ja ihmisen hallintaan merkittävissä rajoissa. Keskeinen kysymys ei ole enää vain “Voiko malli tuottaa oikean vastauksen?” vaan myös “Voiko koko järjestelmä saavuttaa oikean lopputuloksen prosessin kautta, johon voimme luottaa?”