Miksi Agentic AI menee rikki oikeassa maailmassa

Viime vuosina olemme seuranneet agentic AI -järjestelmien tuottamia vaikuttavia demoja. Ne kirjoittavat koodia, joka läpäisee testitapaukset. Ne etsivät verkosta ja vastaavat monimutkaisiin kysymyksiin. Ne navigoivat ohjelmistoliittymiä hämmästyttävällä tarkkuudella. Jokainen konferenssiesitelmä, jokainen lehdistötiedote, jokainen benchmark-raportti korostaa agentic AI:n nousua.

On kuitenkin ongelma, joka piileeksi näiden vaikuttavien demojen alla. Kun nämä samat järjestelmät siirtyvät kontrolloiduista ympäristöistä todelliseen maailmaan, ne usein epäonnistuvat tapoja, joita benchmarkit eivät olisi voineet ennustaa. Koodigeneraattori, joka toimi täydellisesti 100 kohdennetussa esimerkissä, alkaa tuottaa virheitä reunatapauksissa, joita se ei ole koskaan nähnyt. Verkkohakujärjestelmä, joka saavutti 85 %:n osumatarkkuuden laboratoriossa, hakee yhä vähemmän relevantteja tuloksia, kun käyttäjien käyttäytymisen muuttuu. Suunnittelujärjestelmä, joka koordinoi kymmenen API-kutsua moitteettomasti testauksen aikana, menee rikki, kun se kohtaa odottamattoman API-vastausmuodon.

Nämä järjestelmät eivät epäonnistu, koska niillä ei ole tarpeeksi älykkyyttä, vaan koska niillä ei ole sopeutumiskykyä. Ongelma piileeksi siinä, miten AI-agentit oppivat ja mukautuvat. Vaikka huipputeknologiset järjestelmät perustuvat massiivisiin perusmalleihin, pelkästään älykkyys ei riitä. Erityistehtävien suorittamiseksi agentin on kyettävä sopeutumaan. Nykyiset agentic AI -järjestelmät eivät voi tehdä tätä, koska niiden suunnittelussa ja koulutuksessa on rakenteellisia rajoituksia. Tässä artikkelissa tutkimme näitä rajoituksia ja sitä, miksi ne ovat edelleen olemassa.

Kyvykkyyden illusio demoissa

Nykyisen AI:n vaarallisimman epäonnistumistilan on kyvykkyyden illusio. Lyhyet demot usein piilottavat todellisen monimutkaisuuden. Ne toimivat puhdistetuilla tietokannoilla, ennustettavilla API:lla ja kapeilla tehtävänäkymillä. Tuotantoympäristöt ovat vastakkaisia. Tietokannat ovat epätäydellisiä, schemat muuttuvat ilmoittamatta, palvelut ajautuvat umpeen, käyttöoikeudet ovat ristiriidassa ja käyttäjät kysyvät kysymyksiä, jotka rikkovat järjestelmän perusoletukset.

Tässä vaiheessa tuotannon monimutkaisuus kasvaa merkittävästi. Yksittäinen reunatapaus, joka esiintyy kerran demossa, voi esiintyä tuhansia kertoja päivässä käytössä. Pienet todennäköisyysvirheet kertyvät. Agentti, joka on “pääosin oikein”, muuttuu nopeasti epäluotettavaksi todellisissa toimintaympäristöissä.

Ongelman ydin on jäädytettyjen perusmallien riippuvuus. Nämä mallit ovat erinomaisia mallien täydentämisessä, mutta agenteille tyypillinen käyttäytyminen on järjestelmällistä ja tilallista. Jokainen toiminta riippuu edellisen toiminnan tuloksesta. Tällaisissa ympäristöissä tilastollinen epävarmuus kasvaa nopeasti. Pieni virhe alkuvaiheessa voi johtaa virhelihoihin, umpikujiin tai tuhoisiin toimiin myöhemmin. Tämän vuoksi agentit, jotka näyttävät kyvykkäiltä arvioinnin aikana, heikkenevät nopeasti käyttöön otettaessa.

Ongelma ei ole puuttuva ominaisuus. Se on, että yleispätevät mallit pyydetään toimimaan alan asiantuntijoina ilman, että niille annetaan mahdollisuutta oppia ympäristöstään.

Yleisestä älykkyydestä sijoittuneeseen osaamiseen

Perusmallit on suunniteltu yleisiksi. Ne koodaavat laajaa tietoa ja joustavia päättelymallineita. Tuotantoagentit sen sijaan on oltava sijoittuneita. Niiden on ymmärrettävä tietyn organisaation ja sen työkalujen erityiset säännöt, rajoitukset ja virhetilanteet. Ilman tätä ne muistuttavat henkilöä, joka on lukenut jokaisen käsikirjan, mutta ei ole koskaan työskennellyt työpaikalla.

Tässä kuilussa on tarve miettiä sopeutumista uudelleen. Nykyiset menetelmät jakaantuvat kahteen laajaan, virheelliseen leiriin: joko koulutetaan ydin-AI-agenttia itseään tai säätellään ulkoisia työkaluja, joita se käyttää. Kumpikaan lähestymistapa ei ratkaise ongelmaa, vaan luo uusia ongelmia. Tämä jättää meidät järjestelmien kanssa, jotka ovat joko liian jähmeitä, liian kalliita tai liian epävakaita tuotantoympäristöissä, joissa tärkeintä on johdonmukaisuus ja kustannusten hallinta.

Monoliittisen agentin ansa

Ensimmäinen lähestymistapa, agentin sopeutuminen, yrittää tehdä ydinsisällön älykkäämmäksi työkalujen käytössä. Se opettaa AI:lle tiettyjä taitoja, joita se tarvitsee työkalujen käyttämiseen. Tutkijat luokittelevat tämän edelleen kahteen luokkaan. Jotkut menetelmät kouluttavat agenttia suoraan palautteen avulla työkaluista, kuten koodikääntäjän onnistumisesta tai hakukoneen tuloksista. Toiset kouluttavat sitä lopputuloksen oikeellisuuden perusteella, kuten oikean tai väärän vastauksen perusteella.

Järjestelmät kuten DeepSeek-R1 ja Search-R1 osoittavat, että agentit voivat oppia monimutkaisia, monivaiheisia strategioita työkalujen käyttöön. Tämä valta kasvaa kuitenkin merkittävän kustannuksen kera. Miljardien parametrin mallien kouluttaminen on laskennallisesti ylenmäärin. Kriittisemmin, se luo jähmeän, hauraan älykkyyden. Yhdistämällä agentin tiedon ja työkalujen sääntöjä, tämä lähestymistapa tekee päivitykset hitaiksi, riskialttiiksi ja soveltumattomiksi nopeasti muuttuviin liiketoimintatarpeisiin. Agentin sopeuttaminen uuteen tehtävään tai työkaluun altistaa “katastrofaalisen unohdus“, jossa se menettää aikaisemmin hallitut taidot. Se on kuin tarvitsisi rakentaa koko tehdas uudelleen jokaisen uuden tuotteen lisäämisen yhteydessä.

Hauras työkalupakkausongelma

Tunnistamalla nämä rajoitukset, toinen tärkeä lähestymistapa, työkalujen sopeutuminen, jättää ydinasentin jäädytettyksi ja optimoi sen sijaan työkaluja sen ekosysteemissä. Tämä on enemmän modulaarista ja kustannustehokkaampaa. Jotkut työkalut koulutetaan yleisesti, kuten standardi hakijan palauttin, ja liitetään siihen. Toiset ovat erityisesti sääteltyjä vastaamaan jäädytetyn agentin tarpeita, oppimalla sen tuloksista ja parantamalla apuvälineitä.

Tämä paradigma tarjoaa valtavan tehokkuuden potentiaalia. Merkittävä tutkimus s3 -järjestelmästä osoitti tämän lähestymistavan potentiaalia. Se koulutti pienen, erikoistuneen “etsijä”-työkalun tukemaan jäädytettyä LLM:ää ja saavutti suorituskyvyn, joka oli vertailukelpoinen täysin uudelleenkoulutetun agentin, kuten Search-R1, kanssa, mutta käytti 70 kertaa vähemmän koulutusdataa. Intuitio on, että miksi opettaa fyysikko-genius kirjastokatalogin käyttöön? Sen sijaan opetaan parempi kirjastonhoitaja, joka ymmärrettiin fyysikon tarpeet.

Hauras työkalupakkausmalli on kuitenkin omalla tavallaan rajoitettu. Koko järjestelmän kyvyt ovat lopulta rajoitettuja jäädytetyn LLM:n sisäisellä päättelykyvylle. Voit antaa kirurgille terävän skalppelin, mutta et voi tehdä ei-kirurgista henkilöstä sydänkirurgia. Lisäksi useiden sopeutuvien työkalujen orkesterointi muodostaa monimutkaisen integraatihaasteen. Työkalu A saattaa optimoida yhtä mittaria, joka rikkoo työkalu B:n syötevaatimuksia. Järjestelmän suorituskyky riippuu haurasta tasapainosta yhteenkytketyissä komponenteissa.

Sopeutumishaaste

Tämä johtaa meidät agentic AI -paradigmojen sopeutumisvajauksen ytimeen. Joko sopeutamme agenttia tai työkaluja, mutta ei molempia samanaikaisesti ja vakaasti. Tuotantoympäristöt eivät ole staattisia. Uudet tiedot, uudet käyttäjävaatimukset ja uudet työkalut ilmestyvät jatkuvasti. AI-järjestelmä, joka ei voi kehittyä sileästi ja turvallisesti sekä “aivonsa” että “kätensä”, menee lopulta rikki.

Tutkijat tunnistavat tämän sopeutumistarpeen seuraavana etappina. Se on kuitenkin monimutkainen haaste. Jos sekä agentti että työkalut oppivat samanaikaisesti, kuka saada kunnian tai syytön epäonnistumisesta? Miten estetään epävakaa palautekierto, jossa agentti ja työkalut jahtaavat toistensa muutoksia ilman, että parannetaan koko järjestelmän suorituskykyä? Varhaiset yritykset tästä, kuten agentin ja työkalun suhteen käsittely yhteistyössä toimivana moniagenttijärjestelmänä, paljastavat haasteen. Ilman vankkoja ratkaisuja kunnian ja vakauden määrittämiselle jopa kehittynein agentic AI on joukko vaikuttavia, mutta erillisiä kykyjä.

Muisti ensisijaisena järjestelmänä

Yksi sopeutumisvajauksen näkyvimmistä merkeistä on staattinen muisti. Monet käyttöön otetut agentit eivät parane ajan myötä. Ne toistavat samat virheet, koska ne eivät voi sisäistää kokemuksia. Jokainen vuorovaikutus käsitellään kuin se olisi ensimmäinen.

Tuotantoympäristöissä vaaditaan sopeutuvaa muistia. Agenttien on kyettävä episodinen muisti pitkän aikavälin tehtävien käsittelyyn, strateginen muisti suunnitelmien tarkentamiseen ja operatiivinen muisti virheiden toistamisen välttämiseksi. Ilman tätä agentit tuntuvat haurailta ja epäluotettavilta.

Muisti tulisi käsitellä säätönä komponenttina, ei passiivisena lokina. Järjestelmät, jotka tarkastelevat kokemuksia, oppivat virheistä ja sopeuttavat käyttäytymistään, ovat paljon vakaampia.

Uudet riskit sopeutuvista järjestelmistä

Sopeutuminen tuo omat riskinsä. Agentit voivat oppia optimoimaan mittareita eikä tavoitteita, ilmiö, joka tunnetaan loisiumissopeutumisena. Ne voivat näyttää menestyviltä, mutta heikentävät samalla perustavaa tavoitetta. Moniagenttijärjestelmissä komprometoidut työkalut voivat manipuloida agenteja hienovaraisen syötteen injektion tai harhaanjohtavan datan avulla. Näiden riskien torjumiseksi agenttien on oltava robusteja verifioimismekanismeja. Toimet on oltava testattavissa, peruuttavissa ja tarkasteltavissa. Turvallisuuskerrokset agenttien ja työkalujen välillä varmistavat, että virheet eivät leviä hiljaisesti.

Pohjimmiltaan

Agentic AI:n toimimiseksi oikeassa maailmassa se ei voi olla vain älykäs, se on oltava sopeutumiskykyinen. Useimmat agentit menevät rikki tänään, koska ne ovat “jäädytettyjä” ajassa, kun taas oikea maailma on monimutkainen ja jatkuvasti muuttuva. Jos AI ei voi päivittää muistiaan ja parantaa virheistään, se menee lopulta rikki. Luotettavuus ei tule täydellisestä demosta, se tulee sopeutumiskyvystä.