Ajatusjohtajat

Luotettavuus on todellinen testi agenttiselle tekoälylle

Helen Gu
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatLuotettavuus ratkaisee, pääseekö agenttinen tekoäly irti pilotointivaiheesta ja…
Näytä lisää
  • Luotettavuus ratkaisee, pääseekö agenttinen tekoäly irti pilotointivaiheesta ja todelliseen tuotantomittakaavaan.
  • Agentit kasvattavat riskiä, koska virheellinen konteksti ja ketjutetut työkalut muuttavat pienet virheet kalliiksi häiriötilanteiksi.
  • Keskitetty näkyvyys ja ihmisen hyväksyntä pitävät hajautetun agentin autonomian turvallisena ja vastuullisena.

Viimeisen kahden vuoden ajan ala on esittänyt yhden kysymyksen: ovatko AI-agentit riittävän kykeneviä hoitamaan oikeaa työtä? Voimme lopettaa kysymisen. Tiedämme, että ne voivat, mutta meidän on keskityttävä tarkasti siihen, pystymmekö tunnistamaan, milloin agentti on tekemässä kallista virhettä – ja pystymmekö pysäyttämään sen ennen kuin se tapahtuu.

Tuotannossa tapahtuvat pahimmat epäonnistumiset eivät yleensä näytä puhtaalta mallivirheeltä. Agentti voi suorittaa jokaisen API‑kutsun onnistuneesti ja silti toimia vanhentuneesta kontekstista, yrittää uudelleen epäonnistuvaa työkalua tai pyrkiä toimintaan, joka rikkoo sääntöä. Luotettavuus on se tekijä, joka määrää, pääseekö agenttinen tekoälyohjelma pilotin vaiheesta eteenpäin.

“AI:n tila vuonna 2025: Agentit, innovaatiot ja transformaatio” -raporttiin sisältyvän McKinsey-kyselyn mukaan 62 % organisaatioista kokeilee AI‑agentteja, mutta vain noin kymmenen prosenttia ei skaalaa missään näistä toiminnoista. Työntekijöille agentin toimivuuden näyttäminen on helppoa. Sen turvallinen käyttö todellisissa tiedoissa ja yhdistetyissä järjestelmissä ei ole.

Miksi agenttinen tekoäly lisää riskiä

Agentit yhdistävät todennäköisyyspohjaisen päättelyn, työkalujen käytön ja jonkinasteisen autonomian. Vaikka tämä tekee niistä hyödyllisiä, se myös altistaa yritykset virheille, jotka kasaantuvat nopeammin kuin perinteisessä sovelluksessa.

Konteksti

Agentit voivat toimia vain annettuun kontekstiin perustuen. Siksi, jos konteksti on puutteellinen, vanhentunut tai virheellinen, varhainen virheellinen tulkinta vaikuttaa kaikkiin myöhempiin vaiheisiin. Virheellinen chatbot‑vastaus on ärsyttävä. Virheellinen tulkinta, joka muuttaa käyttöoikeuden tai koskettaa infrastruktuuria, on tapaus. On tärkeää tietää, onko agentti käyttänyt oikeaa evidenssiä, noudattanut politiikkaa ja pysynyt hyväksyttävän vaikutusalueen sisällä, jos jotain meni pieleen.

Tietopohjat

Agentit liittyvät myös tietopohjiin, tukijärjestelmiin ja maksualustoihin; jokainen yhteys laajentaa hyökkäyspintaa. Agentti saattaa kutsua väärää työkalua, kutsua oikeaa työkalua väärässä järjestyksessä tai toimia haetun sisällön piilotettujen ohjeiden mukaan. Nämä ovat tunnistettuja epäonnistumistapoja, ja ne sisältävät sepitettyä tietoa ja tietoturva‑haavoittuvuuksia, jotka syntyvät siitä, miten agentit ketjuttavat työkaluja ja kontekstia yhteen.

Vihreä hallintapaneeli voi pettää: infrastruktuuri näyttää kunnossa, kun taas agentti kysyy hiljaisesti samaa työkalua yhä uudelleen. Tämä on varhainen merkki poikkeamasta, ei tavallinen katkos.

Ei-determinismi

Ei-determinismi tekee myös tapausten käsittelystä vaikeampaa. Perinteisen palvelun vika voidaan yleensä toistaa pyynnön tunnuksella ja tunnetulla ohjelmistoversiolla. Agentin suoritus riippuu malliversiosta, sen hakemista asiakirjoista, sen saamista työkalutuloksista ja välivaiheiden päätösketjusta. Ilman tallennetta siitä, mitä agentti vastaanotti ja yritti tehdä, perimmäisen syyn analyysi ja hallinnointi vaikeutuvat merkittävästi.

Kustannus ja viive

Kustannus ja viive kertovat saman tarinan eri näkökulmasta. Äkillinen hyppy tokenien käytössä tai uudelleenyrittämisessä voi viitata huonoon suunnitelmaan tai silmukkaan, vaikka käyttäjä lopulta saisi vastauksen. Inferenssikustannukset ovat laskeneet jyrkästi viimeisten vuosien aikana, ja halvempi inferenssi helpottaa tehottoman käyttäytymisen sivuuttamista, kunnes se toistuu tuhansissa työnkuluissa. Kohtele kustannuksia, viivettä ja uudelleenyrittämisiä luotettavuusmerkkeinä – ei pelkästään talousmittareina.

Hajautettu tekoäly tarvitsee edelleen keskitetyn näkyvyyden

Hajautuminen epäonnistuu ilman selkeitä suojarajoja. Aseta työnkulun ja eskaloinnin omistajuus eturintaman tiimeille, mutta pidä identiteetti, pääsy ja tapausten käsittely yritystasolla. Taloustiimi pystyy erottamaan perustellun laskupoikkeaman ja virheellisen maksupäätöksen tavalla, johon geneerinen vertailuarvo ei koskaan pysty. Samassa kyselyssä McKinsey havaitsi, että organisaatiot, jotka raportoivat todellista AI-vaikutusta, olivat lähes kolminkertaisesti todennäköisemmin uudistaneet työnkulunsa sen sijaan, että olisivat lisänneet AI:n olemassa olevaan järjestelmään.

Siitä huolimatta kompromissi on todellinen: omistajuus hämärtyy nopeasti, kun tapaus ylittää järjestelmiä. Ratkaisu on jaettu operatiivinen näkymä jokaisesta agentista, sen työkaluista, tietoihin pääsystä ja tapaushistoriasta.

Hajautetut arkkitehtuurit tekevät koko kuvan menettämisestä helppoa, kun jokin rikkoontuu. Monet tiimit näkevät token-määrän ja kustannukset, mutta eivät näe, onko agentti todella saavuttanut suunnitellun lopputuloksen turvallisesti. Kun työnkulun tiedot sijaitsevat eri paikoissa, tiimit päätyvät jahtaamaan oireita syiden sijaan.

Standardoidut telemetriasignaalit, kuten mallin identiteetti ja työkalukutsut, voivat auttaa. Käyttäytymisen vertailutasot, kuten työnkulun normaali askelmäärä, ovat myös tarpeen, jotta voidaan erottaa hyödyllinen sinnikkyys jumiutuneesta järjestelmästä. Arviointi ei ole kertaluonteinen portti ennen lanseerausta. Se on jatkuva silmukka.

Miltä luotettava tekoäly todellisuudessa näyttää tuotannossa

Luotettava AI tarkoittaa virheiden hallintaa, ei niiden välttämistä. Tiimit tarvitsevat näkyvyyden toimintaan; hälytykset, kun suorituskyky poikkeaa; ja rajoitussuunnitelman, kun asiat menevät pieleen. Kaikkein tärkeintä on, että jokaisella agentilla on selkeät suojakaiteet pääsyn ja autonomisten toimien ympärillä. Ne myös tarvitsevat ihmisen hyväksynnän. 

Aloita matalan riskin toimilla, jotka voidaan peruuttaa. Pidä merkittävät toimet, kuten tuotantomuutokset ja taloudelliset transaktiot, todellisten kontrollien takana. Merkittävät työnkulut on voitava rekonstruoida jälkikäteen, mukaan lukien agentin hakema konteksti, kutsutut työkalut, saadut hyväksynnät sekä se, oliko lopputulos todella oikea.

Perinteisten palvelutason tavoitteiden on laajennuttava kattamaan myös agentin laatu ja turvallisuus; ne sisältävät vahvistetun tehtävän onnistumisprosentin, politiikan noudattamisasteen, ihmiselle siirtämisen osuuden, onnistuneen tehtävän kustannuksen sekä sen, kuinka usein ei-toivottuja lopputuloksia tapahtuu. Kynnysarvojen tulisi vaihdella käyttötapauksen mukaan. Sisäinen tietämyksen avustaja voi sietää erilaista virheprofiilia kuin säänneltyjä tietoja käsittelevä agentti.

Hyödyllisimmät luotettavuusjärjestelmät oppivat havaitsemaan ehdot, jotka yleensä edeltävät vikaa, kuten poikkeuksellinen hyppy uudelleenyritysten määrässä tai polku, joka historiallisesti on johtanut ihmisen tekemiin ohituksiin. Matala-riskinen työnkulku saattaa käynnistää automaattisen korjauksen. Korkeamman riskin työnkulun tulisi pysähtyä ja ohjata päätös valtuutetulle henkilölle. Tavoitteena ei ole autonominen toiminta itsessään. Tavoitteena on nopeampi, turvallisempi toiminta, kun todisteet tukevat sitä.

AI SRE sulkee silmukan

Tässä kohtaa AI SRE astuu kuvaan. AI SRE -agentti voi koota tapahtumien aikajanan, verrata nykyistä käyttäytymistä menneisiin tapahtumiin ja valmistella suositellun toimenpiteen, kun organisaatio säilyttää hallitun korjaustoimenpiteen peruutettaville tehtäville ja ihmisen hyväksynnän kaikille merkittäville toiminnoille.

AI:n omaksuminen etenee nopeasti. Mutta omaksuminen ei ole sama asia kuin operatiivinen kypsyys. Yritykset, jotka skaalaavat agenttipohjaista AI:ta menestyksekkäästi, eivät välttämättä ole niitä, jotka ajavat kaikkein kyvykkäintä mallia erillään muusta järjestelmästä. Ne ovat yritykset, jotka näkevät, miten niiden agentit toimivat koko organisaatiossa, havaitsevat varhaiset poikkeaman merkit ja puuttuvat asiaan ennen kuin pieni virhe muuttuu asiakas-, turvallisuus- tai sääntelytapahtumaksi. 

Tuo on AI SRE:n täyttämä rooli: yhdistää hajautettu innovaatio keskitettyyn näkyvyyteen ja muuttaa agenttipohjaisen AI:n järjestelmäksi, johon yritys voi luottaa.

Helen Gu on InsightFinder AI:n perustaja. Yhtiö havaitsee automaattisesti tekoälymallien ajautumisen, tarjoaa syvällistä diagnostiikkaa ja tekee juurisyyanalyysia monimutkaisissa tekoälyjärjestelmissä.