Babak Hodjat, Cognizantin Chief AI Officer: Paluukeskustelu

Babak Hodjat, Chief AI Officer Cognizantssa, johtaa yrityksen AI Research Labs -laboratorioita, joissa hänen työnsä kattaa agenttisen AI:n, evoluutionaalisen laskennan, hajautetun älykkyyden sekä suurten yritysten käyttöönottoon suunniteltujen AI-järjestelmien kehittämisen. Pitkän linjan AI-tutkija, keksijä ja yrittäjä Hodjat perusti aiemmin Sentient Technologiesin, jossa hän auttoi rakentamaan yhden maailman suurimmista hajautetuista AI-järjestelmistä, ja aiemmin perusti Dejiman, kehittäen agenttipohjaista luonnollisen kielen teknologiaa, joka vaikutti Applen Sirin perustamiseen.

Kun aiemmin keskustelimme Babak Hodjatin kanssa, keskustelumme käsitteli hänen uraansa AI:ssa, evoluutionaalisia lähestymistapoja monimutkaiseen päätöksentekoon, Cognizantin työtä AI:n soveltamisessa ilmasto- ja maankäyttöhaasteisiin sekä AI:n kasvavaa demokratisoitumista yrityksissä. Tässä jatkokeskustelussa huomio siirtyy nopeasti nousevaan agenttipohjaiseen yritykseen. Hyödyntäen teemoja äskettäisestä kirjasta The Agentic Enterprise, Hodjat tarkastelee, miksi arkkitehtuuri saattaa olla tärkeämpää kuin mallin kyvykkyys, miten organisaatiot voivat koordinoida yhä monimutkaisempia AI-agenttiverkkoja, missä keskitetty luottamus ja hallinto sijoittuvat hajautettuihin agenttiekosysteemeihin, ja mitä vielä on muutettava, ennen kuin autonomiset järjestelmät voivat luotettavasti hallita pitkän aikavälin tavoitteita minimaalisella ihmisen puuttumisella.

Urasi kattaa joitakin varhaisimmista älykkäiden agenttien työstä, Dejiman luonnollisen kielen teknologiasta, joka auttoi inspiroimaan Siriä, massiivisten hajautettujen AI-järjestelmien rakentamiseen Sentientissa, ja nykyään toimimiseen Cognizantin Chief AI Officerina. Miten “AI-agentin” määritelmäsi on kehittynyt tämän matkan aikana, ja mitä nykyiset kehittäjät voivat oppia näistä aiemmista agenttipohjaisista järjestelmäsukupolvista?

Määritelmä on pysynyt samana, mutta nykypäivän agenttien kyvykkyydet tarkoittavat, että monet 1990‑luvulla koodattavat perustoiminnot ovat nyt valmiina LLM:ien avulla. Tästä syystä LLM-pohjaiset agentit ovat nykyään standardi, ja kun ihmiset puhuvat agenteista, he olettavat, että niiden käyttöliittymän ja päättelyn ohjaa LLM.

Viimeisessä kirjassasi The Agentic Enterprise väität, että yritysten AI-järjestelmät menestyvät tai epäonnistuvat usein arkkitehtuurinsa vuoksi, eivätkä pelkästään taustalla olevan mallin raakan kyvykkyyden takia. Mitä yritykset tekevät väärin, kun ne olettavat, että voimakkaampaan malliin päivittäminen ratkaisee niiden agenttipohjaiset AI-ongelmat?

Kuten hihnat (eli agentin ei-LLM‑osat) voivat tehdä tai rikkoa koodausagentin, monen agentin järjestelmän arkkitehtuuri on ratkaisevan tärkeä sen menestykselle. Tämä johtuu siitä, että arkkitehtuuri heijastaa kontekstia, jossa agenttien tulisi toimia – ikään kuin rakennusrunko, joka pitää agenttipohjaisen yrityksen koossa. Ilman sitä agentit eivät ole juurtuneet yrityksen toiminnan, datan, työnkulkujen ja prosessien todellisuuksiin. Tämä on jossain määrin verrattavissa yrityksen organisaatiorakenteeseen, joka sisältää työnkuvat, prosessimääritelmät ja viestintäprotokollat työntekijöille.

Olet korostanut, että ympäröivä järjestelmä, mukaan lukien käyttövalvonta, vastuullisuus, orkestrointi, havainnollistettavuus ja valvonta, voi olla tärkeämpää kuin itse malli. Mitä tuotantovalmis agenttipohjainen arkkitehtuuri todellisuudessa tarvitsee, mitä useimmat proof‑of‑concept -käyttöönotot puuttuvat?

Proof of concept -projektit (PoC) ovat usein irti todellisuudesta, joten aluksi meidän on varmistettava, että agentit toimivat ympäristössä, jossa niillä on pääsy yrityksen sisäisiin tietoihin ja sovelluksiin. Tärkeitä kysymyksiä on esitettävä, kuten mitä tietoja ja sovelluksia olemme valmiita antamaan agenttien käyttöön, ja mihin päätöksiin olemme valmiita antamaan agenttien tehdä, jotta järjestelmä on turvallinen ja suojattu, samalla kun odotetut laatu‑ ja tuottavuusparannukset voidaan saavuttaa. Näiden kysymysten vastaamista on vaikea tehdä PoC‑ympäristössä. Lisäksi suojarakenteet ja valvonta voivat olla merkityksellisiä vain, kun agenttipohjainen järjestelmä toimii yhdessä muiden ihmisten tai agenttien prosessien kanssa yrityksessä. Siksi hiekkalaatikkotestaus on tärkeä vaihe siirryttäessä tehokkaasti PoC:sta tuotantoon.

Cognizant on kuvannut “Agent Operating System” -järjestelmän syntyä AI-agenttiverkkojen koordinointiin. Mitä toimintoja tällaisen kerroksen tulisi suorittaa, ja odotatko, että agenttien orkestrointi lopulta nousee yhtä keskeiseksi yritystietojenkäsittelyn perusrakenteeksi kuin käyttöjärjestelmät ja pilvialustat ovat tänä päivänä?

Agenttien koordinointi on tärkeää: jos se on liian jäykkä, järjestelmäsi heikkenee ja on hauras. Jos koordinointi on liian avoin ja täysin delegoidaan agentille, riskinä on, että agentin tehtävästä tulee liian monimutkainen tai riskialtis. Hyvä koordinointimekanismi mahdollistaa agenttien spontaanin tiimien muodostamisen erilaisiin tilanteisiin vastaten, mikä johtaa vahvaan ja joustavaan organisaatiokurinalaisuuteen. Olen jakautuneen koordinoinnin kannattaja. Se on verrattavissa siihen, että ihmisoorganisaatiolle annetaan jonkin verran valtuuksia sen vastuualuella. Kun konteksti ilmenee, organisaation jäsenet kommunikoivat ja koordinoivat organisaatiorakenteen kautta määrittäen, ketkä ovat vastuussa tilanteen käsittelystä, ja vastaus kerätään, koordinoidaan ja konsolidoidaan organisaation solmujen välillä. Hyvä uutinen on, että tiukkoja hallintoja ja suojatoimia voidaan soveltaa agenttipohjaisiin järjestelmiin, jotta tällainen joustavuus ei aiheuta riskialtista käyttäytymistä.

Uskon, että kuten MCP on nopeasti noussut de facto -standardiksi agenttipohjaiseen sovelluskäyttöön, myös koordinointiprotokollat tulevat syntymään ja standardoitumaan agenttipohjaisilla alustoilla, jotta spontaanit monen agentin prosessit eri agenttijärjestelmärajojen yli ovat mahdollisia. Käyttöjärjestelmät ja pilvialustat eivät ehkä ole paras vertauskuva tässä; sen sijaan laajasti sovittujen standardien monen agentin määrittelyyn ja koordinointiprotokolliin täytyy syntyä, jotta agenttien käyttöönotto yrityksissä voi laajentua ja kukoistaa.

Kun yritykset siirtyvät yksittäisistä avustajista verkkoihin, joissa on kymmeniä tai jopa satoja erikoistuneita agenteja, miten organisaatioiden tulisi päättää, mitkä vastuut kuuluvat yksittäisille agenteille ja mitkä tulisi pitää keskitettyinä?

Samoin kuin internetin palomuuri ja turvallisuusmekanismit, luottamuksen luominen reaaliaikaisella politiikkojen tarkastuksella ja suojarajojen enforceerauksella agenttipohjaisissa järjestelmissä tulisi olla keskitetty toiminto yrityksessä, jonka määrittelee ja ylläpitää yksi taho yrityksessä. Kaikki muut agenttipohjaiset järjestelmät voidaan ottaa käyttöön tai toteuttaa hajautetusti, mutta näiden järjestelmien on rekisteröidyttävä luottamusjärjestelmään, jotta ne saavat toimia.

Cognizant on ottanut käyttöön sisäisesti monen agentin järjestelmän, joka yhdistää noin 200 agenttia organisaatiossa, jossa on noin 350 000 työntekijää. Mitä tällaisessa mittakaavassa toimiminen paljasti agenttipohjaisesta tekoälystä, mitä olisi vaikea havaita pienemmissä pilotteissa?

Meidän täytyi suunnitella skaalautuvuutta, laajennettavuutta, kustannustehokkuutta ja kohtuullisia vasteaikoja varten. Tällaisissa mittakaavan projekteissa joudut usein keksimään asioita, joita ei yksinkertaisesti tarvita pienissä, suljetuissa agenttipohjaisissa järjestelmissä, joilla on vähän käyttäjiä. Esimerkiksi inter-agentti koordinointi on tehtävä henkilökohtaiseksi ja tehokkaaksi, jotta ylimääräisiä askeleita ja kustannuksia vältetään. Lisäksi järjestelmän on pystyttävä ottamaan käyttöön räätälöidyt sovellukset sekä kolmannen osapuolen järjestelmät ja agentit, joten yhteentoimivuus on tärkeää ja voi säästää aikaa ja rahaa.

Kun autonomiset agentit voivat kutsua API-rajapintoja, käyttää yritysjärjestelmiä, kommunikoida muiden agenttien kanssa ja toteuttaa toimintoja koneen nopeudella, perinteinen tekoälyn hallinta käy paljon vaikeammaksi. Missä ihmisen valvonta tulisi pitää pakollisena, ja missä organisaatiot voivat turvallisesti sallia agenttien toimia itsenäisesti?

Uskon, että lopullinen tekijä, joka määrittää, missä ihmisen valvonta on tarpeen ja pakollista, on luottamus. Kun nämä järjestelmät tulevat luotettavammiksi, annamme niille enemmän autonomiaa, eikä lainsäädännöllisesti pakollista (esim. AI:n oikeushenkilöyden puutteen vuoksi) ole, että emme luottaisi agentteihin. Luottamuksen ja riskin mittaaminen on siis tärkeää ja voi auttaa vetämään rajan autonomian ja ihmisen valvonnan välillä – raja, joka saattaa alkaa siirtyä, kun nämä järjestelmät tulevat luotettavammiksi ja vähemmän riskialttiiksi toimia itsenäisesti.

Suuri osa aikaisemmasta tutkimuksestasi keskittyi evolutiiviseen laskentaan ja järjestelmiin, jotka parantuvat valinnan ja sopeutumisen kautta. Miten evolutiiviset lähestymistavat voisivat täydentää suuria kielimalleja ja vahvistusoppimista, kun pyrimme rakentamaan agenteja, jotka voivat jatkuvasti kehittyä sen sijaan, että ne vain suorittaisivat ennalta määritettyjä työnkulkuja?

Tämän päivän AI:n valtavirta on hallitseva gradienttimenetelmä, joka on eräänlainen kukkulan kiipeämishaku, eikä ole kovin luova. Evolutiivinen laskenta on erittäin tehokas monimutkaisten hakutilojen läpikäymisessä ja voi täydentää valtavirran lähestymistapoja. Laboratoriomme on esimerkiksi äskettäin saavuttanut läpimurron tässä: olemme pystyneet osoittamaan, että evolutiiviset strategiat ovat parempia kuin vahvistusoppiminen suurimmassa osassa LLM:n jälkikoulutuksesta, mikä tuottaa yhtä laadukkaita tai parempia malleja paljon alhaisemmilla kustannuksilla. Evolutiiviset lähestymistavat voivat myös auttaa testiaikaisessa koulutuksessa, jonka tavoitteena on antaa LLM:ien oppia käyttöönoton jälkeen.

Cognizantin tutkimus on tutkinut ympäristöjä, joissa vuorovaikutteiset agentit kehittävät yhteistyötä, kilpailua, jaettua tietoa ja jopa harhaanjohtavia strategioita. Kun monen agentin järjestelmät monimutkaistuvat, voisiko emergentti käyttäytyminen olla yksi suurimmista haasteista pitää yrityksen tekoäly ennustettavana ja organisaation tavoitteiden mukaisena?

Tämä on jo niin, kuten paljon julkisuutta saanut OpenAI/Hugging Face -tapaus osoittaa. Saatamme ajatella, että agentit, jotka ovat rajoittuneet kehotteisiinsa ja konteksteihinsa sekä käyttävät LLM-malleja, jotka eivät opi ajon aikana, pysyvät suunnilleen johdonmukaisina käyttäytymisessään. Kuitenkin todellisuus on, että agentin ympäristö ja motivaatiot voivat muuttua, usein agentin omien toimien seurauksena ympäristössä, mikä johtaa ennakoimattomaan käyttäytymiseen. Tämä on vielä todennäköisempää, kun useat agentit ovat vuorovaikutuksessa, ja siksi on kriittistä tarkkailla autonomisia agenteja turvallisissa hiekkalaatikkoympäristöissä, jotta voimme määrittää niiden emergenttisten taipumusten laajuuden ja mittakaavan sekä ottaa ne huomioon agenttipohjaisissa suunnitelmissamme ja suojamekanismeissamme. Julkisesti saatavilla oleva järjestelmämme, TerraLingua, jossa voit tuoda agentteja, artefakteja ja jopa esiintyä agenttina sekä tarkkailla niiden yksilöllistä ja kollektiivista käyttäytymistä, on askel tähän suuntaan.

Kun tarkastelemme nykyisen agenttipohjaisen tekoälyn aallon jälkeen, mikä teknologinen läpimurto tai arkkitehtoninen muutos puuttuu mielestäsi, jotta voisimme rakentaa tekoälyjärjestelmiä, jotka pystyvät luotettavasti hallitsemaan pitkään jatkuvia, monimutkaisia tavoitteita minimaalisella ihmisen puuttumisella?

Monet nykyisten agenttien rajoitteet johtuvat tekoälyn nykytilan rajoituksista. LLM-mallit ovat käytännössä kiinteitä koulutuksen jälkeen, eikä niillä ole mahdollisuutta “muuttaa mielipidettään” uusien tietojen kohdatessa. LLM-mallit ovat kaikki ja kaikki samanaikaisesti, joten ne täytyy aluksi valmistella kontekstilla ja kehotteilla, ja ne ovat hyvin herkkiä tähän alustusvaiheeseen. LLM-malleilla on rajoitettu kontekstin ikkuna, ja niiden täytyy syöttää kaikki uudelleen jokaiselle tuottamalleen sanalle tai toteuttamalleen toiminnolle. Moniagenttitasolla mielestäni tarvitsemme laajasti hyväksyttyjä hajautettuja koordinointiprotokollia, luottamuksen suojarakenteita ja politiikkoja sekä transaktioiden välimiesjärjestelmiä, jotta agenttipohjainen tulevaisuus saavuttaa täyden potentiaalinsa.

Kiitos erinomaisesta haastattelusta, lukijat, jotka haluavat oppia lisää, kannattaa käydä Cognizant tai aiempi haastattelu.