Tekoälyn muistikriisi: Rakennamme digitaalista pimeää aikakautta

Miljoonia tekoälyagentteja siirtyy tuotantojärjestelmiin. Lähes kukaan ei voi jakaa operatiivista kokemusta. Siksi arkkitehtoninen valinta on tärkeä – ja mikä muuttuu, jos se onnistuu.

Kello 14.06 asiakas tekee verkkotilauksen kannettavasta tietokoneesta.

Kassatyöntekijä tekee kyselyn operatiivisesta tietokannastaan: ostohistoria on puhdas, summa normaalirajoissa, aiemmin käytetty toimitusosoite, laite ja sijainti vastaavat viimeaikaisia ​​onnistuneita tilauksia. Kaikki näyttää normaalilta. Myyjä hyväksyy tilauksen.

Samaan aikaan käyttäytymisagentti käsittelee klikkausvirtadataa yrityksen datapankissa. Se johtaa istunnosta kaavan: käyttäjä saapui suoraan syväkassan URL-osoitteeseen ilman selailu- tai vertailukäyttäytymistä. Tämä signaali on itsessään heikko, mutta se on tunnettu edeltäjä tilin haltuunottotilanteissa, kun se yhdistetään muuten normaaleihin ostoihin.

Käyttäytymisagentti tallentaa tämän tulkinnan johdettuna tietona myöhempää analyysia ja mallin kouluttamista varten.

Kassanhoitaja ei koskaan näe sitä. Ei siksi, etteikö signaalia olisi laskettu, tai siksi, ettei sitä olisi jätetty huomiotta – vaan koska tieto sijaitsee järjestelmässä, jota kassanhoitaja ei käytä valtuutuksen aikana.

Jokainen agentti toimii oikein sen perusteella, mitä se näkee. Jokainen kirjoittaa omistamaansa järjestelmään. Mutta yhden agentin saama tieto on näkymätöntä toiselle päätöksentekohetkellä.

Kannettava tietokone toimitetaan.

Kolmekymmentäkuusi tuntia myöhemmin syytös kiistetään. Tutkinta vahvistaa, että tili oli vaarantunut aiemmin samana päivänä. Hyökkääjä piti tapahtuman normaalin rajoissa luottaen siihen, että ainoa varoitus oli käyttäytymistieto, joka oli loukussa kassanhoitajan päätöksentekokontekstin ulkopuolella.

Epäonnistuminen ei ollut puuttuva data, hidas prosessointi tai huono malli. Kyse oli agenttisiiloista: tietoa muodostui, mutta sitä ei jaettu.

Ja tämä paljastaa ongelman, josta lähes kukaan ei puhu. Olemme rakentaneet arkkitehtuureja, joissa tekoälyagentit, jotka tekevät päätöksiä, eivät pääse käsiksi siihen, mitä muut tekoälyagentit ovat jo löytäneet.

Ongelma, jonka painokone ratkaisi

Ennen kirjapainotaivalta tieto oli haurasta. Kun tutkija kuoli, suuri osa hänen oppimastaan ​​kuoli hänen mukanaan. Lontoolainen matemaatikko saattoi käyttää vuosikymmeniä sellaisten periaatteiden löytämiseen, jotka pariisilainen matemaatikko löytäisi itsenäisesti uudelleen viisikymmentä vuotta myöhemmin. Edistys oli todellista, mutta se oli paikallista, hidasta ja toistuvasti uudelleenjärjestettyä.

Painokone ei tehnyt yksilöistä älykkäämpiä. Se ulkoisti muistin. Tieto lakkasi olemasta sidottu yhteen mieleen ja alkoi säilyä luojansa elämän jälkeen. Näkemyksiä voitiin jakaa, tarkastella uudelleen ja rakentaa sukupolvien ajan. Se mahdollisti edistyksen kiihtymisen.

Olemme vaarassa toistaa tekoälyn kanssa painokonetta edeltävän virheen.

Useimmat organisaatiot ottavat nyt käyttöön tekoälyagentteja tuotantojärjestelmissä, ja monet muut kokeilevat aktiivisesti esimerkiksi asiakastuen, ohjelmistokehityksen, tutkimuksen ja petosten havaitsemisen aloilla. Näitä agentteja käytetään tyypillisesti itsenäisinä palveluina, jotka ovat linjassa nykyaikaisten mikropalveluarkkitehtuurit, jokaisella on omat datansa ja toiminnalliset rajansa. Jopa saman organisaation sisällä agentit saavat tietoa omasta tuotantokokemuksestaan, mutta jakavat harvoin tuottamaansa tietoa muiden agenttien kanssa tehden asiaankuuluvia päätöksiä.

Tämän seurauksena operatiivinen näkemys pysyy hajanaisena. Paikalliset päätökset voivat parantua, mutta kokemus ei kerry koko järjestelmään. Jokainen läpimurto, joka jää yhden toimijan käsiin, on läpimurto, joka ei voi kasaantua.

Tällä kertaa rajoittava tekijä ei ole älykkyys tai nopeus, vaan muisti. Ilman tekoälyjärjestelmille keinoa ulkoistaa ja jakaa löytöjään, edistyminen nollautuu useammin kuin kasvaa.

Miltä jaettu muisti oikeasti näyttää

Laajemmat konteksti-ikkunat voivat rikastuttaa yksilöllistä päättelyä, mutta ne eivät luo yhteistä jatkuva kokemus eri agenttien välillä.

Jaettu muisti ei muuta tuloksia parantamalla malleja, vaan muuttamalla sitä, mitä agentit näkevät päätöksentekohetkellä.

Siiloutuneessa järjestelmässä jokainen agentti päättelee oikein omien rajojensa sisällä. Maksuagentti arvioi transaktioriskin. Käyttäytymisagentti analysoi klikkausvirran kaavoja. Jokainen kirjoittaa johtopäätöksensä omistamaansa järjestelmään, ja nämä johtopäätökset pysyvät näkymättöminä muille rinnakkain toimiville agenteille. Päätökset ovat paikallisesti oikeita, mutta globaalisti epätäydellisiä.

Jaetun muistikerroksen myötä tuo raja katoaa.

Kun käyttäytymisagentti käsittelee istuntoa, se saa heikon mutta merkityksellisen signaalin: navigointikuvion, joka liittyy varhaisiin tilin haltuunottoyrityksiin. Sen sijaan, että se tallentaisi tämän tiedon vain offline-analyysia varten, se kirjoittaa signaalin jaettuun muistiin, joka on linkitetty aktiiviseen istuntoon.

Hetkeä myöhemmin, kun kassatyöntekijä arvioi ostoksen, se tekee kyselyn samasta muistista. Tapahtuma näyttää edelleen normaalilta. Mutta nyt se näkee lisäkontekstin: käyttäytymisvaroituksen, joka muuten puuttuisi. Kumpikaan signaali ei ole yksinään ratkaiseva. Yhdessä ne ylittävät kynnyksen lisätarkistukselle.

Agenttien itsensä osalta mikään ei ole muuttunut. Yhtäkään mallia ei ole koulutettu uudelleen. Keskitetty kontrolleri ei puutu asiaan. Ero on näkyvyydessä: yhden agentin muodostama näkemys tulee toisen saataville, vaikka sillä on edelleen merkitystä.

Ratkaisevasti tämä oivallus säilyy. Kun lopputulos myöhemmin tiedetään – petos tai laillinen – signaalin ja tuloksen välinen yhteys tallennetaan. Ajan myötä järjestelmä kerää empiiristä tietoa siitä, millä heikoilla indikaattoreilla on taipumus olla merkityksellisiä ja millä ehdoilla. Tulevia päätöksiä ohjaa kokemus, joka ulottuu yksittäisen vuorovaikutuksen tai toimijan ulkopuolelle.

Jaettu muisti ei ole tietovarasto eikä toiminnallinen tietokanta. Se on matalan latenssin alusta johdetulle kontekstille: signaaleille, tulkinnoille ja assosiaatioille, jotka selviävät ne tuottaneesta vuorovaikutuksesta ja pysyvät muiden asiaan liittyviä päätöksiä tekevien agenttien kyseltavissa.

Näin kokemus kasaantuu – ei minkään yhden mallin sisällä, vaan koko järjestelmässä.

Agenttisiilojen taustalla oleva arkkitehtoninen kompromissi

Agenttisiilot eivät ole toteutusvirhe. Ne ovat ennustettavissa oleva tulos yritysarkkitehtuureista, jotka on suunniteltu erilaisen kuluttajan ympärille.

Tuotantojärjestelmät ovat vuosikymmenten ajan jakaneet työkuormat toimintojen mukaan. Operatiiviset järjestelmät optimoitiin matalan latenssin ja yhdenmukaisten tapahtumien takaamiseksi, kun taas analyyttiset järjestelmät optimoitiin laajamittaiseen aggregointiin ja historiallisten kaavojen löytämiseen (OLTP vs. OLAP). Tämä erottelu heijasteli sitä, miten tietoa kulutettiin: analyyttiset tulokset tuotettiin ihmisille, ei koneille, ja siksi niiden odotettiin saapuvan asynkronisesti ja päätöksenteon kriittisen polun ulkopuolella.

Tekoälyagentit perivät tämän arkkitehtonisen jaon, mutta eivät sovi siihen.

Seurauksena ei ole pelkästään viivästynyt oivallus, vaan rakenteellisia sokeita pisteitä. Analyyttisissä järjestelmissä tuotetuilla oivalluksilla pyritään löytämään tuloksia vasta reaaliaikaisten päätösten tekemisen jälkeen. Tuloksia mahdollisesti muuttavia signaaleja on olemassa, mutta niitä ei voida tuoda esiin päätöksentekohetkellä, koska ne sijaitsevat järjestelmissä, joita ei ole tarkoitettu autonomisten päätöksentekijöiden jatkuvasti kyseltäviksi.

Arkkitehtuuri ei ole rikki. Se ei vastaa autonomisten järjestelmien vaatimuksia.

Puuttuva tieteenala: kontekstitekniikka

Jaettu muisti tuo mukanaan ongelman, jota useimmat tiimit eivät ole valmiita ratkaisemaan: sen päättäminen, minkä kokemuksen tulisi säilyä.

Tekoälyjärjestelmät tuottavat valtavia määriä raakaa kokemusta – tapahtumia, klikkauksia, viestejä, toimintoja ja tuloksia. Kaiken tämän säilyttäminen ei ole käytännöllistä eikä hyödyllistä. Ilman harkittua valintaa jaetusta muistista tulee kohinaa. Haasteena ei ole kerätä lisää dataa, vaan muokata kokemusta kontekstiksi, jota muut agentit voivat käyttää.

Tämä on rooli kontekstisuunnittelu.

Kontekstisuunnittelu on tieteenala, jossa päätetään, mitkä havainnot ovat pysyviä signaaleja, miten nämä signaalit esitetään ja milloin ne tulisi altistaa muille toimijoille. Se sijoittuu raakatapahtumien ja toimijoiden päättelyn väliin ja muuntaa ohimenevän toiminnan jaetuksi, päätöksentekoon olennaiseksi ymmärrykseksi.

Käytännössä tämä tarkoittaa kuvioiden, indikaattoreiden ja ehdollisten assosiaatioiden korostamista samalla, kun suurin osa raakakokemuksesta annetaan hälvetä. Heikko signaali tai reunatapaus ei välttämättä ole merkittävä yksinään, mutta siitä tulee arvokas, kun se kertyy ja nousee pintaan oikealla hetkellä.

Kontekstisuunnittelu määrittää, tallentaako jaettu muisti vain kokemuksen vai mahdollistaako se sen kertymisen.

Mitä tapahtuu, jos teemme tämän oikein

Tämä ei ole tulevaisuuden huolenaihe. Se on arkkitehtoninen päätös, jonka infrastruktuuritiimit tekevät – usein implisiittisesti – jo tänään.

Oletusarvoinen polku on eristäytyminen. Tekoälyagentit toimivat itsenäisesti ja hyödyntävät vain omaa kokemustaan. Jokainen tekee nopeita, paikallisesti oikeita päätöksiä, mutta älykkyys pysyy samana. Samat reunatapaukset toistuvat, heikkoja signaaleja löydetään uudelleen ja epäonnistumiset toistuvat suuremmalla nopeudella ja volyymilla.

Vaihtoehto on jaettu muistikerros.

Kun johdettu konteksti säilyy ja on näkyvissä päätöksentekohetkellä, kokemus lakkaa haihtumasta. Kerran löydetyt oivallukset pysyvät saatavilla. Heikot signaalit saavat merkitystä kasautumisen kautta. Päätökset eivät parane siksi, että mallit muuttuvat, vaan koska toimijat eivät enää päättele eristyksissä.

Tämä ei vaadi suurempia malleja, reaaliaikaista uudelleenkoulutusta tai keskitettyä hallintaa. Se edellyttää muistin käsittelyä ensiluokkaisena arkkitehtuurikerroksena, joka on suunniteltu matalan latenssin käyttöoikeutta, pysyvyyttä ja jaettua näkyvyyttä varten.

Arkkitehtuuriset oletusarvot kovettuvat nopeasti. Ilman jaettua muistia rakennettujen järjestelmien uudelleenjärjestely vaikeutuu agenttien lisääntyessä. Valinta on yksinkertainen: rakentaa järjestelmiä, jotka keräävät kokemusta – tai järjestelmiä, jotka nollautuvat loputtomasti.