Din AI-agent vet alt — og forstår ingenting

“Vi burde bli med mine foreldre på deres reise til Irland” — denne åpenbart harmløse uttalelsen sendte skjelvinger ned ryggen min.

Min kone og jeg reiser mye. Vi vet hva vi liker. Min kones foreldre, på den andre siden, reiser sjelden lenger enn noen hundre mil fra hjemmet og har forlatt landet sammen en grand totalt gang — til vårt bryllup.

For å toppet det hele av, var denne reisen en julegave fra min svigerfar til min svigermor så hun kunne gå og besøke sin familie, kanskje for siste gang.

Jeg kunne se denne reisen utvikle seg i ett enkelt ord: katastrofe. Hvordan i verden ville vi kunne syntetisere vilt forskjellige erfaringer og forventninger så vi kunne ha en fantastisk reise — eller i det minste ikke hate hverandre på slutten av det?

Som enhver selvrespekterende techie, nådde jeg etter teknologi — spesielt etter AI.

Men det jeg ikke forventet, var at min lille eksperiment i vibe-coding en AI-drevet familie reiseplanleggingsapp ville lære meg nesten alt jeg trenger å vite om å bruke AI innenfor bedrifts-IT.

Jo mer du mater AI, jo dummere blir det

De fleste bedrifts AI-utsteder følger en forutsigbar mønster. Organisasjoner starter med å gi en agent en sett med instruksjoner og koble den til en informasjonskilde, enten det er en RAG (Retrieval-Augmented Generation)-ramme, en eksisterende kunnskapsbase eller selv en MCP-server. Neste, legg til et LLM og la det gjøre sin ting.

Problemet der er at LLM-er i sin kjerne er dumme. De vet ikke hvordan de skal prioritere all informasjonen de har tilgang til, så de tenderer til å behandle hver del av kontekst likt. En menneske må legge til et lag med kurering, lære modellen hva som er viktig og hva som ikke er. Uten kurering, får du AI som vet alt og forstår ingenting.

De tre typer minne som teller

Effektiv bedrifts AI-kurering betyr å gjøre mest mulig ut av tre spesifikke typer minne.

Den første er institusjonelt minne, som kan se ganske grunnleggende ut til å begynne med. Når noen sier “finans-tjenester”, vet agenten at de mener selskapets Finans-tjenester-avdeling og ikke hele industrien. Dette blir et varig organisatorisk kunnskapslag fylt med definisjoner, preferanser og konvensjoner som ikke ofte endrer seg. Etterhvert som dette utvides til institusjonelt kunnskapslag rundt strategiske prioriteringer, nøkkel-initiativer og organisatoriske dynamikker, blir det et rikt kilde med institusjonell kontekst.

Neste er handlingshistorikk, som fokuserer på betydelige beslutninger, oppgaver og hendelser. Når en servicebillett blir sendt inn eller et system blir deployert, gjenkjenner agenten denne bestemte handlingen og registrerer den i handlingshistorikken. Dette blir den historiske rekorden som syr sammen organisatorisk kontekst.

Til slutt er det kortvarig konversasjonskontekst. Tenk på det som øyeblikk-til-øyeblikk-interaksjonen med en agent. Det er nyttig i øyeblikket, men tenderer til å miste relevans raskt.

Tatt sammen, skaper disse tre typene minne vektingssystemet som generiske AI-modeller mangler. Nå, når noen forteller en agent om bedriften, klassifiserer og prioriterer de all denne minnet og kurérer informasjonen som er viktig. Dette danner kjernen av hva AI skal levere: ikke bare domène-data, men domène-dømmekraft.

Hva kurert minne ser ut som på stor skala

Men nok om rammen, hva ser dette ut som i praksis? Her er hva vi har oppdaget ved å bygge disse agentene selv.

En vanlig IT-scenario er å sende en feilbillett til en hjelpeagent. Si at din Outlook ikke fungerer, så du skriver inn en beskrivelse av problemet og venter på at agenten skal se over og foreslå en løsning.

Men med kurert minne som arbeider i din favør, kunne en bedre prosess innebære å ta et skjermbilde som viser Outlook-feilen og laste det opp til agenten. Nå (1) trekker agenten på institusjonelt minne for å forstå din arbeidsmiljø; (2) sjekker handlingshistorikken for relaterte hendelser; og (3) anvender kontekstuell dømmekraft for en spesifik løsning, ikke bare en generisk svar.

Resultatet er en intelligent agent som ikke trenger å gjette svaret basert på et skjermbilde. Den er nå faktisk å undersøke, se på all informasjon som kjører og levere et mer nyttig svar. Agenten kunne sogar utvide til en nettverk eller sværmeffekt, se på andre brukere i systemet for å se om Outlook-problemet er kun deg eller et bedriftsvidt problem.

Kontekstualiseringen av historien eller minnet er forskjellen-gjøreren. Hvis du ikke kurérer minnet ditt effektivt, vil du falle bak dem som gjør. Det er essensielt å ha en arkitektur som vet hvordan å håndtere denne dataen over tid og forstå hva som skal beholdes, hva som skal vises, og hva som skal slippe.

Tilbake til reisen

Så, hvordan endret min AI-drevne reiseplanlegger min syn på AI i bedrifts-IT?

Hva jeg bygde, var en app som fungerte som vår personlige reise-konsulent og begynte med å “intervjue” hver deltager. Vi forklarte alle hva som betydde noe for oss på reisen: hva var et måtte-gjøre og hva vi kunne hoppe over. Mer viktig, spurte den oss om vår “hvorfor” — hvorfor var noe viktig for oss, hva betydde det for oss.

Ved å bruke denne informasjonen, gjorde den to ting. Først, kurerte den en reiseplan som var balansert for å levere noe for alle — vi kunne alle se våre ønsker og preferanser representert i planen den produserte.

Men, naturligvis, var denne første reiseplanen bare et utkast. Det var fortsatt mange spørsmål å besvare.

Og det var da det virkelige magien skjedde. Vi spurte agenten om et hotell eller en attraksjon eller en kjøretur, og svarene den ga oss var beriket med konteksten av vår unike situasjon: “Det ville være en lang kjøretur for barna, men min svigerfar ville elske slottet (og den unike kaffehuset like ved) — og dette kunne være akkurat stedet for min kone å få den massasjen.”

Fullt av denne rike forståelsen av hva som var viktig for oss, var den i stand til å hjelpe oss planlegge og finjustere vår reise på en måte som jeg ikke tror ville vært mulig på noen annen måte.

Og det var i ett av disse første øyeblikkene at jeg forstod hva vi trengte å bygge for våre bedriftskunder: intelligente systemer som var så lastet med organisatorisk, transaksjonell og personlig kontekst at hver enkelt interaksjon ville være som en fingeravtrykk: fullstendig unik for det øyeblikket og interaksjonen som den ville levere en type verdi som bare ikke kunne skje på noen annen måte.