AI-agenten din vet alt — og forstår ingenting

“Vi burde bli med mine foreldre på deres tur til Irland” — denne tilsynelatende harmløse uttalelsen sendte sjokkbølger gjennom meg.

Min kone og jeg reiser mye. Vi vet hva vi liker. Min kones foreldre, på den andre siden, reiser sjelden lenger enn noen hundre engelske mil fra hjemmet og har forlatt landet sammen en gang — til vårt bryllup.

For å toppe det hele var denne turen en julegave fra min svigerfar til min svigermor, så hun kunne besøke sin familie, kanskje for siste gang.

Jeg kunne se denne turen utvikle seg i ett enkelt ord: katastrofe. Hvordan i all verden skulle vi kunne syntetisere våre vidt forskjellige erfaringer og forventninger, så vi kunne ha en fantastisk tur — eller i det minste ikke hate hverandre på slutten av det?

Som enhver selvrespekterende teknologi-entusiast, tok jeg tak i teknologien — spesifikt AI.

Men det jeg ikke forventet, var at mitt lille eksperiment med å vibekode en AI-drevet familie-reiseplanleggingsapplikasjon, skulle lære meg nesten alt jeg trenger å vite om å bruke AI i bedriftens IT.

Jo mer du mater AI, jo dummere blir den

De fleste AI-innføringer i bedrifter følger et forutsigbart mønster. Organisasjoner starter med å gi en agent et sett med instruksjoner og koble den til en informasjonskilde, enten det er et RAG- (Retrieval-Augmented Generation) rammeverk, en eksisterende kunnskapsbase eller selv en MCP-server. Deretter legger du til en stor språkmodell (LLM) og lar den gjøre jobben sin.

Problemet der er at LLM-er i sin kjerne er dumme. De vet ikke hvordan de skal prioritere all informasjonen de har tilgang til, så de tenderer til å behandle hver bit kontekst likt. Et menneske må legge til et lag med kuratering, og lære modellen hva som er viktig og hva som ikke er det. Uten kuratering, får du AI som vet alt og forstår ingenting.

De tre typene minne som teller

Effektiv bedrifts-AI-kuratering betyr å gjøre mest mulig ut av tre spesifikke typer minne.

Den første er institusjonelt minne, som kan se ganske grunnleggende ut til å begynne med. Når noen sier “finans-tjenester”, vet agenten at de mener selskapets Finans-tjenester-avdeling og ikke hele industrien. Dette blir en varig organisatorisk kunnskap som er fylt med definisjoner, preferanser og konvensjoner som ikke ofte endres. Etter hvert som dette utvides til institusjonell kunnskap om strategiske prioriteringer, nøkkelinitiativer og organisatoriske dynamikker, blir det en rik kilde til institusjonell kontekst.

Deretter er det handlingshistorikk, som fokuserer på betydelige beslutninger, oppgaver og hendelser. Når en serviceticket blir sendt eller et system blir deployert, gjenkjenner agenten denne bestemte handlingen og registrerer den i handlingshistorikken. Dette blir den historiske registreringen som syr sammen organisatorisk kontekst.

Til slutt er det kortvarig samtalekontekst. Tenk på det som øyeblikk-til-øyeblikk-interaksjonen med en agent. Det er nyttig i øyeblikket, men tenderer til å miste relevans raskt.

Tatt sammen, skaper disse tre typene minne vektingssystemet som generiske AI-modeller mangler. Nå, når noen forteller en agent om bedriften, klassifiserer og prioriterer de alt dette minnet og kuraterer informasjonen som er viktig. Dette danner kjernen av hva AI skal levere: ikke bare domenedata, men domenedømmekraft.

Hvordan kuratert minne ser ut i stor skala

Men nok om rammeverket, hvordan ser dette ut i praksis? Her er hva vi har oppdaget ved å bygge disse agentene selv.

Et vanlig IT-scenario er å sende en feilrapport til en hjelpedesk-agent. Si at din Outlook ikke fungerer, så du skriver inn en beskrivelse av problemet og venter på at agenten skal se på det og foreslå en løsning.

Men med kuratert minne på din side, kunne en bedre prosess innebære å ta et skjermbilde som viser Outlook-feilen og laste det opp til agenten. Nå bruker agenten (1) institusjonelt minne for å forstå arbeidsmiljøet ditt; (2) sjekker handlingshistorikken for relaterte hendelser; og (3) anvender kontekstuell dømmekraft for en spesifikk løsning, ikke bare et generisk svar.

Resultatet er en intelligent agent som ikke trenger å gjette på svaret basert på et skjermbilde. Den undersøker nå faktisk saken, og ser på all informasjon som kjører og leverer et mer nyttig svar. Agenten kunne til og med utvide til en nettverks- eller svermeffekt, og se på andre brukere i systemet for å se om Outlook-problemet bare er et problem for deg eller et bedriftsvidt problem.

Kontekstualiseringen av historikken eller minnet er forskjellen. Hvis du ikke kuraterer minnet ditt effektivt, vil du henge etter dem som gjør det. Det er essensielt å ha en arkitektur som vet hvordan den skal håndtere data over tid og forstå hva som skal beholdes, hva som skal vises, og hva man skal gi slipp på.

Tilbake til turen

Så, hvordan endret min AI-drevne reiseplanleggingsapplikasjon mitt syn på AI i bedriftens IT?

Hva jeg bygde, var en applikasjon som fungerte som vår personlige reise-konsulent og startet med å “intervjue” hver deltaker. Vi forklarte alle hva som betydde noe for oss på turen: hva som var et måtte-gjøre og hva vi kunne hoppe over. Enda viktigere, spurte den oss om vårt «hvorfor» — hvorfor var noe viktig for oss, hva betydde det for oss.

Med denne informasjonen, gjorde den to ting. Først kuraterte den en reiseplan som var balansert for å levere noe for alle — vi kunne alle se våre ønsker og preferanser representert i planen den produserte.

Men, selvfølgelig, var den første reiseplanen bare et utkast. Det var fortsatt mange spørsmål å besvare.

Og det var da den virkelige magien skjedde. Vi spurte agenten om et hotell, en attraksjon eller en kjøretur, og svarene den ga oss, var beriket med konteksten av vår unike situasjon: “Det ville være en lang kjøretur for barna, men min svigerfar ville elske slottet (og det unike kaffehuset like ved) — og dette kunne være akkurat stedet for min kone å få den massasjen.”

Fylt med denne rike forståelsen av hva som var viktig for oss, kunne den hjelpe oss med å planlegge og finjustere vår tur på en måte som jeg ikke tror ville vært mulig på noen annen måte.

Og det var i ett av de første øyeblikkene at jeg forstod hva vi måtte bygge for våre bedriftskunder: intelligente systemer som var så lastet med organisatorisk, transaksjonell og personlig kontekst at hvert svar og hver interaksjon ville være som et fingeravtrykk: helt unikt for det øyeblikket og interaksjonen, og ville levere en type verdi som ikke kunne skje på noen annen måte.