Din AI-assistent vet alt — og forstår ingenting

“Vi burde bli med mine foreldre på deres tur til Irland” — denne ufarlige uttalelsen sendte sjokkbølger gjennom meg.

Min kone og jeg reiser mye. Vi vet hva vi liker. Min kones foreldre, på den andre siden, reiser sjelden lenger enn noen hundre mil fra hjemmet og har forlatt landet sammen en gang — til vår bryllup.

For å toppen det hele var denne turen en julegave fra min svigerfar til min svigermor, så hun kunne besøke sin familie, kanskje for siste gang.

Jeg kunne se denne turen utvikle seg i ett enkelt ord: katastrofe. Hvordan i all verden skulle vi kunne syntetisere våre vidt forskjellige erfaringer og forventninger, så vi kunne ha en fantastisk tur — eller i det minste ikke hate hverandre på slutten av det?

Som enhver selvrespekterende teknologi-entusiast, tok jeg tak i teknologien — spesifikt AI.

Men det jeg ikke forventet, var at mitt lille eksperiment med å kode en AI-drevet familie-reiseplanleggingsapplikasjon, skulle lære meg nesten alt jeg trenger å vite om å bruke AI i bedriftens IT.

Jo mer du mater AI, jo dummere blir den

De fleste bedrifts-AI-utviklinger følger et forutsigbar mønster. Organisasjoner starter med å gi en agent en sett med instruksjoner og koble den til en informasjonskilde, enten det er et RAG- (Retrieval-Augmented Generation) rammeverk, en eksisterende kunnskapsbase eller selv en MCP-server. Deretter legger du til et LLM og lar det gjøre sin ting.

Problemet der er at LLM-er i sin kjerne er dumme. De vet ikke hvordan de skal prioritere all informasjonen de har tilgang til, så de tenderer til å behandle hver bit kontekst likt. En menneske må legge til et lag med kurering, og lære modellen hva som er viktig og hva som ikke er det. Uten kurering, får du AI som vet alt og forstår ingenting.

De tre typer minne som teller

Effektiv bedrifts-AI-kurering betyr å gjøre mest mulig ut av tre spesifikke typer minne.

Den første er institusjonell minne, som kan se ganske grunnleggende ut til å begynne med. Når noen sier “finans-tjenester”, vet agenten at de mener selskapets Finans-tjenester-avdeling og ikke hele industrien. Dette blir en varig organisatorisk kunnskap som er fylt med definisjoner, preferanser og konvensjoner som ikke ofte endres. Etter hvert som dette utvides til institusjonell kunnskap om strategiske prioriteringer, nøkkelinitiativer og organisatoriske dynamikker, blir det en rik kilde til institusjonell kontekst.

Deretter er det handlingshistorikk, som fokuserer på betydelige beslutninger, oppgaver og hendelser. Når en serviceticket blir sendt eller et system blir deployert, gjenkjenner agenten denne bestemte handlingen og registrerer den i handlingshistorikken. Dette blir den historiske rekorden som syr sammen organisatorisk kontekst.

Til slutt er det kortvarig samtalekontekst. Tenk på det som øyeblikk-til-øyeblikk-interaksjonen med en agent. Det er nyttig i øyeblikket, men tenderer til å miste relevans raskt.

Tatt sammen, skaper disse tre typene minne vektingssystemet som generiske AI-modeller mangler. Nå, når noen forteller en agent om bedriften, klassifiserer og prioriterer de all denne minnen og kuraterer informasjonen som er viktig. Dette danner kjernen av hva AI skal levere: ikke bare domène-data, men domène-dømmekraft.

Hva kurert minne ser ut som i stor skala

Men nok om rammeverket, hva ser dette ut som i praksis? Her er hva vi har oppdaget ved å bygge disse agentene selv.

En vanlig IT-scenario er å sende en feilrapport til en hjelpedesk-agent. Si at din Outlook ikke fungerer, så du skriver inn en beskrivelse av problemet og venter på at agenten skal se på det og foreslå en løsning.

Men med kurert minne på din side, kunne en bedre prosess innebære å ta en skjermbilde som viser Outlook-feilen og laste det opp til agenten. Nå trekker agenten (1) på institusjonell minne for å forstå din arbeidsmiljø; (2) sjekker handlingshistorikken for relaterte hendelser; og (3) anvender kontekstuell dømmekraft for en spesifikk løsning, ikke bare en generisk svar.

Resultatet er en intelligent agent som ikke trenger å gjette på svaret basert på et skjermbilde. Den er nå faktisk å undersøke, og ser på all informasjon som kjører og leverer et mer nyttig svar. Agenten kunne sogar utvide til en nettverk- eller sværmeffekt, og se på andre brukere i systemet for å se om Outlook-problemet bare er et problem for deg eller et bedriftsvidt problem.

Kontekstualiseringen av historien eller minnen er forskjellen. Hvis du ikke kurater din minne effektivt, vil du falle bak de som gjør det. Det er essensielt å ha en arkitektur som vet hvordan den skal håndtere data over tid og forstå hva som skal beholdes, hva som skal vises, og hva som skal slippe.

Tilbake til turen

Så, hvordan endret min AI-drevne reiseplanleggingsapplikasjon min syn på AI i bedriftens IT?

Hva jeg bygde, var en applikasjon som fungerte som vår personlige reise-konsulent og startet med å “intervjue” hver deltaker. Vi forklarte alle hva som betydde noe for oss på turen: hva som var et måtte-gjøre og hva vi kunne hoppe over. Enda viktigere, spurte den oss om vår “hvorfor” — hvorfor var noe viktig for oss, hva betydde det for oss.

Med denne informasjonen, gjorde den to ting. Først kurerte den en reiseplan som var balansert for å levere noe for alle — vi kunne alle se våre ønsker og preferanser representert i planen den produserte.

Men, selvfølgelig, var den første reiseplanen bare et utkast. Det var fortsatt mange spørsmål å besvare.

Og det var da den virkelige magien skjedde. Vi spurte agenten om et hotell eller en attraksjon eller en tur, og svarene den ga oss, var beriket med konteksten av vår unike situasjon: “Det ville være en lang tur for barna, men min svigerfar ville elske slottet (og det unike kaffehuset like ved) — og dette kunne være akkurat stedet for min kone å få den massasjen.”

Fylt med denne rike forståelsen av hva som var viktig for oss, kunne den hjelpe oss med å planlegge og finjustere vår tur på en måte som jeg ikke tror ville vært mulig på noen annen måte.

Og det var i ett av de første øyeblikkene at jeg forstod hva vi måtte bygge for våre bedriftskunder: intelligente systemer som var så lastet med organisatorisk, transaksjonell og personlig kontekst at hver svar og hver interaksjon ville være som en fingeravtrykk: helt unik for det øyeblikket og interaksjonen, og ville levere en type verdi som ikke kunne skje på noen annen måte.