Din AI-agent kender alt – og forstår intet

“Vi skal deltage i mine forældres rejse til Irland” — denne tilsyneladende uskyldige udtalelse sendte rysninger ned ad min ryg.

Min kone og jeg rejser meget. Vi ved, hvad vi kan lide. Min kones forældre rejser derimod sjældent længere end få hundred mil fra deres hjem og har kun forladt landet én gang — til vores bryllup.

For at gøre det hele endnu værre var denne rejse en julegave fra min svigerfar til min svigermor, så hun kunne besøge sin familie, måske for sidste gang.

Jeg kunne se, hvordan denne rejse ville udvikle sig i ét ord: katastrofe. Hvordan i verden skulle vi kunne syntetisere vores vidt forskellige erfaringer og forventninger, så vi kunne have en fantastisk rejse — eller i hvert fald ikke hade hinanden, når rejsen var slut?

Som enhver selvrespekterende techie greb jeg efter teknologi — specifikt efter AI.

Men det, jeg ikke havde forventet, var, at mit lille eksperiment med at kode en AI-drevet familie-rejseplanlægningsapp ville lære mig næsten alt, hvad jeg behøver at vide om at anvende AI inden for virksomheds-IT.

Jo mere du fodrer AI, jo dummere bliver det

De fleste virksomheds-AI-udrulninger følger et forudsigeligt mønster. Organisationer starter med at give en agent en sæt instruktioner og forbinde den til en informationskilde, enten det er et RAG- (Retrieval-Augmented Generation) ramme, en eksisterende videnbas eller endda en MCP-server. Dernæst lægges et LLM til, og lad det gøre sin ting.

Problemet er, at LLM’er i deres kerne er dumme. De ved ikke, hvordan de skal prioritere all den information, de har til rådighed, så de tenderer til at behandle hver enkelt kontekst lige. Et menneske må tilføje en lag af kuratering, hvor man lærer modellen, hvad der er vigtigt og hvad der ikke er. Uden kuratering får man AI, der kender alt og forstår intet.

De tre typer hukommelse, der betyder noget

Effektiv virksomheds-AI-kuratering indebærer at udnytte tre bestemte typer hukommelse til fulde.

Den første er institutionel hukommelse, som kan synes ret basal i begyndelsen. Når nogen siger “finansiel service”, ved agenten, at de mener virksomhedens Finansiel Service-afdeling og ikke hele branchen. Det bliver vedvarende organisationskundskab fyldt med definitioner, præferencer og konventioner, der ikke ofte ændrer sig. Da dette udvides til institutionel viden omkring strategiske prioriteter, nøgleinitiativer og organisationsdynamik, bliver det en rig kilde til institutionel kontekst.

Dernæst er der handlingshistorik, som fokuserer på betydningsfulde beslutninger, opgaver og begivenheder. Når en servicebillett indgives eller et system deployes, genkender agenten denne specifikke handling og optegner den i handlingshistorikken. Det bliver den historiske optegnelse, der syr organisationskonteksten sammen.

Til sidst er der kortvarig konversationel kontekst. Tænk på det som øjeblik-til-øjeblik-interaktionen med en agent. Det er nyttigt i øjeblikket, men tenderer til at miste relevans hurtigt.

Taget sammen skaber disse tre typer hukommelse vægtningssystemet, der mangler i generiske AI-modeller. Nu, når nogen fortæller en agent om forretningen, klassificerer og prioriterer de hele denne hukommelse og kuraterer den vigtige information. Det danner kernen af, hvad AI skal levere: ikke kun domæne-data, men domæne-dømmekraft.

Hvad kurateret hukommelse ser ud som i stor skala

Men nok om rammen, hvad ser det ud som i praksis? Her er, hvad vi har opdaget ved at bygge disse agenter selv.

En almindelig IT-scenario er at sende en fejlrapport til en helpdesk-agent. Sig, at din Outlook ikke virker, så du skriver en beskrivelse af problemet og venter på, at agenten gennemgår og foreslår en løsning.

Men med kurateret hukommelse til din fordel kunne en bedre proces indebære at tage et skærmbillede, der viser Outlook-fejlen, og uploade det til agenten. Nu trækker agenten (1) på institutionel hukommelse for at forstå din arbejdsmiljø; (2) checker handlingshistorikken for relaterede begivenheder; og (3) anvender kontekstuel dømmekraft for en specifik løsning, ikke kun en generisk besked.

Resultatet er en intelligent agent, der ikke behøver at gætte på svaret ud fra et skærmbillede. Det er nu faktisk underrettet, ser på all den information, der køres i øjeblikket, og leverer en mere nyttig besked. Agenten kunne endda udvide sig til en netværk- eller sværmeffekt, ser på andre brugere i systemet for at se, om Outlook-problemet kun er for dig eller et virksomhedsomfattende problem.

Kontekstualiseringen af historien eller hukommelsen er forskellen. Hvis du ikke kuraterer din hukommelse effektivt, vil du blive overhalet af dem, der gør. Det er afgørende at have en arkitektur, der ved, hvordan man håndterer disse data over tid og forstår, hvad man skal gemme, hvad man skal fremhæve, og hvad man skal lade gå.

Tilbage til rejsen

Så, hvordan ændrede min AI-drevne rejseplanlægner min opfattelse af AI i virksomheds-IT?

Det, jeg byggede, var en app, der fungerede som vores personlige rejsekoncierge og startede med at “interviewe” hver deltager. Vi forklarede alle, hvad der betød noget for os på rejsen: hvad der var et måske-og hvad vi kunne springe over. Endnu vigtigere var, at den spurgte os om vores “hvorfor” — hvorfor var noget vigtigt for os, hvad betød det for os.

Med denne information gjorde den to ting. Først kuraterede den en rejsplan, der var balanceret for at levere noget for alle — vi kunne alle se vores ønsker og præferencer repræsenteret i planen, den producerede.

Men, naturligvis, var denne første rejseskisse kun et udkast. Der var stadig mange spørgsmål at besvare.

Og det var, da den rigtige magi skete. Vi spurgte agenten om et hotel eller en attraktion eller en køretur, og svarene, den gav os, var beriget med konteksten af vores unikke situation: “Det ville være en lang køretur for børnene, men min svigerfar ville elske slottet (og den unikke kaffebar lige ved siden af) — og dette kunne være lige stedet for min kone at få den massage.”

Fyldt med denne rigelige forståelse af, hvad der var vigtigt for os, kunne den hjælpe os med at planlægge og finjustere vores rejse på en måde, som jeg ikke tror ville have været mulig på nogen anden måde.

Og det var i et af disse første øjeblikke, at jeg forstod, hvad vi skulle bygge for vores virksomheds-kunder: intelligente systemer, der var så lastet med organisations-, transaktions- og personlig kontekst, at hver besked og hver interaktion ville være som en fingeraftryk: fuldstændigt unik for det øjeblik og den interaktion, og det ville levere en type værdi, der ikke kunne ske på nogen anden måde.