Din AI-agent vet allt — och förstår ingenting

“Vi borde följa med mina föräldrar på deras resa till Irland” — denna till synes oskyldiga kommentar skickade rysningar nerför min rygg.

Min fru och jag reser omfattande. Vi vet vad vi gillar. Min frus föräldrar, å andra sidan, reser sällan längre än några hundra mil från sitt hem och har lämnat landet tillsammans totalt en gång — för vår bröllopsdag.

För att kröna allt var denna resa en julklapp från min svärfar till min svärmor så att hon kunde gå och besöka sin familj, kanske för sista gången.

Jag kunde se att denna resa utvecklades i ett enda ord: katastrof. Hur i världen skulle vi kunna syntetisera vilt olika upplevelser och förväntningar så att vi kunde ha en fantastisk resa — eller åtminstone inte hata varandra i slutet av den?

Som vilken självrespektfull techie som helst, sträckte jag mig efter teknologi — specifikt efter AI.

Men vad jag inte förväntade mig var att mitt lilla experiment i vibe-coding en AI-driven familjeresplaneringsapp skulle lära mig nästan allt jag behöver veta om att tillämpa AI inom företags-IT.

Ju mer du matar AI, desto dummare blir den

De flesta företags AI-distributioner följer ett förutsägbart mönster. Organisationer börjar med att ge en agent en uppsättning instruktioner och ansluter den till en informationskälla, antingen det är en RAG (Retrieval-Augmented Generation)-ram, en befintlig kunskapsbas eller till och med en MCP-server. Nästa steg är att lägga till ett LLM och låta det göra sitt jobb.

Problemet är att LLM:er i sin kärna är dumma. De vet inte hur de ska prioritera all information de har till sitt förfogande, så de tenderar att behandla varje bit kontext lika. En människa måste lägga till ett lager av kurering, lära modellen vad som är viktigt och vad som inte är det. Utan kurering får du AI som vet allt och förstår ingenting.

De tre typerna av minne som spelar roll

Effektiv företags AI-kurering innebär att man gör det mesta av tre specifika typer av minne.

Den första är institutionellt minne, som kan verka ganska grundläggande i början. När någon säger “finansiella tjänster”, vet agenten att de menar företagets Finansiella tjänster-avdelning och inte hela branschen. Detta blir bestående organisatorisk kunskap fylld med definitioner, preferenser och konventioner som inte ofta ändras. När detta utvidgas till institutionell kunskap om strategiska prioriteringar, nyckelinitiativ och organisatoriska dynamiker, blir det en rik källa till institutionell kontext.

Nästa är åtgärdshistorik, som fokuserar på betydande beslut, uppgifter och händelser. När en servicebiljett läggs in eller ett system distribueras, känner agenten igen den specifika åtgärden och registrerar den i åtgärdshistoriken. Detta blir den historiska rapporten som syr samman organisatorisk kontext.

Till sist finns det kortvarig konversationskontext. Tänk på det som ögonblick-för-ögonblick-interaktionen med en agent. Det är användbart i ögonblicket, men tenderar att förlora relevans snabbt.

Tillsammans skapar dessa tre typer av minne det viktsystem som generiska AI-modeller saknar. Nu när någon berättar för en agent om företaget, klassificerar och prioriterar de allt detta minne och kuraterar den information som är viktig. Detta utgör kärnan i vad AI borde leverera: inte bara domändata, utan domänbedömning.

Vad kuraterat minne ser ut som i stor skala

Men nog med ramen, vad ser detta ut som i praktiken? Här är vad vi har upptäckt när vi bygger dessa agenter själva.

En vanlig IT-scenario är att skicka en felbiljett till en hjälpdeskagent. Säg att din Outlook inte fungerar, så du skriver in en beskrivning av problemet och väntar på att agenten ska granska och föreslå en lösning.

Men med kuraterat minne som arbetar till din fördel, kunde en bättre process innebära att ta en skärmdump som visar Outlook-fel och ladda upp den till agenten. Nu (1) drar agenten på institutionellt minne för att förstå din arbetsmiljö; (2) kontrollerar åtgärdshistoriken för relaterade incidenter; och (3) tillämpar kontextuell bedömning för en specifik lösning, inte bara ett generiskt svar.

Resultatet är en intelligent agent som inte behöver gissa svaret baserat på en skärmdump. Den undersöker nu aktivt, tittar på all information som för närvarande körs och levererar ett mer användbart svar. Agenten kunde till och med expandera till en nätverk eller svärmeffekt, titta på andra användare i systemet för att se om Outlook-problemet är specifikt för dig eller ett företagsomfattande problem.

Kontextualiseringen av historien eller minnet är det som gör skillnaden. Om du inte kuraterar ditt minne effektivt, kommer du att hamna efter de som gör det. Det är viktigt att ha en arkitektur som vet hur man hanterar data över tid och förstår vad man ska behålla, vad man ska visa och vad man ska släppa.

Tillbaka till resan

Så, hur förändrade min AI-drivna reseplanerare min syn på AI inom företags-IT?

Vad jag byggde var en app som fungerade som vår personliga resekoncierge och började med att “intervjua” varje deltagare. Vi alla förklarade vad som var viktigt för oss på resan: vad var en måste-göra och vad kunde vi hoppa över. Mer viktigt var att den frågade oss om vår “varför” — varför var något viktigt för oss, vad betydde det för oss.

Med denna information gjorde den två saker. Först kuraterade den en reseplan som var balanserad för att leverera något för alla — vi kunde alla se våra önskemål och preferenser representerade i planen den producerade.

Men, naturligtvis, var den första reseplanen bara ett utkast. Det fanns fortfarande många frågor att besvara.

Och det var då den riktiga magin hände. Vi frågade agenten om ett hotell eller en attraktion eller en resa, och svaren den gav oss var berikade med kontexten av vår unika situation: “Det skulle vara en lång resa för barnen, men min svärfar skulle älska slottet (och den unika kaffehuset bredvid) — och det här kunde vara precis platsen för min fru att få den massage hon ville ha.”

Full av denna rika förståelse för vad som var viktigt för oss, kunde den hjälpa oss planera och finslipa vår resa på ett sätt som jag inte tror skulle ha varit möjligt på något annat sätt.

Och det var i ett av dessa första ögonblick som jag förstod vad vi behövde bygga för våra företagskunder: intelligenta system som var så lastade med organisatorisk, transaktionsbaserad och personlig kontext att varje svar och varje interaktion skulle vara som en fingeravtryck: helt unik för det ögonblicket och interaktionen och skulle leverera ett slags värde som inte kunde hända på något annat sätt.