Din AI-agent vet allt — och förstår ingenting

“Vi borde följa med mina föräldrar på deras resa till Irland” — detta till synes harmlösa uttalande skickade rysningar nedför min rygg.

Min fru och jag reser mycket. Vi vet vad vi gillar. Min frus föräldrar, å andra sidan, reser sällan längre än några hundra engelska mil från sitt hem och har lämnat landet tillsammans totalt en gång — för vårt bröllop.

För att toppa allt detta var denna resa en julklapp från min svärfar till min svärmor så att hon kunde åka och besöka sin familj, kanske för sista gången.

Jag kunde se att denna resa skulle bli en katastrof. Hur i världen skulle vi kunna kombinera våra vitt skilda erfarenheter och förväntningar så att vi kunde ha en underbar resa — eller åtminstone inte hata varandra i slutet av den?

Som vilken självrespekterande teknikentusiast som helst, vände jag mig till tekniken — specifikt till AI.

Men vad jag inte förväntade mig var att mitt lilla experiment med att vibekoda en AI-driven familjeresplaneringsapp skulle lära mig nästan allt jag behöver veta om att tillämpa AI inom företags-IT.

Ju mer du matar AI, desto dummare blir den

De flesta AI-införanden i företag följer ett förutsägbart mönster. Organisationer börjar med att ge en agent en uppsättning instruktioner och ansluter den till en informationskälla, antingen en RAG-ram (Retrieval-Augmented Generation) eller en befintlig kunskapsbas, eller till och med en MCP-server. Nästa steg är att lägga till en stor språkmodell (LLM) och låta den göra sitt jobb.

Problemet är att LLM:er i grunden är dumma. De vet inte hur de ska prioritera all information de har tillgång till, så de tenderar att behandla varje bit kontext lika. En människa måste lägga till ett lager av kurering, lära modellen vad som är viktigt och vad som inte är det. Utan kurering får du AI som vet allt och förstår ingenting.

De tre typer av minne som betyder något

Effektiv kurering av företags-AI innebär att man drar största möjliga nytta av tre specifika typer av minne.

Den första är institutionellt minne, som kan verka ganska grundläggande i början. När någon säger “finansiella tjänster”, vet agenten att de menar företagets Finansiella Tjänster-avdelning och inte hela branschen. Detta blir beständig organisatorisk kunskap fylld med definitioner, preferenser och konventioner som sällan ändras. När detta utvidgas till institutionell kunskap om strategiska prioriteringar, nyckelinitiativ och organisatoriska dynamiker, blir det en rik källa till institutionellt sammanhang.

Nästa är åtgärdshistorik, som fokuserar på betydande beslut, uppgifter och händelser. När ett supportärende registreras eller ett system driftsätts, känner agenten igen den specifika åtgärden och registrerar den i åtgärdshistoriken. Detta blir den historiska rapporten som syr ihop organisatoriskt sammanhang.

Slutligen finns det kortvarig konversationskontext. Tänk på det som ögonblick-för-ögonblick-interaktionen med en agent. Det är användbart i ögonblicket, men tenderar att förlora relevans snabbt.

Tillsammans skapar dessa tre typer av minne det viktningssystem som generiska AI-modeller saknar. Nu när någon berättar för en agent om företaget, klassificerar och prioriterar de allt detta minne och kuraterar den information som är viktig. Detta utgör kärnan i vad AI borde leverera: inte bara domändata, utan domänbedömning.

Hur kuraterat minne ser ut i stor skala

Men nog med ramverket, hur ser detta ut i praktiken? Här är vad vi har upptäckt när vi byggt dessa agenter själva.

Ett vanligt IT-scenario är att skicka ett felärende till en helpdeskagent. Säg att din Outlook inte fungerar, så du skriver in en beskrivning av problemet och väntar på att agenten ska granska och föreslå en lösning.

Men med kuraterat minne som fungerar till din fördel, kunde en bättre process innebära att ta en skärmdump som visar Outlook-fel och ladda upp den till agenten. Nu (1) använder agenten institutionellt minne för att förstå din arbetsmiljö; (2) kontrollerar åtgärdshistoriken för relaterade incidenter; och (3) tillämpar kontextuell bedömning för en specifik lösning, inte bara ett generiskt svar.

Resultatet är en intelligent agent som inte behöver gissa svaret baserat på en skärmdump. Den undersöker nu faktiskt, tittar på all information som för närvarande körs och levererar ett mer användbart svar. Agenten kunde till och med expandera till en nätverks- eller svärmeffekt, titta på andra användare i systemet för att se om Outlook-problemet bara gäller dig eller hela företaget.

Att sätta historiken eller minnet i sitt sammanhang är det som gör skillnaden. Om du inte kuraterar ditt minne effektivt, kommer du att halka efter dem som gör det. Det är viktigt att ha en arkitektur som vet hur man hanterar den här datan över tid och förstår vad man ska behålla, vad man ska visa och vad man ska släppa.

Tillbaka till resan

Så, hur förändrade min AI-drivna reseplanerare min syn på AI inom företags-IT?

Vad jag byggde var en app som fungerade som vår personliga reseconcierge och började med att “intervjua” varje deltagare. Vi alla förklarade vad som betydde något för oss på resan: vad som var ett måste och vad vi kunde hoppa över. Ännu viktigare var att den frågade oss om vårt ”varför” — varför var något viktigt för oss, vad betydde det för oss.

Med hjälp av denna information gjorde den två saker. Först kuraterade den en reseplan som var balanserad för att leverera något för alla — vi kunde alla se våra önskemål och preferenser representerade i planen den producerade.

Men, naturligtvis, var den första reseplanen bara ett utkast. Det fanns fortfarande många frågor att besvara.

Och det var då den riktiga magin hände. Vi frågade agenten om ett hotell, en sevärdhet eller en bilfärd, och svaren den gav oss var berikade med kontexten av vår unika situation: “Det skulle vara en lång bilfärd för barnen, men min svärfar skulle älska slottet (och det unika kaffehuset bredvid) — och detta kunde vara precis platsen för min fru att få den där massagen.”

Fylld med denna rika förståelse för vad som var viktigt för oss, kunde den hjälpa oss planera och finslipa vår resa på ett sätt som jag inte tror skulle ha varit möjligt på något annat sätt.

Och det var i ett av dessa första ögonblick som jag förstod vad vi behövde bygga för våra företagskunder: intelligenta system som var så lastade med organisatoriskt, transaktionellt och personligt sammanhang att varje svar och varje interaktion skulle vara som ett fingeravtryck: helt unikt för det ögonblicket och interaktionen och skulle leverera en typ av värde som inte kunde hända på något annat sätt.