Din AI-agent vet allt — och förstår ingenting

“Vi borde följa med mina föräldrar på deras resa till Irland” — denna enkla mening skickade rysningar nedför min rygg.

Min fru och jag reser mycket. Vi vet vad vi gillar. Min frus föräldrar, å andra sidan, reser sällan längre än några hundra mil från sitt hem och har lämnat landet tillsammans totalt en gång — för vår bröllop.

För att toppa allt detta var denna resa en julklapp från min svärfar till min svärmor så att hon kunde åka och besöka sin familj, kanske för sista gången.

Jag kunde se att denna resa skulle bli en katastrof. Hur i världen skulle vi kunna kombinera våra vilda och olika upplevelser och förväntningar så att vi kunde ha en underbar resa — eller åtminstone inte hata varandra i slutet av den?

Som vilken självrespekterande teknikentusiast som helst, vände jag mig till tekniken — specifikt till AI.

Men vad jag inte förväntade mig var att mitt lilla experiment med att koda en AI-driven familjeresplaneringsapp skulle lära mig nästan allt jag behöver veta om att tillämpa AI inom företags-IT.

Ju mer du matar AI, desto dummare blir den

De flesta företags AI-distributioner följer ett förutsägbart mönster. Organisationer börjar med att ge en agent en uppsättning instruktioner och ansluter den till en informationskälla, antingen en RAG-ram (Retrieval-Augmented Generation) eller en befintlig kunskapsbas, eller till och med en MCP-server. Nästa steg är att lägga till ett LLM och låta det göra sitt jobb.

Problemet är att LLM:er i grunden är dumma. De vet inte hur de ska prioritera all information de har tillgång till, så de tenderar att behandla varje bit kontext lika. En människa måste lägga till ett lager av kurering, lära modellen vad som är viktigt och vad som inte är det. Utan kurering får du AI som vet allt och förstår ingenting.

De tre typer av minne som betyder något

Effektiv företags AI-kurering innebär att man gör det mesta av tre specifika typer av minne.

Den första är institutionellt minne, som kan verka ganska grundläggande i början. När någon säger “finansiella tjänster”, vet agenten att de menar företagets Finansiella Tjänster-avdelning och inte hela branschen. Detta blir beständig organisatorisk kunskap fylld med definitioner, preferenser och konventioner som sällan ändras. När detta utvidgas till institutionell kunskap om strategiska prioriteringar, nyckelinitiativ och organisatoriska dynamiker, blir det en rik källa till institutionellt sammanhang.

Nästa är åtgärds historia, som fokuserar på betydande beslut, uppgifter och händelser. När en servicebiljett lämnas in eller ett system distribueras, känner agenten igen den specifika åtgärden och registrerar den i åtgärds historien. Detta blir den historiska rapporten som syr ihop organisatoriskt sammanhang.

Slutligen finns det kortvarig konversationskontext. Tänk på det som ögonblick-för-ögonblick-interaktionen med en agent. Det är användbart i ögonblicket, men tenderar att förlora relevans snabbt.

Tillsammans skapar dessa tre typer av minne den viktningssystem som generiska AI-modeller saknar. Nu när någon berättar för en agent om företaget, klassificerar och prioriterar de all denna information och kuraterar den information som är viktig. Detta utgör kärnan i vad AI borde leverera: inte bara domändata, utan domänbedömning.

Vad kuraterat minne ser ut som i stor skala

Men nog med ramverket, vad ser detta ut som i praktiken? Här är vad vi har upptäckt när vi byggt dessa agenter själva.

En vanlig IT-scenario är att skicka en felbiljett till en hjälpdeskagent. Säg att din Outlook inte fungerar, så du skriver in en beskrivning av problemet och väntar på att agenten ska granska och föreslå en lösning.

Men med kuraterat minne som fungerar till din fördel, kunde en bättre process innebära att ta en skärmdump som visar Outlook-fel och ladda upp den till agenten. Nu (1) drar agenten på institutionellt minne för att förstå din arbetsmiljö; (2) kontrollerar åtgärds historien för relaterade incidenter; och (3) tillämpar kontextuell bedömning för en specifik lösning, inte bara ett generiskt svar.

Resultatet är en intelligent agent som inte behöver gissa svaret baserat på en skärmdump. Den undersöker nu faktiskt, tittar på all information som för närvarande körs och levererar ett mer användbart svar. Agenten kunde till och med expandera till en nätverks- eller svärmeffekt, titta på andra användare i systemet för att se om Outlook-problemet är ett företagsomfattande problem.

Kontextualiseringen av historien eller minnet är skillnaden. Om du inte kuraterar ditt minne effektivt, kommer du att halka efter dem som gör det. Det är viktigt att ha en arkitektur som vet hur man hanterar den här datan över tid och förstår vad man ska behålla, vad man ska visa och vad man ska släppa.

Tillbaka till resan

Så, hur förändrade min AI-drivna reseplanerare min syn på AI inom företags-IT?

Vad jag byggde var en app som fungerade som vår personliga resekoncierge och började med att “intervjua” varje deltagare. Vi alla förklarade vad som betydde något för oss på resan: vad som var ett måste och vad vi kunde hoppa över. Mer viktigt var att den frågade oss om vår “varför” — varför var något viktigt för oss, vad betydde det för oss.

Med hjälp av denna information gjorde den två saker. Först kuraterade den en reseplan som var balanserad för att leverera något för alla — vi kunde alla se våra önskemål och preferenser representerade i planen den producerade.

Men, naturligtvis, var den första reseplanen bara ett utkast. Det fanns fortfarande många frågor att besvara.

Och det var då den riktiga magin hände. Vi frågade agenten om ett hotell eller en attraktion eller en resa, och svaren den gav oss var berikade med kontexten av vår unika situation: “Det skulle vara en lång resa för barnen, men min svärfar skulle älska slottet (och det unika kaffehuset bredvid) — och detta kunde vara precis platsen för min fru att få den där massagen.”

Fylld med denna rika förståelse för vad som var viktigt för oss, kunde den hjälpa oss planera och finslipa vår resa på ett sätt som jag inte tror skulle ha varit möjligt på något annat sätt.

Och det var i ett av dessa första ögonblick som jag förstod vad vi behövde bygga för våra företagskunder: intelligenta system som var så lastade med organisatoriskt, transaktionellt och personligt sammanhang att varje svar och varje interaktion skulle vara som en fingeravtryck: helt unik för det ögonblicket och interaktionen och skulle leverera en typ av värde som inte kunde hända på något annat sätt.