Tankeledare
Innan ni skalar upp AI-agenterna, fråga er vad de inte vet

Viktiga punkterSjälvsäkra svar misslyckas när agenter utelämnar kontext som inaktuella…
Visa mer
- Självsäkra svar misslyckas när agenter utelämnar kontext som inaktuella registreringsdatum eller skillnader i räkenskapskalender.
- Nästan 6 av 10 företag spårade ett självsäkert men felaktigt AI-svar till saknad eller ofullständig affärskontext.
- Mänsklig granskning måste skalas med insatsen eftersom korrekt data som delas på fel sätt fortfarande kan bryta mot regler.
Föreställ dig följande: En ekonomichef förbereder sig inför ett möte med en stor institutionell investerare. För att underlätta förberedelserna ber investor relations-teamet (IR-teamet) ett AI-verktyg att ta fram bakgrundsinformation – datumet för det senaste mötet med företaget, vilka prioriteringar som uttrycktes, antalet aktier som innehades och så vidare.
Verktyget uppger självsäkert att investeraren äger 2,5 miljoner aktier. Ingen höjer på ögonbrynen, och ekonomichefen fortsätter att förbereda sig inför det viktiga samtalet i full fart.
Men det finns en hake: AI:n hämtade uppgiften från en 13F-rapport, som redovisar innehav per utgången av föregående kvartal. Informationen stämde när den rapporterades … men nu är den flera månader gammal. Under tiden har investeraren i tysthet sålt 2 miljoner aktier och därmed minskat sitt innehav betydligt. Mötets agenda – och kanske till och med själva mötet! – verkar inte längre relevant.
Vad gick fel? I det här scenariot hallucinerade AI:n inte och hittade inte på någon siffra. Den hämtade korrekt information men underlät att sätta den i sitt sammanhang eller förklara dess begränsningar.
I det här fallet kanske följden blir ett pinsamt samtal eller ett missat tillfälle, men i andra situationer kan ett lika tvärsäkert svar som saknar avgörande sammanhang innebära ännu större risker.
Bättre modeller är inte nödvändigtvis lösningen
Grundmodellerna blir allt bättre. Varför verkar då självsäkra men felaktiga svar dyka upp allt oftare – ett problem som företag i alla branscher brottas med?
Till att börja med har generativ AI (GenAI) blivit helt allestädes närvarande. Enligt McKinseys rapport Läget för AI 2026 uppger nästan 9 av 10 yrkesverksamma att deras organisationer regelbundet använder AI inom minst en affärsfunktion.
Samtidigt som organisationer går vidare från experimentstadiet och i allt högre grad förlitar sig på AI för vardagliga arbetsuppgifter och beslut, stöter de också på begränsningarna i vad verktygen känner till och förstår.
En färsk branschundersökning visar vad som ofta ligger bakom problemet: bara under de senaste sex månaderna har nästan 6 av 10 företag (57 %) kunnat härleda ett självsäkert men felaktigt svar från en AI-agent till att affärskontext saknades eller var ofullständig.
Med tanke på alla data som finns tillgängliga för AI kan det här komma som en överraskning. Men det är viktigt att skilja på två saker: Kontext är inte detsamma som data.
Vad kontext är – och inte är
Kontext kan omfatta institutionell kunskap, undantag från reglerna, relationer, processer och förväntningar på hur arbetet utförs – nyanser som ofta är unika för varje företag.
I mitt arbete med investor relations-team ser jag hur viktiga de här skillnaderna kan vara. Här är några exempel som vid första anblicken verkar enkla:
- Räkenskapsår: Ett företags första kvartal kan sammanfalla med kalenderårets första kvartal, medan ett annat företags börjar i september. Utan den kontexten kan en AI-agent jämföra resultat från fel rapporteringsperioder.
- Finansiella nyckeltal: En organisation kan redovisa både resultat per aktie enligt GAAP och resultat per aktie enligt icke-GAAP. En agent som inte förstår vilket mått som är relevant att hänvisa till – och när – kan ge en missvisande bild av företagets resultat.
- Företagets berättelse: Ett företags budskap utvecklas över tid och speglar medvetna beslut om vad som ska betonas och utelämnas. Utan förståelse för historiken och resonemangen bakom kan en AI-agent skapa innehåll som i själva verket undergräver en omsorgsfullt utformad berättelse.
Med tanke på allt detta är det inte förvånande att samma grundmodell kan ge mycket olika resultat hos olika företag, beroende på vilken kontext och specialiserad kunskap som finns tillgänglig för den.
Specialbyggd, branschspecifik (eller ”vertikal”) AI kan bidra till att överbrygga en del av dessa kunskapsluckor genom att ta hänsyn till den specialiserade kunskap, de arbetsflöden och de nyanser som kännetecknar en viss sektor. Men inte ens den mest avancerade tekniken kan fånga allt som en organisation vet, och därför behövs också människor.
Vad AI inte vet om din verksamhet
Men människor stannar inte för alltid. Tänk på vad som händer när en erfaren investor relations-ansvarig (IRO) lämnar företaget efter exempelvis fem år. Personen har sannolikt ägnat tiden åt att identifiera och rikta in sig på potentiella investerare, analysera aktieägaraktivitet, bygga relationer, förbereda resultatrapporter, förbereda företagsledningen … och mycket mer.
Företaget behåller resultatmanus, presentationer och andra filer. Men den institutionella kunskap som ligger bakom dem? Mycket av den försvinner också när personen slutar, särskilt med tanke på att nästan åtta av tio IRO:er (78 %) inte har någon utsedd efterträdare.
Därför behöver organisationer arbeta aktivt med att bevara kunskap och förståelse på ett sätt som AI-system kan använda. Det räcker ofta inte att bara koppla en AI-agent till en delad enhet.
Att ha ett sätt att systematiskt fånga upp viktig kunskap och viktiga arbetsflöden – till exempel resonemangen bakom viktiga beslut, historiken bakom relationer och annan verksamhetskritisk information som aldrig dokumenterats formellt – är viktigt för företag i alla branscher.
För att bygga upp en sådan kunskapsbas behövs människor, både för att dokumentera informationen och för att göra bedömningar av den. AI kan hjälpa till att organisera kunskap, men det är medarbetarna som bidrar med den viktiga kontext som tekniken ofta missar.
I miljöer med höga insatser får kontextluckor allvarliga följder
Vi har diskuterat vad som händer när AI ger fel svar. Men ibland kan en AI-agent hämta information som är korrekt, aktuell och relevant – och ändå skapa problem genom att dela den under fel omständigheter.
I hårt reglerade branscher kan sådana misstag bli särskilt kostsamma.
Inom investerarrelationer kan det till exempel strida mot SEC:s Regulation Fair Disclosure (Reg FD) att dela väsentlig, icke-offentlig information (MNPI), som opublicerade finansiella resultat, med en analytiker eller investerare – och potentiellt leda till ekonomiska sanktioner och skadat anseende.
Även andra branscher, som hälso- och sjukvård, finansiella tjänster och juridiska tjänster, står inför liknande regulatoriska risker. Det visar hur viktigt det är med skyddsräcken när AI-agenter får tillgång till känslig information.
Det visar också varför människor fortfarande är avgörande – de måste granska och godkänna det som kommuniceras. Företag kan överväga att anpassa graden av mänsklig granskning efter insatsernas storlek, så att olika typer av AI-arbetsflöden har olika grad av självständighet.
Tre frågor att ställa innan ni skalar upp AI-agenter
Vi har nog alla varit med om situationer, på jobbet eller i livet i stort, där vi inte vet vad vi inte vet. Ibland får det inga allvarliga följder, men ibland kan konsekvenserna bli betydande.
Med de enorma datamängder som AI har tillgång till i dag vet AI-modeller mycket mer … men de behöver ändå ”säga till” när det finns kunskapsluckor. När företag använder AI för att hantera allt fler strategiska prioriteringar och arbetsflöden är det därför viktigt att ställa de här frågorna innan ni skalar upp:
- Kan vår agent visa varifrån svaren kommer – och när informationen senast uppdaterades? Kan den lämna den informationen utan att någon ber om den?
- Har agenten den verksamhetskontext som behövs för att tolka och besvara förfrågningar? Redogör den för sina begränsningar?
- Vet vi när en människa behöver ingripa för att granska och godkänna? Under vilka omständigheter sker det, och hur utlöses granskningen?
Lösningen är inte att undvika AI
Jag vill vara tydlig: jag är positiv till AI. Jag använder tekniken dagligen i mitt arbete, ser både de nuvarande och framtida fördelarna och tror att vi på många sätt bara har börjat utforska AI:s potential. Jag tvivlar inte på att företag som undviker AI, liksom företag som inte lyckas införa tekniken på ett strukturerat och effektivt sätt, löper en reell risk att hamna på efterkälken.
Men att införa AI innebär inte att ge en generell modell tillgång till företagsdata och låta den arbeta helt utan kontroll.
Just nu, och såvitt jag kan bedöma, är helt autonom AI inte lämplig för alla arbetsuppgifter eller beslut i företag. Organisationer behöver förstå var AI kan arbeta självständigt, var den behöver mer kontext och var mänskligt omdöme är oumbärligt.
Så innan ni frågar vad en AI-agent vet, fråga vad den inte vet. Svaren formar hur ni använder den, vad ni litar på att den ska göra och hur ni skapar förutsättningar för att den ska lyckas.












