Tankeledere

Før du skalerer AI-agenter, så spørg, hvad de ikke ved

Dror Nadler
Føj Unite.AI til dine foretrukne kilder på Google
NøglepunkterSelvsikre svar fejler, når agenter udelader kontekst som forældede indberetningsdatoer…
Vis mere
  • Selvsikre svar fejler, når agenter udelader kontekst som forældede indberetningsdatoer eller forskelle i regnskabsår.
  • Næsten 6 ud af 10 virksomheder sporede et selvsikkert, men forkert AI-svar til manglende eller ufuldstændig forretningskontekst.
  • Menneskelig gennemgang skal skalere med indsatsen, fordi korrekte data delt forkert stadig kan overtræde regler.

Forestil dig følgende: En økonomidirektør er ved at forberede sig til et møde med en stor institutionel investor. For at hjælpe med forberedelserne beder investor relations-teamet (IR) et AI-værktøj om at finde nogle baggrundsoplysninger – datoen for det seneste møde med virksomheden, investorens udtrykte prioriteter, antallet af aktier, vedkommende ejer, og så videre.

Værktøjet fastslår selvsikkert, at investoren ejer 2,5 millioner aktier. Ingen studser over det, og økonomidirektøren fortsætter ufortrødent forberedelserne til denne vigtige samtale.

Men der er en hage: AI-værktøjet hentede tallet fra en indberetning på Formular 13F, som oplyser beholdningerne ved udgangen af det foregående kvartal. Oplysningerne var korrekte, da de blev indberettet … men nu er de flere måneder gamle. I mellemtiden har investoren i al stilhed solgt 2 millioner aktier og dermed reduceret sin beholdning betydeligt. Dagsordenen for mødet – og måske endda selve mødet! – virker ikke længere relevant.

Hvad gik galt? I dette eksempel fandt AI ikke på noget eller opfandt et tal. Den hentede legitime oplysninger, men undlod at tage forbehold eller forklare begrænsningerne.

I dette tilfælde kan konsekvenserne måske være en akavet samtale eller en forspildt mulighed, men i andre situationer kan et lige så skråsikkert svar uden afgørende kontekst indebære endnu større risici.

Bedre modeller er ikke nødvendigvis løsningen

Grundmodellerne bliver stadig bedre. Så hvorfor ser det ud til, at der dukker flere og flere selvsikre, men forkerte svar op – et problem, som virksomheder på tværs af brancher kæmper med?

For det første er generativ AI (GenAI) blevet allestedsnærværende. Ifølge McKinseys rapport AI’s tilstand i 2026 siger næsten 9 ud af 10 erhvervsfolk, at deres organisationer regelmæssigt bruger AI inden for mindst én forretningsfunktion.

Og efterhånden som organisationer bevæger sig ud over eksperimentstadiet og i stigende grad bruger AI til daglige arbejdsopgaver og beslutninger, støder de også på begrænsningerne i, hvad disse værktøjer ved og forstår.

En nylig brancheundersøgelse viser, hvad der ofte ligger til grund for problemet: Alene i løbet af de seneste seks måneder har næsten 6 ud af 10 virksomheder (57 %) kunnet føre et selvsikkert, men forkert svar fra en AI-agent tilbage til manglende eller ufuldstændig forretningskontekst.

Når man tænker på alle de data, der er tilgængelige for AI, kan det komme som en overraskelse. Men der er en vigtig forskel: Kontekst er ikke det samme som data.

Hvad kontekst er – og ikke er

Kontekst kan omfatte institutionel viden, undtagelser fra reglerne, relationer, arbejdsgange og forventninger til, hvordan arbejdet udføres – nuancer, der ofte er unikke for den enkelte virksomhed.

I mit arbejde med investor relations-teams ser jeg, hvor vigtige disse forskelle kan være. Her er nogle eksempler, der umiddelbart virker enkle:

  • Regnskabskalendere: En virksomheds første kvartal kan følge kalenderåret, mens en anden virksomheds begynder i september. Uden den kontekst kan en AI-agent sammenligne resultater fra de forkerte rapporteringsperioder.
  • Finansielle nøgletal: En organisation kan rapportere både GAAP- og ikke-GAAP-resultat pr. aktie. En agent, der ikke forstår, hvilket tal det er relevant at henvise til – og hvornår – kan give et misvisende billede af virksomhedens resultater.
  • Virksomhedens fortælling: En virksomheds budskaber udvikler sig over tid og afspejler bevidste beslutninger om, hvad der skal fremhæves og udelades. Uden forståelse for historikken og begrundelserne kan en AI-agent udarbejde indhold, der ligefrem undergraver en omhyggeligt udviklet fortælling.

Når man tager alt dette i betragtning, er det ikke overraskende, at den samme grundmodel kan levere meget forskellige resultater hos forskellige virksomheder, afhængigt af den kontekst og specialiserede viden, den har adgang til.

Formålsudviklet, branchespecifik (eller »vertikal«) AI kan være med til at bygge bro over nogle af disse kløfter ved at tage højde for en given branches specialiserede viden, arbejdsgange og nuancer. Men selv den mest avancerede teknologi kan ikke opfange alt det, en organisation ved, og derfor har mennesker også en rolle at spille.

Hvad AI ikke ved om din virksomhed

Men mennesker bliver ikke hængende for evigt. Tænk på, hvad der sker, når en erfaren investor relations-medarbejder (IRO) forlader sin virksomhed efter for eksempel fem år. Vedkommende har sandsynligvis brugt tiden på at identificere og målrette indsatsen mod potentielle investorer, analysere aktionærernes aktiviteter, pleje relationer, forberede sig på regnskabsfremlæggelser, forberede ledere … og meget mere.

Virksomheden beholder manuskripterne til regnskabsfremlæggelserne, præsentationerne og de øvrige filer. Men den institutionelle viden bag dem? Meget af den går også ud ad døren – især når man tager i betragtning, at næsten 8 ud af 10 IRO’er (78 %) ikke har en udpeget efterfølger til deres stilling.

Derfor er organisationer nødt til at gøre en indsats for at bevare viden og forståelse på en måde, som AI-systemer kan bruge. Det er ofte ikke nok blot at give en AI-agent adgang til et fællesdrev.

Det er vigtigt for virksomheder på tværs af brancher at have en metode til systematisk at indsamle vigtig viden og arbejdsgange – for eksempel begrundelserne bag vigtige beslutninger, historikken i relationer og andre forretningskritiske oplysninger, som aldrig blev nedfældet i et formelt dokument.

Det kræver mennesker at opbygge en sådan vidensbase – både til at registrere oplysninger og til at udøve dømmekraft i forbindelse med dem. AI kan hjælpe med at organisere viden, men det er medarbejderne, der bidrager med den vigtige kontekst, som teknologien ofte mangler.

I situationer med meget på spil kan manglende kontekst få alvorlige følger

Vi har talt om, hvad der sker, når AI giver et forkert svar. Men nogle gange kan en AI-agent hente oplysninger, der er korrekte – præcise, aktuelle og relevante – og alligevel skabe problemer ved at dele dem under de forkerte omstændigheder.

I stærkt regulerede brancher er sådanne fejltrin særligt kostbare.

Inden for investor relations kan det for eksempel være i strid med det amerikanske SEC’s Regulation Fair Disclosure (Reg FD) at dele væsentlig, ikke-offentlig information (MNPI), såsom ikke-offentliggjorte økonomiske resultater, med en analytiker eller investor. Det kan potentielt medføre økonomiske sanktioner og skade virksomhedens omdømme.

Andre brancher, såsom sundhedsvæsenet, finansielle tjenesteydelser og juridiske tjenester, står over for lignende regulatoriske risici. Det understreger behovet for sikkerhedsforanstaltninger, når AI-agenter har adgang til følsomme oplysninger.

Det viser også, hvorfor mennesker fortsat er afgørende – de spiller en central rolle i at gennemgå og godkende det, der kommunikeres. Virksomheder kan overveje at tilpasse graden af menneskelig kontrol efter, hvor meget der står på spil, så forskellige typer AI-arbejdsgange har forskellige grader af autonomi.

Tre spørgsmål, du bør stille, før du skalerer brugen af AI-agenter

Vi har sikkert alle oplevet situationer på arbejdet eller i livet generelt, hvor vi ikke ved, hvad vi ikke ved. Nogle gange har det ingen væsentlige konsekvenser; andre gange er følgerne mere alvorlige.

AI har i dag adgang til enorme datasæt, så AI-modeller ved meget mere … men de skal stadig gøre opmærksom på, når der mangler oplysninger. Når virksomheder bruger AI til at håndtere flere strategiske prioriteter og arbejdsgange, er det derfor vigtigt at stille disse spørgsmål, før brugen skaleres:

  • Kan vores agent vise, hvor dens svar stammer fra – og hvornår oplysningerne sidst blev opdateret? Kan den give disse oplysninger uden at blive bedt om det?
  • Har agenten den nødvendige forretningsmæssige kontekst til at fortolke og besvare anmodninger? Gør den sine begrænsninger tydelige?
  • Ved vi, hvornår et menneske skal træde til for at gennemgå og godkende? Under hvilke omstændigheder sker det, og hvordan bliver kontrollen sat i gang?

Løsningen er ikke at undgå AI

Jeg vil gerne gøre det klart: Jeg har stor tiltro til AI. Jeg bruger det dagligt i mit arbejde, kan se de nuværende og fremtidige fordele og mener, at vi på mange måder kun lige har kradset i overfladen af AI’s potentiale. Jeg er ikke i tvivl om, at virksomheder, der undgår AI, og virksomheder, der ikke formår at indføre det på en organiseret og effektiv måde, risikerer alvorligt at sakke bagud.

Men at indføre AI betyder ikke, at man giver en generel model adgang til virksomhedens data og lader den arbejde helt ukontrolleret.

Lige nu – og så vidt jeg kan se – er fuldt autonom AI ikke egnet til alle virksomhedsopgaver eller beslutninger. Organisationer skal forstå, hvor AI kan arbejde selvstændigt, hvor den har brug for yderligere kontekst, og hvor menneskelig dømmekraft er ufravigelig.

Så spørg, hvad en AI-agent ikke ved, før du spørger, hvad den ved. Svarene former, hvordan du anvender den, hvad du stoler på, at den kan gøre, og hvordan du giver den de bedste forudsætninger for at lykkes.

Dror Nadler er produktchef hos Q4 Inc., hvor han leder produktstrategi og innovation og hjælper investor relations-teams med at udnytte AI, data og teknologi, så de kan arbejde mere effektivt. Han har mere end 25 års erfaring inden for virksomhedsteknologi, SaaS og finansielle tjenester og har tidligere haft ledende stillinger hos Intralinks, Cellrox, Rapid7 og EMC. Gennem hele sin karriere har Dror fokuseret på at udvikle og skalere teknologiprodukter, fremme innovation og accelerere virksomheders vækst. Han har en Executive MBA fra Boston University, en kandidatgrad i informationsteknologi fra Harvard University og en juridisk grad fra Reichman University.