Varför bättre data inte räcker för AI-agenter

I åratal har ett av de vanligaste råden om AI i företag varit att först få ordning på data. Logiken är enkel: om ett system ska kunna fatta användbara beslut behöver det korrekt och lättillgänglig information att utgå från.

Det påståendet stämmer fortfarande, men det blir alltmer ofullständigt i takt med att AI-agenter går från att besvara frågor och skapa innehåll till att agera på medarbetares och organisationers vägnar. Data kan tala om för en agent vad som gäller för en kund, en transaktion, ett anspråk eller en begäran, men den talar inte nödvändigtvis om vad som bör hända härnäst – eller vilka följder en åtgärd skulle få. Den skillnaden är viktig när en agent inte längre bara ger ett svar, utan godkänner en begäran, uppdaterar en post, kontaktar en kund eller för ett ärende vidare.

Medarbetare i företag förväntas lära sig att arbeta inom en struktur med godkännandekedjor, verksamhetsregler, beroenden, undantag och eskaleringsvägar – agenter behöver ett sätt att göra detsamma. Med Gartner som förutspår att 40 % av företagsapplikationerna kommer att innehålla uppgiftsspecifika AI-agenter i slutet av 2026, jämfört med mindre än 5 % år 2025, blir agenternas kunskapsluckor bara svårare att bortse från. 

Gartner förutspår också att 80 % av den konkreta avkastningen på investeringar från agentisk AI år 2028 kommer från specialiserade, domänspecifika agenter. Specialisering är viktig, men den löser bara en del av problemet. Att känna till ett visst område talar inte automatiskt om för en agent var dess ansvar börjar och slutar, hur dess uppgift passar in i en större process eller vem som bör ta över när något ligger utanför dess ansvarsområde. För att agenter ska kunna bli tillförlitliga deltagare i företagens arbete behöver de både sammanhang om arbetsflödet och verksamhetsdata.

Bra data talar inte om för en agent vad som händer härnäst

Tänk på en låneansökan, där en agent kan ha tillgång till den sökandes ekonomiska historik, anställningsuppgifter och andra relevanta handlingar. Informationen kan hjälpa agenten att förstå ansökan, men den talar inte om hur organisationen hanterar den.

Vilka kontroller måste göras först? Vad förändras när den sökande uppfyller ett villkor men inte ett annat? Vilken information måste finnas innan ärendet kan gå vidare? Vilka beslut kan fattas automatiskt, och vilka måste skickas till en kreditbedömare?

De flesta arbetsprocesser i företag innehåller många sådana villkorade förlopp. En process kan gå vidare automatiskt när vissa kriterier är uppfyllda, stanna upp medan ytterligare information samlas in eller ta en helt annan väg om ett undantag inträffar. Vilken åtgärd som bör vidtas härnäst beror inte bara på vilken information som finns tillgänglig, utan också på var i processen arbetet befinner sig och vad som redan har hänt.

Det här förändrar innebörden av tillförlitlighet hos en agent i ett företag. Ett korrekt svar räcker inte om nästa åtgärd blir fel. En agent kan tolka informationen framför sig korrekt och ändå flytta ett ärende till fel steg, hoppa över ett obligatoriskt godkännande eller agera innan ett beroende har hanterats.

McKinsey har nyligen delat med sig av insikter från sitt arbete med ett medicintekniskt företag som upptäckte att AI-plattformen det använde inte kunde hantera flera av företagets centrala arbetsflödesregler. I stället för att senarelägga lanseringen för att åtgärda bristerna fortsatte företaget enligt plan och gick till slut miste om uppskattningsvis 30 % av det värde AI:n var tänkt att skapa. Exemplet visar varför företag måste ta hänsyn till processen kring en uppgift, inte bara informationen som behövs för att utföra den. 

Anpassa skyddsåtgärderna efter vilka beslut en agent kan fatta

I takt med att agenter blir kapabla att agera måste även styrningen bli mer specifik. En agent som hämtar ett policydokument innebär inte samma risk som en agent som ändrar en kunds konto, godkänner en betalning eller initierar en transaktion. Organisationer kan dock lätt hamna i ett av två ytterlighetslägen: att låta agenter agera alltför fritt eller att kräva mänskligt godkännande för nästan allt.

Kontrollerna kring en agent bör återspegla vilka beslut den kan fatta och vilka följder de kan få. Det kan vara lämpligt att låta agenten utföra en rutinmässig åtgärd med låg risk på egen hand. En annan åtgärd kan kräva godkännande om den överstiger ett visst värde. Ett ovanligt ärende kan behöva eskaleras omedelbart till en medarbetare.

Mänsklig tillsyn är mest användbar när den är genomtänkt. Om en person måste godkänna varje rutinmoment försvinner en stor del av nyttan med att införa en agent. Men att ta bort kontrollpunkter för beslut som verkligen kräver omdöme eller ansvarstagande skapar ett annat problem.

IBM Research har förespråkat uttryckliga regler för vilka åtgärder agenter får vidta och vid vilka punkter mänsklig tillsyn krävs. Kontrollerna behöver också ta hänsyn till den process agenten deltar i. Agentens befogenheter är inte nödvändigtvis oförändrade från början till slutet av ett ärende. Vad den säkert kan göra kan bero på processens skede, den information som redan har verifierats, tidigare fattade beslut och konsekvenserna av nästa åtgärd.

Det innebär att organisationer behöver bygga in styrning i själva arbetsflödet. I stället för att ge en agent omfattande behörigheter och förlita sig på att den fungerar överallt kan de definiera var den får agera självständigt, när ytterligare villkor måste vara uppfyllda och när ansvaret måste övergå till en person. Frågan handlar då mindre om huruvida en agent är autonom och mer om var autonomi passar in i en process.

Agenter måste fungera i den befintliga verksamheten

Processens sammanhang blir ännu viktigare när en agent måste samverka med resten av organisationen. Organisationer börjar inte från noll. En enskild kundförfrågan kan redan förflyttas mellan ett CRM-system, ett dokumentarkiv, en ärendehanteringsplattform och ett ERP-system, samtidigt som medarbetare från flera avdelningar är involverade.

Att införa en agent i en del av den miljön gör inte automatiskt hela processen effektivare. En agent kan slutföra sin uppgift helt perfekt, men om en medarbetare sedan måste kopiera resultatet till ett annat program, avgöra vem som behöver det härnäst eller starta om processen manuellt någon annanstans har flaskhalsen bara flyttats.

Därför behöver företag se agenter som deltagare i en större process snarare än som fristående verktyg. Vad utlöser agenten? Vilken information får den? Vad ansvarar den för? Vart tar arbetet vägen när den är klar? Och vad händer när den inte kan slutföra uppgiften?

De frågorna blir ännu viktigare när organisationer inför flera specialiserade agenter. Deloitte har pekat ut orkestrering som ett centralt krav för företag som går över till system med flera agenter, där olika agenter kan ha skilda roller och samordna arbetet. Orkestrering på företagsnivå måste även omfatta hur agenter kommunicerar och samordnar sig med varandra, inte bara hur de arbetar var för sig. Utan sådan tillsyn riskerar agenter att agera utifrån ofullständigt sammanhang, utlösa motstridiga åtgärder eller kringgå etablerade affärsregler och godkännandeprocesser. Agenter arbetar fortfarande inom organisationer som rymmer befintliga program, medarbetare, affärsregler och processer som kan pågå i dagar, veckor eller månader.

Börja med den process som behöver slutföras och avgör var agenter, människor och befintliga system passar in. En agent kan hantera ett steg självständigt, en annan agent kan utföra en specialiserad kontroll, en medarbetare kan göra en bedömning och ett befintligt system kan genomföra den slutliga transaktionen. Det viktiga är att arbetet kan förflyttas mellan deltagarna utan att sammanhanget går förlorat på vägen.

Autonomi kräver struktur

Att ge agenter mer struktur innebär inte att varje åtgärd behöver begränsas ytterligare. Tvärtom kan det vara så. Tydliga processer kan göra organisationer tryggare med att låta agenter arbeta självständigt inom vissa områden, eftersom gränser, undantag och punkter för eskalering redan har fastställts. En agent behöver inte obegränsad frihet för att skapa ett betydande värde. Den behöver tillräckligt ansvar för att driva arbetet framåt, tillräckligt sammanhang för att veta vad som ska ske härnäst och en tydlig förståelse för när ansvaret hör hemma någon annanstans.

Bättre data kommer även fortsättningsvis att göra agenter mer kapabla. Men förmåga i sig gör inte en agent användbar i ett företag. Det verkliga testet är om den kan vidta rätt åtgärd vid rätt tidpunkt i en process och inom de ramar som verksamheten har fastställt.