3 överväganden för säkra och tillförlitliga AI-agenter för företag

Enligt Gartner kommer 30% av GenAI-projekt att troligen överges efter bevis för konceptet senast 2025. Tidig användning av GenAI visade att de flesta företags datainfrastruktur och styrningspraxis inte var redo för effektiv AI-distribution. Den första vågen av GenAI-produktisering mötte betydande hinder, och många organisationer kämpade för att gå utöver bevis för konceptet till att uppnå meningsfull affärsnytta.

När vi går in i den andra vågen av generativ AI-produktisering inser företagen att en framgångsrik implementering av dessa teknologier kräver mer än att bara ansluta en LLM till deras data. Nyckeln till att låsa upp AI:s potential vilar på tre kärnpelare: att få data i ordning och se till att den är redo för integration med AI; att förbättra datastyrningspraxis för att hantera de unika utmaningar som GenAI introducerar; och att distribuera AI-agenter på ett sätt som gör det naturligt och intuitivt att använda dem på ett säkert och tillförlitligt sätt, så att användarna inte tvingas lära sig specialiserade färdigheter eller exakta användningsmönster. Tillsammans skapar dessa pelare en stark grund för säkra och effektiva AI-agenter i företagsmiljöer.

Att korrekt förbereda din data för AI

Medan strukturerad data kan verka organiserad för det blotta ögat, ordnad i tabeller och kolumner, har LLM:er ofta svårt att förstå och arbeta med denna strukturerade data effektivt. Detta beror på att data i de flesta företag inte är märkt på ett semantiskt meningsfullt sätt. Data har ofta kryptiska etiketter, till exempel “ID” utan någon tydlig indikation på om det är en identifierare för en kund, en produkt eller en transaktion. Med strukturerad data är det också svårt att fånga den rätta kontexten och relationerna mellan olika sammanhängande datapunkter, till exempel hur steg i en kundresa hänger samman. Liksom vi behövde märka varje bild i datorseendeapplikationer för att möjliggöra meningsfull interaktion, måste organisationer nu ta på sig den komplexa uppgiften att semantiskt märka sin data och dokumentera relationer över alla system för att möjliggöra meningsfulla AI-interaktioner.

Dessutom är data utspridd över många olika platser – från traditionella servrar till olika molntjänster och olika programvaruapplikationer. Denna patchwork av system leder till kritiska interoperabilitets- och integrationsproblem som blir ännu mer problematiska när man implementerar AI-lösningar.

En annan grundläggande utmaning ligger i inkonsekvensen i affärsdefinitioner över olika system och avdelningar. Till exempel kan kundframgångsteam definiera “uppgradering” på ett sätt, medan säljteamet definierar det på ett annat sätt. När du ansluter en AI-agent eller chattbot till dessa system och börjar ställa frågor, får du olika svar eftersom datadefinitionerna inte är samordnade. Denna brist på samordning är inte en mindre olägenhet – det är ett kritiskt hinder för att implementera tillförlitliga AI-lösningar.

Dålig datakvalitet skapar ett klassiskt “skräp in, skräp ut“-scenario som blir exponentiellt allvarligare när AI-verktyg distribueras över ett företag. Felaktig eller rörig data påverkar långt mer än en analys – den sprider felaktig information till alla som använder systemet genom deras frågor och interaktioner. För att bygga förtroende för AI-system för verkliga affärsbeslut måste företagen se till att deras AI-applikationer har data som är ren, exakt och förstådd i en lämplig affärskontext. Detta representerar en grundläggande förändring i hur organisationer måste tänka på sina data tillgångar i AI-eran – där kvalitet, konsekvens och semantisk tydlighet blir lika viktiga som data i sig.

Att stärka styrningsmetoder

Datastyrning har varit ett stort fokus för organisationer under de senaste åren, främst inriktat på att hantera och skydda data som används i analyser. Företagen har gjort ansträngningar för att kartlägga känslig information, följa åtkomststandarder, följa lagar som GDPR och CCPA, och upptäcka personlig data. Dessa initiativ är viktiga för att skapa AI-klara data. Men när organisationer introducerar generativa AI-agenter i sina arbetsflöden, utvidgas styrningsutmaningen bortom bara data själv till att omfatta hela användarupplevelsen av interaktion med AI.

Vi står nu inför kravet att styra inte bara den underliggande data, utan också processen genom vilken användare interagerar med den data via AI-agenter. Befintlig lagstiftning, som EU:s AI-lag, och mer reglering på horisonten understryker nödvändigheten av att styra själva frågesvarande processen. Detta innebär att se till att AI-agenter tillhandahåller transparenta, förklarliga och spårbara svar. När användare får svarta lådor-svar – som att fråga “Hur många flupatienter togs in igår?” och bara få “50” utan kontext – är det svårt att lita på den informationen för kritiska beslut. Utan att veta var data kom från, hur den beräknades eller definitioner av termer som “inlagd” och “igår”, förlorar AI-utmatningen tillförlitlighet.

Till skillnad från interaktioner med dokument, där användare kan spåra svar tillbaka till specifika PDF:er eller policys för att verifiera exakthet, saknar interaktioner med strukturerad data via AI-agenter ofta denna nivå av spårbarhet och förklarbarhet. För att hantera dessa problem måste organisationer införa styrningsåtgärder som inte bara skyddar känslig data, utan också gör AI-interaktionsupplevelsen styrd och tillförlitlig. Detta inkluderar att etablera robusta åtkomstkontroller för att säkerställa att endast auktoriserad personal kan komma åt specifik information, definiera tydliga dataägarskaps- och förvaltningsansvar, och säkerställa att AI-agenter tillhandahåller förklaringar och referenser för sina utmatningar. Genom att förbättra datastyrningspraxis för att inkludera dessa överväganden kan företagen säkert utnyttja kraften hos AI-agenter samtidigt som de följer utvecklande regler och upprätthåller användarförtroende.

Att tänka bortom promptteknik

När organisationer introducerar generativa AI-agenter i ett försök att förbättra dataåtkomst, har promptteknik uppstått som ett nytt tekniskt hinder för affärsanvändare. Medan det lovats som en lovande karriärväg, är promptteknik i princip att återskapa samma hinder vi har kämpat med i dataanalys. Att skapa perfekta promptrar är inte annorlunda än att skriva specialiserade SQL-frågor eller bygga dashboardfilter – det är att flytta teknisk expertis från ett format till ett annat, fortfarande krävande specialiserade färdigheter som de flesta affärsanvändare inte har och inte borde behöva.

Företagen har länge försökt lösa dataåtkomst genom att utbilda användare att bättre förstå datasystem, skapa dokumentation och utveckla specialiserade roller. Men denna strategi är bakvänd – vi ber användarna att anpassa sig till data i stället för att göra data anpassad till användarna. Promptteknik hotar att fortsätta denna trend genom att skapa ännu ett lager av tekniska mellanhänder.

Sann data-demokratisering kräver system som förstår affärsspråk, inte användare som förstår dataspråk. När chefer frågar om kundretention, borde de inte behöva perfekt terminologi eller promptrar. Systemen borde förstå avsikt, känna igen relevant data över olika etiketter (oavsett om det är “avhopp”, “retention” eller “kundlivscykel”), och tillhandahålla kontextuella svar. Detta låter affärsanvändare fokusera på beslut i stället för att lära sig att ställa tekniskt perfekta frågor.

Slutsats

AI-agenter kommer att medföra viktiga förändringar i hur företag opererar och fattar beslut, men de kommer med sin egen unika uppsättning utmaningar som måste hanteras innan de distribueras. Med AI är varje fel förstärkt när icke-tekniska användare har självbetjäningsåtkomst, vilket gör det avgörande att få grunderna rätt.

Organisationer som framgångsrikt hanterar de grundläggande utmaningarna med datakvalitet, semantisk samordning och styrning, samtidigt som de går bortom begränsningarna för promptteknik, kommer att vara positionerade för att säkert demokratisera dataåtkomst och beslutsfattande. Den bästa strategin innebär att skapa en samarbetsmiljö som underlättar samarbete och samordnar mänsklig-maskin samt maskin-maskin-interaktioner. Detta garanterar att AI-drivna insikter är exakta, säkra och tillförlitliga, vilket uppmuntrar en företagsomfattande kultur som hanterar, skyddar och maximalt utnyttjar data till sin fulla potential.