3 Overvejelser for Sikre og Pålidelige AI-Agenter til Virksomheder

Ifølge Gartner, 30% af GenAI-projekter vil sandsynligvis blive opgivet efter proof-of-concept i slutningen af 2025. Tidlig tilpasning af GenAI afslørede, at de fleste virksomheders data-infrastruktur og governance-praksis ikke var klar til effektiv AI-udvikling. Den første bølge af GenAI-produktudvikling mødte betydelige hindringer, og mange organisationer kæmpede med at gå videre fra proof-of-concept-faser til at opnå meningsfulde forretningsværdier.

Da vi går ind i den anden bølge af generativ AI-produktudvikling, er virksomhederne begyndt at forstå, at en succesfuld implementering af disse teknologier kræver mere end blot at tilslutte en LLM til deres data. Nøglen til at låse AI’s potentiale ligger på tre kerne-piller: at få data i orden og sikre, at den er klar til integration med AI; at omstrukturere data-governance-praksis for at imødekomme de unikke udfordringer, som GenAI introducerer; og at implementere AI-agenter på en måde, der gør det naturligt og intuitivt at bruge dem på en sikker og pålidelig måde, så brugerne ikke er tvunget til at lære specialiserede færdigheder eller præcise brugs-mønstre. Disse piller skaber tilsammen en solid grund for sikre og effektive AI-agenter i virksomheds-miljøer.

At forberede dine data korrekt til AI

Selvom struktureret data måske ser organiseret ud for det blotte øje, arrangeret i tabeller og kolonner, har LLM’er ofte svært ved at forstå og arbejde med denne strukturerede data effektivt. Dette sker, fordi data i de fleste virksomheder ikke er mærket på en semantisk meningsfuld måde. Data har ofte kryptiske mærker, f.eks. “ID” uden nogen klar indikation af, om det er en identifikator for en kunde, et produkt eller en transaktion. Med struktureret data er det også svært at fange den rigtige kontekst og relationer mellem forskellige forbundne datapunkter, som f.eks. hvordan trin i en kunde-journey er relateret til hinanden. Ligesom vi havde brug for at mærke hver enkelt billed-i computer-vision-applikationer for at muliggøre meningsfuld interaktion, må organisationer nu påtage sig den komplekse opgave at semantisk mærke deres data og dokumentere relationer på tværs af alle systemer for at muliggøre meningsfulde AI-interaktioner.

Derudover er data spredt over mange forskellige steder – fra traditionelle servere til forskellige cloud-tjenester og forskellige software-applikationer. Dette patchwork af systemer fører til kritiske interoperabilitets- og integrations-problemer, der bliver endnu mere problematiske, når man implementerer AI-løsninger.

En anden grundlæggende udfordring ligger i inkonsistensen af forretnings-definitioner på tværs af forskellige systemer og afdelinger. F.eks. kan kunde-succes-hold definere “upsell” på en måde, mens salgs-holdet definerer det på en anden måde. Når du tilslutter en AI-agent eller chatbot til disse systemer og begynder at stille spørgsmål, vil du få forskellige svar, fordi data-definitionerne ikke er aligneret. Denne mangel på alignment er ikke en mindre ulempe – det er en kritisk barriere for at implementere pålidelige AI-løsninger.

Dårlig data-kvalitet skaber en klassisk “skrald-ind-skrald-ud“-scenario, der bliver eksponentielt mere alvorlig, når AI-værktøjer deployes på tværs af en virksomhed. Forkert eller rodet data påvirker langt mere end en enkelt analyse – det spreder forkert information til alle, der bruger systemet gennem deres spørgsmål og interaktioner. For at opbygge tillid til AI-systemer til virkelige forretnings-beslutninger må virksomheder sikre, at deres AI-applikationer har data, der er ren, præcis og forstået i en korrekt forretnings-kontekst. Dette repræsenterer en fundamental ændring i, hvordan organisationer må tænke om deres data-aktiver i AI-alderen – hvor kvalitet, konsistens og semantisk klarethed bliver lige så vigtige som data selv.

At styrke tilgangene til governance

Data-governance har været et stort fokus for organisationer i de seneste år, primært centreret omkring at styre og beskytte data, der bruges i analyser. Virksomheder har gjort en indsats for at kortlægge følsom information, overholde adgangs-standarder, overholde love som GDPR og CCPA, og opdage personlige data. Disse initiativer er afgørende for at skabe AI-klar data. Men da organisationer introducerer generative AI-agenter i deres arbejdsprocesser, udvider governance-udfordringen sig ud over blot data selv til at omfatte hele bruger-interaktions-oplevelsen med AI.

Vi står nu over for det imperativ at styre ikke blot den underliggende data, men også processen, hvormed brugere interagerer med denne data gennem AI-agenter. Eksisterende lovgivning, såsom Den Europæiske Unions AI-akt, og flere regler på vej understreger nødvendigheden af at styre spørgsmål-svarens-processen selv. Dette betyder, at AI-agenter skal levere transparente, forklarede og sporbarhedssvar. Når brugere modtager sorte-kasse-svar – såsom at spørge “Hvor mange influenza-patienter blev indlagt i går?” og kun få “50” uden kontekst – er det svært at stole på denne information til kritiske beslutninger. Uden at vide, hvor data kommer fra, hvordan det blev beregnet, eller definitioner af begreber som “indlagt” og “i går”, mister AI-udgangen sin pålidelighed.

I modsætning til interaktioner med dokumenter, hvor brugere kan spore svar tilbage til bestemte PDF’er eller politikker for at verificere nøjagtighed, mangler interaktioner med struktureret data via AI-agenter ofte denne niveau af sporbarhed og forklarelighed. For at imødekomme disse problemer må organisationer implementere governance-mål, der ikke blot beskytter følsom data, men også gør AI-interaktions-oplevelsen styret og pålidelig. Dette inkluderer at etablere robuste adgangskontroller for at sikre, at kun autoriseret personale kan få adgang til bestemt information, at definere klare data-ejerskabs- og formynderansvar, og at sikre, at AI-agenter leverer forklaringer og referencer for deres udgang. Ved at omstrukturere data-governance-praksis for at inkludere disse overvejelser kan virksomheder sikkert udnytte kraften af AI-agenter, samtidig med at de overholder udviklende regler og opretholder bruger-tillid.

At tænke ud over prompt-engineering

Da organisationer introducerer generative AI-agenter i et forsøg på at forbedre data-tilgængelighed, er prompt-engineering dukket op som en ny teknisk barriere for forretnings-brugere. Mens det er blevet fremhævet som en lovende karrierevej, er prompt-engineering i virkeligheden blot en genskabelse af de samme barrierer, vi har kæmpet med i data-analyser. At skabe perfekte prompts er ikke anderledes end at skrive specialiserede SQL-forespørgsler eller bygge dashboard-filtre – det er blot en overførsel af teknisk ekspertise fra ét format til et andet, stadig krævende specialiserede færdigheder, som de fleste forretnings-brugere ikke har og ikke burde have behov for.

Virksomheder har længe forsøgt at løse data-tilgængelighed ved at uddanne brugere til bedre at forstå data-systemer, oprette dokumentation og udvikle specialiserede roller. Men denne tilgang er forkert – vi beder brugere om at tilpasse sig data i stedet for at gøre data tilgængeligt for brugere. Prompt-engineering truer med at fortsætte denne tendens ved at skabe endnu et lag af tekniske mellemled.

Sand data-demokratisering kræver systemer, der forstår forretnings-sprog, ikke brugere, der forstår data-sprog. Når direktører spørger om kunde-tilbageholdelse, skal de ikke have brug for perfekt terminologi eller prompts. Systemer skal forstå hensigt, genkende relevante data på tværs af forskellige mærker (uanset om det er “afhop”, “tilbageholdelse” eller “kunde-livscyklus”), og levere kontekstuelle svar. Dette låser brugere til at fokusere på beslutninger i stedet for at lære at stille teknisk perfekte spørgsmål.

Konklusion

AI-agenter vil bringe vigtige ændringer til, hvordan virksomheder opererer og tager beslutninger, men de kommer med deres eget unikke sæt af udfordringer, der må være adresseret, før de deployes. Med AI er hver fejl forstærket, når ikke-tekniske brugere har selvbetjening-adgang, hvilket gør det afgørende at få grundlaget rigtigt.

Organisationer, der succesfuldt adresserer de grundlæggende udfordringer med data-kvalitet, semantisk alignment og governance, samtidig med at de bevæger sig ud over begrænsningerne af prompt-engineering, vil være positioneret til sikkert at demokratisere data-adgang og beslutningstagning. Den bedste tilgang indebærer at skabe en samarbejdende miljø, der faciliterer teamwork og aligner menneske-til-maskine samt maskine-til-maskine-interaktioner. Dette garanterer, at AI-drevne indsigt er nøjagtig, sikker og pålidelig, og opmuntrer en virksomheds-omfattende kultur, der styrer, beskytter og maksimerer data til deres fulde potentiale.