3 Overveielser for Sikre og Pålidelige AI-Agenter for Bedrifter

Ifølge Gartner, 30% av GenAI-prosjekter vil sannsynligvis bli forkastet etter proof-of-concept ved utgangen av 2025. Tidlig innføring av GenAI avslørte at de fleste bedrifters data-infrastruktur og styringspraksis ikke var klar for effektiv AI-utvikling. Den første bølgen av GenAI-produktutvikling møtte betydelige hindringer, og mange organisasjoner kjempet for å gå utenfor proof-of-concept-faser for å oppnå meningsfulle forretningsverdier.

Når vi går inn i den andre bølgen av generativ AI-produktutvikling, innser bedriftene at suksessfull implementering av disse teknologiene krever mer enn bare å koble en LLM til deres data. Nøkkelen til å låse opp AI-potensialet ligger på tre kjernepillarer: å få data i orden og sikre at den er klar for integrasjon med AI; å omorganisere data-styringspraksis for å møte de unike utfordringene GenAI introduserer; og å deployere AI-agenter på måter som gjør det trygt og pålitelig å bruke dem, slik at brukerne ikke blir tvunget til å lære spesialiserte ferdigheter eller presise bruksmønster. Disse pillarene skaper sammen en sterk grunnlag for trygge og effektive AI-agenter i bedriftsmiljøer.

Å Forberede Din Data for AI

Selv om strukturert data kan se organisert ut for det blotte øye, og være plassert i tabeller og kolonner, har LLMer ofte vanskelig for å forstå og arbeide med denne strukturerte dataen effektivt. Dette skjer fordi data ofte ikke er merket på en semantisk meningsfull måte i de fleste bedrifter. Data har ofte kryptiske merking, for eksempel “ID” uten noen tydelig indikasjon på om det er en identifikator for en kunde, et produkt eller en transaksjon. Med strukturert data er det også vanskelig å fange den riktige konteksten og relasjonene mellom forskjellige sammenhengende datapunkter, som for eksempel hvordan steg i en kundereise er relatert til hverandre. Like som vi måtte merke hver enkelt bilde i computer-vision-applikasjoner for å muliggjøre meningsfull interaksjon, må organisasjonene nå påta seg den komplekse oppgaven å semantisk merke deres data og dokumentere relasjoner over alle systemer for å muliggjøre meningsfulle AI-interaksjoner.

I tillegg er data spredt over mange forskjellige steder – fra tradisjonelle servere til forskjellige skytjenester og ulike programvareapplikasjoner. Denne patchwork av systemer fører til kritiske interoperabilitets- og integreringsproblemer som blir enda mer problematisk når det gjelder å implementere AI-løsninger.

En annen grunnleggende utfordring ligger i inkonsistensen av forretningsdefinisjoner over forskjellige systemer og avdelinger. For eksempel kan kundesuksess-teamene definere “oppgradering” på en måte, mens salgsteamet definerer det på en annen måte. Når du kobler en AI-agent eller chatbot til disse systemene og begynner å stille spørsmål, vil du få forskjellige svar fordi data-definisjonene ikke er harmonisert. Denne mangelen på harmonisering er ikke en mindre ulempe – det er en kritisk barriere for å implementere pålitelige AI-løsninger.

Dårlig datakvalitet skaper en klassisk “skralle inn, skralle ut“-scenario som blir eksponentielt mer alvorlig når AI-verktøy deployeres over hele bedriften. Feil eller uordenlig data påvirker langt mer enn bare én analyse – det sprer feil informasjon til alle som bruker systemet gjennom deres spørsmål og interaksjoner. For å bygge tillit til AI-systemer for virkelige forretningsbeslutninger, må bedriftene sikre at deres AI-applikasjoner har data som er ren, nøyaktig og forstått i en riktig forretningskontekst. Dette representerer en grunnleggende endring i hvordan organisasjonene må tenke om sine data-aktiva i AI-alderen – hvor kvalitet, konsistens og semantisk klarhet blir like viktig som dataene selv.

Å Styrke Tilnærmingene til Styring

Datastyring har vært et hovedfokus for organisasjoner i de siste årene, hovedsakelig sentrert rundt å håndtere og beskytte data brukt i analyser. Selskapene har arbeidet for å kartlegge følsom informasjon, følge adgangsstandarder, overholde lover som GDPR og CCPA, og oppdage personlige data. Disse initiativene er avgjørende for å skape AI-klare data. Men når organisasjonene introduserer generative AI-agenter i sine arbeidsflyter, utvider styringsutfordringen seg fra bare dataene selv til å omfatte hele brukerinteraksjonsopplevelsen med AI.

Vi står nå overfor imperativet til å styre ikke bare de underliggende dataene, men også prosessen hvor brukerne interagerer med disse dataene gjennom AI-agenter. Eksisterende lovgivning, som Den europeiske unions AI-akt, og flere regler på horisontet understreker nødvendigheten av å styre spørsmåls-svaret-prosessen selv. Dette betyr å sikre at AI-agenter gir gjennomsiktige, forklarbare og sporbarhetssvar. Når brukerne mottar svarteboks-svar – som å spørre “Hvor mange influensapatienter ble innlagt i går?” og bare få “50” uten kontekst – er det vanskelig å stole på denne informasjonen for kritiske beslutninger. Uten å vite hvor dataene kom fra, hvordan de ble beregnet, eller definisjoner av begreper som “innlagt” og “i går”, mister AI-utgangen påliteligheten.

I motsetning til interaksjoner med dokumenter, hvor brukerne kan spore svar tilbake til bestemte PDF-er eller politikker for å verifisere nøyaktighet, mangler interaksjoner med strukturert data via AI-agenter ofte denne nivået av sporbarhet og forklarbarhet. For å møte disse problemene, må organisasjonene implementere styringsmessige tiltak som ikke bare beskytter følsomme data, men også gjør AI-interaksjonsopplevelsen styrt og pålitelig. Dette inkluderer å etablere robuste adgangskontroller for å sikre at bare autoriserte personer kan få tilgang til bestemt informasjon, å definere klare data-eierskaps- og forvaltningsansvar, og å sikre at AI-agenter gir forklaringer og referanser for sine utganger. Ved å omorganisere data-styringspraksis for å inkludere disse overveielser, kan bedriftene trygt utnytte kraften av AI-agenter samtidig som de overholder utviklende regler og opprettholder brukertillit.

Å Tenke Ut Over Prompt-Engineering

Når organisasjonene introduserer generative AI-agenter i et forsøk på å forbedre data-tilgjengelighet, har prompt-engineering oppstått som en ny teknisk barriere for forretningsbrukere. Mens det blir fremmet som en lovende karrierevei, er prompt-engineering i realiteten å gjenskape de samme barrierene vi har kjempet med i data-analyser. Å skape perfekte prompter er ikke forskjellig fra å skrive spesialiserte SQL-forespørsler eller bygge dashboard-filtre – det er å flytte teknisk ekspertise fra ett format til et annet, fortsatt krever spesialiserte ferdigheter som de fleste forretningsbrukere ikke har og ikke bør ha.

Bedrifter har lenge forsøkt å løse data-tilgjengelighetsproblemet ved å trene brukerne til å bedre forstå data-systemer, lage dokumentasjon og utvikle spesialiserte roller. Men denne tilnærmingen er bakvendt – vi ber brukerne til å tilpasse seg dataene i stedet for å gjøre dataene tilgjengelige for brukerne. Prompt-engineering truer med å fortsette denne trenden ved å skape enda ett lag av tekniske mellomledd.

Sann data-demokratisering krever systemer som forstår forretnings-språk, ikke brukere som forstår data-språk. Når ledere spør om kunde-tilbakehold, bør de ikke behøve perfekt terminologi eller prompter. Systemene bør forstå intensjon, gjenkjenne relevante data over forskjellige merking (uansett om det er “avhopping”, “tilbakehold” eller “kunde-livssyklus”), og gi kontekstuelle svar. Dette lar forretningsbrukere fokusere på beslutninger i stedet for å lære å stille teknisk perfekte spørsmål.

Konklusjon

AI-agenter vil bringe viktige endringer i hvordan bedrifter opererer og tar beslutninger, men kommer med sine egne unike utfordringer som må løses før de deployeres. Med AI er hver feil forsterket når ikke-tekniske brukere har selvbetjeningstilgang, noe som gjør det kritisk å få grunnlaget riktig.

Organisasjoner som suksessfullt møter de grunnleggende utfordringene med datakvalitet, semantisk harmonisering og styring, samtidig som de går ut over begrensningene av prompt-engineering, vil være godt posisjonert for å trygt demokratisere data-tilgang og beslutningstaking. Den beste tilnærmingen inkluderer å skape en samarbeidsorientert miljø som fremmer samarbeid og harmoniserer menneske-til-maskin samt maskin-til-maskin-interaksjoner. Dette sikrer at AI-drevne innsikter er nøyaktige, sikre og pålitelige, og oppmuntrer en organisasjonsomfattende kultur som håndterer, beskytter og maksimerer data til sitt fulle potensiale.