Tankeledere

Data— Ikke AI— Er Nøkkelen

mm
Legg til Unite.AI blant dine foretrukne kilder på Google

Kunstig intelligens har blitt så dypt innarbeidet i bedrifter at nesten hver enkelt operasjon har blitt berørt av teknologien på en eller annen måte. Og når vi ser på bruken av AI spesifikt, ser vi at organisasjoner dykker inn i nyere former for AI for å innovere og iterere på eksisterende systemer. I faktisk, en nylig undersøkelse av IT-ledere fant at 98% allerede bruker agensbasert AI til å orkestrere GenAI-brukstilfeller eller planlegger å gjøre det i nær fremtid.

Midt i eksplosjonen av AI-verktøy og -teknologier som har kommet de siste årene, blir AI-agenter raskt en av de mest populære. Disse agentene hjelper organisasjoner med å gjøre alt og noe — fra å forbedre kundeopplevelsen og -støtten til å automatisere interne prosesser eller optimalisere eksisterende GenAI-modeller som allerede er i bruk. Men å skalerer de mange fordelene med AI-agenter, og AI som helhet, over hele bedriften er ikke uten vanskeligheter.

Grunden til at mange organisasjoner sliter med AI, og AI-agenter spesielt, i skala kommer ned til tillit, ikke teknologi. AI-agenter, av naturen, arbeider over en mengde systemer. Hvor disse systemene er, er det mer enn sannsynlig at de avhenger av svært følsomme data — enten det er en enorm mengde kundedata, medisinsk informasjon eller bank- og finansiell data. Dette er der problemet ligger. Å trekke inn store mengder data i noen AI-modell, uten den rette data-privat- og sikkerhetsinfrastrukturen, lar bedrifter med en betydelig risiko.

Uansett utgangen av en AI-modell, er det bare verdifullt hvis dataene som trente det kan stoles på. Men det handler om langt mer enn bare å sikre at data er sikret. Spesielt med AI-agenter, er det en stor grad av autonomi involvert i hvordan disse modellene opererer. Å sikre at de er utstyrt med en forståelse av hvem som skal få tilgang til data, når det skal få tilgang, og hvordan, er kritisk for å bygge tillit.

Å overvinne data-privat-komplicasjonene er ikke umulig, selv. Med de rette datapolicyer, metadata-styring, API-er og bedriftsgraderte autoriseringsrammer på plass, kan bedrifts-IT-ledere sikre at dataene som driver deres AI er sikre og pålitelige.

La oss ta en nærmere titt.

Navigering av Data-Privat og Behov for AI i Skala

En av de bredere målene med å integrere AI-agenter i en bedrift er å strømlinje arbeidsflyter over operasjoner og systemer. Men å gjøre dette uten noen guardrails kunne uforvollent eksponere følsomme data underveis. På en tid når dataangrep og skurkeangrep stadig utvikler seg, kunne noen data som blir eksponert eller får tilgang av uautoriserte brukere bety katastrofe — ikke bare for en AI-inisiativ, men hele bedriften. Gjennomsnittskostnaden for et dataangrep er oppover $4 millioner pr 2025, ifølge IBM. AI-tilpasning akselerer raskt, ofte etterlater governance og sikkerhet i støv som bedriftsledere trykker på for mer innovasjon, dypere innsikt og nye muligheter for vekst. Men selv om AI-tilpasning stiger, utvikler reguleringspolitikk og -krav seg for å holde pace og sikre at data forblir sikre.

Fra GDPR til CCPA og selv langvarige politikker som HIIPA, utgjør reguleringskomplicasjonene en kompleks utfordring for å skalerer AI-agenter. AI-verktøy som krever store mengder data, når de blir latt uhemmet, inviterer en økt risiko. Når AI-modellene når over alle disse interne systemene, blir følsomme data ofte flyttet og fått tilgang i prosessen. Når det gjelder data, legger reguleringsbyråer over hele verden større vekt på å sikre privatliv, effektiv styring og robust sikkerhet.

Mer nylige politikker som DORA — en samling retningslinjer for å håndtere ICT-risiko for finansielle tjenestefirmaer som opererer i EU — krever eksplisitt ICT-hendelsesklassifisering og rapportering, inkludert de som påvirker konfidensialitet, integritet eller tilgjengelighet av data. Og selv om denne politikken har en primær vekt på operasjonell motstandskraft, strekker implikasjonene seg til AI-tilpasning også. Når flere AI-inisiativer, inkludert de med AI-agenter, tapper inn i data på bedriftsskala, øker risikoen for uautorisert tilgang. Skulle et AI-prosjekt føre til tap eller eksponering av data, ville reguleringspolitikker som disse raskt bli relevante.

Med så mye på spill, er det viktig at bedriftsorganisasjoner ikke mister sikte på hvor viktig sikkerhet, styring og data-tilgang er.

Bygging av Grunnlag for å Driv AI-agenter

Bedrifter må bygge et grunnlag som er rotfestet i effektiv styring, med faste guardrails og gjennomførbare regler som definerer hva agenter kan og ikke kan gjøre. I hjertet av dette grunnlaget ligger datastyring — de høynivåpolitikkene, standardene og strukturene som styrer hvordan data brukes ansvarlig over hele organisasjonen. Disse politikken sikrer at agenter ikke overtrer sine roller, enten ved å få tilgang til begrensede datasamlinger eller initiere prosesser uten menneskelig tilsyn.

Implementering av en robust datapolicy bør starte med noen nøkkel punkter. Dette inkluderer ansvar og eierskap, datakvalitet og konsistens, sikkerhet og privatliv, overholdelse og kontroll, og transparens og sporing.

Med disse punktene som underbyggingen av grunnlaget for styring, får bedriftsledere større kontroll over beslutningstaking, mer tillit til deres data og redusert reguleringsrisiko som følge av datasiloer. Dette gjøres ved å tappe inn i kapasiteter som metadata-styring, dataklassifisering og linje for å øke transparens og synlighet inn i hvem, eller hva AI-verktøy, kan få tilgang. Hver av disse mekanismene lar bedrifter spore hvor data oppstår, hvordan det flyter og hvordan det transformeres.

Teknologi er Viktig, men Tillit er Overordnet

Når en ny AI-modell eller innovasjon bryter inn på scenen, stiger tilpasningen. Men med noen AI-inisiativ, oppstår risikoer — om enn ikke alltid der en kan tenke seg. De tekniske utfordringene som ofte hindrer tilpasning av nye verktøy er ikke alltid årsaken til langsom AI-integrasjon. Ofte handler det om data. Spesielt, tillit til den dataen og bekymringer rundt privatliv. Fordi AI beveger seg så raskt, kan det noen ganger være en utfordring å sikre at ting som tilgangskontroll, datastyring, linje og overholdelse holder pace med den farten.

Styring er en viktig del av tillit, men det krever også effektive evalueringer. Spesielt innen agensbasert AI, er det fortsatt et stort gap i standardiserte evalueringer, men de er essensielle for å bevise systemer som oppfører seg pålitelig og trygt.

Uansett om du ønsker å optimalisere ytelsen til interne systemer, forbedre svindelforsvar eller bare gjøre kundeopplevelsen for kunder glattere, er de beste AI-agenter og AI-inisiativene som helhet bygget på et grunnlag av pålitelig data, privatliv og sikkerhet eller proving systems that behave reliably and safely. Whether you want to optimize the performance of internal systems, improve fraud detection, or just make the customer experience for clients smoother, the best AI agents, and AI initiatives at large, are all built on a foundation of trusted data, privacy, and security.

Manasi Vartak er Clouderas sjef for kunstig intelligens. Hun er grunnlegger og administrerende direktør i Verta, det Menlo Park, Calif.-baserte selskapet som tilbyr Verta Operational AI & LLM-plattformen og Verta Model Catalog, som nylig ble kjøpt av Cloudera. Manasi oppfant eksperimentstyring og sporing mens hun var ved MIT CSAIL, da hun lagde ModelDB, det første åpne kildekode-modellstyringssystemet som ble brukt i Fortune-500-selskaper og forgjengeren til MLflow. Etter å ha tatt sin doktorgrad fra MIT, gikk Vartak videre til stillinger innen datavitenskap i Twitter, der hun arbeidet med dypt læring for innholdsanbefaling, og Google, der hun arbeidet med dynamisk annonseretting.