Företags‑AI beror på data som människor kan lita på

År 2025 investerade företag uppskattningsvis $30 miljarder till $40 miljarder i generativ AI, men MIT:s Project NANDA fann att endast 5 procent av de mer än 300 företagsimplementationerna det undersökte gav mätbara finansiella avkastningar.

Jag har arbetat i mer än 25 år i företagsdataprogram. Långt innan generativ AI kom in i samtalet såg jag hur snabbt tekniken förlorade trovärdighet när folk inte kunde lita på datan bakom den. Generativ AI höjer insatserna eftersom den kan förvandla tvivelaktig data till ett självsäkert svar.

Vi brukade säga skräp in, skräp ut. Nu är det skräp in, katastrof ut. När data verkade misstänkt kunde en person använda sitt omdöme och kontakta en dataspecialist. Specialisten skulle genomföra en grundorsaksanalys, identifiera problemet och tillämpa en lösning. Idag kan agenter agera på vilken data de än stöter på. Utan kunnad mänsklig tillsyn kan resultatet bli en del av verksamheten, användas i beslut och spridas över hela organisationen.

Samma problem kan uppstå i en chatbot. Översprungen styrning kan förvandla dålig eller dåligt förstådd data till ett svar som låter auktoritativt, omedelbart och i stor skala.

Förtroende är den verkliga flaskhalsen för antagande

När en intern chatbot ger någon ett självsäkert men felaktigt svar, kan den personen förlora förtroendet för den. I en stor organisation kommer AI också att hitta den data du hellre skulle vilja att den inte hittar. Jag jämför det med de smutsiga strumporna under sängen: den datan kan vara ur sikte, men AI kommer att hitta den mörka datan och använda den.

Kontext måste följa med datan och vara grunden som LLM:er bygger på. Innan en AI-modell använder data måste folk veta vad den betyder, var den kom ifrån, vem som äger den och vilka affärsregler och policyer som omger den.

Ledningen kan missa detta eftersom systemet sällan kraschar. AI kan vara självsäkert felaktig; den kan föreslå lim till din pizza (mycket gammalt exempel). Tänk dig en chatbot som ger ett självsäkert men felaktigt svar, och arbetsstyrkan slutar lita på den. Att återuppbygga förtroendet tar mycket längre tid än att etablera rätt kontroller från början.

Den eroderingen syns också i datan. Anställda på mer än 90 procent av företagen MIT studerade fortsätter att använda personliga AI-verktyg vid sidan av, även efter att den officiella pilot som deras arbetsgivare byggde misslyckades med att vinna deras förtroende. När det godkända verktyget inte har vunnit deras förtroende, hittar de anställda ett annat sätt att utföra arbetet.

Mycket av årets AI-forskning pekar på samma problem: organisationer går framåt med AI innan de har gjort arbetet för att göra sin data pålitlig. Gartner har uppskattat att nästan två tredjedelar av organisationerna antingen saknar rätt datastyrningspraxis för AI eller är osäkra på om de har dem. Separat forskning från IDC hittade ett liknande gap på förtroendesidan: 78 procent av organisationerna säger att de fullt ut litar på sin AI, men bara 40 procent har faktiskt investerat i styrnings- och förklaringsarbete som skulle motivera det förtroendet.

Diskrepansen mellan förtroende och investering hjälper till att förklara varför så många AI-initiativ stannar innan de når produktion eller misslyckas med att matcha det avsedda värdet.

AI‑styrning är nu den konkurrensfördel

Under större delen av min karriär var datastyrning en av de minst glamorösa delarna av företags‑IT. Att katalogisera metadata,, definiera ägande, profilera data och hantera arbetsflöden kunde kännas som städarbete. Folk hoppade ofta över det eftersom ansträngningen verkade större än det värde det skapade.

AI har förändrat detta. Det blir en styrningskapacitet inom områden som att designa datablåkopior, skapa branschkuraterade glossarier och rekommendera samt aktivera datapolicyer. Även dataursprung kan nu härledas och strömlinjeformas snabbare än tidigare, vilket gör värdet av hanterade datapipelines och observabilitet lättare att realisera.

Reglering gör också datatransparens mer brådskande. EU AI Act trädde i kraft brett den 2 augusti 2026, inklusive transparensregler för vissa system och AI‑genererat innehåll. Lagen fastställer också separata krav för hög‑risk‑system, inklusive dokumentation och information som hjälper implementatörer att tolka deras resultat, även om vissa hög‑risk‑bestämmelser följer senare tidslinjer.

För företag är den praktiska lärdomen enkel: tydligt ursprung och styrning gör det lättare att dokumentera vilken data som användes, var den kom ifrån och hur systemet är avsett att fungera.

Den amerikanska regleringssituationen är fortfarande osäker. Utan en omfattande federal AI‑lag måste företag navigera bland olika delstatliga krav, även när Vita huset försöker begränsa delstaternas möjlighet att skapa och verkställa egna AI‑regler. Colorado’s AI Act, det mest omfattande delstatsramverket som finns, har redan försenats och skrivits om en gång i den kampen, med sina centrala skyldigheter nu skjuts fram till 2027. För många amerikanska företag är frestelsen att vänta ut osäkerheten.

Jag skulle hävda att det är fel instinkt. Oavsett vilken regleringsmodell som så småningom lyckas i USA, försvinner det underliggande kravet inte. Vet var din data kom ifrån. Vet om någon faktiskt validerade den innan AI:n använde den. Att utveckla den disciplinen nu kommer hjälpa företag att förbereda sig för ny reglering och omvandla lovande AI‑piloter till verktyg som verksamheten kan använda med förtroende.

Vad som skiljer de 5 procenten

Låt mig berätta om en kund. Deras huvudboksteam var tvunget att gå igenom 300 separata kalkylblad varje gång en avvikelse dök upp i bokföringen. Trehundra. Någon byggde slutligen om hela kaoset till en enda styrd dataresurs, med beräkningarna, rapporterna och den underliggande datan samlade och validerade i förväg. Nästa gång ett problem uppstod, tog lösningen en bråkdel av den tidigare ansträngningen. Enbart för den processen sparade man ungefär 750 arbetsdagar. Det motsvarar miljontals dollar i kostnadsbesparingar bara genom att rensa upp det.

Förbättringen kom av att göra rätt data lätt att hitta och tillräckligt pålitlig för att använda utan att tvivla på den. Samarbete och återanvändning möjliggjorde detta. Pålitliga dataprodukter kan anpassas till företagsstandarder, utökas och uppgraderas över tid, betygsättas för förtroende och hanteras för värde. Detta tillvägagångssätt minskar behovet av att skapa hundratals eller tusentals produkter kopplade till enskilda fysiska databastabeller.

Starka program gör det förtroendet synligt. I de datamarknadsplatser jag arbetar med kan tillgångar klassificeras som guld, silver eller brons baserat på faktorer som kvalitet, kuratering, användning och ägande. En affärsanvändare kan se hur pålitlig en tillgång är innan den används. Den synligheten hjälper människor att sluta gissa och gör dem mer benägna att återanvända befintlig data.

Siffran 95 procent är en varning om hur lättsamt många företag har behandlat datan bakom generativ AI. De organisationer som gör framsteg ger folk en tydlig bild av var deras data kom ifrån, hur den validerades och om den är lämplig för uppgiften. Efter år av att datastyrning behandlats som bakgrundsarbete, gör AI äntligen dess värde synligt.