Företags‑AI beror på data som människor kan lita på

År 2025 investerade företag uppskattningsvis $30 miljarder till $40 miljarder i generativ AI, men MIT:s Project NANDA fann att endast 5 procent av de mer än 300 företagsimplementationerna det granskade gav mätbara finansiella avkastningar.

Jag har arbetat i mer än 25 år i företagsdataprogram. Långt innan generativ AI kom in i samtalet såg jag hur snabbt tekniken förlorade trovärdighet när folk inte kunde lita på datan bakom den. Generativ AI höjer insatserna eftersom den kan omvandla tvivelaktig data till ett säkert svar.

Vi brukade säga skräp in, skräp ut. Nu är det skräp in, katastrof ut. När data verkade misstänkt kunde en person använda sitt omdöme och kontakta en dataspecialist. Specialisten skulle genomföra en grundorsaksanalys, identifiera problemet och tillämpa en lösning. Idag kan agenter agera på vilken data de än stöter på. Utan kunnad mänsklig tillsyn kan resultatet bli en del av verksamheten, användas i beslut och skalas över hela organisationen.

Samma problem kan uppstå i en chatbot. Överhoppad styrning kan förvandla dålig eller dåligt förstådd data till ett svar som låter auktoritativt, omedelbart och i skala.

Förtroende är den verkliga flaskhalsen för adoption

När en intern chatbot ger någon ett säkert men felaktigt svar, kan den personen förlora förtroendet för den. I en stor organisation kommer AI också att hitta den data du hellre vill att den inte ska hitta. Jag jämför det med de smutsiga strumporna under sängen: den datan kan vara ur sikte, men AI kommer att hitta den mörka datan och använda den.

Kontext måste följa med datan och vara den grund som LLM:er bygger på. Innan en AI-modell använder data måste folk veta vad den betyder, var den kommer ifrån, vem som äger den och vilka affärsregler och policyer som omger den.

Ledningen kan missa detta eftersom systemet sällan kraschar. AI kan vara säkert felaktig; den kan föreslå lim till din pizza (mycket gammalt exempel). Föreställ dig en chatbot som ger ett säkert men felaktigt svar, och arbetsstyrkan slutar lita på den. Att återuppbygga det förtroendet tar mycket längre tid än att etablera rätt kontroller från början.

Den eroderingen syns också i datan. Anställda på mer än 90 procent av företagen MIT studerade fortsätter att använda personliga AI‑verktyg på sidan, även efter att den officiella pilot som deras arbetsgivare byggde misslyckades med att vinna deras förtroende. När det godkända verktyget inte har vunnit deras förtroende hittar de anställda ett annat sätt att utföra arbetet.

Mycket av årets AI‑forskning pekar på samma problem: organisationer går vidare med AI innan de har gjort det arbete som krävs för att göra deras data pålitlig. Gartner har uppskattat att nästan två tredjedelar av organisationerna antingen saknar rätt datastyrningspraxis för AI eller är osäkra på om de har dem. Separat forskning från IDC hittade ett liknande gap på förtroendesidan: 78 procent av organisationerna säger att de fullt ut litar på sin AI, men endast 40 procent har faktiskt investerat i styrnings- och förklaringsarbete som skulle motivera det förtroendet.

Diskrepansen mellan förtroende och investering hjälper till att förklara varför så många AI‑initiativ stannar innan de når produktion eller misslyckas med att leverera avsett värde.

AI‑styrning är nu den konkurrensfördel

Under större delen av min karriär var datastyrning en av de minst glamorösa delarna av företags‑IT. Att katalogisera metadata, definiera ägande, profilera data och hantera arbetsflöden kunde kännas som städarbete. Folk hoppade ofta över det eftersom ansträngningen verkade större än det värde det skapade.

AI har förändrat detta. Det blir en styrningsförmåga inom områden som att designa datablåkopior, skapa branschkuraterade glossarier och rekommendera samt aktivera datapolicyer. Även datalinjeage kan nu härledas och effektiviseras snabbare än tidigare, vilket gör värdet av hanterade datapipelines och observabilitet lättare att realisera.

Reglering gör också datatransparens mer brådskande. EU AI Act trädde i kraft den 2 augusti 2026 och omfattade breda transparensregler för vissa system och AI‑genererat innehåll. Lagen fastställer även separata krav för högrisk‑system, inklusive dokumentation och information som hjälper implementatörer att tolka deras resultat, även om vissa högrisk‑bestämmelser följer senare tidslinjer.

För företag är den praktiska lärdomen enkel: tydlig härkomst och styrning gör det lättare att dokumentera vilken data som användes, var den kom ifrån och hur systemet är avsett att fungera.

Den amerikanska regleringssituationen är fortfarande osäker. Utan en omfattande federal AI‑lag måste företag navigera bland olika delstatliga krav, även när Vita huset försöker begränsa delstaternas möjlighet att skapa och verkställa egna AI‑regler. Colorado’s AI Act, det mest omfattande delstatliga ramverket som finns, har redan försenats och skrivits om en gång i den kampen, med sina kärnkrav nu skjuts fram till 2027. För många amerikanska företag är frestelsen att vänta ut osäkerheten.

Jag skulle hävda att det är fel instinkt. Oavsett vilken regleringsmodell som så småningom lyckas i USA, försvinner det underliggande kravet inte. Vet var din data kom ifrån. Vet om någon faktiskt validerade den innan AI:n använde den. Att utveckla den disciplinen nu kommer att hjälpa företag att förbereda sig för ny reglering och omvandla lovande AI‑piloter till verktyg som verksamheten kan använda med förtroende.

Vad som skiljer de 5 procenten

Låt mig berätta om en kund. Deras huvudboksavdelning var tvungen att gå igenom 300 separata kalkylblad varje gång en avvikelse uppstod i bokföringen. Trehundra. Någon byggde slutligen om hela detta kaos till en enda styrd data‑tillgång, med beräkningarna, rapporterna och den underliggande datan samlade och validerade i förväg. Nästa gång ett problem uppstod, tog lösningen en bråkdel av den tidigare ansträngningen. Enbart för den processen sparades cirka 750 arbetsdagar. Det motsvarar miljontals dollar i kostnadsbesparingar bara genom att rensa upp det.

Förbättringen kom av att göra rätt data lätt att hitta och tillräckligt pålitlig för att använda utan att tvivla på den. Samarbete och återanvändning möjliggjorde detta. Pålitliga dataprodukter kan anpassas till företagsstandarder, utökas och uppgraderas över tid, betygsättas för förtroende och hanteras för värde. Detta tillvägagångssätt minskar behovet av att skapa hundratals eller tusentals produkter kopplade till enskilda fysiska databastabeller.

Starka program gör det förtroendet synligt. I de datamarknadsplatser jag arbetar med kan tillgångar klassificeras som guld, silver eller brons baserat på faktorer som kvalitet, kurering, användning och ägande. En affärsanvändare kan se hur pålitlig en tillgång är innan den används. Denna synlighet hjälper folk att sluta gissa och gör dem mer benägna att återanvända befintlig data.

Siffran 95 procent är en varning om hur lättsamt många företag har behandlat data bakom generativ AI. De organisationer som gör framsteg ger folk en tydlig bild av var deras data kom ifrån, hur den validerades och om den är lämplig för uppgiften. Efter år av att datastyrning betraktats som bakgrundsarbete gör AI äntligen dess värde synligt.