AI w przedsiębiorstwach zależy od danych, którym można zaufać

W 2025 roku firmy zainwestowały szacunkowo od 30 do 40 miliardów dolarów w generatywną AI, jednak projekt NANDA MIT odkrył, że tylko 5 procent z ponad 300 wdrożeń przedsiębiorstw które zbadał, przynosiły wymierne korzyści finansowe.

Spędziłem ponad 25 lat pracując w programach danych przedsiębiorstw. Na długo przed tym, jak generatywna AI weszła do dyskusji, widziałem, jak szybko technologia traci wiarygodność, gdy ludzie nie mogą polegać na danych, które ją napędzają. Generatywna AI podnosi stawkę, ponieważ może przekształcić wątpliwe dane w pewną odpowiedź.

Mówiliśmy kiedyś: śmieci na wejściu, śmieci na wyjściu. Teraz to: śmieci na wejściu, katastrofa na wyjściu. Gdy dane wydawały się podejrzane, osoba mogła użyć własnego osądu i skontaktować się ze specjalistą ds. danych. Specjalista przeprowadzał analizę przyczyn źródłowych, identyfikował problem i wprowadzał poprawkę. Dziś agenci mogą działać na dowolnych napotkanych danych. Bez kompetentnego nadzoru ludzkiego wynik może stać się częścią operacji, być wykorzystywany w decyzjach i rozprzestrzenić się w całej organizacji.

Ten sam problem może pojawić się w chatbotcie. Pominięcie zarządzania może przekształcić złe lub słabo zrozumiane dane w odpowiedź brzmiącą autorytatywnie, natychmiastowo i na dużą skalę.

Zaufanie jest prawdziwą przeszkodą przy adopcji

Gdy wewnętrzny chatbot udzieli komuś pewnej, ale błędnej odpowiedzi, ta osoba może przestać mu ufać. W dużej organizacji AI również znajdzie dane, które wolałbyś, aby nie zostały odnalezione. Porównuję to do brudnych skarpet pod łóżkiem: te dane mogą być poza zasięgiem wzroku, ale AI i tak je znajdzie i wykorzysta.

Kontekst musi podróżować razem z danymi i stanowić podstawę, na której opierają się modele LLM. Zanim model AI użyje danych, ludzie muszą wiedzieć, co one oznaczają, skąd pochodzą, kto jest ich właścicielem oraz jakie reguły i polityki biznesowe je otaczają.

Kierownictwo może to przeoczyć, ponieważ system rzadko się zawiesza. AI może być pewnie błędna; może na przykład zasugerować klej do pizzy (bardzo stary przykład). Wyobraźmy sobie chatbota, który udziela pewnej, ale błędnej odpowiedzi, a pracownicy przestają mu ufać. Odbudowa tego zaufania zajmuje znacznie więcej czasu niż wprowadzenie właściwych kontroli od samego początku.

To zjawisko widać także w danych. Pracownicy w ponad 90 procentach firm badanych przez MIT nadal używają prywatnych narzędzi AI, nawet po tym, jak oficjalny pilotaż przygotowany przez ich pracodawcę nie zdobył ich zaufania. Gdy zatwierdzone narzędzie nie zyskało ich zaufania, pracownicy szukają innego sposobu na wykonanie pracy.

Wiele badań AI z tego roku wskazuje na ten sam problem: organizacje posuwają się naprzód z AI, zanim wykonają pracę potrzebną do uczynienia swoich danych godnymi zaufania. Gartner oszacował, że prawie dwie trzecie organizacji albo nie posiadają odpowiednich praktyk zarządzania danymi dla AI, albo nie są pewne, czy je mają. Oddzielne badania IDCwskazały podobną lukę po stronie zaufania: 78 procent organizacji twierdzi, że w pełni ufa swojej AI, ale tylko 40 procent faktycznie zainwestowało w zarządzanie i wyjaśnialność, które uzasadniałyby to zaufanie.

Niezgodność między pewnością a inwestycjami pomaga wyjaśnić, dlaczego tak wiele inicjatyw AI zatrzymuje się przed osiągnięciem produkcji lub nie spełnia zamierzonej wartości.

Zarządzanie AI stało się teraz przewagą konkurencyjną

Przez większość mojej kariery zarządzanie danymi było jednym z najmniej efektownych elementów IT w przedsiębiorstwach. Katalogowanie metadanych, definiowanie własności, profilowanie danych i zarządzanie przepływami pracy mogło przypominać prace porządkowe. Ludzie często to pomijali, ponieważ wysiłek wydawał się większy niż uzyskana wartość.

AI zmieniło to. Staje się zdolnością zarządzania w obszarach takich jak projektowanie planów danych, tworzenie branżowych słowników oraz rekomendowanie i aktywowanie polityk danych. Nawet pochodzenie danych można teraz wywnioskować i usprawnić szybciej niż dotąd, co ułatwia realizację wartości zarządzanych potoków danych i ich obserwowalności.

Regulacje również zwiększają pilność przejrzystości danych. Ustawa UE o AI stała się powszechnie stosowana 2 sierpnia 2026 roku, obejmując zasady przejrzystości dla niektórych systemów i treści generowanych przez AI. Ustawa ustanawia także odrębne wymagania dla systemów wysokiego ryzyka, w tym dokumentację i informacje pomagające wdrażającym interpretować ich wyniki, choć niektóre przepisy dotyczące wysokiego ryzyka będą obowiązywać w późniejszym terminie.

Dla firm praktyczna lekcja jest prosta: przejrzyste pochodzenie i zarządzanie ułatwiają dokumentowanie, jakie dane zostały użyte, skąd pochodzą i jak system ma działać.

Krajobraz regulacji w USA pozostaje niejasny. Bez kompleksowego federalnego prawa AI firmy muszą poruszać się po różnych wymaganiach stanowych, nawet gdy Biały Dom stara się ograniczyć możliwość stanów do tworzenia i egzekwowania własnych przepisów AI. Ustawa AI Kolorado, najbardziej kompleksowy stanowy framework, została już raz opóźniona i przepisana w trakcie tej walki, a jej kluczowe zobowiązania przesunięto na 2027 rok. Dla wielu amerykańskich firm pokusa polega na odczekaniu, aż niepewność minie.

Uważam, że to niewłaściwy instynkt. Niezależnie od tego, który model regulacyjny ostatecznie zwycięży w USA, podstawowy wymóg nie zniknie. Wiedź, skąd pochodzą twoje dane. Wiedź, czy ktoś je rzeczywiście zweryfikował, zanim AI je wykorzystało. Rozwijanie tej dyscypliny już teraz pomoże firmom przygotować się na nowe regulacje i przekształcić obiecujące pilotaże AI w narzędzia, z których biznes może korzystać z pewnością.

Co odróżnia 5 procent

Pozwólcie, że opowiem o jednym kliencie. Ich zespół księgi głównej musiał przeszukiwać 300 oddzielnych arkuszy kalkulacyjnych za każdym razem, gdy w księgach pojawiła się niezgodność. Trzysta. W końcu ktoś odtworzył ten cały bałagan jako pojedynczy zarządzany zasób danych, z kalkulacjami, raportami i leżącymi u podstaw danych, które zostały razem spakowane i zwalidowane z góry. Następnym razem, gdy pojawił się problem, naprawa zajęła ułamek pierwotnego nakładu pracy. Tylko w tym jednym procesie zaoszczędzono około 750 dni roboczych. To miliony dolarów oszczędności kosztów wyłącznie dzięki uporządkowaniu tego.

Ulepszenie wynikało z udostępnienia właściwych danych w łatwy do znalezienia sposób i zapewnienia ich wystarczającej wiarygodności, aby używać ich bez wątpliwości. Współpraca i ponowne wykorzystanie umożliwiły to. Zaufane produkty danych mogą być zgodne ze standardami korporacyjnymi, rozbudowywane i aktualizowane w czasie, oceniane pod kątem zaufania i zarządzane pod kątem wartości. Takie podejście zmniejsza potrzebę tworzenia setek lub tysięcy produktów powiązanych z poszczególnymi fizycznymi tabelami baz danych.

Silne programy czynią to zaufanie widocznym. W marketplace’ach danych, z którymi współpracuję, zasoby mogą być klasyfikowane jako złoto, srebro lub brąz w oparciu o czynniki takie jak jakość, kuracja, użycie i własność. Użytkownik biznesowy może zobaczyć, jak wiarygodny jest zasób przed jego użyciem. Ta przejrzystość pomaga ludziom przestać zgadywać i sprawia, że chętniej ponownie wykorzystują istniejące dane.

Wskaźnik 95 procent to ostrzeżenie, jak swobodnie wiele firm traktowało dane stojące za generatywną AI. Organizacje, które robią postępy, dają ludziom jasny wgląd w to, skąd pochodzą ich dane, jak zostały zwalidowane i czy są odpowiednie do zadania. Po latach traktowania zarządzania danymi jako pracy w tle, AI w końcu uwidacznia ich wartość.