AI w przedsiębiorstwie zależy od danych, którym można zaufać

W 2025 roku firmy zainwestowały szacunkowo od 30 do 40 miliardów dolarów w generatywną sztuczną inteligencję, jednak projekt NANDA z MIT wykazał, że tylko 5 procent z ponad 300 wdrożeń korporacyjnych które zbadał przynosiły wymierne korzyści finansowe.

Spędziłem ponad 25 lat pracując w programach danych w przedsiębiorstwach. Na długo przed tym, jak generatywna AI weszła do dyskusji, zauważyłem, jak szybko technologia traci wiarygodność, gdy ludzie nie mogą polegać na danych, które ją napędzają. Generatywna AI podnosi stawkę, ponieważ może przekształcić wątpliwe dane w pewną odpowiedź.

Mówiliśmy kiedyś „śmieci do środka, śmieci na zewnątrz”. Teraz to „śmieci do środka, katastrofa na zewnątrz”. Gdy dane wydawały się podejrzane, osoba mogła użyć własnego osądu i skontaktować się ze specjalistą ds. danych. Specjalista przeprowadzał analizę przyczyn, identyfikował problem i wprowadzał poprawkę. Dziś agenci mogą działać na dowolnych napotkanych danych. Bez kompetentnego nadzoru ludzkiego wynik może stać się częścią operacji, być wykorzystywany w decyzjach i rozprzestrzenić się w całej organizacji.

Ten sam problem może pojawić się w chatbotcie. Pominięcie zarządzania może przekształcić złe lub słabo zrozumiane dane w odpowiedź brzmiącą autorytatywnie, natychmiastowo i na dużą skalę.

Zaufanie jest prawdziwą barierą przyjęcia

Kiedy wewnętrzny chatbot udzieli komuś pewnej, ale błędnej odpowiedzi, ta osoba może przestać mu ufać. W dużej organizacji AI również znajdzie dane, których wolałbyś, aby nie znalazło. Porównuję to do brudnych skarpet pod łóżkiem: te dane mogą być poza zasięgiem wzroku, ale AI i tak je znajdzie i wykorzysta.

Kontekst musi podróżować razem z danymi i stanowić podstawę, na której opierają się modele LLM. Zanim model AI użyje danych, ludzie muszą wiedzieć, co oznaczają, skąd pochodzą, kto jest ich właścicielem oraz jakie reguły biznesowe i polityki je otaczają.

Kierownictwo może to przeoczyć, ponieważ system rzadko się zawiesza. AI może być pewna, ale błędna; może na przykład zasugerować klej do pizzy (bardzo stary przykład). Wyobraźmy sobie chatbota, który udziela pewnej, lecz błędnej odpowiedzi, a pracownicy przestają mu ufać. Odbudowa tego zaufania zajmuje znacznie więcej czasu niż wprowadzenie właściwych kontroli od samego początku.

Ta erozja objawia się również w danych. Pracownicy w ponad 90 procentach firm zbadanych przez MIT nadal używają prywatnych narzędzi AI na boku, nawet po tym, jak oficjalny pilotaż uruchomiony przez ich pracodawcę nie zyskał ich zaufania. Gdy zatwierdzone narzędzie nie zdobyło ich zaufania, pracownicy szukają innego sposobu, aby wykonać pracę.

Wiele badań AI z tego roku wskazuje na ten sam problem: organizacje posuwają się naprzód z AI, zanim wykonają pracę potrzebną do zapewnienia wiarygodności swoich danych. Gartner oszacował że prawie dwie trzecie organizacji nie posiadają odpowiednich praktyk zarządzania danymi dla AI lub nie są pewne, czy je posiadają. Oddzielne badania IDC wykazały podobną lukę w zakresie zaufania: 78 procent organizacji twierdzi, że w pełni ufa swojej AI, ale tylko 40 procent faktycznie zainwestowało w pracę nad zarządzaniem i wyjaśnialnością, która uzasadniałaby to zaufanie.

Niezgodność między pewnością a inwestycjami pomaga wyjaśnić, dlaczego tak wiele inicjatyw AI utknęło zanim dotarły do produkcji lub nie spełniło zamierzonej wartości.

Zarządzanie AI stało się teraz przewagą konkurencyjną

Przez większość mojej kariery zarządzanie danymi było jedną z najmniej efektownych części IT w przedsiębiorstwie. Katalogowanie metadanych,, definiowanie własności, profilowanie danych i zarządzanie przepływami pracy mogło przypominać pracę porządkową. Ludzie często to pomijali, ponieważ wysiłek wydawał się większy niż uzyskana wartość.

AI zmieniło to. Staje się zdolnością zarządzania w obszarach takich jak projektowanie planów danych, tworzenie branżowych słowników oraz rekomendowanie i aktywowanie polityk danych. Nawet pochodzenie danych można teraz wywnioskować i usprawnić szybciej niż wcześniej, co ułatwia realizację wartości zarządzanych potoków danych i ich obserwowalności.

Regulacje również zwiększają pilność przejrzystości danych. EU AI Act stał się powszechnie obowiązujący 2 sierpnia 2026 roku, obejmując zasady przejrzystości dla niektórych systemów i treści generowanych przez AI. Akt wprowadza także odrębne wymagania dla systemów wysokiego ryzyka, w tym dokumentacji i informacji pomagających wdrożeniowcom interpretować ich wyniki, choć niektóre przepisy dotyczące wysokiego ryzyka będą obowiązywać w późniejszych terminach.

Dla firm praktyczna lekcja jest prosta: przejrzyste pochodzenie i zarządzanie ułatwiają dokumentowanie, jakie dane zostały użyte, skąd pochodzą i jak system ma działać.

Krajobraz regulacji w USA pozostaje niejasny. Bez kompleksowego federalnego prawa AI firmy muszą poruszać się po różnych wymogach stanowych, nawet gdy Biały Dom stara się ograniczyć zdolność stanów do tworzenia i egzekwowania własnych przepisów AI. AI Act Kolorado, najobszerniejszy stanowy framework, został już raz opóźniony i przepisany w trakcie tej walki, a jego kluczowe obowiązki przesunięto na 2027 rok. Dla wielu amerykańskich firm pokusa polega na odczekaniu, aż niepewność minie.

Uważam, że to błędny instynkt. Niezależnie od tego, który model regulacyjny ostatecznie zwycięży w USA, podstawowy wymóg nie zniknie. Wiedź, skąd pochodzą Twoje dane. Wiedź, czy ktoś rzeczywiście je zweryfikował, zanim AI je wykorzystało. Rozwijanie tej dyscypliny już teraz pomoże firmom przygotować się na nowe regulacje i przekształcić obiecujące pilotaże AI w narzędzia, z których biznes może korzystać z pewnością.

Co odróżnia 5 procent

Pozwól, że opowiem o jednym kliencie. Ich zespół ds. księgi głównej musiał przeszukiwać 300 oddzielnych arkuszy kalkulacyjnych za każdym razem, gdy w księgach pojawiła się niezgodność. Trzysta. Ktoś w końcu przekształcił ten chaos w jedną zarządzaną jednostkę danych, z kalkulacjami, raportami i leżącymi u podstaw danymi, które zostały razem spakowane i zwalidowane z góry. Następnym razem, gdy pojawił się problem, naprawa wymagała ułamka pierwotnego nakładu pracy. Samego tego procesu zaoszczędzono około 750 dni pracy. To miliony dolarów oszczędności kosztów, wynikające jedynie z uporządkowania tego.

Ulepszenie wynikało z udostępnienia odpowiednich danych w łatwy do znalezienia sposób oraz zapewnienia ich wiarygodności, tak aby można było z nich korzystać bez wątpliwości. Współpraca i ponowne wykorzystanie tego umożliwiły. Zaufane produkty danych mogą być zgodne ze standardami korporacyjnymi, rozbudowywane i aktualizowane w czasie, oceniane pod kątem zaufania i zarządzane pod kątem wartości. Takie podejście zmniejsza potrzebę tworzenia setek czy tysięcy produktów powiązanych z poszczególnymi fizycznymi tabelami baz danych.

Silne programy czynią to zaufanie widocznym. W marketplace’ach danych, z którymi współpracuję, zasoby mogą być klasyfikowane jako złoto, srebro lub brąz w oparciu o czynniki takie jak jakość, kuracja, użycie i własność. Użytkownik biznesowy może zobaczyć, jak wiarygodny jest zasób, zanim go użyje. Ta przejrzystość pomaga ludziom przestać zgadywać i zwiększa ich chęć ponownego wykorzystania istniejących danych.

Wskaźnik 95 procent jest ostrzeżeniem, jak swobodnie wiele firm traktowało dane stojące za generatywną AI. Organizacje, które robią postępy, dają ludziom wyraźny wgląd w to, skąd pochodzą ich dane, jak zostały zwalidowane i czy są odpowiednie do zadania. Po latach traktowania zarządzania danymi jako pracy w tle, AI w końcu uwidacznia ich wartość.