Dlaczego GenAI zawiesza się bez silnego zarządzania

Podczas gdy firmy mają problemy z przeniesieniem projektów Generative AI z etapu eksperymentowania do produkcji – wiele firm pozostaje zakleszczonych w trybie pilotażowym. Jak podkreśla nasze ostatnie badanie, 92% organizacji obawia się, że pilotażowe projekty GenAI przyspieszają bez uprzedniego rozwiązania podstawowych problemów z danymi. Jeszcze bardziej wymowne: 67% nie było w stanie skalować nawet połowy swoich pilotów do produkcji. Ta luka produkcyjna jest mniej związana z dojrzałością technologiczną, a bardziej z gotowością podstawowych danych. Potencjał GenAI zależy od siły podłoża, na którym stoi. I dzisiaj, dla większości organizacji, to podłoże jest najwyżej chwiejne.

Dlaczego GenAI utyka w fazie pilotażowej

Chociaż rozwiązania GenAI są pewnie potężne, są one tak skuteczne, jak dane, które je zasilają. Stare powiedzenie “śmieci na wejściu, śmieci na wyjściu” jest dziś bardziej prawdziwe niż kiedykolwiek. Bez zaufanych, kompletnych, uprawnionych i wyjaśnialnych danych, modele GenAI często produkują wyniki, które są niedokładne, tendencyjne lub niewłaściwe do celu.

Niestety, organizacje spieszyły się z wdrożeniem przypadków użycia o niskim wysiłku, takich jak czatboty zasilane przez AI, oferujące dostosowane odpowiedzi z różnych wewnętrznych dokumentów. I chociaż poprawiają one doświadczenia klientów w pewnym stopniu, nie wymagają one głębokich zmian w infrastrukturze danych firmy. Ale aby skalować GenAI strategicznie, niezależnie od tego, czy w sektorze opieki zdrowotnej, usług finansowych, czy automatyzacji łańcucha dostaw, wymaga to innego poziomu dojrzałości danych.

W rzeczywistości 56% Chief Data Officers wymienia niezawodność danych jako kluczową barierę wdrożenia AI. Inne problemy to niekompletne dane (53%), kwestie prywatności (50%) oraz większe luki w zarządzaniu AI (36%).

Bez zarządzania, nie ma GenAI

Aby przenieść GenAI poza fazę pilotażową, firmy muszą traktować zarządzanie danymi jako strategiczną imperatywę dla swojego biznesu. Muszą zapewnić, że dane są wystarczająco dobre, aby zasilać modele AI, i aby to zrobić, należy odpowiedzieć na następujące pytania:

• Czy dane użyte do trenowania modelu pochodzą z odpowiednich systemów?
• Czy usunęliśmy informacje identyfikujące osoby fizyczne i przestrzegaliśmy wszystkich przepisów dotyczących danych i prywatności?
• Czy jesteśmy przejrzyste, i czy możemy udowodnić pochodzenie danych, których używa model?
• Czy możemy udokumentować nasze procesy danych i być gotowym do pokazania, że dane nie są tendencyjne?

Zarządzanie danymi musi również być wbudowane w kulturę organizacji. Aby to zrobić, wymaga budowania umiejętności AI we wszystkich zespołach. Unijne prawo AI formalizuje tę odpowiedzialność, wymagając od dostawców i użytkowników systemów AI, aby robili wszystko, co w ich mocy, aby zapewnić, że pracownicy mają wystarczającą wiedzę na temat AI, aby zrozumieć, jak te systemy działają i jak ich odpowiedzialnie używać. Jednak skuteczne wdrożenie AI wykracza poza techniczne umiejętności. Wymaga również silnego fundamentu w umiejętnościach związanych z danymi, od zrozumienia zarządzania danymi po formułowanie analitycznych pytań. Traktowanie umiejętności AI w izolacji od umiejętności związanych z danymi byłoby krótkowzroczne, biorąc pod uwagę, jak ściśle są one powiązane.

W kwestii zarządzania danymi, jest jeszcze wiele do zrobienia. Wśród firm, które chcą zwiększyć swoje inwestycje w zarządzanie danymi, 47% zgadza się, że brak umiejętności związanych z danymi jest główną barierą. To podkreśla potrzebę budowania wsparcia na wysokim szczeblu i rozwijania odpowiednich umiejętności w całej organizacji. Bez tych fundamentów, nawet najpotężniejsze LLM nie będą w stanie dostarczyć.

Tworzenie AI, które musi być odpowiedzialne

W obecnych warunkach regulacyjnych, nie jest już wystarczające, aby AI “po prostu działało”, musi również być odpowiedzialne i wyjaśnialne. Unijne prawo AI i proponowany plan działania AI wymagają przejrzystości w przypadku wysokiego ryzyka zastosowań AI. Inni idą w ich ślady, a ponad 1000 powiązanych projektów ustaw jest na porządku dziennym w 69 krajach.

Ten globalny ruch w kierunku odpowiedzialności jest bezpośrednim wynikiem rosnących wymagań konsumentów i interesariuszy dotyczących uczciwości w algorytmach. Na przykład, organizacje muszą być w stanie powiedzieć, dlaczego odrzucili wniosek o pożyczkę lub naliczyli wyższą stawkę ubezpieczeniową. Aby to zrobić, muszą wiedzieć, jak model podjął tę decyzję, a to zależy od posiadania jasnego, audytowalnego śladu danych, których użyto do jego trenowania.

Jeśli nie ma wyjaśnialności, firmy ryzykują utratą zaufania klientów, a także finansowymi i prawnymi konsekwencjami. W związku z tym, śladowanie pochodzenia danych i uzasadnienie wyników nie jest “miłym do posiadania”, ale wymogiem zgodności.

A gdy GenAI rozprzestrzenia się poza proste narzędzia na pełnoprawnych agentów, które mogą podejmować decyzje i działać, stawki dla silnego zarządzania danymi rosną jeszcze wyżej.

Kroki do budowania godnego zaufania AI

Więc, co to znaczy “dobrze”? Aby skalować GenAI w sposób odpowiedzialny, organizacje powinny dążyć do przyjęcia jednej strategii danych w trzech filarach:

• Dostosuj AI do biznesu: Kataloguj swoje dane wokół kluczowych celów biznesowych, zapewniając, że odzwierciedlają one unikalny kontekst, wyzwania i możliwości specyficzne dla Twojego biznesu.
• Ustanów zaufanie w AI: Ustanów polityki, standardy i procesy dla zgodności i nadzoru nad wdrożeniem AI w sposób etyczny i odpowiedzialny.
• Zbuduj potoki danych gotowe do AI: Połącz swoje różnorodne źródła danych w odporne podłoże danych dla solidnego wdrożenia AI z wbudowaną łącznością GenAI.

Gdy organizacje to robią, zarządzanie przyspiesza wartość AI. Na przykład w sektorze usług finansowych, fundusze hedgingowe używają Gen AI do przewyższenia analityków ludzkich w predykcji cen akcji przy znacznie niższych kosztach. W produkcji, optymalizacja łańcucha dostaw napędzana przez AI umożliwia organizacjom reagowanie w czasie rzeczywistym na zmiany geopolityczne i presje środowiskowe.

I te nie są tylko futurystycznymi pomysłami, dzieją się one teraz, napędzane przez zaufane dane.

Z silnymi fundamentami danych, firmy redukują dryf modelu, ograniczają cykle ponownego trenowania i zwiększają szybkość osiągania wartości. Dlatego zarządzanie nie jest przeszkodą; jest katalizatorem innowacji.

Co dalej?

Po fazie eksperymentowania, organizacje przechodzą poza czatboty i inwestują w przekształcające możliwości. Od personalizacji interakcji z klientami do przyspieszania badań medycznych, poprawy zdrowia psychicznego i uproszczenia procesów regulacyjnych, GenAI zaczyna demonstrować swój potencjał w różnych branżach.

Jednak te zyski zależą całkowicie od danych, na których się opierają. GenAI zaczyna się od budowania silnego fundamentu danych, poprzez silne zarządzanie danymi. I chociaż GenAI i agenticzne AI będą nadal ewoluować, nie zastąpią one nadzoru ludzkiego w najbliższej przyszłości. Zamiast tego, wkraczamy w fazę strukturalnej twórczości wartości, gdzie AI staje się godnym zaufania współpilotem. Z odpowiednimi inwestycjami w jakość danych, zarządzanie i kulturę, firmy mogą wreszcie przekształcić GenAI z obiecującego pilota w coś, co w pełni wystartuje.