Sztuczna inteligencja w przedsiębiorstwie: Liczenie pełnych kosztów

Sztuczna inteligencja przekroczyła już fazę teoretyczną i nowości. Dla wielu organizacji jest już częścią infrastruktury, obok systemów podstawowych. Wiele osób nadal myśli o niej głównie w kategoriach publicznych modeli językowych i czatbotów – czegoś, co można używać i porzucić, gdy się skończy. Patrzenie na sztuczną inteligencję przez tę perspektywę może spowodować, że przeoczy się szerszy zakres modeli i technik, które mogą poprawić wyniki w sposób bardziej efektywny i mniej ryzykowny.

Prawda jest taka, że sztuczną inteligencję należy oceniać jak każdą inną dużą inwestycję w infrastrukturę – z wyraźnym widokiem na koszty, korzyści i ryzyko operacyjne od samego początku. Przeniesienie jej do stanu używalności wymaga inwestycji w jakość danych, obserwowalność, zarządzanie i ludzi, którzy ją utrzymują w zgodzie z pożądanymi wynikami biznesowymi. Skrócenie tego procesu może spowodować, że rachunek zostanie przeniesiony do przyszłości z dodatkowymi odsetkami.

Jak koszty sztucznej inteligencji naprawdę skalują

Zrozumiałe jest, że zespoły mogą założyć, że koszty sztucznej inteligencji rosną wprost: wykonaj dwa razy więcej pracy, zapłać dwa razy więcej pieniędzy. W rzeczywistości wysiłek, koszty i wyniki mogą poruszać się niezależnie od siebie w zaskakujący sposób. Poproś sztuczną inteligencję, aby przeczytała długi dokument na raz, a musi uwzględnić każde słowo w relacji do każdego innego słowa. W większości popularnych modeli językowych oznacza to, że praca i koszty nie rosną w sposób, w jaki ludzie naturalnie oczekują – podwójny wkład, podwójny koszt – ale raczej rosną mniej więcej z kwadratem długości wejścia. Świadomość podstawowych rzeczy takich jak te może mieć realny wpływ na wynik finansowy każdego wdrożenia sztucznej inteligencji. Jeśli organizacja, która obsługuje duże ilości tekstu każdego dnia, na przykład regulator, projektuje od samego początku wokół wyszukiwania grafów lub pipeline’ów pobierania zamiast wysyłania całych dokumentów do modelu, doświadczenie końcowego użytkownika jest nadal “zadaj pytanie, otrzymaj odpowiedź w sekundach”, podobnie jak publiczny czatbot. To utrzymuje entuzjazm sztucznej inteligencji wśród executive’ów z interakcjami w czasie rzeczywistym, podczas gdy pod powierzchnią system wykonuje znacznie mniej niepotrzebnej pracy, a rachunek za obliczenia jest znacznie niższy w wyniku.

Jak wydatki na sztuczną inteligencję są rozłożone w organizacji

Wybory technologiczne stanowią tylko część historii, reszta to sposób, w jaki organizacje podechodzą do sztucznej inteligencji. W wielu organizacjach przygotowanie danych leży w gestii inżynierów. Przeglądy zgodności leżą w gestii prawników. Wydatki na chmurę mieszczą się w gestii zespołów platformowych lub infrastrukturalnych. Wybór modelu, konfiguracja i ewentualne dostosowanie通常 leżą w gestii kilku specjalistycznych operatorów. Każda grupa widzi swój własny kawałek pracy i swój własny wiersz budżetowy. Wydatki pojawiają się jako obliczenia tutaj, czas kontraktorów tam, a czas ludzi wchłaniany w “biznes jak zwykle” w kilku zespołach. Z liczbami rozproszonymi po centrach kosztów, uzyskanie pełnego kosztu lądowania jednej inicjatywy sztucznej inteligencji może nie być widoczne w jednym miejscu i może być łatwo zaniżone. W takim środowisku koszty sztucznej inteligencji mogą spiralizować cicho, po prostu dlatego, że nikt nie śledzi całej liczby w jednym miejscu.

Praktyczne podejście do zarządzania kosztami sztucznej inteligencji

Unikanie sztucznej inteligencji nie jest słusznym posunięciem dla organizacji, ale traktowanie jej jak technologii “catch-all” również nie jest słuszne. Dobra strategia polega zawsze na rozpoczęciu od pożądanego wyniku i pracy wstecz. Nie każdy przypadek wymaga najnowocześniejszego, drogiego w utrzymaniu, dużego modelu ogólnego przeznaczenia. Wiele zadań można obsłużyć za pomocą dobrze znanych technik uczenia maszynowego, które mieszczą się pod parasolem sztucznej inteligencji i mogą działać na istniejącej infrastrukturze.

Rozpocznij od małych projektów pilotażowych, które mierzą całkowity koszt posiadania, a nie tylko użytkowania modelu, co oznacza patrzenie na obliczenia, oczywiście, ale także na pracę integracyjną, czas inżynierów, zarządzanie zmianą i wysiłek zgodności. Celem jest wybranie najmniejszego i najprostszego modelu, który daje akceptowalny wynik, zamiast zakładania, że “więcej modelu” oznacza “więcej korzyści”.

Sztuczna inteligencja nie jest jedną rzeczą. Jest to połączenie technik i narzędzi, które mogą być używane na różne sposoby. Widzenie jej w ten sposób rozbija aurę wokół imponujących wyników i pozwala firmom wykorzystywać jej moc w sposób bardziej odpowiedzialny i skuteczny.

Ludzie, czas i sztuczna inteligencja

Każde wdrożenie sztucznej inteligencji jest w praktyce współpracą między ludźmi a oprogramowaniem. Niezależnie od tego, czy jest to uznawane formalnie, jest to sposób, w jaki wykonuje się pracę. Bieżący trend w kierunku bardziej agenticznej sztucznej inteligencji – narzędzi, które mogą łączyć kroki, wywoływać inne systemy i działać z mniejszym nakierowaniem – nie zmienia tego, a wręcz zwiększa stawkę dla uzyskania prawej strony ludzkiej pracy w przepływie.

Te narzędzia mogą być łatwe do nadużycia. Kiedy system prezentuje odpowiedzi płynnie i z pewnością, jest naturalne, że ludzie zakładają, że zwykle jest prawidłowy. Jeśli tego rodzaju narzędzie zostanie wprowadzone do przepływu bez właściwego szkolenia, wyraźnych granic i rozsądnych kontroli, może cicho generować strumień małych błędów. Każdy z nich musi być odkryty, zrozumiany i naprawiony przez człowieka. Na papierze sztuczna inteligencja wygląda na wydajną, w praktyce jest ukryty koszt w dodatkowym czasie ludzi spędzonym na czyszczeniu po niej. W ustawieniach skierowanych do klienta lub regulowanych te małe błędy mogą również nieść koszt reputacyjny. Niezależnie od tego, jak są dostarczane lub używane, odpowiedzialność za ich dane wyjściowe nadal spoczywa na organizacji i, w codziennych warunkach, na operatorach ludzkich, którzy je używają. To musi być wyraźnie zrozumiane, aby te narzędzia były naprawdę użyteczne.

Lepszy wzorzec to celowa współpraca: wykwalifikowani ludzie pozostają wyraźnie odpowiedzialni za wyniki, a sztuczna inteligencja jest używana do przyspieszenia części pracy, której się nada. Nawet gdy pewne sprawdzanie i korekta są nadal potrzebne, ogólny efekt dobrze wprowadzonej i zarządzanej sztucznej inteligencji w przepływach może być większy, bardziej spójny i większy niż to, co zespół mógłby osiągnąć samodzielnie.

Zarządzanie jako część budżetu sztucznej inteligencji

Nawet gdy wybory techniczne są słuszne, a użytkowanie jest efektywne, rosnąca część wydatków na sztuczną inteligencję będzie związana z zarządzaniem zamiast surowych obliczeń. Dla organizacji działających w UE, akt sztucznej inteligencji czyni to bardzo wyraźnym. Przyjmuje podejście oparte na ryzyku do sztucznej inteligencji i co ważne, nie dotyczy to tylko produktów publicznych. Wewnętrzne systemy używane w obszarach takich jak zatrudnienie i awans, zarządzanie pracownikami i monitorowanie, a także pewne decyzje dotyczące bezpieczeństwa mogą wchodzić w zakres i przynosić oczekiwania dotyczące zarządzania ryzykiem, dokumentacji, logowania i nadzoru ludzkiego z nimi. Inne regiony idą w podobnym kierunku, nawet jeśli reguły wyglądają nieco inaczej, ogólny trend jest taki sam: większe organizacje są oczekiwane, aby wiedzieć, gdzie sztuczna inteligencja jest używana, co robi i jak jest kontrolowana.

Praktyczny efekt tego jest taki, że wewnętrzne projekty sztucznej inteligencji mogą teraz przyjść z własnym obciążeniem zarządzania, które nie jest opcjonalne. Każde nowe przypadku użycia może oznaczać nową ocenę ryzyka lub wpływu, więcej monitorowania i więcej pytań od zespołów zgodności, audytu lub ryzyka. Żadne z tego nie pojawi się w metrykach użytkowania modelu, ale jest to rzeczywisty wysiłek, który musi być opłacony.

Znowu, nie ma powodu, aby unikać sztucznej inteligencji. Jest to przypomnienie, że koszt operacyjny wewnętrznego procesu z użyciem sztucznej inteligencji nie jest tylko ceną wywołania modelu. Zarządzanie i oczekiwania regulacyjne są teraz częścią całkowitego kosztu posiadania

Gdzie wdrożenia sztucznej inteligencji idą nie tak

Znany wzorzec w projektach sztucznej inteligencji to przepaść między tym, jak system wygląda w demonstracji, a tym, jak zachowuje się na dużą skalę w terenie. W kontrolowanym środowisku, z wąskim zestawem pytań i przyjaznymi danymi, wyniki mogą wyglądać bezbłędnie. Łatwo w tym momencie założyć, że system jest gotowy do podjęcia całej kategorii pracy.

Problemy mają tendencję do pojawiania się później, gdy system jest narażony na pełną różnorodność i objętość rzeczywistego użycia: niezwykłe zapytania, zestresowani użytkownicy, niekompletne rekordy, brudne przypadki brzegowe. Pęknięcia, które były niewidoczne w demonstracji, zaczynają pojawiać się jako błędne odpowiedzi, pominięte niuanse, pętle wsparcia, dłuższe czasy obsługi i ciche uszkodzenie zaufania. Wewnętrzne metryki, takie jak “zapytania obsłużone” i “czas zaoszczędzony”, mogą wyglądać dobrze na papierze, ale doświadczenie życiowe użytkowników końcowych może opowiedzieć inną historię.

Przeskoczenie prosto z błyszczącej demonstracji lub małego pilota, w którym sukces w kontrolowanych warunkach jest traktowany jako dowód, że system jest gotowy do szerszego wdrożenia, może być drogim błędem. W świecie rzeczywistym użytkownicy przynoszą brudne zapytania, niekompletne dane i własne założenia o tym, co może zrobić narzędzie. Jeśli oczekiwania nie są zarządzane, a przepływ pracy wokół systemu nie jest zaprojektowany z uwzględnieniem awaryjnych i eskalacyjnych, organizacja płaci dwukrotnie: raz za budowę, a ponownie w dodatkowym wsparciu, przeróbce, skargach i utraconym zaufaniu. Technologia może wyglądać imponująco na papierze, ale bez pragmatycznego podejścia do tego, jak spotyka się z prawdziwymi ludźmi i prawdziwymi procesami, zwrot z tej inwestycji szybko się wypala.

Odwrotna strona jest taka, że dobrze zaprojektowane systemy, z wyraźnymi granicami i ludzką odpowiedzialnością wbudowaną od samego początku, mogą robić rzeczy, których żaden zespół ludzki nie mógłby samodzielnie osiągnąć: skanowanie ogromnych ilości informacji w sekundach, wykrywanie wzorców w danych z lat i obsługa rutynowych decyzji w skali, która byłaby inaczej poza zasięgiem. Punkt jest taki, że aby osiągnąć te korzyści, organizacje muszą dopasować swoje ambicje do realistycznego punktu widzenia, jak technologia będzie się zachowywać, gdy już będzie na świecie.

Końcowe myśli

Żadne z tego nie jest argumentem przeciwko sztucznej inteligencji. Jest to argument za traktowaniem jej z takim samym poważaniem, jak każdy inny system, który może materialnie zmienić sposób, w jaki firma działa.

Użyta dobrze, sztuczna inteligencja pomaga małym zespołom działać na większą skalę, odkrywać wzorce, które byłyby trudne do zauważenia ręcznie, i sprawiać, że ekspertyzę idzie dalej. Ale aby to osiągnąć, wymaga to wyraźnego widoku, gdzie sztuczna inteligencja jest używana, co kosztuje w sumie i jak jest zarządzana. To oznacza podejmowanie celowych wyborów dotyczących modeli i architektur, inwestowanie w dane i obserwowalność, a także projektowanie procesów, w których ludzie pozostają w pętli.

“Poruszaj się szybko i łamaj rzeczy” było sloganem napisanym dla zespołów ludzkich pracujących nad systemami w skali ludzkiej: jeśli coś się złamało, cofnęło się, poprawiło i posunęło do przodu. Gdy sztuczna inteligencja jest wplatana w decyzje dotyczące klientów, pracowników lub obywateli, ten sam nastawienie może produkować problemy, które rozprzestrzeniają się szybciej, uderzają mocniej i są znacznie trudniejsze do odwrócenia. Szybkość nadal ma znaczenie, a sztuczna inteligencja może na pewno pomóc tutaj, ale musi być dopasowana do wyraźnego widoku ryzyka, kosztów i odpowiedzialności.

Nie ma sposobu, aby całkowicie usunąć koszt lub ryzyko. Ale jest wyraźna różnica między organizacjami, które polegają na eksperymentach ad-hoc, a tymi, które budują sztuczną inteligencję w swoje operacje w sposób zmierzony, z widokiem od wydatków do sukcesu. Przez różnorodność problemów i wyników, z którymi organizacje się mierzą, nie ma jednego rozwiązania sztucznej inteligencji, które może rozwiązać je wszystkie. Skuteczne użycie sztucznej inteligencji w przedsiębiorstwie powinno zawsze być specjalistyczne, nadzorowane i starannie określone.