Pięć powodów, dla których algorytmy sztucznej inteligencji mogą być trudne do wdrożenia w zarządzaniu operacyjnym

Przez: Evgeniya Malina, Dyrektor strategii biznesowej i operacji w Food Rocket.

Zgodnie z niedawnymi badaniami McKinsey Global Institute, sztuczna inteligencja ma szansę zwiększyć globalną produkcję gospodarczą o 13 bilionów dolarów do 2030 roku.

Jednakże, wiąże się to z własnymi wyzwaniami i niezamierzonymi konsekwencjami. Niektóre z najczęściej identyfikowanych ryzyk i wyzwań wdrożenia sztucznej inteligencji obejmują problemy z prywatnością, niezdolność do generalizacji oraz ogólny brak zaufania.

Poniżej znajdują się trzy wyzwania związane z sztuczną inteligencją, które specjalnie dotykają zarządzania operacyjnego w firmach.

1. Słaba jakość danych

Pierwszą rzeczą, której potrzebuje solidny algorytm sztucznej inteligencji, są dane. Aby odpowiednio przeszkolić algorytm, należy go nakarmić ogromnymi ilościami precyzyjnych, wysokiej jakości danych. Niestety, nie zawsze jest łatwo uzyskać te dane, a raport Gartnera z 2020 roku wskazuje, że słaba jakość danych może kosztować firmę około 13 milionów dolarów każdego roku.

Na przykład, niektóre procesy mogą nie mieć żadnego cyfrowego śladu, gdy się zaczyna. Nie ma danych, które można by wprowadzić do algorytmu w tych przypadkach. Wszystko, co się daje, to tylko hipotezy i wykształcone zgadywania, co stwarza dwa problemy.

Po pierwsze, wprowadza to znaczne ludzkie uprzedzenia do procesu od samego początku. Po drugie, oznacza to, że wszelkie wyniki z algorytmu są po prostu rozszerzeniem najlepszych zgadywań. Ostatecznie, pozostawia to nas z niepewnym krajobrazem danych i niezawodnym, niestabilnym procesem decyzyjnym.

2. Nawigowanie “zimnymi startami” i zaangażowaniem pracowników

Automatyzacja jest doskonała do usprawniania istniejących procesów, ale wymiana jest “zimnym startem”. Jest to sytuacja, w której trzeba rozpocząć proces bez historycznych danych, na których sztuczna inteligencja mogłaby opierać swoją rutynę. W każdym przypadku sztuczna inteligencja będzie się starała pokonać tę przeszkodę.

Zgodnie z Harvard Business Review, 80 procent lub więcej czasu zespołu IT jest często spędzane na poprawie i udoskonaleniu niespójnych danych dla algorytmów sztucznej inteligencji

Często wymaga to znacznego nakładu ludzkiej pracy, aby pomóc sztucznej inteligencji pokonać ten “zimny start” i wznowić gładkie operacje.

Z mojego doświadczenia wynika, że może to spowodować poważne zakłócenia w zarządzaniu łańcuchem dostaw, a także może kosztować firmy znaczne dochody. Wszyscy wiemy, że sztuczna inteligencja nie jest jeszcze wystarczająco rozwinięta, aby obsłużyć wszystkie aspekty systemu zarządzania operacyjnego. Oznacza to, że każde rozwiązanie sztucznej inteligencji wykorzystywane przez firmę będzie nakładało się na procesy decyzyjne ludzi.

Chociaż może to być dobrą rzeczą, może to również prowadzić do rozłączenia poczucia osobistej odpowiedzialności pracownika. W niektórych przypadkach pracownicy mogą czuć, że mogą oddzielić się od decyzji, ponieważ “sztuczna inteligencja to zrobiła”.

Ponadto, jest powszechne, że wprowadzenie nowego algorytmu pokrywa się z znacznym spadkiem wskaźników jakości. Z mojego doświadczenia wynika, że ten paradoks jest wynikiem osoby, która wcześniej była odpowiedzialna za wskaźnik, czując się teraz jak nieistotne ogniwo w łańcuchu automatycznych decyzji.

Jest to niezwykle ważne, aby zarządzać tym aspektem automatyzacji, ponieważ może to łatwo doprowadzić zespół na drogę obojętności i obniżonego zaangażowania. Ma to również potencjał szkodzenia marki. Jeśli sztuczna inteligencja jest pozostawiona sama, aby podejmować decyzje, może nieświadomie zacząć dyskryminować klientów w określonych grupach wiekowych, płci lub geograficznych.

3. Wyzwania związane z przejrzystością i efektywną implementacją

Jak każdy właściciel firmy wie, rzeczy mogą się zmienić w mgnieniu oka. Firmy nie zawsze mają czas, aby zbudować złożone rozwiązanie sztucznej inteligencji dla nowej operacji.

W rzeczywistości jest o wiele bardziej powszechne, że firmy są pod presją czasu i zmuszone są rozwiązać problem bez pomocy automatyzacji, ponieważ ustawienie nowego procesu po prostu zajmuje za dużo czasu. Ponieważ zwykle nie ma czasu, aby napisać złożone modele, występują dwie rzeczy.

Po pierwsze, firma może zdecydować się na wdrożenie prawie kompletnego procesu, ale wstawić ręczny pośredni krok, aż proces może być udoskonalony. W tym przypadku firmy tracą aż 80 procent obliczonej wydajności procesu.

Alternatywnie, firma może wdrożyć oprogramowanie SaaS, aby przyspieszyć proces wdrożenia. Chociaż koszty czasu i pieniędzy będą niższe, problem utraty wydajności pozostaje. W tym przypadku wdrożenie algorytmów SaaS, które nie są specjalnie przystosowane do potrzeb firmy, może sprawić, że proces będzie mniej wydajny niż gdyby był wykonywany ręcznie.

Ponadto, ważne jest, aby zrozumieć, że przejrzystość w procesie sztucznej inteligencji jest niezwykle trudna do przekazania kierownictwu, nawet przez ekspertów. Jest to spowodowane złożonością algorytmów, ale może sprawić, że zespół będzie miał wątpliwości co do przejścia na automatyczne zarządzanie operacyjne.

Gdzie idziemy dalej?

Niektórzy badacze sugerują, że wyzwania, z którymi obecnie się zmagamy, doprowadzą do nowych ról ludzkich w firmie: trenerzy, wyjaśniacze i utrzymujący.

Trenerzy pomogą zoptymalizować wydajność sztucznej inteligencji; wyjaśniacze będą odpowiedzialni za rozbijanie decyzji sztucznej inteligencji dla osób niebędących specjalistami, a utrzymujący będą pracować nad tym, aby procesy sztucznej inteligencji były zrównoważone na dłuższą metę.

Jednakże, do tego czasu, firmy i założyciele muszą brać pod uwagę więcej niż tylko znaczną przewagę konkurencyjną, jaką może dać sztuczna inteligencja. Przewaga musi być ważona przeciwko niejasności, kosztom czasu i przeszkodom wzrostu, które pojawiają się wraz z operacyjną sztuczną inteligencją.

Sztuczna inteligencja ma jeszcze długą drogę do przebycia, jeśli chodzi o wzrost, rozwój i wdrożenie. Bez wątpienia może uczynić ogromną różnicę w zarządzaniu operacyjnym, ale nie możemy jeszcze w pełni polegać na niej, aby zawsze była najlepszym rozwiązaniem.