Jak Wyjaśnialne Sztuczna Inteligencja Buduje Zaufanie i Odpowiedzialność

Przedsiębiorstwa już wcześniej wprowadziły sztuczną inteligencję do swoich działań, wyścigając się, aby wdrożyć czatboty, generatory treści i narzędzia wspomagające decyzje we wszystkich obszarach swojej działalności. Według McKinsey, 78% firm wykorzystuje sztuczną inteligencję w co najmniej jednej funkcji biznesowej.

Szał wdrożeniowy jest zrozumiały — wszyscy widzą potencjalną wartość. Ale w tym pędzie wiele organizacji pomija fakt, że wszystkie technologie oparte na sieciach neuronowych, w tym każdy system językowy i generatywny w użyciu dzisiaj i w przyszłości, mają znaczącą wadę: są nieprzewidywalne i ostatecznie niekontrolowalne.

Jak niektórzy się dowiedzieli, może to mieć realne konsekwencje. W jednym dealermanie Chevroleta, który wdrożył czatbota na swojej stronie internetowej, klient przekonał bota zasilanego przez ChatGPT do sprzedaży mu Chevroleta Tahoe za 1 dolara. Inny klient poprosił tego samego czatbota o napisanie skryptu Pythona dla złożonych równań dynamiki płynów, co zrobił. Dealerzy szybko wyłączyli boty po tym, jak te incydenty stały się virale.

W zeszłym roku Air Canada przegrało w sądzie, gdy twierdziło, że jego czatbot, który dał pasażerowi nieprawidłowe informacje o zniżce z powodu śmierci, “jest odrębną jednostką prawną odpowiedzialną za swoje własne działania”.

Ta nieprzewidywalność wynika z fundamentalnej architektury modeli językowych. Są tak duże i złożone, że nie można zrozumieć, jak dochodzą do konkretnych odpowiedzi lub przewidzieć, co wygenerują, aż do momentu, gdy wyprodukują dane wyjściowe. Większość organizacji reaguje na ten problem niezawodności, nie do końca go rozpoznając.

Rozsądkowe rozwiązanie polega na sprawdzaniu wyników sztucznej inteligencji ręcznie, co działa, ale dramatycznie ogranicza potencjał techniki. Kiedy sztuczna inteligencja jest ograniczona do bycia osobistym asystentem — tworzeniem tekstu, prowadzeniem notatek z spotkań, podsumowaniem dokumentów i pomaganiem w kodowaniu — dostarcza skromne zyski produktywności. Nie wystarczająco, aby rewolucjonizować gospodarkę.

Prawdziwe korzyści sztucznej inteligencji pojawią się, gdy przestaniemy ją wykorzystywać do wspomagania istniejących prac i zamiast tego przebudujemy całe procesy, systemy i firmy, aby wykorzystywać sztuczną inteligencję bez udziału ludzi na każdym etapie. Rozważmy proces obsługi kredytów: jeśli bank daje oficerom kredytowym asystenta sztucznej inteligencji, aby podsumować wnioski, mogą pracować o 20-30% szybciej. Ale wdrożenie sztucznej inteligencji do obsługi całego procesu decyzyjnego (z odpowiednimi zabezpieczeniami) mogłoby obniżyć koszty o ponad 90% i wyeliminować prawie cały czas przetwarzania. To jest różnica między stopniową poprawą a transformacją.

Ścieżka do niezawodnego wdrożenia sztucznej inteligencji

Wykorzystanie pełnego potencjału sztucznej inteligencji bez ulegania jej nieprzewidywalności wymaga wyrafinowanego połączenia podejść technicznych i strategicznego myślenia. Chociaż kilka obecnych metod oferuje częściowe rozwiązania, każde z nich ma znaczące ograniczenia.

Niektóre organizacje próbują łagodzić problemy z niezawodnością poprzez nakierowanie systemu — delikatne kierowanie zachowaniem sztucznej inteligencji w pożądanych kierunkach, aby reagowała w określony sposób na pewne dane wejściowe. Badacze z Anthropic wykazali kruchność tego podejścia, identyfikując “cechę Golden Gate Bridge” w sieci neuronowej Claude i, poprzez sztuczne wzmocnienie jej, spowodowali, że Claude rozwinął kryzys tożsamości. Kiedy zapytano go o jego postać fizyczną, zamiast przyznać, że jej nie ma, Claude twierdził, że jest mostem Golden Gate.

Inne podejście polega na tym, aby sztuczna inteligencja monitorowała inną sztuczną inteligencję. Chociaż ten warstwowy podejście może wyłapać niektóre błędy, wprowadza dodatkową złożoność i nadal nie osiąga całościowej niezawodności. Twarde bariery są bardziej bezpośrednim wkroczeniem, takim jak blokowanie odpowiedzi zawierających określone słowa kluczowe lub wzorce, takie jak składniki prekursorowe broni. Chociaż skuteczne przeciwko znanym problemom, te bariery nie mogą przewidzieć nowych, problematycznych danych wyjściowych, które pojawiają się z tych złożonych systemów.

Bardziej skuteczne podejście polega na budowaniu procesów zorientowanych na sztuczną inteligencję, które mogą działać autonomicznie, z ludzkim nadzorem strategicznie umieszczonym, aby wyłapać problemy z niezawodnością przed ich wystąpieniem w świecie rzeczywistym. Nie chciałbyś, aby sztuczna inteligencja bezpośrednio zatwierdzała lub odrzucała wnioski o kredyt, ale sztuczna inteligencja mogłaby przeprowadzić wstępną ocenę dla operatorów ludzkich do przeglądu. To może działać, ale opiera się na ludzkiej czujności, aby wyłapać błędy sztucznej inteligencji i podważa potencjalne zyski wydajności z użycia sztucznej inteligencji.

Budowanie dla przyszłości

Te częściowe rozwiązania wskazują na bardziej kompleksowe podejście. Organizacje, które fundamentalnie przemyślą, jak ich praca jest wykonywana, zamiast po prostu uzupełniać istniejące procesy o pomoc sztucznej inteligencji, uzyskają największą przewagę. Ale sztuczna inteligencja nigdy nie powinna być ostatnim krokiem w procesie o wysokim ryzyku lub decyzji, więc jaka jest najlepsza droga do przodu?

Po pierwsze, sztuczna inteligencja buduje powtarzalny proces, który będzie niezawodnie i przejrzyście dostarczał spójne wyniki. Po drugie, ludzie przeglądają proces, aby upewnić się, że rozumieją, jak on działa i że dane wejściowe są odpowiednie. Wreszcie, proces działa autonomicznie — bez użycia sztucznej inteligencji — z okazjonalnym przeglądem wyników przez ludzi.

Rozważmy przemysł ubezpieczeniowy. Konwencjonalne podejście mogłoby polegać na dodaniu asystentów sztucznej inteligencji, aby pomóc procesorom roszczeń pracować wydajniej. Bardziej rewolucyjne podejście polegałoby na użyciu sztucznej inteligencji do opracowania nowych narzędzi — takich jak analiza zdjęć uszkodzeń za pomocą widzenia komputerowego lub ulepszone modele wykrywania oszustw, które identyfikują podejrzane wzorce — a następnie połączeniu tych narzędzi w zautomatyzowane systemy zarządzane przez jasne, zrozumiałe reguły. Ludzie projektowaliby i monitorowaliby te systemy, zamiast przetwarzać indywidualne roszczenia.

To podejście utrzymuje nadzór ludzki w krytycznym momencie, w którym ma to największe znaczenie: projektowaniu i walidacji samego systemu. Pozwala na wykładnicze zyski wydajności, eliminując jednocześnie ryzyko, że nieprzewidywalność sztucznej inteligencji doprowadzi do szkodliwych skutków w poszczególnych przypadkach.

Sztuczna inteligencja mogłaby zidentyfikować potencjalne wskaźniki zdolności do spłaty kredytu w danych transakcyjnych. Ekspertowie ludzcy mogliby następnie ocenić te wskaźniki pod kątem uczciwości i zbudować jawne, zrozumiałe modele, aby potwierdzić ich moc predykcyjną.

To podejście do wyjaśnialnej sztucznej inteligencji stworzy wyraźną granicę między organizacjami, które wykorzystują sztuczną inteligencję powierzchownie, a tymi, które transformują swoje operacje wokół niej. Te ostatnie będą coraz bardziej wyprzedzać swoich konkurentów w swoich branżach, będąc w stanie oferować produkty i usługi po cenach, których ich konkurenci nie mogą dorównać.

W przeciwieństwie do czarnej skrzynki sztucznej inteligencji, systemy sztucznej inteligencji wyjaśnialnej zapewniają, że ludzie utrzymują znaczący nadzór nad zastosowaniem techniki, tworząc przyszłość, w której sztuczna inteligencja uzupełnia ludzki potencjał, zamiast po prostu zastępować ludzką pracę.