Przedstawiamy nowe poziomy transparentności z AI – Liderzy myśli

Przez Balakrishna D R, Starszego Wiceprezesa, Szefa oferty usług – Energia, Komunikacja, Usługi i usługi AI i automatyzacji, w Infosys.

9 stycznia 2020 r. Światowa Organizacja Zdrowia poinformowała publicznie o wybuchu koronawirusa w Chinach. Trzy dni wcześniej amerykańskie Centrum Kontroli i Prewencji Chorób powiadomiło o tym opinię publiczną. Jednakże kanadyjska platforma monitorowania zdrowia publicznego była szybsza, wysyłając ostrzeżenie o wybuchu do swoich klientów już 31 grudnia 2019 r.! Platforma, BlueDot, wykorzystuje algorytmy oparte na sztucznej inteligencji, które przeszukują raporty z zagranicy, sieci chorób zwierząt i roślin oraz oficjalne deklaracje, aby zapewnić klientom wczesne ostrzeżenie i uniknięcie stref niebezpieczeństwa, takich jak Wuhan.

W ciągu ostatnich kilku lat sztuczna inteligencja stała się kluczowym źródłem transformacji, perturbacji i przewagi konkurencyjnej w dzisiejszej szybko zmieniającej się gospodarce. Od śledzenia epidemii po obronę, opiekę zdrowotną, pojazdy autonomiczne i wszystko pomiędzy, AI zyskuje coraz szersze zastosowanie. PwC przewiduje, że AI może przyczynić się do wzrostu globalnej gospodarki o 15,7 biliona dolarów do 2030 r., przy obecnym tempie wzrostu.

Jednak pomimo wszystkich nadziei, które AI budzi, wciąż pozostają niewyjaśnione pytania dotyczące transparentności i godności zaufania. Konieczne jest zrozumienie, przewidzenie i zaufanie do zdolności podejmowania decyzji przez systemy AI, szczególnie w obszarach, które są kluczowe dla życia, śmierci i osobistej samopomocy.

W nieznane

Gdy wprowadzono systemy automatycznego podejmowania decyzji, aby wspierać proces podejmowania decyzji, opierały się one na ręcznie tworzonych regułach. To sprawiło, że było łatwo je interpretować i modyfikować ich zachowanie, ale nie były one skalowalne. Modele oparte na uczeniu maszynowym pojawiły się, aby rozwiązać ten problem; nie wymagały one interwencji człowieka i mogły być szkolone na danych – im więcej, tym lepiej. Chociaż modele głębokiego uczenia się są niezrównane pod względem ich możliwości modelowania i zakresu stosowalności, fakt, że te modele są w dużej mierze “czarne skrzynki”, budzi niepokojące pytania dotyczące ich prawdziwości, godności zaufania i uprzedzeń w kontekście ich szerokiego zastosowania.

Obecnie nie ma bezpośredniego mechanizmu, który pozwoliłby na śledzenie rozumowania użytego przez modele głębokiego uczenia się. W przypadku modeli opartych na uczeniu maszynowym o charakterze “czarnej skrzynki” głównym rodzajem wyjaśnialności jest tzw. wyjaśnialność post-hoc, co oznacza, że wyjaśnienia są wyprowadzane z natury i właściwości danych wyjściowych generowanych przez model. Wczesne próby wyodrębnienia reguł z sieci neuronowych (jak wcześniej nazywano głębokie uczenie się) nie są obecnie kontynuowane, ponieważ sieci stały się zbyt duże i zróżnicowane, aby można było je wyjaśnić. Istnieje zatem pilna potrzeba wprowadzenia interpretowalności i transparentności w samą tkankę modelowania AI.

Wyjście z nocy, wejście w światło

Ten problem spowodował potrzebę transparentności w uczeniu maszynowym, co doprowadziło do wzrostu AI wyjaśnialnej, czyli XAI. Dąży ona do rozwiązania głównych problemów, które utrudniają nam pełne zaufanie do podejmowania decyzji przez AI — w tym uprzedzeń i transparentności. Ten nowy obszar AI wprowadza odpowiedzialność, aby zapewnić, że AI przynosi korzyści społeczeństwu, zapewniając lepsze wyniki dla wszystkich zaangażowanych.

XAI będzie kluczowe w pomocy w zwalczaniu uprzedzeń w systemach i algorytmach AI, które są programowane przez ludzi, którzy nieświadomie wprowadzają uprzedzenia do systemów AI. Niechciane uprzedzenia, takie jak dyskryminacja ze względu na narodowość lub etniczność, mogą pojawić się, ponieważ system przydziela wartość do nich na podstawie danych. Na przykład, jeśli typowi kredytobiorcy, którzy nie spłacają kredytów, pochodzą z określonej grupy etnicznej, wprowadzenie jakiejkolwiek restrykcyjnej polityki na podstawie tego może być sprzeczne z fair practices. Błędne dane są również przyczyną uprzedzeń. Na przykład, jeśli skaner rozpoznawania twarzy jest nieprecyzyjny 5% czasu z powodu koloru skóry lub oświetlenia twarzy, może to wprowadzić uprzedzenia. Wreszcie, jeśli Twoje dane próbkowe nie są prawdziwą reprezentacją całej populacji, uprzedzenia są nieuniknione.

XAI dąży do rozwiązania problemu, w jaki sposób “czarne skrzynki” systemów AI podejmują decyzje. Bada i próbuje zrozumieć kroki i modele zaangażowane w podejmowanie decyzji. Odpowiada na kluczowe pytania, takie jak: Dlaczego system AI podjął określoną decyzję lub przewidzenie? Dlaczego system AI nie zrobił czegoś innego? Kiedy system AI odniósł sukces lub niepowodzenie? Kiedy systemy AI dają wystarczającą pewność, aby zaufać decyzji, i jak system AI może poprawić błędy?

Wyjaśnialna, przewidywalna i śledzalna AI

Jednym ze sposobów, aby uzyskać wyjaśnialność w systemach AI, jest użycie algorytmów uczenia maszynowego, które są wewnętrznie wyjaśnialne. Na przykład, prostsze formy uczenia maszynowego, takie jak drzewa decyzyjne, klasyfikatory Bayesowskie i inne algorytmy, które mają pewne poziomy śledzenia i transparentności w podejmowaniu decyzji. Mogą one zapewnić widoczność potrzebną dla krytycznych systemów AI bez poświęcania zbyt dużej wydajności lub dokładności.

Zauważając potrzebę zapewnienia wyjaśnialności dla głębokiego uczenia się i innych bardziej złożonych podejść algorytmicznych, amerykańska Agencja Zaawansowanych Projektów Badawczych (DARPA) prowadzi wysiłki, aby wytworzyć rozwiązania AI wyjaśnialne poprzez szereg finansowanych inicjatyw badawczych. DARPA opisuje wyjaśnialność AI w trzech częściach, które obejmują: dokładność przewidywania, co oznacza, że modele wyjaśniają, w jaki sposób dochodzą do wniosków, aby poprawić przyszłe podejmowanie decyzji; zrozumienie decyzji i zaufanie od ludzi i operatorów, a także kontrolę i śledzenie działań podejmowanych przez systemy AI.

Śledzenie umożliwi ludziom wejście w pętle decyzyjne AI i mieć możliwość zatrzymania lub kontrolowania ich zadań, gdy zajdzie taka potrzeba. System AI nie jest oczekiwany tylko do wykonania określonego zadania lub nałożenia decyzji, ale także do zapewnienia przejrzystego raportu, dlaczego podjął określone decyzje z uzasadnieniem.

Standaryzacja algorytmów lub nawet podejść XAI nie jest obecnie możliwa, ale można standaryzować poziomy transparentności / poziomy wyjaśnialności. Organizacje standaryzujące próbują osiągnąć wspólne, standardowe zrozumienie tych poziomów transparentności, aby ułatwić komunikację między użytkownikami końcowymi a dostawcami technologii.

Podczas gdy rządy, instytucje, przedsiębiorstwa i ogół społeczeństwa zaczynają polegać na systemach opartych na AI, zdobycie ich zaufania poprzez klarowną transparentność procesu podejmowania decyzji będzie podstawowe. Uruchomienie pierwszej globalnej konferencji wyłącznie poświęconej XAI, Międzynarodowej Konferencji Połączonej na temat sztucznej inteligencji: Warsztaty na temat AI Wyjaśnialnej, jest dalszym dowodem, że era XAI nadeszła.