Jak Wyjaśnialna Sztuczna Inteligencja Zwiększa Niezawodność i Godność

Sztuczna inteligencja (AI) staje się coraz bardziej demokratyczna w przedsiębiorstwach, powoli wprowadzając się w tkankę naszego istnienia. Ważnym aspektem tej demokratyzacji jest to, że użytkownicy końcowi powinni być w stanie w pełni zrozumieć procesy i mechanizmy, których AI używa, aby dojść do wniosku lub osiągnąć pożądane rezultaty. Jako ludzie, mamy głęboko zakorzenione potrzeby odkrywania “dlaczego” i “jak” każdego zjawiska, co przyspieszyło nasz postęp technologiczny. W kontekście AI, to zrozumienie nazywa się “wyjaśnialnością.”

Dlaczego Wyjaśnialność jest potrzebna?

Często podchodzimy do AI jako do “czarnej skrzynki”, gdzie mamy tylko świadomość wejść i wyjść, ale gdzieś procesy używane są nieznane nam. Zwiększając ten problem, jest fakt, że algorytmy, które napędzają większość popularnych form AI, takich jak złożone systemy predykcyjne oparte na głębokim uczeniu i przetwarzaniu języka naturalnego, są bardzo abstrakcyjne, nawet dla ich najbardziej doświadczonych praktyków.

Zaufanie i Przejrzystość: Aby użytkownicy mogli zaufać predykcjom AI, musi ona mieć pewien poziom wyjaśnialności. Na przykład, jeśli lekarz musi polecić leczenie na podstawie predykacji AI, musi być pewien tej predykacji. Bank musi mieć pełne zaufanie do decyzji o odrzuceniu lub zatwierdzeniu kredytu i musi być w stanie uzasadnić tę decyzję wszystkim zainteresowanym stronom. AI używana do selekcji i rekrutacji musi udowodnić, że mechanizmy podstawowe są sprawiedliwe i równoprawne dla wszystkich grup aplikantów.

Czyń AI bardziej ludzkim i zwiększaj przyjęcie: W raporcie McKinsey The state of AI in 2020 dowiadujemy się, że producent używa bardzo przejrzystych modeli, aby uzyskać akceptację od pracowników fabrycznych, którzy muszą zaufać osądowi AI dotyczącemu ich bezpieczeństwa. Dla szybkiego przyjęcia AI, uzyskanie zaufania ze strony zainteresowanych jest główną przeszkodą w skalowaniu od prostych rozwiązań punktowych do poziomu przedsiębiorstwa i uzyskaniu największych korzyści z inwestycji. To jest znacznie ułatwione, jeśli wyniki są wyjaśnialne dla szerszej publiczności. Z biznesowego punktu widzenia, wyjaśnialność poprawia ogólne doświadczenie użytkownika i zwiększa satysfakcję klienta. Według wyników ankiety IBM Institute for Business Value, 68 procent wyższych menedżerów uważa, że klienci będą wymagać więcej wyjaśnialności od AI w ciągu najbliższych trzech lat.

Odkryj przedstawienia i popraw wyniki modelu: Deweloper musi wiedzieć, jak poprawić wyniki modelu i jak dokładnie debugować i dostosowywać go. Wyraźna ramka wyjaśnialności jest jednym z najważniejszych narzędzi do przeprowadzenia gruntownej analizy, która jest potrzebna.

Uzyskaj ostre, wszechstronne spojrzenie: Pełne spojrzenie 360 stopni jest potrzebne do pełnego zrozumienia każdej recepty podanej przez AI. Na przykład, jeśli AI jest używana do podejmowania decyzji inwestycyjnych, należy również wiedzieć, jaka jest racja stanowiąca podstawę tej decyzji, aby przenieść to uczenie się do innych obszarów i zrozumieć potencjalne pułapki podejmowania tej decyzji. Silne zrozumienie, jak AI działa, umożliwi również decydentom odkryć nowe przypadki użycia.

Regulacje i Odpowiedzialność: Wiele regulacji, takich jak RODO, nakazuje prawo do wyjaśnienia, aby rozwiązać problemy odpowiedzialności, które wynikają z procesu podejmowania decyzji automatycznych. W systemach takich jak pojazdy autonomiczne, jeśli coś pójdzie nie tak, powodując straty życia i mienia, właściwa wiedza jest potrzebna na temat przyczyny pierwotnej, co będzie trudne do ustalenia w systemie “czarnej skrzynki”.

Jak AI może być bardziej wyjaśnialna?

Wyjaśnialne Systemy Sztucznej Inteligencji (XAI) są rozwijane przy użyciu różnych technik, które koncentrują się albo na wyjaśnianiu modelu jako całości, albo na wyjaśnianiu powodów indywidualnych predykacji za pomocą algorytmu.

Większość technik wyjaśnialności opiera się na:

• rozłożeniu modelu na poszczególne składniki
• wizualizacji predykacji modelu (na przykład, jeśli model klasyfikuje samochód jako określonej marki, podświetla część, która spowodowała, że został on sklasyfikowany jako taki)
• wyjaśnianiu wydobyciu (używaniu technik uczenia maszynowego do znalezienia odpowiednich danych, które wyjaśniają predykację algorytmu sztucznej inteligencji)

W jednej z takich technik, zwanej modelowaniem proxy, używa się prostszego i bardziej zrozumiałego modelu, takiego jak drzewo decyzyjne, aby przybliżyć bardziej skomplikowany model AI. Te uproszczone wyjaśnienia dają ogólne pojęcie o modelu na wysokim poziomie, ale czasami mogą tłumić pewne niuanse.

Inny podejście nazywa się “wyjaśnialnością przez projekt”. To podejście nakłada ograniczenia na projekt i szkolenie sieci AI w nowy sposób, który próbuje zbudować całą sieć z mniejszych i prostszych wyjaśnialnych kawałków. To wymaga kompromisu między poziomem dokładności a wyjaśnialnością i ogranicza pewne podejścia z narzędziowego zestawu analityka danych. Może to być również bardzo wymagające obliczeniowo.

Szkolenie i testowanie AI mogą również wykorzystywać techniki weryfikacji danych agnostycznych, takie jak lokalny model interpretowalny (LIME) i Shapley Additive exPlanations (SHAP), i powinny być dostosowane do osiągnięcia wysokiej dokładności za pomocą metryk, takich jak F-wartość, precyzja i inne. I, oczywiście, wszystkie wyniki powinny być monitorowane i weryfikowane przy użyciu szerokiej gamy danych. Używając LIME, na przykład, organizacje mogą tworzyć tymczasowe modele, które naśladują predykacje nieprzezroczystych algorytmów, takich jak uczenie maszynowe. Te modele LIME mogą następnie tworzyć szeroki zakres permutacji na podstawie danego zestawu danych i odpowiadających im wyników, które mogą być następnie użyte do szkolenia prostszych i bardziej interpretowalnych modeli wraz z pełnymi listami wyjaśnień dla każdej decyzji i/lub predykacji. Ramka SHAP, która opiera się na teorii gier i konkretnie na kooperatywnej teorii gier, jest modelem, który łączy optymalną alokację kredytu z lokalnymi wyjaśnieniami za pomocą oryginalnych wartości Shapleya z teorii gier i ich pochodnych.

Operacje Zasadowe

Na bardziej strategicznym poziomie, ramy niezawodności AI powinny obejmować szeroki zestaw zasad mających na celu zapewnienie właściwych wyników zarówno na początku wdrożenia, jak i w czasie, gdy modele ewoluują wraz ze zmieniającymi się okolicznościami. Co najmniej, te ramy powinny obejmować takie rzeczy, jak:

• Wykrywanie Przeszkód – wszystkie zestawy danych powinny być oczyszczone z przeszkód i dyskryminujących atrybutów, a następnie nadane odpowiednią wagą i dyskrecją podczas stosowania do modelu szkoleniowego;
• Udział Człowieka – operatorzy powinni być w stanie zbadać i zinterpretować dane wyjściowe algorytmu w każdej chwili, szczególnie, gdy modele są używane do egzekwowania prawa i ochrony wolności obywatelskich;
• Uzasadnienie – wszystkie predykacje muszą być w stanie wytrzymać kontrolę, co wymaga wysokiego poziomu przejrzystości, aby zewnętrzni obserwatorzy mogli ocenić procesy i kryteria użyte do uzyskania wyników;
• Powtarzalność – niezawodne modele AI muszą być spójne w swoich predykcjach i muszą wykazywać wysoki poziom stabilności, gdy spotykają nowe dane.

Ale XAI nie powinna być postrzegana tylko jako środek do poprawy zysku, ale jako sposób na wprowadzenie odpowiedzialności, aby zapewnić, że instytucje mogą wyjaśnić i uzasadnić wpływ swoich tworów na społeczeństwo jako całość.