Google Tworzy Nowy Program AI Wyjaśnialny, aby Poprawić Przejrzystość i Debugowanie

Oto niedawno Google (GOOGL ) ogłosił stworzenie nowej platformy chmurowej, która ma na celu uzyskanie wglądu w to, jak program AI podejmuje decyzje, co ułatwia debugowanie programu i poprawia przejrzystość. Jak donosi The Register, platforma chmura nazywa się Explainable AI, i stanowi ważną próbę Google, aby zainwestować w wyjaśnialność AI.

Sztuczne sieci neuronowe są wykorzystywane w wielu, być może większości, głównych systemów AI używanych na świecie dzisiaj. Sieci neuronowe, które obsługują główne aplikacje AI, mogą być niezwykle złożone i duże, a im bardziej rośnie złożoność systemu, tym trudniej jest zrozumieć, dlaczego system podjął określoną decyzję. Jak wyjaśnia Google w swoim dokumencie, im bardziej potężne stają się systemy AI, tym bardziej stają się złożone i trudniejsze do debugowania. Przejrzystość również zostaje utracona, co oznacza, że algorytmy tendencyjne mogą być trudne do rozpoznania i rozwiązania.

Fakt, że powody, które napędzają zachowanie złożonych systemów, są tak trudne do interpretacji, często ma drastyczne konsekwencje. Poza tym, że utrudnia walkę z AI bias, może być niezwykle trudno odróżnić fałszywe korelacje od prawdziwie ważnych i interesujących korelacji.

Wiele firm i grup badawczych bada, jak rozwiązać problem “czarnej skrzynki” AI i stworzyć system, który adekwatnie wyjaśnia, dlaczego AI podjął określoną decyzję. Platforma Explainable AI Google reprezentuje własną próbę rozwiązania tego wyzwania. Explainable AI składa się z trzech różnych narzędzi. Pierwsze narzędzie to system, który opisuje, które funkcje zostały wybrane przez AI, oraz wyświetla wynik atrybucji, który reprezentuje wpływ, jaki dana funkcja ma na ostateczną predykcję. Raport Google na temat tego narzędzia podaje przykład przewidywania, jak długo potrwa przejażdżka rowerem, w oparciu o zmienne takie jak opady deszczu, aktualna temperatura, dzień tygodnia i godzina rozpoczęcia. Po tym, jak sieć podejmuje decyzję, dostarczana jest informacja zwrotna, która wyświetla, które funkcje miały największy wpływ na predykcje.

Jak to narzędzie zapewnia taką informację zwrotną w przypadku danych obrazowych? W tym przypadku narzędzie wytwarza nakładkę, która podświetla obszary obrazu, które najbardziej wpłynęły na podjętą decyzję.

Inne narzędzie w zestawie to “Co się stanie”, które wyświetla potencjalne fluktuacje w wydajności modelu, gdy poszczególne atrybuty są modyfikowane. Ostatecznie, ostatnie narzędzie może być ustawione tak, aby dostarczać wyniki próbek do recenzentów ludzkich na stałym harmonogramie.

Dr Andrew Moore, główny naukowiec Google ds. AI i uczenia maszynowego, opisał inspirację dla projektu. Moore wyjaśnił, że około pięć lat temu społeczność akademicka zaczęła się martwić o szkodliwe produkty uboczne użycia AI i że Google chciałoby upewnić się, że ich systemy są używane tylko w sposób etyczny. Moore opisał incydent, w którym firma próbowała zaprojektować program komputerowy, aby ostrzegać robotników budowlanych, jeśli ktoś nie nosił kasku, ale zaczęli się martwić, że monitoring mógłby być zbyt daleko idący i stać się dehumanizujący. Moore powiedział, że podobny powód, dla którego Google zdecydowało się nie wydać ogólnego interfejsu API rozpoznawania twarzy, ponieważ firma chciała mieć więcej kontroli nad tym, jak ich technologia jest używana, i upewnić się, że jest używana tylko w sposób etyczny.

Moore również podkreślił, dlaczego tak ważne jest, aby decyzje AI były wyjaśnialne:

“Jeśli masz system krytyczny pod względem bezpieczeństwa lub coś, co ma znaczenie społeczne, co może mieć niezamierzone konsekwencje, jeśli uważasz, że twój model popełnił błąd, musisz być w stanie go zdiagnozować. Chcemy wyjaśnić dokładnie, co wyjaśnialność może i nie może zrobić. Nie jest to panaceum.