Wyjaśnialność może rozwiązać problem braku przejrzystości w każdej branży: AI

Przez: Migüel Jetté, VP of R&D Speech, Rev.

We wczesnych stadiach rozwoju, AI mogło polegać na nowości. Było w porządku, że machine learning mógł uczyć się powoli i utrzymywać nieprzezroczysty proces, w którym obliczenia AI były niezrozumiałe dla przeciętnego konsumenta. To się zmienia. Im więcej branż, takich jak opieka zdrowotna, finanse i system sprawiedliwości, zaczyna wykorzystywać AI w sposób, który może mieć realny wpływ na życie ludzi, tym więcej ludzi chce wiedzieć, jak algorytmy są wykorzystywane, jak dane są pozyskiwane i jak dokładne są ich możliwości. Jeśli firmy chcą pozostać na czele innowacji w swoich branżach, muszą polegać na AI, które ich odbiorcy będą ufali. Wyjaśnialność AI jest kluczem do pogłębienia tej relacji.

Wyjaśnialność AI różni się od standardowych procedur AI, ponieważ oferuje ludziom sposób zrozumienia, jak algorytmy machine learning tworzą dane wyjściowe. Wyjaśnialna AI to system, który może dostarczyć ludziom potencjalne wyniki i słabości. To system machine learning, który może spełnić ludzkie pragnienie sprawiedliwości, odpowiedzialności i szacunku dla prywatności. Wyjaśnialna AI jest niezbędna dla firm, aby budować zaufanie z konsumentami.

Pomimo rozwoju AI, dostawcy AI muszą zrozumieć, że czarna skrzynka nie może być akceptowalna. Modele czarnej skrzynki są tworzone bezpośrednio z danych i często nawet twórca algorytmu nie może określić, co spowodowało, że maszyna nauczyła się pewnych zachowań. Ale odpowiedzialny konsument nie chce współpracować z czymś, co jest tak nieprzezroczyste, że nie może być pociągnięte do odpowiedzialności. Ludzie chcą wiedzieć, jak algorytm AI dochodzi do konkretnego wyniku bez tajemnicy danych wejściowych i kontrolowanego wyjściowego, szczególnie gdy błędy AI są często spowodowane przez uprzedzenia maszyny. Im AI staje się bardziej zaawansowane, ludzie chcą mieć dostęp do procesu machine learning, aby zrozumieć, jak algorytm doszedł do konkretnego wyniku. Liderzy we wszystkich branżach muszą zrozumieć, że wcześniej czy później ludzie nie będą już chcieli mieć dostępu do tej informacji, ale będą ją wymagać jako niezbędny poziom przejrzystości.

Systemy ASR, takie jak asystenci głosowi, technologia transkrypcji i inne usługi, które konwertują mowę ludzką na tekst, są szczególnie dotknięte uprzedzeniami. Gdy usługa jest wykorzystywana do środków bezpieczeństwa, błędy spowodowane akcentem, wiekiem lub pochodzeniem osoby, mogą być poważnymi błędami, więc problem musi być traktowany poważnie. ASR może być wykorzystywany skutecznie w kamerach policyjnych, na przykład, do automatycznego nagrywania i transkrybowania interakcji — tworząc zapis, który, jeśli zostanie transkrybowany dokładnie, mógłby uratować życie. Praktyka wyjaśnialności będzie wymagać, aby AI nie tylko polegało na zakupionych zbiorach danych, ale także szukało zrozumienia cech audio, które mogą przyczynić się do błędów, jeśli takie istnieją. Jaki jest profil akustyczny? Czy jest hałas w tle? Czy mówca pochodzi z kraju, w którym język angielski nie jest pierwszym językiem, lub z pokolenia, które używa słownictwa, którego AI jeszcze nie nauczyło się? Machine learning musi być proaktywny w nauce i może zacząć od zbierania danych, które mogą rozwiązać te zmienne.

Konieczność staje się coraz bardziej oczywista, ale droga do wdrożenia tej metody nie zawsze będzie miała łatwe rozwiązanie. Tradycyjna odpowiedź na problem polega na dodaniu więcej danych, ale bardziej zaawansowane rozwiązanie będzie konieczne, szczególnie gdy zakupione zbiory danych, których używają wiele firm, są wewnętrznie uprzedzone. Jest to spowodowane tym, że historycznie było trudno wyjaśnić konkretną decyzję, którą podjął AI, i to ze względu na złożoność modeli końcowo-krajowych. Możemy jednak teraz i możemy zacząć od pytania, jak ludzie stracili zaufanie do AI.

Nieuchronnie, AI popełni błędy. Firmy muszą tworzyć modele, które są świadome potencjalnych słabości, identyfikują, kiedy i gdzie występują problemy, i tworzą ciągłe rozwiązania, aby budować silniejsze modele AI:

1. Gdy coś pójdzie nie tak, deweloperzy będą musieli wyjaśnić, co się stało i rozwinąć natychmiastowy plan poprawy modelu, aby zmniejszyć przyszłe, podobne błędy.
2. Aby maszyna wiedziała, czy była prawidłowa czy nie, naukowcy muszą stworzyć pętlę sprzężenia zwrotnego, aby AI mogło nauczyć się swoich słabości i ewoluować.
3. Inny sposób, aby ASR zbudowało zaufanie, podczas gdy AI jest jeszcze w trakcie doskonalenia, jest stworzenie systemu, który może dostarczyć wyniki ufności i podać powody, dla których AI jest mniej ufne. Na przykład, firmy zwykle generują wyniki od zera do 100, aby odzwierciedlić własne niedoskonałości AI i ustanowić przejrzystość z klientami. W przyszłości systemy mogą dostarczyć wyjaśnienia post-hoc, dlaczego audio było trudne, dostarczając więcej metadanych o audio, takich jak poziom hałasu lub mniej zrozumiały akcent.

Dodatkowa przejrzystość doprowadzi do lepszej nadzoru ludzkiego nad szkoleniem AI i wydajnością. Im bardziej jesteśmy otwarci na to, gdzie musimy się poprawić, tym bardziej jesteśmy odpowiedzialni za podjęcie działań w celu poprawy. Na przykład, badacz może chcieć wiedzieć, dlaczego został wygenerowany błędny tekst, aby mógł złagodzić problem, podczas gdy transkrybent może chcieć dowodów, dlaczego ASR błędnie zinterpretowało dane wejściowe, aby pomóc w ocenie jego ważności. Utrzymywanie ludzi w pętli może złagodzić niektóre z najbardziej oczywistych problemów, które pojawiają się, gdy AI jest niekontrolowane. Może to również przyspieszyć czas potrzebny do tego, aby AI wykryło swoje błędy, poprawiło się i ostatecznie skorygowało w czasie rzeczywistym.

AI ma możliwości poprawy życia ludzi, ale tylko wtedy, gdy ludzie zbudują je prawidłowo. Musimy nie tylko te systemy, ale także ludzi stojących za innowacjami. Systemy AI przyszłości muszą przestrzegać zasad ustalonych przez ludzi i tylko wtedy będziemy mieli system, któremu ludzie ufają. To czas, aby położyć podwaliny i dążyć do tych zasad teraz, podczas gdy wciąż są to ludzie, którzy sami sobie służą.