Jak firmy mogą tworzyć odpowiedzialne i przejrzyste sztuczne inteligencje – Liderzy myśli

Przez Eric Paternoster, CEO Infosys Public Services

Sundar Pichai, CEO firmy Alphabet, macierzystej spółki holdingowej Google, określił rozwój sztucznej inteligencji jako „bardziej głęboki niż ogień czy elektryczność”, a COVID-19 nadał nowy początek temu, by wykorzystać obietnice tej technologii. Aplikacje sztucznej inteligencji są teraz mocno w centrum uwagi, poprawiając leczenie COVID, śledząc potencjalnych nosicieli COVID i wdrażając czatboty w czasie rzeczywistym dla użytkowników witryn handlowych dotkniętych niedoborami. Te aplikacje pokazały, że sztuczna inteligencja poprawia odporność firmy i przynosi korzyści szerszemu społeczeństwu.

Wraz z „cloud-native” hasłem ostatniego kwartału może być „przekształcenie w oparciu o sztuczną inteligencję”, termin, który praktycy branżowi uważają za prawdziwy nawet po zniknięciu COVID. Dla wielu firm obietnica niższych kosztów (tj. algorytmów łańcucha dostaw, które dopasowują podaż do popytu) i godnych uwagi wzrostów wydajności (tj. gdy banki używają weryfikacji dokumentów i tożsamości w czasie rzeczywistym) jest po prostu zbyt dobra, by ją zignorować.

Dlaczego przekształcenie w oparciu o sztuczną inteligencję?

W przekształceniu w oparciu o sztuczną inteligencję przedsiębiorstwo używa sztucznej inteligencji jako gwiazdy polarnej, pracując nad tym, by używać jej nie tylko inteligentnie, ale także w sposób, który wpływa na decyzje podejmowane przez ludzi, procesy i systemy w skali. Ustawia organizacje na zmieniające się dynamiki między pracownikami, partnerami i klientami. Umożliwia im szybkie dostosowanie się i spełnienie zmieniających się wymagań, tworząc jednocześnie długoterminową przewagę konkurencyjną.

Ale nie wszystkie firmy znajdują się na tym samym poziomie dojrzałości sztucznej inteligencji. Są takie, które można nazwać „konwencjonalną grupą sztucznej inteligencji” lub H1. Te firmy, które mają mniej doświadczenia i inwestycji, ogólnie używają klasycznych algorytmów, takich jak naiwny Bayes, który istnieje od 250 lat, lub losowy las (opracowany przez Tima Kama Ho w 1995 roku), aby uzupełnić fragmentaryczną inteligencję w ramach istniejących systemów. Takie zastosowania sztucznej inteligencji są ściśle oparte na regułach i dość sztywne, pozbawione możliwości uogólniania z reguł, które odkrywają. Następnie jest „grupa głębokiego uczenia się”, czyli H2. Te firmy przyjmują bardziej złożoną sztuczną inteligencję, w tym tłumaczenia maszynowe i systemy oparte na transkrypcji, aby wydobyć spostrzeżenia z rozmów. Takie systemy mają więcej mocy, ale nie łatwo wyjaśniają, dlaczego robią to, co robią. Brakuje im również przejrzystości. Dla tych dwóch grup sztuczna inteligencja używana często nie jest godna zaufania ani niezawodna i może podejmować tendencyjne decyzje, które przynoszą firmie negatywną uwagę ze strony organów rządowych, regulatorów i ogółu społeczeństwa.

Te firmy muszą teraz zrobić kroki, aby przeprowadzić swoje wdrożenia sztucznej inteligencji o krok dalej — do trzeciego obozu (H3), w którym sztuczna inteligencja jest samoucząca się i generatywna. W tym punkcie systemy sztucznej inteligencji są półnadzorowane lub nawet nienadzorowane. Są przejrzyste i osiągają „zdrowy rozsądek” poprzez wielozadaniowe uczenie się. Te systemy dostarczają bogatszą inteligencję i zapewniają działania w czasie rzeczywistym. Robi się to za pomocą dobrze zarządzanej, nadzorowanej sztucznej inteligencji, która jest interpretowalna i wyjaśnialna na wszystkich etapach.

Jak pracować nad bardziej odpowiedzialną i przejrzystą sztuczną inteligencją

Sztuczna inteligencja jest coraz częściej używana do zarządzania szkołami, miejscami pracy i innymi podmiotami publicznymi. W tych środowiskach jest jeszcze ważniejsze, aby sztuczna inteligencja była sprawiedliwa i przejrzysta. Jednak w miarę jak społeczeństwo przechodzi przez ten wybuch adopcji sztucznej inteligencji, organy regulacyjne zapewniają ograniczone wytyczne dotyczące odpowiedniego rozwoju i wdrożenia technologii sztucznej inteligencji. Zatem na firmach spoczywa obowiązek podjęcia inicjatywy. Szeroki przemysł technologiczny musi wykorzystać finansowe i ludzkie zasoby, przekształcając początkowe wdrożenia fragmentarycznej sztucznej inteligencji w wydajne, kreatywne, odpowiedzialne i przejrzyste ekosystemy napędzane inteligencją. Aby wejść w tę przestrzeń, firmy powinny zrobić następujące cztery rzeczy:

• Utrzymuj ludzi w pętli: Modele sztucznej inteligencji są często projektowane tak, aby działać niezależnie od ludzi. Jednak ludzki element jest niezwykle ważny w wielu przypadkach. Ludzie muszą przeglądać decyzje i unikać tendencyjności oraz błędów, które często sprowadzają projekty sztucznej inteligencji. Dwa przypadki użycia obejmują wykrywanie oszustw i przypadki, w których zaangażowana jest egzekwowanie prawa. Zalecamy firmom, aby powoli, ale konsekwentnie zatrudniać praktyków sztucznej inteligencji, aby uzyskać przewagę w swojej podróży z sztuczną inteligencją.
• Usuń tendencyjne zestawy danych: Niestendencyjny zestaw danych jest krytycznym warunkiem wstępnym, aby utworzyć niezawodne, sprawiedliwe i niedyskryminujące modele sztucznej inteligencji. Aby uzyskać poczucie jego znaczenia, sztuczna inteligencja jest używana do tworzenia listy CV i oceny kredytowej przez banki, a nawet wkroczyła do niektórych systemów sądowniczych. W tym krajobrazie niekontrolowane tendencyjności miały bardzo realne konsekwencje.
• Upewnij się, że decyzje są wyjaśnialne: Ta funkcja została omówiona przez wiele dużych gazet, i słusznie. XAI pomaga wyjaśnić, dlaczego system sztucznej inteligencji podjął pewną decyzję. Ujawnia, które funkcje modelu głębokiego uczenia się były używane częściej niż inne, aby uczynić przewidywanie lub hipotezę. Zrozumienie ważności funkcji i możliwość uzasadnienia, w jaki sposób decyzje są podejmowane, jest kluczowe w przypadku zastosowań, takich jak pojazdy autonomiczne i widzenie komputerowe używane w biopsjach medycznych.
• Niezawodnie odtwórz wyniki: Powszechna konieczność w projektach badawczych, modele sztucznej inteligencji powinny być spójne, gdy podają prognozy w czasie. Takie modele nie powinny być fazy, gdy przedstawia się im nowe dane.

Te cztery rzeczy utworzą przejrzyste, napędzane inteligencją ekosystemy, zmierzające ku temu, co nazywamy „żywą firmą”. Tutaj, niezachwiane, wyjaśnialne decyzje są podejmowane w czasie rzeczywistym, a cała firma działa jak żywy organizm, którym kierują ludzie. Przeczytaj białą księgę Infosys Knowledge Institute, aby dowiedzieć się więcej.