Jak branże przygotowują się do przyspieszonego wdrożenia sztucznej inteligencji, nowy nacisk na etykę i odpowiedzialność

Przez: Panduranga Kamata, CTO Persistent Systems

Sztuczna inteligencja (AI) w swojej istocie jest uczeniem maszynowym (ML), procesem, w którym maszyny uczą się, jak poprawiać swoją wydajność na podstawie danych wejściowych. Ogromna ilość istniejących danych oznacza, że AI ma doskonałą możliwość rozwoju, przyspieszając w zaledwie kilku ostatnich latach. I obietnica AI skłoniła technologistów i menedżerów w różnych branżach do myślenia o różnych zastosowaniach.

Od rewolucji przemysłowej każdy okres gwałtownego postępu technologicznego charakteryzuje się równymi częściami entuzjazmu i obaw. World Wide Web Consortium (W3C), grupa tworząca standardy dla branży developerskiej, zwraca uwagę, że „coraz bardziej zdajemy sobie sprawę, że zastosowanie uczenia maszynowego niesie ze sobą ryzyko i może prowadzić do szkód” – w tym w obszarach takich jak: uprzedzenia, prywatność, bezpieczeństwo, zrównoważony rozwój i ogólna odpowiedzialność.

„Istnieje wyraźne zapotrzebowanie na etyczne podejście do ML, widoczne w aktywizmie społecznym, pojawieniu się około 100 zestawów zasad etyki AI na całym świecie oraz ruchach rządowych mających na celu regulację AI”, napisała grupa. „Jeśli technologie nie są zgodne z wartościami społeczeństw, w których działają, ryzykują podważeniem tych wartości.”

Wybierz mądrze

Na powierzchni trudno się spierać, że zwiększona szybkość i wydajność są złe dla biznesu. Ale dla niektórych branż wiele jest na szali w procesie podejmowania decyzji, który niektórzy twierdzą, że nie powinien być pozostawiony algorytmom. Patrząc na kilka z największych branż, możemy zobaczyć, jak bardzo jesteśmy narażeni na błędy maszynowe i dlaczego odpowiedzialna AI jest tak niezwykle ważna.

Bankowość, usługi finansowe i ubezpieczenia (BFSI)

Światowe Forum Ekonomiczne (WEF) i Deloitte zbadali proces wdrożenia AI w firmach BFSI, stwierdzając, że „chociaż AI może pomóc w tworzeniu użytecznych wglądów biznesowych z ogromnej ilości informacji”, „obcość AI” będzie źródłem ciągłego poważnego ryzyka.

„AI rozumie się w nie-ludzki sposób”, czytamy w raporcie. „Systemy AI nie podążają za ludzkimi konstruktami logiki i zachowują się bardzo inaczej niż ludzcy aktorzy wykonujący te same zadania. Ponadto samouczący się charakter systemów AI pozwala im ewoluować bez wpływu ludzi, co może prowadzić do nieoczekiwanych wyników opartych na nieznanych zmiennych.”
Zwolennicy odpowiedzialnej AI twierdzą, że uczenie maszynowe stwarza poważne problemy w takich rzeczach, jak automatyczne ocenianie ryzyka, kredyty i decyzje kredytowe, które historycznie były uprzedzone wobec pewnych demografii. Niedawne badania wykazały, że pożyczkodawcy korzystający z silników decyzyjnych opartych na AI byli bardziej skłonni do odrzucania wniosków o kredyty hipoteczne osób kolorowych – w niektórych przypadkach 80% czarnych wnioskodawców jest bardziej prawdopodobne, aby zostać odrzuconym.

Ochrona zdrowia

Kilka lat temu Journal of the American Medical Association (JAMA) przyjrzał się wdrożeniu AI w ochronie zdrowia, stwierdzając, że wyzwania są liczne, w tym „nierozsądne oczekiwania, uprzedzone i niereprezentatywne dane, niewystarczające priorytetowanie równości i integracji, ryzyko zwiększenia dysproporcji w opiece zdrowotnej, niski poziom zaufania i niepewne środowiska regulacyjne”.

To nie jest dokładnie pochwalna rekomendacja, ale jest wyższa poprzeczka dla odpowiedzialnej AI w ochronie zdrowia, zwłaszcza biorąc pod uwagę jej literalne życie lub śmierć. Ogólnie rzecz biorąc, profesjonaliści ochrony zdrowia są optymistami, ale ostrożnymi wobec przyszłości AI, koncentrując się na edukowaniu innych praktyków o jej użyciu w środowisku klinicznym i tworzeniu wytycznych dotyczących odpowiedzialnego postępowania w sposób, który przynosi korzyści wszystkim pacjentom.

Media

PwC szacuje, że AI zapewni 15,7 bln dolarów wzrostu gospodarczego na całym świecie do 2030 r., ale według Salesforce mniej niż połowa (48%) klientów ufa firmom, które używają AI w sposób etyczny, a 65% obawia się o nierzetelne użycie AI. W punkcie przecięcia zysków i zaufania znajdują się firmy medialne – wczesni przyjmujący z ogromnym zasięgiem i wpływem. I istnieją obawy dotyczące faktu, że AI nie jest „ustaw i zapomnij” aplikacją, co oznacza, że dla firm medialnych ich odpowiedzialność nie ogranicza się tylko do produkcji treści, ale także do jej ciągłego monitorowania po wdrożeniu.

Jak są obsługiwane reklamy i personalizowane? Jak treści docierają do określonej publiczności, a jaka jest wiadomość? Kto uczy AI „jak” się uczyć? I jak można dotrzeć do konkretnych konsumentów, jednocześnie szanując prywatność? To tylko niektóre z pytań, które dręczą firmy medialne, gdy balansują etykę z osiąganiem przewagi konkurencyjnej.

Odpowiedź na odpowiedzialność

Postępy w rozwoju odpowiedzialnej AI są widoczne każdego dnia – ustawodawcy opracowują regulacje, konsumenci domagają się większej przejrzystości, a wiele firm utworzyło specjalne departamenty odpowiedzialne za zapewnienie, że ich AI jest używana w odpowiedzialny sposób. Firmy potrzebują dobrze zdefiniowanego ramowego odpowiedzialnego systemu AI, który obejmuje etykę, przejrzystość, odpowiedzialność, uczciwość, prywatność i bezpieczeństwo. Podczas gdy debaty i reformy trwają, niedawne wspólne badanie MIT Sloan Management Review i Boston Consulting Group dostarcza pewnych ogólnych wskazówek – napisali, „Jeśli chcesz być odpowiedzialnym liderem AI, skup się na byciu odpowiedzialną firmą”. rs etyki, przejrzystości, odpowiedzialności, uczciwości, prywatności i bezpieczeństwa. Podczas gdy debaty i reformy trwają, niedawne wspólne badanie MIT Sloan Management Review i Boston Consulting Group dostarcza pewnych ogólnych wskazówek – napisali, „Jeśli chcesz być odpowiedzialnym liderem AI, skup się na byciu odpowiedzialną firmą”.