AI: Przez Ludzi, Dla Ludzi i Od Ludzi

Przez: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI i Automatyzacja w Infosys.

Mamy szczęście żyć w erze technologii, gdzie Sztuczna Inteligencja (AI) pracuje bardzo ciężko, aby ułatwić nam życie – nasze telefony teraz rozpoznają nas i odblokują, gdy nas “zobaczą”, mamy mówiące mapy, które pomagają nam znaleźć najkrótsze i najmniej zatłoczone ścieżki, aby dostać się tam, gdzie chcemy, inteligentne urządzenia, które nagrzewają i chłodzą nasze domy, zanim powiemy słowo, inteligentne aplikacje, które przewidują i zapobiegają oszustwom, i wiele więcej.

Jednakże, mieliśmy również przypadki, w których te inteligentne systemy AI okazały się niesprawiedliwe z punktu widzenia uczciwości i etyki. Na przykład, renomowany bank, z którym współpracujemy, podejrzewał, że modele AI, które używają do oceny zdolności kredytowej przed udzieleniem pożyczek, mogą być tendencyjne, i poprosił nas o pomoc. W innym przypadku, producent maszyn współpracował z nami, aby przeanalizować wzorce roszczeń gwarancyjnych i wyeliminować tendencyjność z zestawu danych i procesu, przed ponownym inżynierią i automatyzacją procesu zatwierdzania roszczeń. Modele AI związane z rekrutacją, często stwierdzamy, są skażone tendencyjnością wieku, płci, rasy, a nawet kodów pocztowych, w ich zestawach danych – dostarczając niesprawiedliwe wyniki, jeśli nie są kontrolowane.

Ze względu na ogromny wpływ, jaki tendencyjność AI może mieć na całą organizację, pytania etyczne zajęły centralne miejsce w tym, jak systemy AI są rozwijane, wdrażane i używane. Systemy AI są połączeniem wielu decyzji ludzkich, które są również oparte na tendencyjnościach ludzkich. Ochrona autonomii i prywatności pracowników, ryzyko tendencyjności wpływającej na rozwój kariery i możliwości, dyskryminacja ze względu na kolor skóry, rasę lub płeć, brak wyjaśnialności wyborów dokonanych przez rozwiązania AI, a tym samym, odpowiedzialność za podejmowanie decyzji przez AI, są gorąco dyskutowane, gdy mówi się o AI i jej zaletach.

Tworzenie odpowiedzialnego AI

Tendencyjność AI może mieć efekt falowy w całej organizacji. Jest to istotne, aby liderzy IT zapewnili, że wdrożenie AI odbywa się w sposób etyczny, który działa z pracownikami, a nie przeciwko nim. Aby to zrobić, organizacje powinny uwzględnić następujące w swoich wdrożeniach AI.

Zarządzanie danymi: Używanie AI w sposób etyczny jest również oparte na odpowiednim zarządzaniu danymi, począwszy od pozyskiwania danych w sposób etyczny i transparentny. Aby to zrobić, liderzy IT powinni ustanowić dobrze zdefiniowaną ramę zarządzania, która zapewni bezpieczeństwo, integralność i prywatność danych, a także zapobiegnie korupcji i utracie danych – są wszystkie niezbędne.

Odpowiedzialność: Modele Machine Learning muszą być uczciwe, niezależne, traktować ludzi równo i również dzielić korzyści równo (podobny wskaźnik akceptacji i odrzucenia) we wszystkich atrybutach, takich jak rasa, religia, płeć itp. Muszą one osiągnąć akceptowalną dokładność nie tylko w ogólnym wyniku, ale również w klasach mniejszościowych. Te modele muszą być wyjaśnialne, gdy chodzi o wyjaśnienie, w jaki sposób wynik został osiągnięty. Na przykład, możliwość wyjaśnienia, dlaczego model odrzucił wniosek o pożyczkę od wnioskodawcy A, ale zaakceptował ten sam wniosek od wnioskodawcy B. Liderzy IT rozwijający rozwiązania AI muszą uczynić podstawową logikę, która napędza te decyzje, jasną dla interesariuszy biznesowych, aby było większa przejrzystość w całej organizacji.

Odporność na ataki: Cały ekosystem AI musi zgodzić się na potrzebę testowania i hakowania modeli AI za pomocą symulacji, aby zbadać potencjalne niekorzystne wyniki. Na przykład, liderzy IT mogą użyć następujących testów, aby sprawdzić swoje systemy AI i przygotować się do potencjalnych przeszkód.

• Zmodyfikuj dane: bezpośrednio zmień zestaw danych używany do szkolenia przez wstrzyknięcie, modyfikację i korupcję logiki
• Zmodyfikuj modele: przetestuj redukcję ufności i błędne klasyfikacje
• Narzędzia pomocnicze: użyj narzędzi, aby wpłynąć na wyniki lub skorumpować je

Człowiek w pętli: Modele AI muszą być odrywane przez umieszczenie ludzi w pętli dla wszystkich punktów decyzyjnych i mając skuteczny mechanizm awaryjny lub alternatywną ścieżkę, jeśli system AI musi być wycofany.

Tworzenie społecznej zgody na AI

Ponadto, musimy promować inkluzywne dyskusje i debaty między wszystkimi liderami w organizacji, na temat korzyści, interesów, kosztów i konsekwencji każdego dużego wdrożenia AI. Tylko takie inkluzywne procesy, zaangażowane we wszystkich interesariuszy, aby omówić i podjąć decyzje o akceptowalnych wynikach, i zważyć na ryzyka i korzyści, jest prawdopodobne, aby AI technologie uzyskały licencję na działanie w całej organizacji.