Sztuczna inteligencja: Dla ludzi, przez ludzi i od ludzi

Napisane przez: Balakrishna (Bali) D R, Starszy Wiceprezes, Service Offering Head – ECS, AI i Automatyzacja w Infosys.

Mieszkamy w erze technologicznej, w której sztuczna inteligencja pracuje bardzo ciężko, aby ułatwić nam życie – nasze telefony rozpoznają nas i odblokują, gdy nas “zobaczą”, mamy mówiące mapy, które pomagają nam znaleźć najkrótsze i najmniej zatłoczone ścieżki, aby dostać się tam, gdzie chcemy, inteligentne urządzenia, które ogrzewają i chłodzą nasze domy, zanim powiemy słowo, inteligentne aplikacje, które przewidują i zapobiegają oszustwom, i wiele więcej.

Jednakże, mieliśmy także przypadki, w których te inteligentne systemy sztucznej inteligencji zawiodły nas z punktu widzenia sprawiedliwości i etyki. Na przykład, renomowany bank, z którym współpracujemy, podejrzewał, że modele sztucznej inteligencji, które używają do oceny zdolności kredytowej przed udzieleniem pożyczek, mogą być tendencyjne, i poprosił nas o pomoc. W innym przypadku, producent maszyn współpracował z nami, aby analizować wzorce roszczeń gwarancyjnych, aby wyeliminować tendencyjność z zestawu danych i procesu, zanim zmodernizował i zautomatyzował proces zatwierdzania roszczeń. Modele sztucznej inteligencji związane z rekrutacją często są skażone tendencyjnością wieku, płci, rasy, a nawet kodu pocztowego, w ich zestawach danych – dostarczając niesprawiedliwe wyniki, jeśli nie są kontrolowane.

Ze względu na ogromny wpływ, jaki tendencyjność sztucznej inteligencji może mieć na całą firmę, pytania etyczne zajęły centralne miejsce w tym, jak systemy sztucznej inteligencji są rozwijane, wdrażane i używane. Systemy sztucznej inteligencji są połączeniem wielu ludzkich decyzji, które są również oparte na ludzkich tendencyjnościach. Ochrona autonomii i prywatności pracowników, ryzyko tendencyjności wpływającej na rozwój kariery i możliwości, dyskryminacja ze względu na kolor skóry, rasę lub płeć, brak wyjaśnialności wyborów dokonanych przez rozwiązania sztucznej inteligencji, a tym samym odpowiedzialność za podejmowanie decyzji przez sztuczną inteligencję, są gorąco dyskutowane, gdy mówi się o sztucznej inteligencji i jej zaletach.

Tworzenie odpowiedzialnej sztucznej inteligencji

Tendencyjność sztucznej inteligencji może mieć efekt domina w całej organizacji. Jest istotne, aby liderzy IT zapewnili, że wdrażają sztuczną inteligencję w sposób etyczny, który działa z pracownikami, a nie przeciwko nim. Aby to zrobić, organizacje powinny uwzględnić następujące elementy w swoich wdrożeniach sztucznej inteligencji.

Zarządzanie danymi: Etyczne używanie sztucznej inteligencji jest również oparte na odpowiednim zarządzaniu danymi, począwszy od pozyskiwania danych w sposób etyczny i transparentny. Aby to zrobić, liderzy IT powinni ustanowić dobrze zdefiniowany framework zarządzania, który zapewni bezpieczeństwo danych, integralność i prywatność, a także zapobiegnie korupcji i utracie danych – są to wszystkie niezbędne.

Odpowiedzialność: Modele uczenia maszynowego muszą być sprawiedliwe, nietendencyjne, traktować ludzi równo i również dzielić korzyści równo (podobne wskaźniki akceptacji i odrzucenia) we wszystkich atrybutach, takich jak rasa, religia, płeć itp. Muszą one osiągać akceptowalną dokładność nie tylko w ogólnej liczbie, ale również w mniejszościowych klasach. Modele te muszą być wyjaśnialne, gdy chodzi o wyjaśnienie, w jaki sposób osiągnięto wynik. Na przykład, możliwość wyjaśnienia, dlaczego model odrzucił wniosek o pożyczkę od wnioskodawcy A, ale zaakceptował ten sam wniosek od wnioskodawcy B. Liderzy IT rozwijający rozwiązania sztucznej inteligencji muszą uczynić podstawową logikę, która napędza te decyzje, klarowną dla interesariuszy biznesowych, aby zapewnić większą transparentność w firmie.

Odporność na ataki: Cały ekosystem sztucznej inteligencji musi zgodzić się na potrzebę testowania i hakowania modeli sztucznej inteligencji za pomocą symulacji, aby zbadać potencjalne niekorzystne wyniki. Na przykład, liderzy IT mogą użyć następujących testów, aby sprawdzić swoje systemy sztucznej inteligencji i przygotować się do potencjalnych przeszkód.

• Zmodyfikuj dane: zmodyfikuj zestaw danych używany do treningu przez wstrzyknięcie danych, modyfikację i korupcję logiczną
• Zmodyfikuj modele: przetestuj redukcję ufności i błędną klasyfikację
• Narzędzia pomocnicze: użyj narzędzi, aby wpłynąć na lub skorumpować wyniki

Człowiek w pętli: Modele sztucznej inteligencji muszą być odryzykowane przez umieszczenie ludzi w pętli dla wszystkich kluczowych punktów decyzyjnych i posiadanie skutecznego mechanizmu awaryjnego lub alternatywnej ścieżki, jeśli system sztucznej inteligencji musi być wycofany.

Tworzenie społecznej zgody na sztuczną inteligencję

Ponadto, musimy promować inkluzywne dyskusje i debaty między wszystkimi liderami w firmie, na temat korzyści, interesów, kosztów i konsekwencji każdego dużego wdrożenia sztucznej inteligencji. Tylko takie inkluzywne procesy, angażujące wszystkich interesariuszy, aby omówić i podjąć decyzje o akceptowalnych wynikach i zważyć na ryzyka i korzyści, jest prawdopodobne, że sztuczna inteligencja uzyska licencję na działanie w całej firmie, biorąc pod uwagę korzyści, interesy, koszty i konsekwencje każdego dużego wdrożenia sztucznej inteligencji. Tylko w ten sposób sztuczna inteligencja może uzyskać licencję na działanie w całej firmie.