Andrew Pery, Ewangelista Etyki, ABBYY – Seria Wywiadów

Andrew Pery, jest Ewangelistą Etyki w ABBYY, firmie zajmującej się cyfrową inteligencją. Umożliwiają one organizacjom dostęp do cennych, ale często trudnych do uzyskania, informacji o ich działaniach, co umożliwia prawdziwą transformację biznesu.

ABBYY niedawno uruchomiła Globalną Inicjatywę Promującą Rozwój Godnego Zaufania Sztucznej Inteligencji. Postanowiliśmy zadać Andrew pytania dotyczące etyki w AI, nadużyć AI oraz tego, co przemysł AI może zrobić w odniesieniu do tych problemów w przyszłości.

Co było pierwotnym impulsem, który zainteresował Pana etyką AI?

To, co pierwotnie zaalarmowało moją uwagę na etykę AI, było głębokim zainteresowaniem się przecięciem prawa i technologii AI. Rozpocząłem swoją karierę w systemie wymiaru sprawiedliwości, reprezentując osoby, które nie miały środków finansowych, aby korzystać z usług prawnych. Następnie przeniosłem się do technologii, skupiając się na zastosowaniu zaawansowanej wyszukiwarki i AI w praktyce prawniczej. Jako certyfikowany specjalista ds. ochrony danych, jestem szczególnie pasjonowany prawem ochrony danych i właściwym wykorzystaniem technologii AI, zgodnym z prawem ochrony danych.

Technologia rozpoznawania twarzy jest często nadużywana przez źródła władzy, w tym przez rząd Stanów Zjednoczonych. Jak duży powinien być to problem społeczny?

Implikacje technologii rozpoznawania twarzy powinny być znaczącym problemem społecznym, ponieważ ta technologia może wpłynąć na tak wiele podstawowych praw, w tym ekonomicznych, społecznych i bezpieczeństwa.

Istnieją wyraźne i przekonywujące dowody, że algorytmy rozpoznawania twarzy są niewiarygodne. Badanie NIST algorytmów rozpoznawania twarzy wykazało, że Afroamerykanie byli nawet 100 razy bardziej prawdopodobni, aby być błędnie zidentyfikowani. Podobne badanie przeprowadzone przez Georgetown Law School wykazało, że algorytmy rozpoznawania twarzy oparte na zdjęciach policyjnych wygenerowały wysoki procent fałszywych pozytywów związanych z osobami afroamerykańskimi, a badanie z 2018 roku oprogramowania Amazon (AMZN ) Facial Recognition Software wykazało, że podczas gdy biali mężczyźni byli identyfikowani z dokładnością 99%, osoby o ciemnej skórze generowały do 35% fałszywych pozytywów.

Senat Kalifornii przyjął stanowy zakaz użycia technologii rozpoznawania twarzy i innych metod nadzoru biometrycznego.

Istnieje również tendencja w społeczności technologicznej do wycofania się z marketingu oprogramowania rozpoznawania twarzy. IBM ogłosiło, że zaprzestanie sprzedaży oprogramowania rozpoznawania twarzy, twierdząc, że narusza ono podstawowe prawa człowieka i wolności. Microsoft (MSFT ) również ogłosiło podobną decyzję o zaprzestaniu sprzedaży swojej technologii rozpoznawania twarzy, również twierdząc, że dotyczy to podstawowych praw człowieka.

Oprogramowanie COMPAS, które było używane przez sądy Stanów Zjednoczonych do oceny ryzyka przestępczego, błędnie oznaczyło widoczne mniejszości jako bardziej prawdopodobne do ponownego popełnienia przestępstwa niż białych sprawców. Czy używanie AI w sądach powinno być nawet brane pod uwagę?

Badania nad COMPAS wykazały, że nie jest ono lepsze w przewidywaniu przestępstw niż losowe osoby. Podczas gdy analiza predykcyjna dostarcza znaczącej wartości w kontekście komercyjnym, udowodniono, że prowadzi do niesprawiedliwości w jej zastosowaniu w sprawiedliwości karnej. Jest to widoczne w raporcie opublikowanym przez Pro Publica, który wykazał, że COMPAS, najpopularniejsze oprogramowanie używane przez sądy Stanów Zjednoczonych do oceny ryzyka przestępczego, błędnie oznaczyło widoczne mniejszości jako bardziej prawdopodobne do ponownego popełnienia przestępstwa w dwóch razy częstszym przypadku niż biali sprawcy.

Te niesprawiedliwości skłoniły byłego prokuratora generalnego Erica Holdera do zakwestionowania uczciwości i wyrażenia obaw dotyczących potencjalnych niesprawiedliwości wynikających z zastosowania technologii AI do przewidywania wskaźników recydywy wśród populacji przestępców.

Jak społeczeństwo może uniknąć niezamierzonego programowania negatywnych uprzedzeń do systemów AI?

Po pierwsze, musi być uznanie, że AI może mieć skłonność do produkcji niezamierzonego uprzedzenia, zwanego nieświadomym uprzedzeniem. Zmniejszanie jego niekorzystnego wpływu wymaga holistycznego podejścia, składającego się z opracowania wytycznych etycznych AI, takich jak proponowane przez OECD Ethical Frameworks. Jest to oparte na siedmiu podstawowych zasadach, w tym agencji ludzkiej i nadzoru, technicznej wytrzymałości i bezpieczeństwa, prywatności i zarządzania, przejrzystości, różnorodności i niedyskryminacji, dobrobytu społecznego i odpowiedzialności.

Po drugie, przestrzeganie ram prawnych, które chronią przed zautomatyzowanym profilowaniem, jest kluczowe. Na przykład, Unia Europejska ma długą historię poszanowania i ochrony praw prywatności, z najnowszym i najpotężniejszym wyrazem w postaci Ogólnego Rozporządzenia o Ochronie Danych (GDPR), które specjalnie chroni przed zautomatyzowanym podejmowaniem decyzji.

Po trzecie, musi być odpowiedzialność branży za rozwój i zobowiązanie do zapewnienia przejrzystości bez wpływu na ich prawa własności intelektualnej. Są pozytywne rozwoje w tej dziedzinie. Na przykład, Partnership on AI jest organizacją z ponad 80 członkami w 13 krajach poświęconą badaniom i dyskusjom na temat kluczowych kwestii AI.

Na koniec, organizacje technologiczne powinny przestrzegać zobowiązania do przeprowadzenia oceny wpływu uprzedzeń przed komercyjnym wydaniem algorytmów AI, szczególnie w przypadku, gdy ich zastosowania wpływają na prawa prywatności i bezpieczeństwa. Pytania, które liderzy technologiczni powinni rozważyć przed wydaniem nowych aplikacji z wykorzystaniem AI, to: Czy dane, na których ta technologia została opracowana, są wystarczająco zróżnicowane? Jak wykryć uprzedzenia? Jak jest testowane i przez kogo? Jakie są zachęty dla deweloperów? Kto skorzysta komercyjnie z tego?

Ważne jest, aby pamiętać, że rozwiązania AI odzwierciedlają podstawowe dane, na których te aplikacje są szkolone, więc upewnienie się, że te dane nie są uprzedzone i właściwie odzwierciedlają różnorodność osób, którym służy to rozwiązanie, jest kluczowe. W słowach badacza AI, profesora Joanny Bryson, „jeśli podstawowe dane odzwierciedlają stereotypy, lub jeśli trenujesz AI z ludzkiej kultury, znajdziesz uprzedzenia. I jeśli nie będziemy ostrożni, ryzykujemy integrację tego uprzedzenia w komputerowe programy, które szybko przejmują kontrolę nad wszystkim, od szpitali po szkoły i więzienia – programy, które mają wyeliminować te uprzedzenia w pierwszej kolejności”.

ABBYY niedawno uruchomiła Globalną Inicjatywę Promującą Rozwój Godnego Zaufania Sztucznej Inteligencji. Jak ważna jest ta inicjatywa dla przyszłości ABBYY?

Decyzja o opracowaniu naszej globalnej inicjatywy dla godnego zaufania AI jest ważną decyzją, która wynika z naszego przekonania, że jako organizacja, której technologie wpływają na przedsiębiorstwa na całym świecie i obsługują dziesiątki tysięcy indywidualnych użytkowników, mamy obowiązek być dobrymi obywatelami korporacyjnymi o sumieniu społecznym. Nie tylko pomaga to wzbudzić większe zaufanie u naszych globalnych klientów i partnerów, ale także pomaga zapewnić, że nasze technologie będą nadal miały głęboki wpływ w sposób, który przynosi korzyści wspólnemu dobru.

To również ma sens biznesowy, aby promować i wspierać godne zaufania wykorzystanie AI. Wzmacnia to naszą markę, rodzi zaufanie z naszymi globalnymi klientami i partnerami. Zaufanie przekłada się na powtarzalność biznesu i na zrównoważony wzrost.

Częścią tej inicjatywy jest zobowiązanie ABBYY do tworzenia kultury, która promuje etyczne wykorzystanie AI i jej społeczne zalety. Co musi zrobić inna firma, aby stworzyć podobną kulturę?

Firmy technologiczne muszą opracować ramy dla etycznego wykorzystania AI. Zakres takiego zobowiązania zależy od zamierzonych zastosowań algorytmów AI. Najlepszym sposobem, aby ocenić jego wpływ, jest zastosowanie zasady „nie szkodzić” i mieć zobowiązanie od góry do godnego zaufania wykorzystania AI.

Równie ważne jest zobowiązanie do przejrzystości. Podczas gdy prawa własności intelektualnej powinny być zrównoważone z zasadą godnego zaufania AI, ważność przejrzystości i odpowiedzialności za odpowiedzialne wykorzystanie AI powinna być wyraźnie sformułowana i skomunikowana w całej organizacji.

Jedną z inicjatyw, do której ABBYY zobowiązała się, jest dostarczanie technologii AI, które są społecznie i ekonomicznie korzystne. Może to być trudne do osiągnięcia. Jak firmy mogą najlepiej wdrożyć tę zasadę?

Liderzy mogą osiągnąć ten balans, biorąc pod uwagę zalecenia przedstawione przez Deloitte: Wbudowanie etyki w AI rozpoczyna się od określenia, co jest ważne dla interesariuszy, takich jak klienci, pracownicy, regulatorzy i ogół społeczeństwa. Firmy powinny utworzyć dedykowany komitet ds. zarządzania AI i doradczy z liderów z różnych funkcji i zewnętrznych doradców, który będzie współpracował z grupami roboczymi wielu interesariuszy i ustanowi oraz nadzorował zarządzanie rozwiązaniami z wykorzystaniem AI, w tym ich projektowanie, rozwój, wdrożenie i użytkowanie.

Jak balansowaliśmy nasze interesy komercyjne i dobro społeczne, było to najbardziej widoczne podczas pandemii koronawirusa. Umożliwiliśmy wiele naszych technologii za darmo lub po obniżonych cenach, aby pomóc osobom i organizacjom w nawigowaniu przez kryzys, utrzymaniu ciągłości biznesu i wspieraniu klientów w nieprzewidywalnych okolicznościach.

Niedawno udostępniliśmy również nasze ramy technologiczne za pośrednictwem NeoML, naszej wieloplatformowej, otwartej biblioteki machine learning, która umożliwia deweloperom oprogramowania wykorzystywanie sprawdzonych i niezawodnych modeli do rozwoju innowacji AI.

Czy mógłby Pan podzielić się swoimi poglądami na temat wykorzystania AI w aplikacjach do śledzenia kontaktów i potrzebą balansowania prawa do prywatności?

To jest szczególnie trudna kwestia. Są tacy, którzy twierdzą, że wdrożenie aplikacji śledzenia mobilnego stanowi niepożądane naruszenie praw prywatności. Z drugiej strony, jeśli chodzi o bezpieczeństwo publiczne, zawsze istnieją ograniczenia praw w ogóle. Jest to kompromis między prawami a odpowiedzialnością. Prawa nie są jednak absolutne. Zawężenie globalnej pandemii wymaga skoordynowanego działania i zastosowania zasobów i technologii, które mogą być odpowiedzialnie wykorzystane do ochrony ludności w ogóle.

Ten balans między prawami prywatności a dobrem wspólnym jest uznawany w ramach prawnych. Na przykład, GDPR identyfikuje sześć podstaw prawnych do przetwarzania danych osobowych, w tym przepis, który stanowi, że w przypadku, gdy przetwarzanie jest niezbędne do interesu publicznego, takie przetwarzanie danych osobowych jest uzasadnione bez uzyskania zgody podmiotu danych.

Dalej, punkt 46 preambuły GDPR stanowi wyraźnie, że przetwarzanie danych osobowych jest uzasadnione bez uzyskania zgody podmiotu danych w sytuacjach nadzwyczajnych, w tym w przypadku epidemii. Jednakże, należy zauważyć, że punkt 46 interpretuje zastosowanie przepisu dotyczącego interesu publicznego bardzo wąsko, stwierdzając, że powinno to mieć miejsce tylko wtedy, gdy nie może być oparte na innej podstawie prawnej.

Ponadto, oprócz balansowania praw prywatności z interesem publicznym, jest również niezbędne, aby sektor technologiczny i decydenci wdrożyli etycznie poprawne, przejrzyste i sprawiedliwe wytyczne dotyczące wykorzystania AI do profilowania i udostępniania wrażliwych informacji o zdrowiu. Duże firmy technologiczne, w tym Google (GOOGL ) i Facebook (META ), już rozpoczęły inicjatywy śledzenia ruchów użytkowników w celu identyfikacji, w jaki sposób wirus się rozprzestrzenia i oceny skuteczności środków dystansu społecznego.

Uważam, że tak długo, jak informacje są anonimowe, ich użycie ma społeczne zalety.

Czy jest coś jeszcze, co Pan chciałby podzielić się dotyczące nowej Globalnej Inicjatywy ABBYY Promującej Rozwój Godnego Zaufania Sztucznej Inteligencji?

Przepisy mają tendencję do opóźniania innowacji technologicznych, dlatego firmy muszą odegrać proaktywną rolę w promowaniu przejrzystości i odpowiedzialności w technologiach AI oraz ich wpływie na prawa prywatności i bezpieczeństwa. Nasza inicjatywa odzwierciedla nasze zobowiązanie w tym zakresie. Od momentu naszego powstania, tworzyliśmy innowacyjne technologie, które zachowują cenne informacje i przekształcają je w wiedzę, którą można wykorzystać.

Co więcej, etyczne wykorzystanie technologii sztucznej inteligencji nie powinno być brane pod uwagę tylko z punktu widzenia prawnego, ale również jako moralny obowiązek i imperatyw biznesowy. Jeśli Państwa rozwiązania mają duży zasięg i wpływają na kluczowe funkcje biznesowe, powinno to być standardem branżowym, aby być przejrzystym w zastosowaniu technologii AI.

Dziękujemy bardzo za odpowiedzi na te ważne pytania. Aby wyświetlić wytyczne i podejście ABBYY do przestrzegania i promowania godnych zaufania zasad AI, kliknij tutaj. Każdy, kto chce dowiedzieć się więcej o ABBYY, może odwiedzić stronę internetową ABBYY.