Liderzy opinii

Stronniczość i sprawiedliwość systemów opartych na sztucznej inteligencji w zwalczaniu przestępczości finansowej

Danny Butvinik
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyStronnicze systemy AI mogą niesprawiedliwie odmawiać udzielenia pożyczek na podstawie…
Zobacz więcej
  • Stronnicze systemy AI mogą niesprawiedliwie odmawiać udzielenia pożyczek na podstawie cech zastępczych związanych z rasą lub płcią.
  • Reprezentatywność danych i integralność źródła są kluczowe, aby zapobiegać dyskryminacyjnym wynikom modeli.
  • Liderzy ds. zgodności muszą współpracować z zespołami data science, aby zapewnić odpowiedzialne wdrażanie AI.

Gdy chodzi o walkę z przestępczością finansową, istnieją wyzwania, które wykraczają poza zakres zwykłego powstrzymywania oszustów lub innych niepożądanych osób.

Niektóre z najnowszych, zaawansowanych technologii, które są wprowadzane, często mają swoje własne specyficzne problemy, które muszą być brane pod uwagę w trakcie etapów wdrożeniowych, aby skutecznie walczyć z oszustami bez konsekwencji regulacyjnych. W wykrywaniu oszustw problemy ze sprawiedliwością modelu i stronniczością danych mogą wystąpić, gdy system nadaje pewnym grupom lub kategoriom danych nadmierną wagę albo nie zapewnia im reprezentacji. Teoretycznie, model predykcyjny mógłby błędnie skojarzyć nazwiska z innych kultur z kontami oszustw, lub fałszywie zmniejszyć ryzyko w segmencie populacji dla pewnego rodzaju działań finansowych.

Systemy sztucznej inteligencji z tendencjami stronniczymi mogą stanowić poważne zagrożenie, gdy reputacje mogą być dotknięte i występuje, gdy dostępne dane nie są reprezentatywne dla populacji lub zjawiska, które chcemy przewidzieć. Te dane nie obejmują zmiennych, które odpowiednio ujmują zjawisko, które chcemy przewidzieć. Alternatywnie, dane mogą zawierać treści wytworzone przez ludzi, które mogą zawierać stronniczość wobec grup ludzi, odziedziczoną przez doświadczenia kulturowe i osobiste, prowadząc do zniekształceń przy podejmowaniu decyzji. Chociaż na początku dane mogą wydawać się obiektywne, są one nadal zbierane i analizowane przez ludzi, i mogą być więc stronnicze.

Nie ma srebrnej kuli, gdy chodzi o naprawienie niebezpieczeństw dyskryminacji i niesprawiedliwości w systemach sztucznej inteligencji lub stałych rozwiązań problemu uczciwości i minimalizacji stronniczości w architekturze modeli uczenia maszynowego i ich stosowaniu, te kwestie muszą być brane pod uwagę zarówno z powodów społecznych, jak i biznesowych.

Robienie tego, co słuszne w sztucznej inteligencji

Rozwiązywanie problemu stronniczości w systemach opartych na sztucznej inteligencji nie jest tylko słusznym postępowaniem, ale także mądrym dla biznesu — a stawka dla liderów biznesu jest wysoka. Systemy sztucznej inteligencji z tendencjami stronniczymi mogą poprowadzić instytucje finansowe na złą drogę, przydzielając szanse, zasoby, informacje lub jakość usług w sposób niesprawiedliwy. Mogą one również naruszać prawa obywatelskie, stanowić zagrożenie dla bezpieczeństwa osób lub wpływać na dobrostan, jeśli są postrzegane jako poniżające lub obraźliwe.

Ważne jest, aby przedsiębiorstwa zrozumiały moc i ryzyko stronniczości sztucznej inteligencji. Chociaż często nieznane instytucji, system sztucznej inteligencji z tendencjami stronniczymi mógłby używać szkodliwych modeli lub danych, które ujawniają stronniczość rasową lub płciową w decyzji kredytowej. Informacje takie jak nazwiska i płeć mogą służyć jako wskaźniki zastępcze dla klasyfikacji i identyfikacji wnioskodawców w sposób niezgodny z prawem. Nawet jeśli stronniczość jest niezamierzona, nadal naraża organizację na ryzyko, nie spełniając wymogów regulacyjnych i mogąc prowadzić do tego, że pewnym grupom ludzi niesprawiedliwie odmawia się kredytów lub limitów kredytowych.

Obecnie organizacje nie mają elementów, które pozwoliłyby im skutecznie zminimalizować stronniczość w systemach sztucznej inteligencji. Jednak z coraz częstszym wdrożeniem sztucznej inteligencji w firmach w celu ułatwienia procesów decyzyjnych, jest niezwykle ważne, aby organizacje dążyły do redukcji stronniczości, nie tylko z powodów moralnych, ale także w celu spełnienia wymogów regulacyjnych i budowy przychodu.

„Uczciwa” kultura i wdrożenie

Rozwiązania, które koncentrują się na projektowaniu i wdrożeniu z uwzględnieniem uczciwości, przyniosą najbardziej korzystne rezultaty. Dostawcy powinni mieć analityczną kulturę, która uwzględnia odpowiedzialne pozyskiwanie, przetwarzanie i zarządzanie danymi jako niezbędne składniki uczciwości algorytmicznej, ponieważ jeśli wyniki projektu sztucznej inteligencji są generowane przez stronnicze, o naruszonej integralności lub zniekształcone zestawy danych, dotknięte strony nie będą odpowiednio chronione przed krzywdzącym dyskryminowaniem.

Oto elementy uczciwości danych, które zespoły naukowe powinny mieć na uwadze:

  • Reprezentatywność: W zależności od kontekstu, zarówno niedoreprezentacja, jak i nadreprezentacja grup dyskryminowanych lub chronionych prawem w próbie danych może prowadzić do systematycznego stawiania słabszych stron w niekorzystnej sytuacji w wynikach wytrenowanego modelu. Aby uniknąć tego rodzaju błędów próby, ekspertyza branżowa będzie niezwykle ważna w ocenie dopasowania między zebranymi lub pozyskanymi danymi a podstawową populacją, którą chcemy modelować. Członkowie zespołu technicznego powinni oferować środki zaradcze w celu skorygowania wad reprezentacyjnych w próbie.
  • Dostosowanie do celu i wystarczalność: Jest to ważne w zrozumieniu, czy zebrane dane są wystarczające do zamierzonego celu projektu. Niewystarczające zestawy danych mogą nie równo odzwierciedlać cech, które powinny być brane pod uwagę w celu wytworzenia uzasadnionego wyniku, który jest zgodny z zamierzonym celem systemu sztucznej inteligencji. Stąd, członkowie zespołu projektu z kompetencjami technicznymi i w zakresie zasad postępowania powinni współpracować, aby określić, czy ilość danych jest wystarczająca i dostosowana do celu.
  • Integralność źródła i dokładność pomiaru: Skuteczna minimalizacja stronniczości zaczyna się na samym początku procesów ekstrakcji i zbierania danych. Zarówno źródła, jak i narzędzia pomiaru mogą wprowadzać dyskryminujące czynniki do zestawu danych. Aby zapewnić brak krzywdy, próba danych musi mieć optymalną integralność źródła. To obejmuje zapewnienie lub potwierdzenie, że procesy zbierania danych obejmowały odpowiednie, niezawodne i bezstronne źródła pomiaru oraz solidne metody zbierania.
  • Terminowość i aktualność: Jeśli zestawy danych zawierają dane, które są nieaktualne, zmiany w podstawowym rozkładzie danych mogą negatywnie wpłynąć na zdolność wytrenowanego modelu do uogólniania. Biorąc pod uwagę, że te przesunięcia rozkładu odzwierciedlają zmieniające się relacje społeczne lub dynamikę grup, ta utrata dokładności dotycząca rzeczywistych cech podstawowej populacji może wprowadzić stronniczość do systemu sztucznej inteligencji. W zapobieganiu dyskryminującym wynikom, terminowość i aktualność wszystkich elementów zestawu danych powinny być skrupulatnie sprawdzane.
  • Odpowiedniość, celowość i wiedza branżowa: Zrozumienie i użycie najbardziej odpowiednich źródeł i typów danych są kluczowe dla budowy solidnego i bezstronnego systemu sztucznej inteligencji. Solidna wiedza branżowa o rozkładzie badanej populacji i o celu predykcyjnym projektu jest niezwykle ważna w wyborze optymalnie istotnych danych wejściowych, które przyczyniają się do rozsądnego rozwiązania określonego problemu. Eksperci branżowi powinni ściśle współpracować z zespołami naukowymi, aby pomóc w określeniu najbardziej odpowiednich kategorii i źródeł pomiaru.

Chociaż systemy oparte na sztucznej inteligencji pomagają w automatyzacji procesów decyzyjnych i dostarczają oszczędności kosztów, instytucje finansowe, które rozważają sztuczną inteligencję jako rozwiązanie, powinny być czujne, aby upewnić się, że nie występują stronnicze decyzje. Liderzy ds. zgodności powinni być w zgodzie ze swoimi zespołami naukowymi, aby potwierdzić, że możliwości sztucznej inteligencji są odpowiedzialne, skuteczne i pozbawione stronniczości. Posiadanie strategii, która promuje odpowiedzialną sztuczną inteligencję, jest słusznym postępowaniem, i może również zapewnić ścieżkę do zgodności z przyszłymi regulacjami sztucznej inteligencji.

Danny Butvinik jest głównym naukowcem ds. danych w NICE Actimize, zapewniając techniczne i profesjonalne przywództwo. Danny jest ekspertem w dziedzinie sztucznej inteligencji i nauki o danych, mając na swoim koncie wiele artykułów i prac naukowych. W swojej obecnej roli zarządza dużą grupą naukowców zajmujących się danymi i przyczynia się do rozwoju innowacji oraz własności intelektualnej firmy, z ponad 15-letnim doświadczeniem w badaniach, rozwoju i zarządzaniu w dziedzinie nauki o danych i rozwoju oprogramowania.