Zaszłość i uczciwość systemów opartych na sztucznej inteligencji w zakresie przestępczości finansowej

Gdy chodzi o walkę z przestępczością finansową, istnieją wyzwania, które wykraczają poza zakres zwykłego powstrzymywania oszustów lub innych niepożądanych osób.

Niektóre z najnowszych, zaawansowanych technologii, które są wprowadzane, często mają swoje własne specyficzne problemy, które muszą być brane pod uwagę w trakcie etapów wdrożeniowych, aby skutecznie walczyć z oszustami bez konsekwencji regulacyjnych. W wykrywaniu oszustw model uczciwości i stronniczość danych może wystąpić, gdy system jest bardziej obciążony lub pozbawiony reprezentacji pewnych grup lub kategorii danych. Teoretycznie, model predykcyjny mógłby błędnie skojarzyć nazwiska z innych kultur z kontami oszustw, lub fałszywie zmniejszyć ryzyko w segmencie populacji dla pewnego rodzaju działań finansowych.

Systemy sztucznej inteligencji z tendencjami stronniczymi mogą stanowić poważne zagrożenie, gdy reputacje mogą być dotknięte i występuje, gdy dostępne dane nie są reprezentatywne dla populacji lub zjawiska, które chcemy przewidzieć. Te dane nie obejmują zmiennych, które odpowiednio ujmują zjawisko, które chcemy przewidzieć. Alternatywnie, dane mogą zawierać treści wytworzone przez ludzi, które mogą zawierać stronniczość wobec grup ludzi, odziedziczoną przez doświadczenia kulturowe i osobiste, prowadząc do zniekształceń przy podejmowaniu decyzji. Chociaż na początku dane mogą wydawać się obiektywne, są one nadal zbierane i analizowane przez ludzi, i mogą być więc stronnicze.

Nie ma srebrnej kuli, gdy chodzi o naprawienie niebezpieczeństw dyskryminacji i niesprawiedliwości w systemach sztucznej inteligencji lub stałych rozwiązań problemu uczciwości i minimalizacji stronniczości w architekturze modeli machine learning i użyciu, te kwestie muszą być brane pod uwagę zarówno z powodów społecznych, jak i biznesowych.

Robienie tego, co słuszne w sztucznej inteligencji

Rozwiązywanie problemu stronniczości w systemach opartych na sztucznej inteligencji nie jest tylko słusznym postępowaniem, ale także mądrym dla biznesu — a stawka dla liderów biznesu jest wysoka. Systemy sztucznej inteligencji z tendencjami stronniczymi mogą poprowadzić instytucje finansowe na złą drogę, przydzielając szanse, zasoby, informacje lub jakość usług w sposób niesprawiedliwy. Mogą one również naruszać prawa obywatelskie, stanowić zagrożenie dla bezpieczeństwa osób lub wpływać na dobrostan, jeśli są postrzegane jako obraźliwe lub obraźliwe.

Ważne jest, aby przedsiębiorstwa zrozumiały moc i ryzyko stronniczości sztucznej inteligencji. Chociaż często nieznane instytucji, system sztucznej inteligencji z tendencjami stronniczymi mógłby używać szkodliwych modeli lub danych, które ujawniają stronniczość rasową lub płciową w decyzji kredytowej. Informacje takie jak nazwiska i płeć mogą być substitute dla klasyfikacji i identyfikacji wnioskodawców w sposób niezgodny z prawem. Nawet jeśli stronniczość jest niezamierzona, nadal naraża organizację na ryzyko, nie spełniając wymogów regulacyjnych i mogąc prowadzić do tego, że pewne grupy ludzi będą niesprawiedliwie odrzucane kredyty lub limity kredytowe.

Obecnie organizacje nie mają elementów, które pozwoliłyby im skutecznie zminimalizować stronniczość w systemach sztucznej inteligencji. Jednak z coraz częstszym wdrożeniem sztucznej inteligencji w firmach w celu ułatwienia procesów decyzyjnych, jest niezwykle ważne, aby organizacje dążyły do redukcji stronniczości, nie tylko z powodów moralnych, ale także w celu spełnienia wymogów regulacyjnych i budowy przychodu.

„Uczciwa” kultura i wdrożenie

Rozwiązania, które koncentrują się na projektowaniu i wdrożeniu z uwzględnieniem uczciwości, przyniosą najbardziej korzystne rezultaty. Dostawcy powinni mieć analityczną kulturę, która uwzględnia odpowiedzialne pozyskiwanie, przetwarzanie i zarządzanie danymi jako niezbędne składniki uczciwości algorytmicznej, ponieważ jeśli wyniki projektu sztucznej inteligencji są generowane przez stronnicze, kompromitowane lub zniekształcone zestawy danych, dotknięte strony nie będą odpowiednio chronione przed krzywdzącym dyskryminowaniem.

Oto elementy uczciwości danych, które zespoły naukowe powinny mieć na uwadze:

• Reprezentatywność: W zależności od kontekstu, zarówno niedoreprezentacja, jak i nadreprezentacja grup dyskryminowanych lub chronionych prawem w próbie danych może prowadzić do systematycznego niekorzystania stron słabszych w wynikach wytrenowanego modelu. Aby uniknąć tego rodzaju błędów próby, ekspertyza branżowa będzie niezwykle ważna w ocenie dopasowania między zebranymi lub pozyskanymi danymi a podstawową populacją, którą chcemy modelować. Członkowie zespołu technicznego powinni oferować środki zaradcze w celu skorygowania wad reprezentacyjnych w próbie.
• Dostosowanie do celu i wystarczalność: Jest to ważne w zrozumieniu, czy zebrane dane są wystarczające do zamierzonego celu projektu. Niewystarczające zestawy danych mogą nie równo odzwierciedlać cech, które powinny być brane pod uwagę w celu wytworzenia uzasadnionego wyniku, który jest zgodny z zamierzonym celem systemu sztucznej inteligencji. Stąd, członkowie zespołu projektu z kompetencjami technicznymi i politycznymi powinni współpracować, aby określić, czy ilość danych jest wystarczająca i dostosowana do celu.
• Integralność źródła i dokładność pomiaru: Skuteczna minimalizacja stronniczości zaczyna się na samym początku procesów ekstrakcji i zbierania danych. Zarówno źródła, jak i narzędzia pomiaru mogą wprowadzać dyskryminujące czynniki do zestawu danych. Aby zapewnić brak krzywdy, próba danych musi mieć optymalną integralność źródła. To obejmuje zapewnienie lub potwierdzenie, że procesy zbierania danych obejmowały odpowiednie, niezawodne i bezstronne źródła pomiaru oraz solidne metody zbierania.
• Terminowość i aktualność: Jeśli zestawy danych zawierają dane, które są nieaktualne, zmiany w podstawowym rozkładzie danych mogą negatywnie wpłynąć na ogólną przydatność wytrenowanego modelu. Biorąc pod uwagę, że te dryftowanie rozkładu odzwierciedla zmieniające się relacje społeczne lub dynamikę grup, ta utrata dokładności dotycząca rzeczywistych cech podstawowej populacji może wprowadzić stronniczość do systemu sztucznej inteligencji. W zapobieganiu dyskryminującym wynikom, terminowość i aktualność wszystkich elementów zestawu danych powinny być skrupulatnie sprawdzane.
• Odpowiedniość, celowość i wiedza branżowa: Zrozumienie i użycie najbardziej odpowiednich źródeł i typów danych są kluczowe dla budowy solidnego i niezbyt stronniczego systemu sztucznej inteligencji. Solidna wiedza branżowa o podstawowej populacji i o celu predykcyjnym projektu jest niezwykle ważna w wyborze optymalnie istotnych danych wejściowych, które przyczyniają się do rozsądnego rozwiązania określonego problemu. Eksperci branżowi powinni ściśle współpracować z zespołami naukowymi, aby pomóc w określeniu najbardziej odpowiednich kategorii i źródeł pomiaru.

Chociaż systemy oparte na sztucznej inteligencji pomagają w automatyzacji procesów decyzyjnych i dostarczają oszczędności kosztów, instytucje finansowe, które rozważają sztuczną inteligencję jako rozwiązanie, powinny być czujne, aby upewnić się, że nie występują stronnicze decyzje. Liderzy ds. zgodności powinni być w zgodzie ze swoimi zespołami naukowymi, aby potwierdzić, że możliwości sztucznej inteligencji są odpowiedzialne, skuteczne i pozbawione stronniczości. Posiadanie strategii, która promuje odpowiedzialną sztuczną inteligencję, jest słusznym postępowaniem, i może również zapewnić ścieżkę do zgodności z przyszłymi regulacjami sztucznej inteligencji.