Demaskowanie uprzedzeń w sztucznej inteligencji: wyzwania i rozwiązania

Ostatni postęp w rozwoju generatywnej sztucznej inteligencji spowodował gwałtowny wzrost zastosowań w przedsiębiorstwach z różnych branż, w tym finansów, ochrony zdrowia i transportu. Rozwój tej technologii doprowadzi również do pojawienia się innych nowych technologii, takich jak technologie obrony cybernetycznej, postępy w dziedzinie komputingu kwantowego i przełomowe techniki komunikacji bezprzewodowej. Jednak ten wybuch nowych technologii wiąże się z własnymi wyzwaniami.

Na przykład, wdrożenie sztucznej inteligencji może umożliwić bardziej zaawansowane ataki cybernetyczne, problemy z pamięcią i przechowywaniem spowodowane wzrostem mocy obliczeniowej oraz zagadnienia etyczne związane z uprzedzeniami prezentowanymi przez modele sztucznej inteligencji. Dobra wiadomość jest taka, że NTT Research zaproponował sposób na pokonanie uprzedzeń w głębokich sieciach neuronowych (DNN), rodzaju sztucznej inteligencji.

Badanie to jest znaczącym przełomem, ponieważ modele sztucznej inteligencji niezależne od uprzedzeń przyczynią się do rekrutacji, systemu sprawiedliwości karnej i ochrony zdrowia, gdy nie będą one wpływane przez cechy takie jak rasa, płeć. W przyszłości dyskryminacja ma szansę zostać wyeliminowana dzięki zastosowaniu tego rodzaju zautomatyzowanych systemów, co poprawi branżowe inicjatywy DE&I. Na koniec, modele sztucznej inteligencji z wynikami niezależnymi od uprzedzeń poprawią wydajność i skrócą czas potrzebny do wykonania tych zadań. Niemniej jednak, wiele firm zostało zmuszonych do wstrzymania swoich programów generowanych przez sztuczną inteligencję z powodu tendencyjnych rozwiązań tej technologii.

Na przykład, Amazon zaniechał korzystania z algorytmu rekrutacyjnego, gdy odkryto, że algorytm wykazywał preferencje dla kandydatów, którzy używali słów takich jak “wykonany” lub “schwytany” częściej, co było bardziej charakterystyczne dla mężczyzn. Inny przykład uprzedzeń pochodzi od Joy Buolamwini, jednej z najbardziej wpływowych osób w dziedzinie sztucznej inteligencji w 2023 roku według TIME, która we współpracy z Timnit Gebru z MIT ujawniła, że technologie analizy twarzy wykazywały wyższe wskaźniki błędów przy ocenie mniejszości, szczególnie kobiet z mniejszości, potencjalnie z powodu niewystarczająco reprezentatywnych danych szkoleniowych.

Ostatnio DNN stały się powszechne w nauce, inżynierii i biznesie, a nawet w popularnych aplikacjach, ale czasem opierają się na przypadkowych atrybutach, które mogą przenosić uprzedzenia. Zgodnie z badaniem MIT w ciągu ostatnich kilku lat, naukowcy opracowali głębokie sieci neuronowe zdolne do analizy ogromnych ilości danych wejściowych, w tym dźwięków i obrazów. Te sieci mogą identyfikować wspólne cechy, umożliwiając im klasyfikację słów lub obiektów docelowych. Jak dotąd, te modele są na czele pola jako podstawowe modele do odtwarzania biologicznych systemów sensorycznych.

Naukowiec z NTT Research i associate w Harvard University Center for Brain Science Hidenori Tanaka oraz trzej inni naukowcy zaproponowali pokonanie ograniczeń naiwnej fine-tuning, metody status quo redukującej błędy lub “straty” DNN, z nowym algorytmem, który zmniejsza zależność modelu od atrybutów podatnych na uprzedzenia.

Zbadali krajobraz strat sieci neuronowych przez pryzmat łączności trybów, obserwację, że minimizatory sieci neuronowych pobrane za pomocą treningu na zbiorze danych są połączone prostymi ścieżkami niskich strat. Konkretnie, zadali następujące pytanie: czy minimizatory, które polegają na różnych mechanizmach do dokonywania przewidywań, są połączone prostymi ścieżkami niskich strat?

Odkryli, że naiwna fine-tuning nie jest w stanie fundamentalnie zmienić mechanizmu podejmowania decyzji modelu, ponieważ wymaga przechodzenia do innego doliny na krajobrazie strat. Zamiast tego, należy napędzać model ponad bariery oddzielające “zbiorniki” lub “dolini” niskich strat. Autorzy nazywają ten korygujący algorytm Connectivity-Based Fine-Tuning (CBFT).

Przed tym rozwojem, DNN, który klasyfikuje obrazy, takie jak ryba (ilustracja użyta w tym badaniu), używał zarówno kształtu obiektu, jak i tła jako parametrów wejściowych do predykcji. Jego ścieżki minimalizujące straty działałyby więc w mechanistycznie odmiennych trybach: jeden opierający się na słusznej cechy kształtu, a drugi na przypadkowej cechy koloru tła. Jak takie tryby nie posiadają liniowej łączności, czyli prostej ścieżki niskich strat.

Zespół badawczy rozumie mechanistyczne spojrzenie na łączność trybów, rozważając dwa zestawy parametrów, które minimalizują straty, używając tła i kształtu obiektu jako atrybutów wejściowych do predykcji. I potem zapytali się, czy tak mechanistycznie odmienne minimizatory są połączone ścieżkami niskich strat na krajobrazie? Czy niepodobieństwo tych mechanizmów wpływa na prostotę ich ścieżek łączności? Czy możemy wykorzystać tę łączność, aby przełączyć się między minimizatorami, które używają naszych pożądanych mechanizmów?

Innymi słowy, głębokie sieci neuronowe, w zależności od tego, co zostało podchwycone podczas treningu na określonym zbiorze danych, mogą zachowywać się bardzo różnie, gdy są testowane na innym zbiorze danych. Propozycja zespołu sprowadzała się do pojęcia wspólnych podobieństw. Opiera się na poprzedniej idei łączności trybów, ale z wykrętem – rozważa, w jaki sposób podobne mechanizmy działają. Ich badanie doprowadziło do następujących odkryć:

• minimizatory, które mają różne mechanizmy, mogą być połączone w dość złożony, nieliniowy sposób
• gdy dwa minimizatory są liniowo połączone, jest to ściśle związane z tym, jak podobne są ich modele pod względem mechanizmów
• prosta fine-tuning może nie być wystarczająca, aby pozbyć się niechcianych cech podchwyconych podczas wcześniejszego treningu
• jeśli znajdziesz regiony, które są liniowo niepołączone na krajobrazie, możesz wprowadzić efektywne zmiany wewnętrznych mechanizmów modelu.

Pomimo tego, że to badanie jest znaczącym krokiem w wykorzystaniu pełnego potencjału sztucznej inteligencji, zagadnienia etyczne związane z sztuczną inteligencją mogą nadal stanowić wyzwanie. Technolodzy i badacze pracują nad zwalczaniem innych słabości etycznych w sztucznej inteligencji i innych dużych modelach językowych, takich jak prywatność, autonomia i odpowiedzialność.

Sztuczna inteligencja może być używana do zbierania i przetwarzania ogromnych ilości danych osobowych. Nieuprawnione lub nieetyczne użycie tych danych może naruszyć prywatność osób, powodując obawy dotyczące inwigilacji, naruszeń danych i kradzieży tożsamości. Sztuczna inteligencja może również stanowić zagrożenie, gdy chodzi o odpowiedzialność za aplikacje autonomiczne, takie jak samochody bezzałogowe. Ustanowienie ram prawnych i standardów etycznych dotyczących odpowiedzialności i odpowiedzialności będzie niezbędne w nadchodzących latach.

Podsumowując, gwałtowny rozwój technologii generatywnej sztucznej inteligencji obiecuje wiele dla różnych branż, od finansów i ochrony zdrowia po transport. Pomimo tych obiecujących rozwojów, zagadnienia etyczne związane z sztuczną inteligencją pozostają znaczące. Podczas nawigacji w tej transformacyjnej erze sztucznej inteligencji, jest niezwykle ważne, aby technolodzy, badacze i decydenci pracowali razem, aby ustanowić ramy prawne i standardy etyczne, które zapewnią odpowiedzialne i korzystne wykorzystanie technologii sztucznej inteligencji w nadchodzących latach. Naukowcy z NTT Research i Uniwersytetu Michigan są o krok do przodu z propozycją algorytmu, który mógłby potencjalnie wyeliminować uprzedzenia w sztucznej inteligencji.