5 Podstawowych Filárów dla Zapewnienia Odpowiedzialnego Sztucznego Intelektu

Obserwujemy przytłaczający wzrost systemów AI/ML do przetwarzania ogromnych ilości danych generowanych w nowej gospodarce cyfrowej. Jednak wraz z tym wzrostem, konieczne jest poważne rozważenie etycznych i prawnych implikacji sztucznego intelektu.

Ponieważ powierzamy coraz bardziej zaawansowane i ważne zadania systemom AI, takim jak automatyczna akceptacja kredytów, na przykład, musimy być absolutnie pewni, że te systemy są odpowiedzialne i godne zaufania. Redukcja biasu w AI stała się ogromną dziedziną badań dla wielu naukowców i ma ogromne implikacje etyczne, tak jak ilość autonomii, którą dajemy tym systemom.

Pojęcie Odpowiedzialnego Sztucznego Intelektu jest ważną ramą, która może pomóc budować zaufanie w Twoich wdrożeniach AI. Istnieją pięć podstawowych filarów Odpowiedzialnego Sztucznego Intelektu. Artykuł ten będzie badał te filary, aby pomóc Ci budować lepsze systemy.

1. Powtarzalność

Istnieje stare powiedzenie w świecie rozwoju oprogramowania, które brzmi: „hey, działa na moim komputerze”. W ML i AI, fraza ta mogłaby brzmieć: „hey, działa na moim zbiorze danych”. To znaczy, że modele uczenia maszynowego często mogą być czarną skrzynką. Wiele zbiorów danych treningowych może mieć wrodzone biasy, takie jak bias selekcji lub potwierdzenia, które redukują dokładność końcowego produktu.

Aby pomóc uczynić systemy AI/ML bardziej powtarzalnymi, a więc dokładnymi i godnymi zaufania, pierwszym krokiem jest standaryzacja potoku MLOps. Nawet najbardziej inteligentni naukowcy danych mają swoje ulubione technologie i biblioteki, co oznacza, że inżynieria cech i wynikające z nich modele nie są jednolite od osoby do osoby. Używając narzędzi takich jak MLflow, można standaryzować potok MLOps i redukować te różnice.

Innym sposobem, aby pomóc uczynić systemy AI/ML bardziej powtarzalnymi, jest użycie tzw. „złotych zbiorów danych”. Są to reprezentatywne zbiory danych, które działają jako testy i walidacja nowych modeli przed ich wydaniem do produkcji.

2. Przejrzystość

Jak wcześniej stwierdzono, wiele modeli ML, szczególnie sieci neuronowych, jest czarną skrzynką. Aby uczynić je bardziej odpowiedzialnymi, musimy je uczynić bardziej interpretowalnymi. Dla prostych systemów, takich jak drzewa decyzyjne, jest dość łatwo zrozumieć, jak i dlaczego system podjął pewną decyzję, ale im dokładność i złożoność systemu AI rośnie, jego interpretowalność często maleje.

Istnieje nowa dziedzina badań zwana „wyjaśnialnością”, która próbuje przywrócić przejrzystość nawet w złożonych systemach AI, takich jak sieci neuronowe i głębokie uczenie. Używają one modeli proxy, aby skopiować wydajność sieci neuronowej, ale także próbują dostarczyć ważne wyjaśnienia, które cechy są istotne.

To wszystko prowadzi do sprawiedliwości; chcesz wiedzieć, dlaczego podjęto pewną decyzję i upewnić się, że decyzja ta jest sprawiedliwa. Chcesz również upewnić się, że nieodpowiednie cechy nie są brane pod uwagę, aby bias nie przeniknął do Twojego modelu.

3. Odpowiedzialność

Być może najważniejszym aspektem Odpowiedzialnego Sztucznego Intelektu jest odpowiedzialność. Istnieje wiele dyskusji na ten temat, nawet w sektorze rządowym, ponieważ dotyczy to polityk, które będą napędzać wyniki AI. Ten podejście oparty na polityce określa, na jakim etapie ludzie powinni być w pętli.

Odpowiedzialność wymaga solidnych monitorów i metryk, aby pomóc w podejmowaniu decyzji politycznych i kontrolować systemy AI/ML. Odpowiedzialność łączy się z powtarzalnością i przejrzystością, ale wymaga skutecznej kontroli w postaci komitetów etyki AI. Te komitety mogą zajmować się decyzjami politycznymi, decydować, co jest ważne do pomiaru, i przeprowadzać przeglądy sprawiedliwości.

4. Bezpieczeństwo

Bezpieczeństwo AI koncentruje się na poufności i integralności danych. Kiedy systemy przetwarzają dane, chcesz, aby były w bezpiecznym środowisku. Chcesz, aby dane były zarówno zaszyfrowane podczas przechowywania w Twojej bazie danych, jak i podczas przesyłania przez potok, ale wciąż istnieją luki w zabezpieczeniach, kiedy są wprowadzane do modelu jako zwykły tekst. Technologie takie jak homomorficzne szyfrowanie rozwiązują ten problem, umożliwiając trening modelu w środowisku zaszyfrowanym.

Innym aspektem jest bezpieczeństwo samego modelu. Na przykład, ataki inwersji modelu pozwalają hakom nauczyć się danych treningowych, które zostały użyte do budowy modelu. Są również ataki trucia modelu, które wstrzykują złe dane do modelu podczas treningu i całkowicie niszczą jego wydajność. Testowanie modelu na ataki oportunistyczne, takie jak te, może utrzymać go bezpiecznym i zabezpieczonym.

5. Prywatność

Google i OpenMined to dwie organizacje, które ostatnio priorytetowo traktowały prywatność AI, a OpenMined organizował niedawno konferencję na ten temat. Z nowymi regulacjami, takimi jak GDPR i CCPA, a potencjalnie więcej w drodze, prywatność odegra centralną rolę w tym, jak trenujemy modele uczenia maszynowego.

Jednym ze sposobów, aby upewnić się, że obsługujesz dane klientów w sposób świadomy prywatności, jest użycie uczenia federacyjnego. Ta zdecentralizowana metoda uczenia maszynowego trenuje różne modele lokalnie, a następnie agreguje każdy model w centralnym hubie, zachowując dane bezpieczne, zabezpieczone i prywatne. Innym sposobem jest wprowadzenie szumu statystycznego, aby wartości indywidualne klientów nie były ujawniane. To pozwala Ci pracować z danymi agregowanymi, aby dane indywidualne były nienaruszone i niedostępne dla algorytmu.

Utrzymywanie Odpowiedzialnego Sztucznego Intelektu

 Ostatecznie, utrzymanie odpowiedzialności sztucznego intelektu leży w gestii każdej organizacji, która projektuje systemy AI/ML. Poprzez celowe poszukiwanie technologii w ramach każdej z tych pięciu dziedzin Odpowiedzialnego Sztucznego Intelektu, możesz nie tylko skorzystać z mocy sztucznego intelektu, ale także zrobić to w sposób godny zaufania i prosty, który uspokoi Twoją organizację, klientów i regulatorów.