Co czym jest Odpowiedzialny Sztuczny Inteligent? Zasady, Wyzwania i Korzyści

Odpowiedzialny Sztuczny Inteligent (OSI) odnosi się do projektowania i wdrażania systemów sztucznej inteligencji, które są przejrzyste, niezbyt złożone, odpowiedzialne i przestrzegają wytycznych etycznych. Ponieważ systemy sztucznej inteligencji stają się coraz bardziej zaawansowane i powszechne, zapewnienie, że są one opracowane w sposób odpowiedzialny i przestrzegają wytycznych bezpieczeństwa i etyki, jest niezwykle ważne.

Zdrowie, Transport, Zarządzanie Sieciami i Nadzór to krytyczne aplikacje sztucznej inteligencji, w których awaria systemu może mieć poważne konsekwencje. Duże firmy są świadome, że OSI jest niezbędne do ograniczania ryzyka technologicznego. Jednak według raportu MIT Sloan/BCG, który objął 1093 respondentów, 54% firm brakowało ekspertyzy i talentów w dziedzinie Odpowiedzialnego Sztucznego Inteligentu.

Chociaż liderzy myśli i organizacje opracowały zasady odpowiedzialnej sztucznej inteligencji, zapewnienie odpowiedzialnego rozwoju systemów sztucznej inteligencji nadal stanowi wyzwanie. Przeanalizujmy tę ideę szczegółowo:

5 Zasad Odpowiedzialnego Sztucznego Inteligentu

1. Sprawiedliwość

Technolodzy powinni projektować procedury tak, aby systemy sztucznej inteligencji traktowały wszystkie osoby i grupy w sposób sprawiedliwy, bezstronny. Dlatego sprawiedliwość jest podstawowym wymogiem w aplikacjach podejmowania decyzji o wysokim ryzyku.

Sprawiedliwość jest definiowana jako:

„Badanie wpływu na różne grupy demograficzne i wybór jednej z kilku matematycznych definicji sprawiedliwości grupowej, która w sposób odpowiedni zaspokoi wymagania prawne, kulturowe i etyczne.”

2. Odpowiedzialność

Odpowiedzialność oznacza, że osoby i organizacje rozwijające i wdrażające systemy sztucznej inteligencji powinny być odpowiedzialne za swoje decyzje i działania. Zespół wdrażający systemy sztucznej inteligencji powinien zapewnić, że ich system sztucznej inteligencji jest przejrzysty, interpretowalny, audytowalny i nie szkodzi społeczeństwu.

Odpowiedzialność obejmuje siedem składników:

1. Kontekst (przyczyna, dla której wymagana jest odpowiedzialność)
2. Zakres (przedmiot odpowiedzialności)
3. Agent (kto jest odpowiedzialny?)
4. Forum (do kogo odpowiedzialna strona musi się odnieść)
5. Standardy (kryteria odpowiedzialności)
6. Proces (sposób odpowiedzialności)
7. Wnioski (konsekwencje odpowiedzialności)

3. Przejrzystość

Przejrzystość oznacza, że powód decyzji w systemach sztucznej inteligencji jest klarowny i zrozumiały. Przejrzyste systemy sztucznej inteligencji są wyjaśnialne.

Według Oceny Listy zaufanych systemów sztucznej inteligencji (ALTAI), przejrzystość ma trzy kluczowe elementy:

1. Ślad (dane, kroki przetwarzania i model są dostępne)
2. Wyjaśnialność (powód decyzji/predykcji jest klarowny)
3. Otwarta Komunikacja (co do ograniczeń systemu sztucznej inteligencji)

4. Prywatność

Prywatność jest jedną z głównych zasad odpowiedzialnej sztucznej inteligencji. Odnosi się do ochrony informacji osobistych. Ta zasada zapewnia, że informacje osobiste są zbierane i przetwarzane za zgodą i pozostają poza zasięgiem osób nieuprawnionych.

Jak niedawno dowiedzieliśmy, firma Clearview, która tworzy modele rozpoznawania twarzy dla organów ścigania i uniwersytetów, zapłaciła 7,5 miliona funtów za zbieranie zdjęć mieszkańców Wielkiej Brytanii z mediów społecznościowych bez zgody, w celu utworzenia bazy danych 20 miliardów zdjęć.

5. Bezpieczeństwo

Bezpieczeństwo oznacza zapewnienie, że systemy sztucznej inteligencji są bezpieczne i nie zagrażają społeczeństwu. Przykładem zagrożenia bezpieczeństwa sztucznej inteligencji są ataki przeciwnika. Te ataki szkodzą modelom ML, powodując, że podejmują one błędne decyzje. Ochrona systemów sztucznej inteligencji przed atakami cybernetycznymi jest niezbędna dla odpowiedzialnej sztucznej inteligencji.

4 Główne Wyzwania i Zagrożenia Odpowiedzialnej Sztucznej Inteligencji

1. Zaszłość

Ludzkie zaszłości związane z wiekiem, płcią, narodowością i rasą mogą wpłynąć na zbieranie danych, potencjalnie prowadząc do zaszłości w modelach sztucznej inteligencji. Badanie Departamentu Handlu USA wykazało, że sztuczna inteligencja rozpoznawania twarzy błędnie identyfikuje osoby kolorowe. Dlatego używanie sztucznej inteligencji do rozpoznawania twarzy w organach ścigania może prowadzić do niesłusznych aresztowań. Ponadto tworzenie sprawiedliwych modeli sztucznej inteligencji jest trudne, ponieważ istnieje 21 różnych parametrów, które definiują je. Istnieje więc kompromis; spełnienie jednego parametru sprawiedliwości oznacza poświęcenie innego.

2. Interpretowalność

Interpretowalność jest kluczowym wyzwaniem w tworzeniu odpowiedzialnej sztucznej inteligencji. Odnosi się do zrozumienia, w jaki sposób model machine learning doszedł do określonej konkluzji.

Głębokie sieci neuronowe nie posiadają interpretowalności, ponieważ działają jak czarne skrzynki z wieloma warstwami ukrytych neuronów, co utrudnia zrozumienie procesu decyzyjnego. Może to być wyzwaniem w podejmowaniu decyzji o wysokim ryzyku, takich jak opieka zdrowotna, finanse itp.

Ponadto sformalizowanie interpretowalności w modelach machine learning jest trudne, ponieważ jest subiektywne i specyficzne dla dziedziny.

3. Zarządzanie

Zarządzanie odnosi się do zestawu zasad, polityk i procedur, które nadzorują rozwój i wdrożenie systemów sztucznej inteligencji. Ostatnio nastąpił znaczny postęp w dyskursie na temat zarządzania sztuczną inteligencją, z organizacjami przedstawiającymi ramy i wytyczne etyczne.

Wytyczne etyczne dla zaufanych systemów sztucznej inteligencji opracowane przez UE, ramy etyczne sztucznej inteligencji w Australii oraz zasady OECD dotyczące sztucznej inteligencji to przykłady ram zarządzania sztuczną inteligencją.

Jednak szybki postęp w dziedzinie sztucznej inteligencji w ostatnich latach może wyprzedzić te ramy zarządzania sztuczną inteligencją. W związku z tym potrzebne jest ramy, które oceniają sprawiedliwość, interpretowalność i etykę systemów sztucznej inteligencji.

4. Regulacja

Ponieważ systemy sztucznej inteligencji stają się coraz bardziej powszechne, potrzebna jest regulacja, która uwzględnia wartości etyczne i społeczne. Rozwój regulacji, która nie hamuje innowacji sztucznej inteligencji, jest kluczowym wyzwaniem w odpowiedzialnej sztucznej inteligencji.

Nawet z Ogólnym Rozporządzeniem o Ochronie Danych (GDPR), Ustawą o Prywatności Konsumentów w Kalifornii (CCPA) i Prawem o Ochronie Informacji Osobistych (PIPL) jako organami regulacyjnymi, badacze sztucznej inteligencji stwierdzili, że 97% stron internetowych w UE nie spełnia wymogów prawnych GDPR.

Ponadto legislatorzy mają znaczące wyzwanie w osiągnięciu porozumienia w sprawie definicji sztucznej inteligencji, która obejmuje zarówno klasyczne systemy sztucznej inteligencji, jak i najnowsze aplikacje sztucznej inteligencji.

3 Główne Korzyści Odpowiedzialnej Sztucznej Inteligencji

1. Zmniejszona Zaszłość

Odpowiedzialna sztuczna inteligencja zmniejsza zaszłość w procesach decyzyjnych, budując zaufanie do systemów sztucznej inteligencji. Zmniejszanie zaszłości w systemach sztucznej inteligencji może zapewnić sprawiedliwy i równy system opieki zdrowotnej i zmniejsza zaszłość w usługach finansowych opartych na sztucznej inteligencji itp.

2. Zwiększona Przejrzystość

Odpowiedzialna sztuczna inteligencja tworzy przejrzyste aplikacje sztucznej inteligencji, które budują zaufanie do systemów sztucznej inteligencji. Przejrzyste systemy sztucznej inteligencji zmniejszają ryzyko błędu i nadużycia. Zwiększona przejrzystość ułatwia audyt systemów sztucznej inteligencji, zdobywa zaufanie interesariuszy i może prowadzić do odpowiedzialnych systemów sztucznej inteligencji.

3. Lepsze Bezpieczeństwo

Bezpieczne aplikacje sztucznej inteligencji zapewniają prywatność danych, produkują wiarygodne i nieszkodliwe dane wyjściowe oraz są bezpieczne przed atakami cybernetycznymi.

Technologiczne giganty, takie jak Microsoft (MSFT ) i Google (GOOGL ), które są na czele rozwoju systemów sztucznej inteligencji, opracowały zasady odpowiedzialnej sztucznej inteligencji. Odpowiedzialna sztuczna inteligencja zapewnia, że innowacje w dziedzinie sztucznej inteligencji nie są szkodliwe dla jednostek i społeczeństwa.

Liderzy myśli, badacze, organizacje i władze prawne powinny stale przeglądać literaturę na temat odpowiedzialnej sztucznej inteligencji, aby zapewnić bezpieczną przyszłość innowacji sztucznej inteligencji.

Więcej treści związanych ze sztuczną inteligencją można znaleźć na stronie unite.ai.