Co czym jest Odpowiedzialny Sztuczny Inteligent? Zasady, Wyzwania i Korzyści

Odpowiedzialny Sztuczny Inteligent (RAI) odnosi się do projektowania i wdrażania systemów sztucznej inteligencji, które są przejrzyste, niezbyt stronnicze, odpowiedzialne i przestrzegają wytycznych etycznych. Ponieważ systemy sztucznej inteligencji stają się bardziej zaawansowane i powszechne, zapewnienie, że są one opracowane w sposób odpowiedzialny i zgodny z wytycznymi bezpieczeństwa i etyki, jest niezwykle ważne.

Zdrowie, Transport, Zarządzanie Siecią i Nadzór to krytyczne aplikacje sztucznej inteligencji, w których awaria systemu może mieć poważne konsekwencje. Duże firmy są świadome, że Odpowiedzialny Sztuczny Inteligent jest niezbędny do łagodzenia ryzyka technologicznego. Jednak według raportu MIT Sloan/BCG, który objął 1093 respondentów, 54% firm brakowało ekspertyzy i talentów w dziedzinie Odpowiedzialnego Sztucznego Inteligentu.

Chociaż liderzy myśli i organizacje opracowały zasady odpowiedzialnej sztucznej inteligencji, zapewnienie odpowiedzialnego rozwoju systemów sztucznej inteligencji nadal stanowi wyzwanie. Przeanalizujmy tę ideę szczegółowo:

5 Zasad Odpowiedzialnej Sztucznej Inteligencji

1. Sprawiedliwość

Technolodzy powinni projektować procedury tak, aby systemy sztucznej inteligencji traktowały wszystkie osoby i grupy w sposób sprawiedliwy, bez stronniczości. Dlatego sprawiedliwość jest podstawowym wymogiem w aplikacjach podejmowania decyzji o wysokim ryzyku.

Sprawiedliwość jest definiowana jako:

„Badanie wpływu na różne grupy demograficzne i wybór jednej z kilku matematycznych definicji sprawiedliwości grupowej, która w wystarczającym stopniu zaspokoi pożądany zestaw wymogów prawnych, kulturowych i etycznych.”

2. Odpowiedzialność

Odpowiedzialność oznacza, że osoby i organizacje rozwijające i wdrażające systemy sztucznej inteligencji powinny być odpowiedzialne za swoje decyzje i działania. Zespół wdrażający systemy sztucznej inteligencji powinien zapewnić, że ich system sztucznej inteligencji jest przejrzysty, interpretowalny, audytowalny i nie szkodzi społeczeństwu.

Odpowiedzialność obejmuje siedem składników:

1. Kontekst (cel, dla którego wymagana jest odpowiedzialność)
2. Zakres (przedmiot odpowiedzialności)
3. Agent (kto jest odpowiedzialny?)
4. Forum (do kogo odpowiedzialna strona musi się odnieść)
5. Standardy (kryteria odpowiedzialności)
6. Proces (metoda odpowiedzialności)
7. Wnioski (konsekwencje odpowiedzialności)

3. Przejrzystość

Przejrzystość oznacza, że powód decyzji w systemach sztucznej inteligencji jest jasny i zrozumiały. Przejrzyste systemy sztucznej inteligencji są wyjaśnialne.

Według Oceny Listy zaufanych sztucznych inteligencji (ALTAI), przejrzystość ma trzy kluczowe elementy:

1. Śladowanie (dane, kroki przetwarzania i model są dostępne)
2. Wyjaśnialność (powód decyzji/predykcji jest jasny)
3. Otwarta Komunikacja (co do ograniczeń systemu sztucznej inteligencji)

4. Prywatność

Prywatność jest jednym z głównych zasad odpowiedzialnej sztucznej inteligencji. Odnosi się do ochrony informacji osobistych. Ta zasada zapewnia, że informacje osobiste są zbierane i przetwarzane za zgodą i pozostają poza zasięgiem osób nieuprawnionych.

Jak niedawno udowodniono, było to przypadku Clearview, firmy, która tworzy modele rozpoznawania twarzy dla organów ścigania i uczelni. Brytyjski urząd ds. ochrony danych pozwał Clearview AI o 7,5 miliona funtów za zbieranie obrazów mieszkańców Wielkiej Brytanii z mediów społecznościowych bez zgody w celu utworzenia bazy danych 20 miliardów obrazów.

5. Bezpieczeństwo

Bezpieczeństwo oznacza zapewnienie, że systemy sztucznej inteligencji są bezpieczne i nie zagrażają społeczeństwu. Przykładem zagrożenia bezpieczeństwa sztucznej inteligencji są ataki przeciwnika. Te ataki oszukują modele uczenia maszynowego, powodując, że podejmują błędne decyzje. Ochrona systemów sztucznej inteligencji przed atakami cybernetycznymi jest niezbędna dla odpowiedzialnej sztucznej inteligencji.

4 Główne Wyzwania i Ryzyka Odpowiedzialnej Sztucznej Inteligencji

1. Stronniczość

Ludzkie uprzedzenia związane z wiekiem, płcią, narodowością i rasą mogą wpłynąć na zbieranie danych, potencjalnie prowadząc do stronniczych modeli sztucznej inteligencji. Badanie amerykańskiego Departamentu Handlu wykazało, że sztuczna inteligencja rozpoznawania twarzy błędnie identyfikuje osoby o ciemniejszym kolorze skóry. Dlatego używanie sztucznej inteligencji do rozpoznawania twarzy w organach ścigania może prowadzić do niesłusznych aresztowań. Ponadto tworzenie sprawiedliwych modeli sztucznej inteligencji jest trudne, ponieważ istnieje 21 różnych parametrów, które je definiują. Więc jest to kompromis; spełnienie jednego parametru sprawiedliwości oznacza poświęcenie innego.

2. Wyjaśnialność

Wyjaśnialność jest kluczowym wyzwaniem w rozwoju odpowiedzialnej sztucznej inteligencji. Odnosi się do zrozumienia, w jaki sposób model uczenia maszynowego doszedł do określonego wniosku.

Głębokie sieci neuronowe nie posiadają wyjaśnialności, ponieważ działają jak czarne skrzynki z wieloma warstwami ukrytych neuronów, co utrudnia zrozumienie procesu decyzyjnego. Może to być wyzwaniem w podejmowaniu decyzji o wysokim ryzyku, takim jak opieka zdrowotna, finanse itp.

Ponadto sformalizowanie wyjaśnialności w modelach uczenia maszynowego jest trudne, ponieważ jest subiektywne i dziedzinowe.

3. Zarządzanie

Zarządzanie odnosi się do zestawu zasad, polityk i procedur, które nadzorują rozwój i wdrażanie systemów sztucznej inteligencji. Ostatnio nastąpił znaczący postęp w dyskursie na temat zarządzania sztuczną inteligencją, z organizacjami przedstawiającymi ramy i wytyczne etyczne.

Wytyczne etyczne dla zaufanej sztucznej inteligencji UE, ramy etyczne sztucznej inteligencji w Australii oraz zasady OECD dotyczące sztucznej inteligencji są przykładami ram zarządzania sztuczną inteligencją.

Jednak szybki postęp w dziedzinie sztucznej inteligencji w ostatnich latach może wyprzedzić te ramy zarządzania sztuczną inteligencją. W tym celu konieczne jest stworzenie ramy, która ocenia sprawiedliwość, wyjaśnialność i etykę systemów sztucznej inteligencji.

4. Regulacja

Ponieważ systemy sztucznej inteligencji stają się bardziej powszechne, konieczne jest uwzględnienie regulacji, które brałyby pod uwagę wartości etyczne i społeczne. Rozwój regulacji, które nie tłumią innowacji sztucznej inteligencji, jest kluczowym wyzwaniem w odpowiedzialnej sztucznej inteligencji.

Nawet z Ogólnym Rozporządzeniem o Ochronie Danych (GDPR), Ustawą o Ochronie Prywatności Konsumentów w Kalifornii (CCPA) oraz Prawem o Ochronie Informacji Osobowych (PIPL) jako organami regulacyjnymi, badacze sztucznej inteligencji stwierdzili, że 97% stron internetowych w UE nie spełnia wymogów prawnych GDPR.

Ponadto legislatorzy mają znaczące wyzwanie w osiągnięciu porozumienia w sprawie definicji sztucznej inteligencji, która obejmuje zarówno klasyczne systemy sztucznej inteligencji, jak i najnowsze aplikacje sztucznej inteligencji.

3 Główne Korzyści Odpowiedzialnej Sztucznej Inteligencji

1. Zmniejszona Stronniczość

Odpowiedzialna sztuczna inteligencja zmniejsza stronniczość w procesach decyzyjnych, budując zaufanie do systemów sztucznej inteligencji. Zmniejszanie stronniczości w systemach sztucznej inteligencji może zapewnić sprawiedliwy i równy system opieki zdrowotnej i zmniejsza stronniczość w usługach finansowych opartych na sztucznej inteligencji itp.

2. Zwiększona Przejrzystość

Odpowiedzialna sztuczna inteligencja tworzy przejrzyste aplikacje sztucznej inteligencji, budując zaufanie do systemów sztucznej inteligencji. Przejrzyste systemy sztucznej inteligencji zmniejszają ryzyko błędu i nadużyć. Zwiększona przejrzystość ułatwia audyt systemów sztucznej inteligencji, zyskuje zaufanie interesariuszy i może prowadzić do odpowiedzialnych systemów sztucznej inteligencji.

3. Lepsze Bezpieczeństwo

Bezpieczne aplikacje sztucznej inteligencji zapewniają prywatność danych, wytwarzają godne zaufania i nieszkodliwe dane wyjściowe oraz są bezpieczne przed atakami cybernetycznymi.

Giganci technologiczni, tacy jak Microsoft i Google, którzy są na czele rozwoju systemów sztucznej inteligencji, opracowali zasady Odpowiedzialnej Sztucznej Inteligencji. Odpowiedzialna sztuczna inteligencja zapewnia, że innowacje w dziedzinie sztucznej inteligencji nie są szkodliwe dla osób i społeczeństwa.

Liderzy myśli, badacze, organizacje i władze prawne powinni stale rewizjonować literaturę na temat odpowiedzialnej sztucznej inteligencji, aby zapewnić bezpieczną przyszłość innowacji sztucznej inteligencji.

Aby uzyskać więcej treści związanych z sztuczną inteligencją, odwiedź unite.ai.