Modele i platformy AI
Szkolny przykład AI Bias & Kulturowe Stereotypy: Skutki, Ograniczenia, & Mitigacja
Dodaj Unite.AI do preferowanych źródeł w Google
Sztuczna Inteligencia (AI), w szczególności Generative AI, nadal przekracza oczekiwania swoją zdolnością do zrozumienia i naśladownictwa ludzkiej percepcji i inteligencji. Niemniej jednak, w wielu przypadkach wyniki lub przewidywania systemów AI mogą odzwierciedlać różne rodzaje AI bias, takie jak kulturowe i rasowe.
Blog Buzzfeed „Barbies of the World” (który jest teraz usunięty) wyraźnie manifestuje te kulturowe uprzedzenia i nieścisłości. Te „barbie” zostały stworzone przy użyciu Midjourney – wiodącego generatora obrazów AI, aby dowiedzieć się, jak wyglądałyby barbie na całym świecie. Porozmawiamy o tym później.
Ale to nie jest pierwszy raz, kiedy AI okazało się „rasistowskie” lub wytworzyło nieprecyzyjne wyniki. Na przykład, w 2022 roku Apple (AAPL ) został pozwany za zarzuty, że czujnik tlenu we krwi w Apple Watch był uprzedzony przeciwko ludziom o ciemnej skórze. W innym przypadku użytkownicy Twittera odkryli, że automatyczne przycinanie obrazów AI faworyzowało twarze ludzi białych nad czarnymi i kobiety nad mężczyznami. Są to krytyczne wyzwania, a ich rozwiązanie jest znacznie trudne.
W tym artykule, przyjrzymy się, co to jest AI bias, jak wpływa na nasze społeczeństwo i krótko omówimy, jak praktycy mogą zniwelować je, aby rozwiązać wyzwania, takie jak kulturowe stereotypy.
Czym jest AI Bias?
AI bias występuje, kiedy modele AI wytwarzają dyskryminacyjne wyniki przeciwko określonym demograficom. Istnieje wiele rodzajów uprzedzeń, które mogą wejść w systemy AI i wytworzyć nieprawidłowe wyniki. Niektóre z tych AI bias to:
- Uprzedzenie stereotypowe: Uprzedzenie stereotypowe odnosi się do zjawiska, w którym wyniki modelu AI składają się ze stereotypów lub postrzeganych pojęć o określonej demografii.
- Uprzedzenie rasowe: Uprzedzenie rasowe w AI występuje, kiedy wynik modelu AI jest dyskryminacyjny i niesprawiedliwy wobec jednostki lub grupy na podstawie ich etniczności lub rasy.
- Uprzedzenie kulturowe: Uprzedzenie kulturowe pojawia się, kiedy wyniki modelu AI faworyzują jedną kulturę nad inną.
Oprócz uprzedzeń, inne problemy mogą również utrudnić wyniki systemu AI, takie jak:
- Nieścisłości: Nieścisłości występują, kiedy wyniki wytwarzane przez model AI są nieprawidłowe z powodu niekonsekwentnych danych szkoleniowych.
- Halucynacje: Halucynacje występują, kiedy modele AI wytwarzają fikcyjne i fałszywe wyniki, które nie są oparte na faktach.
Wpływ AI Bias na Społeczeństwo
Wpływ AI bias na społeczeństwo może być szkodliwy. Uprzedzone systemy AI mogą wytwarzać nieprawidłowe wyniki, które zwiększają uprzedzenia już istniejące w społeczeństwie. Te wyniki mogą zwiększyć dyskryminację i naruszenia praw, wpłynąć na procesy rekrutacji i zmniejszyć zaufanie do technologii AI.
Ponadto, uprzedzone wyniki AI często prowadzą do nieprawidłowych przewidywań, które mogą mieć poważne konsekwencje dla niewinnych osób. Na przykład, w sierpniu 2020 roku, Robert McDaniel stał się celem przestępstwa z powodu algorytmu predykcyjnego policji w Chicago, który oznaczył go jako „osobę zainteresowaną”.
Podobnie, uprzedzone systemy AI w opiece zdrowotnej mogą mieć poważne konsekwencje dla pacjentów. W 2019 roku, Science odkrył, że powszechnie używany amerykański algorytm medyczny był uprzedzony przeciwko ludziom o ciemnej skórze, co doprowadziło do tego, że pacjenci czarni otrzymywali mniej opieki zdrowotnej.
Barbies of the World
W lipcu 2023 roku, Buzzfeed opublikował blog zawierający 194 AI wygenerowane barbie z całego świata. Post został udostępniony na Twitterze. Chociaż Buzzfeed dodał oświadczenie, nie powstrzymało to internautów od wskazywania na rasowe i kulturowe nieścisłości. Na przykład, AI wygenerowany obraz niemieckiej Barbie nosił mundur SS Nazi.
Podobnie, AI wygenerowany obraz południowo-sudańskiej Barbie pokazał ją trzymającą broń u boku, odzwierciedlając głęboko zakorzenione uprzedzenia w algorytmach AI.
Ponadto, wiele innych obrazów pokazało kulturowe nieścisłości, takie jak katarska Barbie nosząca Ghutra, tradycyjny nakrycie głowy noszone przez arabskich mężczyzn.
Ten post blogowy spotkał się z ogromną reakcją za kulturowe stereotypy i uprzedzenia. London Interdisciplinary School (LIS) nazwał to szkodą reprezentacyjną, której należy przeciwdziałać, wprowadzając standardy jakości i tworząc organy nadzoru AI.
Ograniczenia Modeli AI
AI ma potencjał rewolucjonizować wiele branż. Niemniej jednak, jeśli scenariusze takie jak te, o których wspomnieliśmy, się powtarzają, może to doprowadzić do spadku ogólnej akceptacji AI, co skutkuje pominięciem możliwości. Takie przypadki zwykle występują z powodu znacznych ograniczeń w systemach AI, takich jak:
- Brak kreatywności: Ponieważ AI może podejmować decyzje tylko na podstawie danych szkoleniowych, brakuje jej kreatywności, aby myśleć poza schematami, co utrudnia rozwiązywanie problemów.
- Brak zrozumienia kontekstu: Systemy AI mają trudności z zrozumieniem kontekstowych niuansów lub wyrażeń językowych regionu, co często prowadzi do błędów w wynikach.
- Uprzedzenia szkoleniowe: AI opiera się na historycznych danych, które mogą zawierać wszystkie rodzaje dyskryminacyjnych próbek. Podczas szkolenia model może łatwo nauczyć się dyskryminacyjnych wzorców, aby wytworzyć niesprawiedliwe i uprzedzone wyniki.
Jak Zmniejszyć Uprzedzenia w Modelach AI
Eksperci szacują, że do 2026 roku 90% treści online może być generowane syntetycznie. Dlatego też jest niezwykle ważne, aby szybko zmniejszyć problemy występujące w technologiach Generative AI.
Istnieje wiele kluczowych strategii, które można wdrożyć, aby zmniejszyć uprzedzenia w modelach AI. Niektóre z nich to:
- Zapewnienie jakości danych: Wprowadzenie kompletnych, dokładnych i czystych danych do modelu AI może pomóc zmniejszyć uprzedzenia i wytworzyć bardziej precyzyjne wyniki.
- Różnorodne zestawy danych: Wprowadzenie różnorodnych zestawów danych do systemu AI może pomóc zniwelować uprzedzenia, ponieważ system AI staje się bardziej inkluzywny z czasem.
- Pętle sprzężenia zwrotnego: Z ciągłą pętlą sprzężenia zwrotnego i uczenia, modele AI mogą stopniowo poprawiać swoje wyniki
- Zwiększone regulacje: Globalne regulacje AI są niezbędne do utrzymania jakości systemów AI na całym świecie. Dlatego też organizacje międzynarodowe muszą współpracować, aby zapewnić standaryzację AI.
- Zwiększone przyjęcie odpowiedzialnego AI: Strategie odpowiedzialnego AI przyczyniają się pozytywnie do zmniejszania uprzedzeń AI, kultywowania uczciwości i precyzji w systemach AI oraz zapewniania, że służą one zróżnicowanemu gronu użytkowników, dążąc do ciągłej poprawy.
Poprzez wdrożenie różnorodnych zestawów danych, odpowiedzialności etycznej i otwartych kanałów komunikacji, możemy zapewnić, że AI jest źródłem pozytywnej zmiany na całym świecie.
Jeśli chcesz dowiedzieć się więcej o uprzedzeniach i roli Sztucznej Inteligencji w naszym społeczeństwie, przeczytaj następujące blogi.
