Sztuczna inteligencja
Szkodliwość AI Bias & Stereotypy Kulturowe: Skutki, Ograniczenia, & Mitigacja
Sztuczna Inteligencja (AI), w szczególności Generative AI, nieustannie przekracza oczekiwania dzięki swojej zdolności do zrozumienia i naśladownictwa ludzkiej percepcji i inteligencji. Niemniej jednak, w wielu przypadkach, wyniki lub przewidywania systemów AI mogą odzwierciedlać różne rodzaje AI bias, takie jak kulturowe i rasowe.
Buzzfeed’s “Barbies of the World” blog (który jest teraz usunięty) wyraźnie ujawnia te kulturowe uprzedzenia i nieścisłości. Te ‘barbie’ zostały stworzone przy użyciu Midjourney – wiodącego generatora obrazu AI, aby dowiedzieć się, jak wyglądałyby barbie na całym świecie. Będziemy o tym rozmawiać później.
Jednak to nie jest pierwszy raz, kiedy AI było „rasistowskie” lub wytworzyło nieprecyzyjne wyniki. Na przykład, w 2022 roku, Apple został pozwany z powodu zarzutów, że czujnik tlenu we krwi w Apple Watch był uprzedzony przeciwko osobom kolorowym. W innym przypadku, użytkownicy Twittera odkryli, że automatyczne przycinanie obrazu AI faworyzowało twarze osób białych nad osobami czarnymi i kobiety nad mężczyznami. Są to krytyczne wyzwania, a ich rozwiązanie jest znacznie trudne.
W tym artykule, przyjrzymy się, co to jest AI bias, jak wpływa na nasze społeczeństwo i krótko omówimy, jak praktycy mogą zniwelować je, aby rozwiązać wyzwania takie jak stereotypy kulturowe.
Czym jest AI Bias?
AI bias występuje, gdy modele AI wytwarzają dyskryminacyjne wyniki przeciwko określonym grupom demograficznym. Istnieje kilka rodzajów uprzedzeń, które mogą wejść w systemy AI i wytworzyć niepoprawne wyniki. Niektóre z tych AI bias to:
- Stereotypowe Uprzedzenie: Stereotypowe uprzedzenie odnosi się do zjawiska, w którym wyniki modelu AI składają się ze stereotypów lub postrzeganych pojęć o określonej grupie demograficznej.
- Rasowe Uprzedzenie: Rasowe uprzedzenie w AI występuje, gdy wynik modelu AI jest dyskryminacyjny i niesprawiedliwy wobec jednostki lub grupy na podstawie ich etniczności lub rasy.
- Kulturowe Uprzedzenie: Kulturowe uprzedzenie pojawia się, gdy wyniki modelu AI faworyzują określoną kulturę nad inną.
Poza uprzedzeniami, inne problemy mogą również utrudniać wyniki systemu AI, takie jak:
- Nieścisłości: Nieścisłości występują, gdy wyniki wytworzone przez model AI są niepoprawne z powodu niekonsekwentnych danych szkoleniowych.
- Halucynacje: Halucynacje występują, gdy modele AI wytwarzają fikcyjne i fałszywe wyniki, które nie opierają się na faktach.
Wpływ AI Bias na Społeczeństwo
Wpływ AI bias na społeczeństwo może być szkodliwy. Uprzedzone systemy AI mogą wytworzyć niepoprawne wyniki, które zwiększają uprzedzenia już istniejące w społeczeństwie. Te wyniki mogą zwiększyć dyskryminację i naruszenia praw, wpłynąć na procesy rekrutacji i zmniejszyć zaufanie do technologii AI.
Ponadto, uprzedzone wyniki AI często prowadzą do niepoprawnych przewidywań, które mogą mieć poważne konsekwencje dla niewinnych osób. Na przykład, w sierpniu 2020 roku, Robert McDaniel stał się celem przestępstwa z powodu algorytmu predykcyjnego policji w Chicago, który oznaczył go jako „osobę zainteresowaną”.
Podobnie, uprzedzone systemy AI w opiece zdrowotnej mogą mieć ostre skutki dla pacjentów. W 2019 roku, Science odkrył, że powszechnie używany amerykański algorytm medyczny był rasowo uprzedzony przeciwko osobom kolorowym, co prowadziło do mniejszej opieki zdrowotnej dla czarnych pacjentów.
Barbies of the World
W lipcu 2023 roku, Buzzfeed opublikował blog składający się z 194 AI-wygenerowanych lalek z całego świata. Post ten stał się wirusowy na Twitterze. Chociaż Buzzfeed dodał oświadczenie, nie powstrzymało to internautów od wskazywania rasowych i kulturowych nieścisłości. Na przykład, AI-wygenerowany obraz niemieckiej Barbie przedstawiał ją w mundurze generała SS.
Podobnie, AI-wygenerowany obraz południowosudańskiej Barbie pokazał ją trzymającą pistolet przy boku, odzwierciedlając głęboko zakorzenione uprzedzenia w algorytmach AI.
Poza tym, kilka innych obrazów wykazało kulturowe nieścisłości, takie jak katarska Barbie nosząca Ghutra, tradycyjny nakrycie głowy noszone przez arabskich mężczyzn.
Ten post blogowy otrzymał ogromną reakcję za stereotypy kulturowe i uprzedzenia. London Interdisciplinary School (LIS) nazwał to szkodą reprezentacyjną, której należy przeciwdziałać, wprowadzając standardy jakości i tworząc organy nadzoru AI.
Ograniczenia Modeli AI
AI ma potencjał rewolucjonizować wiele branż. Niemniej jednak, jeśli scenariusze takie jak te, o których wspomniano, się powtarzają, może to prowadzić do spadku ogólnej akceptacji AI, co skutkuje zmarnowanymi możliwościami. Tego rodzaju przypadki zwykle występują z powodu znacznych ograniczeń w systemach AI, takich jak:
- Brak Kreatywności: Ponieważ AI może podejmować decyzje tylko na podstawie danych szkoleniowych, brakuje jej kreatywności, aby myśleć poza schematami, co utrudnia rozwiązywanie problemów.
- Brak Zrozumienia Kontekstu: Systemy AI mają trudności z zrozumieniem kontekstowych niuansów lub wyrażeń językowych regionu, co często prowadzi do błędów w wynikach.
- Uprzedzenia Szkoleniowe: AI opiera się na historycznych danych, które mogą zawierać różne dyskryminacyjne przykłady. Podczas szkolenia, model może łatwo nauczyć się dyskryminacyjnych wzorców, aby wytworzyć niesprawiedliwe i uprzedzone wyniki.
Jak Zmniejszyć Uprzedzenia w Modelach AI
Eksperci szacują, że do 2026 roku, 90% treści online może być generowane syntetycznie. Dlatego też jest niezwykle ważne, aby szybko zmniejszyć problemy występujące w technologiach Generative AI.
Kilka kluczowych strategii może być wdrożonych, aby zmniejszyć uprzedzenia w modelach AI. Niektóre z nich to:
- Zapewnienie Jakości Danych: Wprowadzenie kompletnych, dokładnych i czystych danych do modelu AI może pomóc zmniejszyć uprzedzenia i wytworzyć bardziej precyzyjne wyniki.
- Różnorodne Zestawy Danych: Wprowadzenie różnorodnych zestawów danych do systemu AI może pomóc zniwelować uprzedzenia, ponieważ system AI staje się bardziej inkluzywny z czasem.
- Pętle Sprzężenia: Z ciągłym sprzężeniem i uczeniem, modele AI mogą stopniowo poprawiać swoje wyniki
- Zwiększone Regulacje: Globalne regulacje AI są niezbędne do utrzymania jakości systemów AI na całym świecie. Dlatego też międzynarodowe organizacje muszą współpracować, aby zapewnić standaryzację AI.
- Zwiększona Akceptacja Odpowiedzialnego AI: Strategie odpowiedzialnego AI przyczyniają się pozytywnie do zniwelowania uprzedzeń AI, kultywowania sprawiedliwości i precyzyjności w systemach AI oraz zapewnienia, że służą one zróżnicowanemu gronu użytkowników, dążąc do ciągłej poprawy.
Poprzez wdrożenie różnorodnych zestawów danych, odpowiedzialności etycznej i otwartych środków komunikacji, możemy zapewnić, że AI jest źródłem pozytywnej zmiany na całym świecie.
Jeśli chcesz dowiedzieć się więcej o uprzedzeniach i roli Sztucznej Inteligencji w naszym społeczeństwie, przeczytaj następujące blogi.
