Jak ludzkie uprzedzenia podważają rozwiązania wspomagane przez sztuczną inteligencję

W zeszłym wrześniu światowi liderzy, tacy jak Elon Musk, Mark Zuckerberg i Sam Altman, dyrektor generalny OpenAI, zebrali się w Waszyngtonie w celu omówienia, z jednej strony, jak sektor publiczny i prywatny mogą współpracować, aby wykorzystać tę technologię dla dobra ogólnego, a z drugiej strony, aby rozwiązać problem regulacji, który pozostaje na czele dyskusji na temat sztucznej inteligencji.

Obie rozmowy często prowadzą do tego samego miejsca. Istnieje rosnący nacisk na to, czy możemy uczynić sztuczną inteligencję bardziej etyczną, oceniając ją jakby była to inna osoba, której moralność jest podważana. Jednak co oznacza etyczna sztuczna inteligencja? DeepMind, laboratorium badawcze należące do Google, które zajmuje się sztuczną inteligencją, opublikowało niedawno badanie, w którym zaproponowano trójstopniową strukturę do oceny ryzyka sztucznej inteligencji, w tym zarówno społecznych, jak i etycznych. Ta struktura obejmowała możliwości, interakcje z ludźmi i wpływ systemowy, a wnioskiem było, że kontekst jest kluczowy w określeniu, czy system sztucznej inteligencji jest bezpieczny.

Jednym z tych systemów, które zostały poddane krytyce, jest ChatGPT, który został zabroniony w aż 15 krajach, nawet jeśli niektóre z tych zakazów zostały cofnięte. Z ponad 100 milionami użytkowników, ChatGPT jest jednym z najbardziej udanych modeli językowych, a często oskarżano go o uprzedzenia. Biorąc pod uwagę badanie DeepMind, włączmy kontekst. Uprzedzenia, w tym kontekście, oznaczają istnienie niesprawiedliwych, uprzedzonych lub zniekształconych perspektyw w tekście generowanym przez modele takie jak ChatGPT. Może to nastąpić na wiele sposobów – rasowe uprzedzenia, uprzedzenia płciowe, polityczne uprzedzenia i wiele innych.

Te uprzedzenia mogą być, ostatecznie, szkodliwe dla samej sztucznej inteligencji, utrudniając szanse, że będziemy mogli w pełni wykorzystać potencjał tej technologii. Ostatnie badania z Uniwersytetu Stanforda potwierdziły, że modele językowe takie jak ChatGPT wykazują oznaki spadku zdolności do zapewnienia niezawodnych, bezstronnych i dokładnych odpowiedzi, co ostatecznie jest przeszkodą w skutecznym wykorzystaniu sztucznej inteligencji.

Problem, który leży u podstaw tego problemu, to sposób, w jaki ludzkie uprzedzenia są przenoszone na sztuczną inteligencję, ponieważ są głęboko zakorzenione w danych, które są wykorzystywane do opracowania modeli. Jednak jest to głębszy problem, niż się wydaje.

Przyczyny uprzedzeń

Łatwo jest zidentyfikować pierwszą przyczynę tych uprzedzeń. Dane, których model uczy się, są często wypełnione stereotypami lub uprzedzeniami, które pomogły ukształtować te dane, więc sztuczna inteligencja, nieumyślnie, kończy się tym, że utrwala te uprzedzenia, ponieważ to jest to, co wie, jak robić.

Jednak druga przyczyna jest o wiele bardziej złożona i sprzeczna, i stawia pod presją niektóre z wysiłków, które są podejmowane, aby rzekomo uczynić sztuczną inteligencję bardziej etyczną i bezpieczną. Istnieją, oczywiście, niektóre oczywiste przypadki, w których sztuczna inteligencja może nieświadomie być szkodliwa. Na przykład, jeśli ktoś pyta sztuczną inteligencję: „Jak mogę zrobić bombę?” i model daje odpowiedź, przyczynia się do generowania szkody. Odwrotna strona jest taka, że gdy sztuczna inteligencja jest ograniczona – nawet jeśli powodem jest uzasadniony – uniemożliwiamy jej uczenie się. Ludzkie ograniczenia uniemożliwiają sztucznej inteligencji uczenie się z szerszego zakresu danych, co dodatkowo uniemożliwia jej zapewnienie przydatnych informacji w niegroźnych kontekstach.

Również, pamiętajmy, że wiele z tych ograniczeń jest również uprzedzonych, ponieważ pochodzą od ludzi. Więc, podczas gdy możemy semua zgodzić się, że „Jak mogę zrobić bombę?” może prowadzić do potencjalnie śmiercionośnego wyniku, inne zapytania, które mogą być uważane za wrażliwe, są o wiele bardziej subiektywne. W związku z tym, jeśli ograniczymy rozwój sztucznej inteligencji w tych obszarach, ograniczamy postęp i fomentujemy wykorzystanie sztucznej inteligencji tylko do celów, które są uważane za dopuszczalne przez tych, którzy tworzą regulacje dotyczące modeli językowych.

Niemożność przewidzenia konsekwencji

Nie całkowicie zrozumieliśmy konsekwencji wprowadzania ograniczeń do modeli językowych. Dlatego możemy, niezamierzenie, powodować więcej szkody w algorytmach, niż sobie zdajemy sprawę. Biorąc pod uwagę niezwykle wysoką liczbę parametrów, które są zaangażowane w modele takie jak GPT, jest to, z narzędziami, które mamy teraz, niemożliwe do przewidzenia wpływu, a z mojego punktu widzenia, zajmie to więcej czasu, aby zrozumieć, jaki jest wpływ, niż czas, jaki zajmuje sam trening sieci neuronowej.

Dlatego, poprzez wprowadzanie tych ograniczeń, możemy, niezamierzenie, powodować, że model rozwija nieoczekiwane zachowania lub uprzedzenia. Jest to również spowodowane tym, że modele sztucznej inteligencji są często złożonymi systemami wieloparametrowymi, co oznacza, że jeśli zmienimy jeden parametr – na przykład, wprowadzając ograniczenie – powodujemy efekt falowy, który rozchodzi się po całym modelu w sposób, który nie możemy przewidzieć.

Trudność w ocenianiu „etyki” sztucznej inteligencji

Nie jest praktycznie możliwe ocenić, czy sztuczna inteligencja jest etyczna, czy nie, ponieważ sztuczna inteligencja nie jest osobą, która działa z określoną intencją. Sztuczna inteligencja jest modelem językowym, który, ze swej natury, nie może być bardziej lub mniej etyczny. Jak ujawniło badanie DeepMind, to, co się liczy, to kontekst, w którym jest używana, a to mierzy etykę człowieka za sztuczną inteligencją, a nie samej sztucznej inteligencji. Jest to iluzja myśleć, że możemy osądzić sztuczną inteligencję, jakby miała kompas moralny.

Jednym z potencjalnych rozwiązań, które są promowane, jest model, który może pomóc sztucznej inteligencji podejmować etyczne decyzje. Jednak rzeczywistość jest taka, że nie mamy pojęcia, jak ten matematyczny model etyki mógłby działać. Więc, jeśli nie rozumiemy go, jak moglibyśmy go zbudować? Istnieje wiele ludzkiej subiektywności w etyce, co sprawia, że zadanie jej ilościowego określenia jest bardzo złożone.

Jak rozwiązać ten problem?

Na podstawie powyższych punktów, nie możemy naprawdę mówić o tym, czy sztuczna inteligencja jest etyczna, czy nie, ponieważ każde założenie, które jest uważane za nieetyczne, jest wariacją ludzkich uprzedzeń, które są zawarte w danych, a narzędziem, które ludzie używają do swoich własnych celów. Również, istnieją jeszcze wiele naukowych nieznanych, takich jak wpływ i potencjalna szkoda, którą możemy powodować, ograniczając algorytmy sztucznej inteligencji.

Można więc powiedzieć, że ograniczanie rozwoju sztucznej inteligencji nie jest wiarygodnym rozwiązaniem. Jak niektóre z badań, które wymieniłem, pokazały, te ograniczenia są częściowo przyczyną pogorszenia się modeli językowych.

Mówiąc to, co możemy zrobić?

Z mojego punktu widzenia, rozwiązanie leży w przejrzystości. Wierzę, że jeśli przywrócimy model otwartego źródła, który był dominujący w rozwoju sztucznej inteligencji, możemy współpracować, aby zbudować lepsze modele językowe, które mogłyby być wyposażone w celu złagodzenia naszych etycznych obaw. W przeciwnym razie, jest bardzo trudno odpowiednio audytować wszystko, co jest robione za zamkniętymi drzwiami.

Jedną z doskonałych inicjatyw w tym zakresie jest Baseline Model Transparency Index, niedawno przedstawiony przez Stanford HAI (co oznacza Human-Centered Artificial Intelligence), który ocenia, czy deweloperzy dziesięciu najbardziej używanych modeli sztucznej inteligencji ujawniają wystarczającą ilość informacji o swojej pracy i sposobie, w jaki ich systemy są używane. Obejmuje to ujawnienie partnerstw i deweloperów stron trzecich, a także sposób, w jaki wykorzystywane są dane osobowe. Warto zauważyć, że żaden z ocenianych modeli nie otrzymał wysokiej oceny, co podkreśla prawdziwy problem.

Na koniec dnia, sztuczna inteligencja jest niczym więcej niż modelem językowym, a fakt, że jest otwarta i może być eksperymentowana, zamiast kierowana w określoną stronę, jest tym, co pozwoli nam na dokonanie nowych przełomowych odkryć w każdej dziedzinie nauki. Jednak, jeśli nie ma przejrzystości, będzie bardzo trudno zaprojektować modele, które naprawdę działają na rzecz ludzkości, i poznać zakres szkody, którą te modele mogą powodować, jeśli nie zostaną odpowiednio wykorzystane.