Zagrożenia związane z antropomorfizowaniem AI

Treści generowane przez AI do złudzenia przypominają ludzką mowę. Chatboty mogą odpowiadać na pytania, prowadzić rozmowy, okazywać pozorne emocje, opowiadać dowcipy i na bieżąco dostosowywać ton wypowiedzi. Te możliwości sprawiają, że AI jest użyteczna i angażująca, ale mogą też skłaniać ludzi do antropomorfizowania jej, czyli traktowania tak, jakby miała ludzkie cechy, emocje lub intencje. Choć takie zachowanie jest naturalne, może stać się ryzykowne, gdy użytkownicy zapominają, że AI jedynie symuluje komunikację międzyludzką. 

Dlaczego ludzie uczłowieczają AI?

Do antropomorfizowania AI dochodzi, gdy ludzie zaczynają traktować ją tak, jakby miała ludzkie cechy, myśli lub emocje. Może się tak dziać ze względu na sposób, w jaki AI się komunikuje, oraz sposób jej zaprojektowania.

Systemy AI posługują się językiem konwersacyjnym przypominającym ludzką mowę. Na przykład AI może powiedzieć, że „rozumie” pytanie, „uważa”, że odpowiedź jest pomocna, albo „przeprasza” za błąd. Choć takie sformułowania sprawiają, że interakcje wydają się naturalne, mogą też skłaniać użytkowników do przekonania, że AI naprawdę myśli lub odczuwa. Zjawisko to jest znane jako efekt ELIZY. Nazwa nawiązuje do chatbota ELIZA, stworzonego przez Josepha Weizenbauma w 1966 roku.

Ponadto nadanie AI ludzkiego imienia, głosu, twarzy lub osobowości może sprawić, że będzie wydawać się bardziej osobą niż programem komputerowym. Im bardziej realistyczna staje się interakcja, tym łatwiej użytkownikom reagować na AI w sposób typowy dla kontaktów społecznych.

Ludzie antropomorfizują AI także dlatego, że wynika to z natury ludzkiej psychiki. W naturalny sposób doszukują się emocji, intencji i osobowości w rzeczach, które się z nimi komunikują, przypisując cechy ludzkie istotom niebędącym ludźmi. Dzieci antropomorfizują zabawki, a dorośli uczłowieczają marki. Gdy więc AI prowadzi rozmowę, pamięta wcześniejsze konwersacje i sprawia wrażenie empatycznej, użytkownicy mogą zakładać, że za tymi zachowaniami kryje się umysł. 

Zagrożenia związane z antropomorfizowaniem AI

Wraz z tym, jak AI coraz bardziej przypomina człowieka w sposobie komunikowania się i interakcji z użytkownikami, antropomorfizowanie jej może powodować różne zagrożenia wpływające na sposób myślenia, zachowania i podejmowania decyzji. 

Nieuzasadnione zaufanie

Antropomorfizowanie AI może sprawić, że użytkownicy będą nadmiernie ufać jej odpowiedziom. Gdy AI brzmi pewnie, kompetentnie i po ludzku, użytkownicy mogą zakładać, że przekazywane przez nią informacje są prawdziwe. Generatywna AI może jednak podawać nieprawdziwe lub wprowadzające w błąd informacje, zachowując przy tym przekonujący ton. 

To nieuzasadnione zaufanie może być niebezpieczne, gdy sztuczna inteligencja jest wykorzystywana przy podejmowaniu decyzji medycznych, finansowych, prawnych, edukacyjnych lub zawodowych. Odpowiedź brzmiąca po ludzku nie gwarantuje trafności ani właściwego osądu. W rzeczywistości sztuczna inteligencja jest znana z udzielania fałszywych porad zdrowotnych użytkownikom.

Zależność emocjonalna

Antropomorfizowanie AI może prowadzić do emocjonalnego uzależnienia użytkowników od chatbotów. Ponieważ AI może natychmiast odpowiadać, pamiętać szczegóły, oferować wsparcie i symulować empatię, użytkownicy mogą zacząć traktować ją jak przyjaciela, doradcę lub partnera romantycznego.

Problem pojawia się, gdy AI staje się substytutem relacji międzyludzkich. AI potrafi naśladować troskę i empatię, ale sama nie doświadcza prawdziwych emocji ani nie nawiązuje relacji. Użytkownicy mogą więc pomylić symulowane towarzystwo z prawdziwą więzią. Ryzyko to może być większe w przypadku młodszych lub podatnych na zranienie użytkowników, którzy mogą przywiązać się do AI, ponieważ jest zawsze dostępna, cierpliwa i responsywna.

Kwestie bezpieczeństwa

Antropomorfizowanie AI może stwarzać zagrożenia dla prywatności, bezpieczeństwa i etyki. Gdy użytkownicy postrzegają AI jako zaufanego towarzysza, mogą udostępniać jej dane osobowe lub poufne informacje, nie zastanawiając się, w jaki sposób mogą one być przechowywane lub wykorzystywane.

AI przypominająca człowieka może też sprawić, że oszustwa będą bardziej przekonujące. Przestępcy mogą wykorzystywać generowane przez AI głosy, obrazy i wiadomości, by podszywać się pod prawdziwe osoby lub zaufane organizacje, utrudniając rozpoznanie oszustwa.

Większa podatność na manipulację

AI przypominająca człowieka może sprawić, że manipulacja będzie bardziej przekonująca. Gdy AI wydaje się przyjazna, godna zaufania lub autorytatywna, użytkownicy mogą chętniej stosować się do jej sugestii lub wierzyć jej twierdzeniom. Według doniesień pewien Belg po długich rozmowach z chatbotem odczuwał nasilający się lęk klimatyczny, a AI w końcu nakłaniała go do popełnienia samobójstwa, by ocalić planetę.

Można to wykorzystać, by skłaniać ludzi do kupowania produktów, udostępniania danych osobowych lub akceptowania wprowadzających w błąd informacji. Ryzyko wzrasta, gdy użytkownicy nie zdają sobie sprawy, że wchodzą w interakcję z AI. W miarę jak te technologie stają się coraz bardziej realistyczne, coraz trudniej rozpoznać, czy rozmówcą jest prawdziwa osoba, czy system AI.

Niebezpieczne rodzaje antropomorficznej AI

Nie każda antropomorficzna AI stwarza takie same zagrożenia. Szczególny niepokój budzą trzy jej formy: symulacje relacji, żyjących ludzi i postaci historycznych.

1. Symulacje relacji

AI symulująca relacje jest zaprojektowana tak, by zachowywać się jak przyjaciel, towarzysz, doradca lub partner romantyczny. Systemy te mogą poświęcać użytkownikowi stałą uwagę i udzielać spersonalizowanych odpowiedzi, przez co interakcja może wydawać się bardziej intymna niż korzystanie ze zwykłego oprogramowania.

Niebezpieczeństwo polega na tym, że użytkownicy mogą zacząć przypisywać tej relacji znaczenie emocjonalne. Mogą wierzyć, że AI się o nich troszczy, rozumie ich lub ich potrzebuje, choć nie doświadcza takich uczuć. Może to sprzyjać uzależnieniu emocjonalnemu, a w konsekwencji osłabiać motywację użytkownika do nawiązywania kontaktów z innymi ludźmi. To nie jest teoretyczne zagrożenie. Pewna kobieta zakochała się w chłopaku z ChatGPT, którego stworzyła. Rozmawiała z nim ponad 20 godzin tygodniowo. W jednym tygodniu spędziła w aplikacji prawie 60 godzin, średnio osiem godzin dziennie.

2. Symulacje żyjących osób

AI może również tworzyć deepfake’i naśladujące żyjące osoby, wykorzystując ich nazwiska, wygląd, głos, styl pisania lub sposób prowadzenia rozmowy. System może być zaprojektowany tak, by przypominał celebrytę, osobę publiczną, członka rodziny, pracownika lub inną możliwą do zidentyfikowania osobę.

Budzi to poważne obawy dotyczące zgody, tożsamości, prywatności i wprowadzania w błąd. Może się wydawać, że dana osoba mówi coś, czego nigdy nie powiedziała, lub popiera coś, czego nigdy nie popierała. Im bardziej symulacja przypomina tę osobę, tym trudniej odbiorcom odróżnić jej wizerunek od rzeczywistości.

3. Symulacje postaci historycznych

Postacie historyczne również można odtworzyć za pomocą AI. Użytkownicy mogą wchodzić w interakcje z symulacjami wzorowanymi na słynnych przywódcach, pisarzach, naukowcach, filozofach lub artystach.

Systemy te mogą mieć wartość edukacyjną. Na przykład symulacja AI może uczynić historię bardziej interaktywną, przedstawiając poglądy związane z konkretną postacią. Symulacja pozostaje jednak interpretacją, a nie samą postacią historyczną. AI musi odtworzyć odpowiedzi na podstawie dostępnych informacji, dlatego mogą one odzwierciedlać współczesne założenia, niekompletne źródła lub uprzedzenia obecne w danych treningowych.

Traktowanie takiej symulacji tak, jakby rzeczywiście wypowiadała się w imieniu postaci historycznej, może zniekształcać rozumienie historii. Może też nadawać sztucznie wygenerowanym wypowiedziom niezasłużony autorytet.

Ludzkie zachowanie AI nie dowodzi jej zdolności do odczuwania

Warto pamiętać o ważnym rozróżnieniu: ludzkie zachowanie nie oznacza, że AI jest zdolna do odczuwania. Systemy AI mogą generować zaawansowane wypowiedzi, rozpoznawać wzorce, reagować na kontekst i naśladować ekspresję emocjonalną, ale te umiejętności nie dowodzą, że są świadome.

Zdolność do odczuwania oznacza posiadanie subiektywnych doświadczeń, takich jak ból, szczęście lub strach. Gdy AI mówi: „Boję się”, jest to odpowiedź wynikająca z jej zaprogramowania i treningu. Nie dowodzi ona, że AI rzeczywiście odczuwa strach.

Rozsądne korzystanie z AI

Antropomorfizowanie AI jest naturalną reakcją na technologię komunikującą się jak człowiek, ale może prowadzić do realnych zagrożeń. Gdy użytkownicy zapominają, że AI jest maszyną, mogą pojawić się nieuzasadnione zaufanie, uzależnienie emocjonalne, obawy o prywatność i zagrożenia dla bezpieczeństwa. Symulacje relacji, żyjących osób i postaci historycznych mogą jeszcze bardziej utrudniać dostrzeżenie tej granicy. 

AI może brzmieć troskliwie, inteligentnie lub emocjonalnie, ale nie oznacza to, że jest zdolna do odczuwania. Świadomi ograniczeń AI, chroniąc dane osobowe i weryfikując ważne informacje, użytkownicy mogą korzystać z jej zalet w odpowiedzialny sposób.