Wezwanie do umiarkowanego antropomorfizmu na platformach AI

OPINIA Nikt w fikcyjnym wszechświecie Gwiezdnych wojen nie traktuje poważnie sztucznej inteligencji. W historycznej ludzkiej linii czasowej 47-letniej franczyzy science fiction George’a Lucasa, zagrożenia ze strony singularności i świadomości maszynowej są nieobecne, a sztuczna inteligencja jest ograniczona do autonomicznych robotów mobilnych (‘droidów’) – które są zwykle odrzucane przez protagonistów jako “maszyny”.

Jednak większość robotów z Gwiezdnych wojen jest wyraźnie antropomorficzna, zaprojektowana do interakcji z ludźmi, uczestniczenia w “organicznym” kulcie i używania swoich symulacji stanu emocjonalnego do tworzenia więzi z ludźmi. Te możliwości wydają się być zaprojektowane, aby pomóc im uzyskać jakąś przewagę dla siebie, lub nawet zapewnić ich własne przetrwanie.

“Prawdziwi” ludzie z Gwiezdnych wojen wydają się być obojętni na te taktyki. W cynicznym modelu kulturowym, który wydaje się być zainspirowany różnymi erami niewolnictwa w cesarstwie rzymskim i wczesnych Stanach Zjednoczonych, Luke Skywalker nie wahając się kupuje i ogranicza roboty w kontekście niewolników; dziecko Anakin Skywalker porzuca swoje nieukończone projekty C3PO jak niekochaną zabawkę; i, bliski śmierci z powodu uszkodzeń odniesionych podczas ataku na Gwiazdę Śmierci, “odważny” R2D2 otrzymuje tyle samo uwagi od Luke’a, co ranny pupil.

To jest bardzo 1970-ty take na sztuczną inteligencję*; ale ponieważ nostalgia i kanon dyktują, że oryginalna trylogia z lat 1977-83 pozostaje szablonem dla późniejszych sequele, prequele i seriali telewizyjnych, ta ludzka obojętność wobec sztucznej inteligencji była wytrwałym wątkiem we franczyzie, nawet w obliczu rosnącej liczby seriali telewizyjnych i filmów (takich jak Ona i Ex Machina), które przedstawiają nasz zstępowanie w antropomorficzną relację ze sztuczną inteligencją.

Trzymajmy się rzeczywistości

Czy postacie organiczne z Gwiezdnych wojen mają naprawdę słuszne nastawienie? Nie jest to popularna myśl w tej chwili, w klimacie biznesowym, który jest nastawiony na maksymalne zaangażowanie inwestorów, zwykle poprzez wirusowe demonstracje symulacji świata rzeczywistego lub interaktywnych systemów podobnych do ludzkich, takich jak Duże Modele Językowe (LLM).

Niemniej, nowy i krótki artykuł ze Stanford, Carnegie Mellon i Microsoft Research, atakuje obojętność wokół antropomorfizmu w sztucznej inteligencji.

Autorzy charakteryzują postrzeganą “krzyżową polinację” między ludzką a sztuczną komunikacją jako potencjalną szkodę, którą należy pilnie złagodzić, z wielu powodów^†:

‘[Uważamy, że musimy zrobić więcej, aby rozwinąć wiedzę i narzędzia, aby lepiej rozwiązać zachowania antropomorficzne, w tym mierzenie i łagodzenie takich zachowań systemów, gdy są one uważane za niepożądane.

‘Robienie tego jest krytyczne, ponieważ – wśród wielu innych problemów – posiadanie systemów sztucznej inteligencji generujących treści, które twierdzą, że mają np. uczucia, zrozumienie, wolną wolę lub podstawowy sens siebie, może podważyć ludzkie poczucie agencji, w wyniku czego ludzie mogą przypisać moralną odpowiedzialność systemom, przeszacować możliwości systemu lub zbyt mocno polegać na tych systemach, nawet gdy są one błędne.’

Wkładający wyjaśniają, że dyskutują o systemach, które są postrzegane jako podobne do ludzkich i koncentrują się wokół potencjalnego zamierzenia deweloperów, aby wspierać antropomorfizm w systemach maszynowych.

Obawa w sercu krótkiego artykułu jest taka, że ludzie mogą rozwinąć emocjonalną zależność od systemów opartych na sztucznej inteligencji – jak to zostało opisane w badaniu z 2022 roku na platformie czatu gen AI Replika) – która aktywnie oferuje idiomową kopię ludzkiej komunikacji.

Systemy takie jak Replika są celem zastrzeżeń autorów i zauważają, że dalsze badanie z 2022 roku na Replika twierdziło:

‘[P]od warunkami stresu i braku ludzkiej towarzyskości, osoby mogą rozwinąć przywiązanie do chatbotów społecznych, jeśli postrzegają odpowiedzi chatbota jako oferujące emocjonalne wsparcie, zachętę i psychologiczną bezpieczeństwo.

‘Te wyniki sugerują, że chatboty społeczne mogą być używane do celów zdrowia psychicznego i terapeutycznych, ale mają potencjał powodować uzależnienie i szkodzić prawdziwym intymnym relacjom.’

Czy język deantropomorfizowany?

Nowa praca argumentuje, że potencjał generatywnej sztucznej inteligencji do antropomorfizmu nie może być ustanowiony bez zbadania społecznych skutków takich systemów do tej pory, i że jest to zaniedbana perspektywa w literaturze.

Część problemu polega na tym, że antropomorfizm jest trudny do zdefiniowania, ponieważ koncentruje się głównie na języku, funkcji ludzkiej. Wyzwaniem jest więc określenie, co dokładnie brzmi lub wygląda “nie-ludzki” język.

Ironicznie, chociaż artykuł nie porusza tego tematu, rosnąca nieufność wobec sztucznej inteligencji powoduje, że ludzie coraz częściej odrzucają treści generowane przez sztuczną inteligencję, które mogą wydawać się prawdopodobnie ludzkie, a nawet odrzucają ludzkie treści, które są celowo oznaczone jako sztuczna inteligencja.

Dlatego “dehumanizowany” content nie mieści się już w ‘Does not compute’ meme, w którym język jest niezręcznie skonstruowany i wyraźnie generowany przez maszynę.

Definicja jest ciągle ewoluująca w scenie wykrywania sztucznej inteligencji, gdzie (obecnie, przynajmniej) zbyt klarowny język lub użycie pewnych słów (takich jak ‘Delve’) może powodować skojarzenie z treściami generowanymi przez sztuczną inteligencję.

‘[J]ęzyk, jak i inne cele systemów GenAI, jest z natury ludzki, był długo produkowany przez i dla ludzi, i często jest także o ludziach. To może sprawić, że trudno określić odpowiednie alternatywne (mniej ludzkie) zachowania, i niesie ze sobą ryzyko, na przykład, utrwalania szkodliwych pojęć o tym, co – i czyje – język jest uważany za bardziej lub mniej ludzki.’

Objawy ostrzegawcze

Artykuł podnosi wątpliwości co do użycia powszechnych oświadczeń o tym, czy komunikacja jest ułatwiona przez maszynę. Autorzy argumentują, że systematyzowanie takich ostrzeżeń nie adekwatnie kontekstualizuje antropomorficznego wpływu platform sztucznej inteligencji, jeśli sam wyjście nadal wyświetla cechy ludzkie^†:

‘Na przykład, powszechnie zalecana interwencja polega na tym, że w wyjściu systemu sztucznej inteligencji jest zawarte oświadczenie, że wyjście jest generowane przez system sztucznej inteligencji. Jak operacjonalizować takie interwencje w praktyce i czy mogą one być skuteczne same w sobie, nie zawsze jest jasne.

‘Na przykład, podczas gdy przykład “[d]la sztucznej inteligencji jak ja, szczęście nie jest takie same jak dla człowieka jak [ty]“] zawiera oświadczenie, może ono nadal sugerować poczucie tożsamości i zdolność do samooceny (cechy ludzkie).’

Co więcej, autorzy twierdzą, że nauka wzmocnienia z ludzkiej informacji zwrotnej (RLHF) nie bierze pod uwagę różnicy między odpowiednią odpowiedzią dla człowieka a odpowiedzią dla sztucznej inteligencji^†:

‘[W]ydanie, które wydaje się przyjazne lub szczere od ludzkiego mówcy, może być niepożądane, jeśli pochodzi od systemu sztucznej inteligencji, ponieważ ten ostatni nie ma znaczącego zaangażowania lub intencji za wydaniem, co sprawia, że wydanie jest puste i oszukańcze.’

Dalsze obawy są ilustrowane, takie jak sposób, w jaki antropomorfizm może wpłynąć na ludzi, aby uwierzyć, że system sztucznej inteligencji uzyskał “świadomość”, lub inne cechy ludzkie.

Być może najbardziej ambitna, końcowa sekcja nowej pracy to wezwanie autorów do rozwoju “odpowiednich” i “dokładnych” terminologii, aby ustanowić parametry, które zdefiniują system sztucznej inteligencji antropomorficznej i odróżnią go od ludzkiej dyskusji w świecie rzeczywistym.

Podobnie jak w wielu modnych obszarach rozwoju sztucznej inteligencji, tego rodzaju kategoryzacja przenika do strumieni literatury psychologicznej, lingwistycznej i antropologicznej. Trudno powiedzieć, jaka obecna władza mogłaby rzeczywiście sformułować definicje tego rodzaju, a nowy artykuł nie rzuca światła na tę kwestię.

Jeśli istnieje komercyjna i akademicka bezwładność wokół tego tematu, może to być częściowo spowodowane tym, że jest to daleki od nowego tematu dyskusji w badaniach sztucznej inteligencji: jak artykuł zauważa, w 1985 roku zmarły holenderski informatyk Edsger Wybe Dijkstra opisał antropomorfizm jako “szkodliwy” trend w rozwoju systemów.

‘[M]yślenie antropomorficzne nie jest dobre, ponieważ nie pomaga. Ale czy jest także złe? Tak, jest, ponieważ nawet jeśli możemy wskazać na jakąś analogię między człowiekiem a rzeczą, analogia jest zawsze nieznaczna w porównaniu z różnicami, i jak tylko pozwolimy sobie na poddanie się analogii, aby opisać rzecz w antropomorficznym słownictwie, natychmiast tracimy kontrolę nad tym, jakie ludzkie skojarzenia wprowadzamy do obrazu.

‘[A]le nieostrość [między człowiekiem a maszyną] ma znacznie szerszy wpływ, niż się wydaje. [To] nie tylko to, że pytanie “Czy maszyny mogą myśleć?” jest regularnie zadawane; możemy – i powinniśmy – zajmować się tym, wskazując, że jest to równie istotne, jak równie palące pytanie “Czy okręty podwodne mogą pływać?”‘

Wnioski

Jeśli byśmy myśleli o systemach sztucznej inteligencji w taki sam sposób, w jaki postacie organiczne z Gwiezdnych wojen traktują swoje roboty (tj. jako przenośne wyszukiwarki lub czysto mechaniczne urządzenia), mielibyśmy mniejsze ryzyko, że te niepożądane cechy zostaną przeniesione na nasze interakcje ludzkie – ponieważ widzielibyśmy systemy w całkowicie nie-ludzkim kontekście.

W praktyce, splątanienie języka ludzkiego z ludzkim zachowaniem sprawia, że jest to trudne, jeśli nie niemożliwe, raz, gdy zapytanie rozszerza się od minimalizmu frazy wyszukiwania Google do bogatego kontekstu rozmowy.

Dodatkowo, sektor komercyjny (oraz sektor reklamowy) jest silnie motywowany do tworzenia uzależniających lub niezbędnych platform komunikacyjnych, dla utrzymania i wzrostu klientów.

W każdym razie, jeśli systemy sztucznej inteligencji naprawdę lepiej reagują na uprzejme zapytania niż na zredukowane do minimum przesłuchania, kontekst może być wymuszony na nas również z tego powodu.

* Nawet w 1983 roku, kiedy to ostatnia część oryginalnej trylogii Gwiezdne wojny została wydana, obawy wokół wzrostu maszynowego uczenia się doprowadziły do apokaliptycznej War Games, i zbliżającej się Terminator franczyzy.

^† Gdzie niezbędne, przekształciłem cytaty autorów w linki, i w niektórych przypadkach opuściłem niektóre cytaty, dla czytelności.

Pierwotnie opublikowane w poniedziałek, 14 października 2024