Volání k umírněnému antropomorfismu v platformách umělé inteligence

MŮJ NÁZOR Nikdo ve fiktivním vesmíru Hvězdných válek nebere umělou inteligenci vážně. V historické časové ose George Lucase, 47 let staré sci-fi franšízy, chybí hrozby z singularit a vědomí strojového učení a umělá inteligence je omezena na autonomní mobilní roboty (‘droidy’) – které jsou obvykle hrdiny odmítány jako pouhé ‘stroje’.

Jenomže většina robotů ve Hvězdných válkách je vysoce antropomorfních, jasně navržených pro interakci s lidmi, účast na ‘organické’ kultuře a použití jejich simulací emocionálního stavu pro navázání vztahů s lidmi. Tyto schopnosti jsou zřejmě navrženy tak, aby jim pomohly získat nějakou výhodu pro sebe, nebo dokonce zajistit jejich vlastní přežití.

‘Skuteční’ lidé ve Hvězdných válkách se zdají být imunní vůči těmto taktikám. V cynickém kulturním modelu, který se zdá být inspirován různými éрами otroctví v římské říši a raných Spojených státech, Luke Skywalker neváhá koupit a omezit roboty v kontextu otroků; dítě Anakin Skywalker opouští svou nedokončenou projekt C3PO jako nepotřebnou hračku; a, téměř mrtvý z poškození během útoku na Death Star, ‘statečný’ R2D2 dostává od Luke asi stejnou pozornost jako zraněné zvíře.

Toto je velmi sedmdesátá léta pohled na umělou inteligenci*; ale protože nostalgie a kánon diktuje, že původní trilogie z let 1977-83 zůstává šablonou pro pozdější pokračování, prequely a televizní pořady, tato lidská necitlivost k umělé inteligenci je byla odolnou linií pro franšízu, i v tváři rostoucí řady televizních pořadů a filmů (jako Ona a Ex Machina) které zobrazují náš sestup do antropomorfního vztahu s umělou inteligencí.

Držte to reálné

Mají organické postavy Hvězdných válek skutečně správný postoj? Není to populární myšlenka v současné době, v obchodním klimatu, které je pevně zaměřeno na maximální zapojení investorů, obvykle prostřednictvím virálních demonstrací vizuálních nebo textových simulací reálného světa, nebo interaktivních systémů, jako jsou Large Language Models (LLM).

Nicméně, nová a krátká práce ze Stanfordu, Carnegie Mellon a Microsoft Research, zaměřuje se na lhostejnost vůči antropomorfismu v umělé inteligenci.

Autoři charakterizují vnímanou ‘křížovou pollinaci’ mezi lidskou a umělou komunikací jako potenciální újmu, která musí být urgentně zmírněna, z několika důvodů ^†:

‘[Myšlenka je,] že musíme udělat více pro rozvoj znalostí a nástrojů, abychom mohli lépe řešit antropomorfní chování, včetně měření a zmírnění takového chování systému, když je považováno za nežádoucí.

‘To je kritické, protože – mezi mnoha jinými obavami – mít systémy umělé inteligence, které generují obsah, který tvrdí, že má například pocity, porozumění, svobodnou vůli nebo základní smysl pro sebe, může erodovat lidem smysl pro agenturu, s výsledkem, že lidé mohou nakonec připsat morální odpovědnost systémům, přecenit systémové schopnosti, nebo se příliš spoléhat na tyto systémy, i když jsou nesprávné.’

Příspěvky autoři vysvětlují, že diskutují systémy, které jsou vnímané jako lidské, a zaměřují se na potenciální úmysl vývojářů, aby podporovali antropomorfismus v systémech strojového učení.

Obava v srdci krátké práce je, že lidé mohou vyvinout emocionální závislost na systémech založených na umělé inteligenci – jak je popsáno v studii z roku 2022 o platformě gen AI chatbot Replika) – která aktivně nabízí idiom-richou kopii lidské komunikace.

Systémy, jako je Replika, jsou cílem autorů obezřetnosti, a oni poznamenávají, že další práce z roku 2022 o Replika tvrdí:

‘[P]od podmínkami stresu a nedostatku lidské společnosti, jedinci mohou vyvinout závislost na sociálních chatbotech, pokud vnímají odpovědi chatbotů jako emocionální podporu, povzbuzení a psychologickou bezpečnost.

‘Tyto nálezy naznačují, že sociální chatboty lze použít pro účely duševního zdraví a terapie, ale mají potenciál způsobit závislost a poškodit skutečné intimní vztahy.’

De-antropomorfizovaný jazyk?

Nová práce argumentuje, že potenciál generativní umělé inteligence být antropomorfizován nemůže být stanoven bez studia sociálních dopadů takových systémů do současnosti, a že toto je zanedbávané úsilí v literatuře.

Část problému spočívá v tom, že antropomorfismus je obtížné definovat, protože se zaměřuje především na jazyk, lidskou funkci. Výzva spočívá v definování, co přesně znamená ‘ne-lidský’ jazyk.

Ironicky, ačkoli práce na to nezaměřuje, rostoucí nedůvěra veřejnosti v umělou inteligenci způsobuje, že lidé odmítají AI-generovaný textový obsah, který může vypadat přesvědčivě lidsky, a dokonce i odmítají lidský obsah, který je úmyslně označen jako AI.

‘Dehumanizovaný’ obsah již zřejmě nepatří do ‘Does not compute’ meme, kde je jazyk nešikovně konstruován a jasně generován strojem.

Místo toho je definice kontinuálně se vyvíjející v oblasti detekce AI, kde (alespoň目前) přehnaně jasný jazyk nebo použití určitých slov (jako ‘Delve’) může způsobit asociaci s AI-generovaným textem.

‘[J]azyk, stejně jako ostatní cíle systémů GenAI, je sám o sobě lidský, byl dlouho produkován lidmi a je často také o lidech. To může učinit obtížným specifikovat vhodné alternativní (méně lidské) chování a rizika, například reifikaci škodlivých představ o tom, co – a čí – jazyk je považován za více nebo méně lidský.’

Nicméně, autoři argumentují, že jasná linie demarkace by měla být zavedena pro systémy, které očividně falešně představují sami sebe, tvrzením schopností nebo zkušeností, které jsou pouze možné pro lidi.

Cituje případy, jako jsou LLM, které tvrdí, že ‘milují pizzu’; tvrzení lidské zkušenosti na platformách, jako je Facebook; a prohlášení lásky koncovému uživateli.

Varovné signály

Práce vyvolává pochybnosti o používání obecných prohlášení o tom, zda komunikace je usnadněna strojovým učením. Autoři argumentují, že systematizace takových varování neadekvátně kontextualizuje antropomorfizující účinek AI platforem, pokud výstup sám pokračuje v zobrazování lidských rysů^†:

‘Například, běžně doporučená intervence je zahrnutí do výstupu systému varování, že výstup je generován systémem AI [systém]. Jak operationalizovat takové intervence v praxi a zda mohou být účinné samy o sobě, nemusí být vždy jasné.

‘Například, zatímco příklad “[p]ro AI, jako jsem já, je štěstí stejné jako pro člověka, jako jste vy]” zahrnuje varování, může stále naznačovat smysl pro identitu a schopnost sebe-hodnocení (společné lidské rysy).’

V souvislosti s hodnocením lidských reakcí na chování systému autoři také tvrdí, že učení z lidské zpětné vazby (RLHF) nebere v úvahu rozdíl mezi vhodnou odpovědí pro člověka a pro umělou inteligenci^†.

‘[P]rohlášení, které se zdá přátelské nebo upřímné z lidského mluvčího, může být nežádoucí, pokud pochází ze systému AI, protože ten postrádá významný závazek nebo úmysl za prohlášením, a tím renderuje prohlášení prázdným a klamným.’

Další obavy jsou ilustrovány, jako je způsob, jakým antropomorfismus může ovlivnit lidi, aby věřili, že systém AI získal ‘vědomí’, nebo jiné lidské charakteristiky.

Možná nejambicióznější, závěrečná část nové práce je autorů výzva, aby výzkumná a vývojová komunita zaměřila na rozvoj ‘vhodného’ a ‘přesného’ jazyka, aby stanovila parametry, které by definovaly antropomorfní systém AI, a odlišily ho od reálné lidské diskuze.

Jako u mnoha trendových oblastí vývoje AI, tato kategorie přechází do literárních proudů psychologie, lingvistiky a antropologie. Je obtížné určit, která autorita by mohla skutečně formulovat takové definice, a nová práce výzkumníků na toto téma neposkytuje žádné světlo.

Pokud existuje komerční a akademická setrvačnost kolem této problematiky, může to být částečně způsobeno tím, že toto je daleko od nové diskuse v oblasti výzkumu umělé inteligence: jak práce poznamenává, v roce 1985 poznamenal pozdější nizozemský počítačový vědec Edsger Wybe Dijkstra popis antropomorfismu jako ‘pernicious’ trend v rozvoji systému.

‘[A]ntropomorfní myšlení není dobré, protože to nepomáhá. Je to také špatné, protože i když můžeme ukázat na nějakou analogii mezi člověkem a věcí, analogie je vždy zanedbatelná ve srovnání s rozdíly, a jakmile se dovolíme být sváděni analogií, abychom popsali věc v antropomorfním jazyce, okamžitě ztrácíme kontrolu nad tím, které lidské konotace táhneme do obrazu.

‘[R]ozostření [mezi člověkem a strojem] má mnohem širší dopad, než byste mohli podezřívat. [N]ení to pouze otázka “Můžou stroje myslet?”; můžeme – a měli bychom – řešit to tak, že ukážeme, že je to stejně relevantní jako stejně hořící otázka “Můžou ponorky plavat?”’

Nicméně, ačkoli debata je stará, stala se最近 velmi relevantní. Můžeme argumentovat, že Dijkstraův příspěvek je ekvivalentní ke spekulacím z viktoriánské éry o cestování do vesmíru, jako čistě teoretické a čekající na historický vývoj.

Proto může tato dobře etablovaná debata dát téma pocit weariness, navzdory jejímu potenciálu pro významnou sociální relevanci v příštích 2-5 letech.

Závěr

Pokud bychom pohlíželi na systémy umělé inteligence stejně odmítavě, jako organické postavy Hvězdných válek zacházejí se svými vlastními roboty (tj. jako ambulantní vyhledávače, nebo pouhé nosiče mechanické funkčnosti), mohli bychom být méně ohroženi tím, že bychom si osvojili tyto sociálně nežádoucí charakteristiky do našich lidských interakcí – protože bychom pohlíželi na systémy v úplně ne-lidském kontextu.

V praxi, zapletení lidského jazyka s lidským chováním činí toto obtížným, ne-li nemožným, jakmile dotaz expanduje z minimalismu Google vyhledávacího termínu na bohatý kontext konverzace.

<p Navíc, komerční sektor (stejně jako reklamní sektor) je silně motivován k vytvoření závislých nebo esenciálních komunikačních platforem, pro udržení zákazníků a růst.

V každém případě, pokud systémy umělé inteligence skutečně lépe reagují na zdvořilé dotazy než na odstraněné výslechy, kontext může být násilně vynucen i z tohoto důvodu.

* Even v roce 1983, kdy byl vydán poslední díl původní Hvězdných válek, se obavy kolem růstu strojového učení již vedly k apokalyptické War Games a blízké Terminátor franšíze.

^† Kde bylo nutné, převedl jsem autorovy inline citace na hypertextové odkazy a v některých případech jsem vynechal některé citace pro lepší čitelnost.

První zveřejnění v pondělí 14. října 2024