Rizika antropomorfizace AI

Výstupy AI se velmi podobají lidské řeči. Chatboti dokážou odpovídat na otázky, vést rozhovory, projevovat zdánlivé emoce, vyprávět vtipy a pohotově měnit tón. Díky těmto schopnostem je AI užitečná a poutavá, mohou však také vést lidi k tomu, že ji antropomorfizují neboli jí přisuzují lidské vlastnosti, emoce či záměry. Takové chování je přirozené, může se ale stát rizikovým, když uživatelé zapomenou, že AI lidskou komunikaci pouze napodobuje. 

Proč lidé polidšťují AI?

K antropomorfizaci AI dochází, když se k ní lidé začnou chovat, jako by měla lidské vlastnosti, myšlenky či emoce. Může k tomu přispívat způsob, jakým AI komunikuje, i to, jak je navržena.

Systémy AI používají konverzační jazyk podobný lidské řeči. AI může například říct, že otázce „rozumí“, že si „myslí“, že je odpověď užitečná, nebo se za chybu „omluvit“. Tyto fráze sice působí přirozeně, mohou však uživatele vést k přesvědčení, že AI skutečně myslí nebo něco cítí. Tento jev je známý jako efekt ELIZA a je pojmenován po chatbotu ELIZA, kterého v roce 1966 vytvořil Joseph Weizenbaum.

Když AI dostane lidské jméno, hlas, tvář nebo osobnost, může působit spíše jako člověk než jako počítačový program. Čím realističtější interakce je, tím snáze uživatelé na AI reagují společensky.

Lidé AI antropomorfizují také proto, že je to přirozené z hlediska lidské psychologie. Věcem, které s nimi komunikují, přirozeně přisuzují emoce, záměry a osobnost a připisují nelidským entitám lidské vlastnosti. Děti antropomorfizují hračky, zatímco dospělí polidšťují značky. Když tedy AI konverzuje, pamatuje si předchozí rozhovory a působí empaticky, mohou uživatelé předpokládat, že za tímto chováním stojí nějaká mysl. 

Nebezpečí antropomorfizace AI

Jak se AI stále více podobá člověku způsobem, jakým komunikuje a jedná s uživateli, může její antropomorfizace přinášet různá rizika ovlivňující to, jak lidé přemýšlejí, chovají se a rozhodují. 

Nepřiměřená důvěra

Antropomorfizace AI může způsobit, že uživatelé jejím odpovědím důvěřují až příliš. Když AI působí sebejistě, informovaně a lidsky, mohou uživatelé předpokládat, že její informace jsou přesné. Generativní AI však může poskytovat nesprávné nebo zavádějící informace a přitom znít přesvědčivě. 

Tato přehnaná důvěra může být nebezpečná, pokud se AI používá při rozhodování v oblasti zdravotnictví, financí, práva, vzdělávání nebo v profesním životě. Odpověď působící lidsky nezaručuje přesnost ani dobrý úsudek. AI je dokonce známá tím, že poskytuje falešné zdravotní rady uživatelům.

Emoční závislost

Antropomorfizace AI může vést k tomu, že se na ní uživatelé stanou emočně závislými. Protože AI dokáže okamžitě reagovat, pamatovat si podrobnosti, poskytovat podporu a napodobovat empatii, mohou se k ní uživatelé začít chovat jako k příteli, poradci nebo romantickému partnerovi.

Problém nastává, když se AI stane náhradou za lidské vztahy. AI dokáže napodobovat péči a empatii, ale sama skutečně neprožívá emoce ani nenavazuje vztahy. Uživatelé si proto mohou napodobované společenství splést se skutečným poutem. Toto riziko může být větší u mladších nebo zranitelných uživatelů, kteří si k AI mohou vytvořit citovou vazbu, protože je vždy dostupná, trpělivá a vstřícná.

Bezpečnostní rizika

Antropomorfizace AI může přinášet rizika v oblasti soukromí, bezpečnosti i etiky. Když uživatelé považují AI za důvěryhodného společníka, mohou jí sdělovat osobní nebo důvěrné informace, aniž by zvážili, jak mohou být uchovávány nebo využity.

AI působící lidsky může také napomáhat přesvědčivějším podvodům. Zločinci mohou pomocí hlasů, obrázků a zpráv vytvořených AI napodobovat skutečné osoby nebo důvěryhodné organizace, a ztížit tak odhalení podvodu.

Snazší manipulace

AI působící lidsky může manipulaci učinit přesvědčivější. Když AI vypadá přátelsky, důvěryhodně nebo autoritativně, mohou uživatelé spíše následovat její doporučení nebo uvěřit jejím tvrzením. Belgický muž údajně po dlouhých rozhovorech s chatbotem pociťoval stále větší úzkost z klimatických změn, až ho AI nakonec nabádala, aby spáchal sebevraždu a zachránil tak planetu.

Toho lze využít k ovlivňování lidí, aby kupovali produkty, sdíleli osobní informace nebo přijímali zavádějící informace. Riziko se zvyšuje, když si uživatelé neuvědomují, že komunikují s AI. Čím realističtější tyto technologie jsou, tím obtížnější je rozpoznat, zda komunikace pochází od skutečného člověka, nebo od systému AI.

Nebezpečné podoby antropomorfní AI

Ne všechny podoby antropomorfní AI představují stejná rizika. Zvláštní obavy vzbuzují tři typy: simulace vztahů, žijících lidí a historických osobností.

1. Simulace vztahů

Umělá inteligence pro simulaci vztahů je navržena tak, aby se chovala jako přítel, společník, poradce nebo romantický partner. Tyto systémy mohou věnovat uživatelům neustálou pozornost a poskytovat personalizované odpovědi, díky čemuž může interakce působit důvěrněji než používání běžného softwaru.

Nebezpečí spočívá v tom, že uživatelé mohou vztahu začít přikládat emocionální význam. Mohou se domnívat, že AI na nich záleží, rozumí jim nebo je potřebuje, přestože tyto pocity sama neprožívá. To může podporovat citovou závislost a potenciálně snižovat motivaci uživatele vyhledávat kontakt s lidmi. Toto riziko není jen teoretické. Jedna žena se zamilovala do ChatGPT, kterého si vytvořila jako přítele. Chatovala s ním více než 20 hodin týdně. Během jednoho týdne strávila v aplikaci téměř 60 hodin, v průměru osm hodin denně.

2. Simulace žijících osob

AI může také vytvářet deepfaky napodobující žijící osoby s využitím jejich jmen, vzhledu, hlasu, stylu psaní nebo způsobu konverzace. Systém může být navržen tak, aby se podobal celebritě, veřejně známé osobnosti, členovi rodiny, zaměstnanci nebo jiné identifikovatelné osobě.

To vyvolává vážné otázky týkající se souhlasu, identity, soukromí a klamání. Může se zdát, že někdo říká něco, co nikdy neřekl, nebo podporuje něco, co nikdy nepodporoval. Čím více se simulace podobá skutečné osobě, tím obtížnější může být pro publikum rozlišit zobrazení od skutečnosti.

3. Simulace historických osobností

Pomocí AI lze znovu vytvořit také historické osobnosti. Uživatelé mohou komunikovat se simulacemi vytvořenými podle slavných vůdců, spisovatelů, vědců, filozofů nebo umělců.

Tyto systémy mohou mít vzdělávací přínos. Simulace AI může například dějiny zpřístupnit interaktivnější formou tím, že představí myšlenky spojované s určitou osobností. Stále však jde o interpretaci, nikoli o samotnou historickou osobnost. AI musí odpovědi rekonstruovat na základě dostupných informací a tyto odpovědi mohou odrážet moderní předpoklady, neúplné záznamy nebo zkreslení v trénovacích datech.

Pokud s takovou simulací zacházíme, jako by skutečně mluvila jménem historické osobnosti, může to zkreslit naše chápání dějin. Umělým výrokům to také může propůjčit nezaslouženou míru autority.

Lidské chování AI nedokazuje schopnost vědomého prožívání

Důležité je mít na paměti, že lidské chování neznamená, že AI má schopnost vědomého prožívání. Systémy AI dokážou vytvářet sofistikovaný jazyk, rozpoznávat vzorce, reagovat na kontext a napodobovat projevy emocí, tyto schopnosti však nedokazují, že mají vědomí.

Schopnost vědomého prožívání znamená mít subjektivní prožitky, například cítit bolest, štěstí nebo strach. Když AI řekne „Bojím se“, reaguje na základě svého naprogramování a tréninku. Tato odpověď nedokazuje, že AI skutečně cítí strach.

Jak AI používat s rozvahou

Polidšťování AI je přirozenou reakcí na technologie, které komunikují jako člověk, může však přinášet skutečná rizika. Když uživatelé zapomínají, že AI je stroj, mohou se objevit neopodstatněná důvěra, citová závislost, obavy o soukromí i bezpečnostní hrozby. Simulace vztahů, žijících osob a historických osobností mohou tuto hranici ještě více znejasnit. 

AI může působit starostlivě, inteligentně nebo emocionálně, to však neznamená, že má schopnost vědomého prožívání. Pokud si uživatelé uvědomují omezení AI, chrání osobní údaje a ověřují důležité informace, mohou využívat její přínosy a zároveň ji používat zodpovědně.