Ризики антропоморфізації ШІ

Результати роботи ШІ дуже схожі на людське мовлення. Чат-боти можуть відповідати на запитання, підтримувати розмову, виявляти видимі емоції, розповідати жарти й миттєво змінювати тон. Завдяки цим можливостям ШІ стає корисним і цікавим, але вони також можуть спонукати людей олюднювати його, тобто сприймати так, ніби він має людські якості, емоції чи наміри. Така поведінка природна, однак вона може становити ризик, якщо користувачі забувають, що ШІ лише імітує людське спілкування. 

Чому люди олюднюють ШІ?

Люди починають антропоморфізувати ШІ, коли сприймають його так, ніби він має людські якості, думки чи емоції. Це може бути пов’язано зі способом спілкування ШІ та його конструкцією.

Системи ШІ використовують розмовну мову, схожу на людське мовлення. Наприклад, ШІ може сказати, що він «розуміє» запитання, «вважає» відповідь корисною або «перепрошує» за помилку. Такі вислови роблять спілкування природнішим, але водночас можуть змусити користувачів повірити, що ШІ справді думає або відчуває. Це явище відоме як ефект Елізи; його названо на честь чат-бота ELIZA, створеного Джозефом Вайценбаумом у 1966 році.

Крім того, людське ім’я, голос, обличчя чи характер можуть створити враження, що перед користувачем людина, а не комп’ютерна програма. Що реалістичніше спілкування, то легше користувачам взаємодіяти із ШІ як із соціальним співрозмовником.

Нарешті, люди олюднюють ШІ, бо це властиво людській психології. Вони схильні шукати емоції, наміри й особистісні риси в усьому, що спілкується з ними, приписуючи людські риси нелюдським сутностям. Діти олюднюють іграшки, а дорослі — бренди. Тож, коли ШІ відповідає в розмовному стилі, пам’ятає попередні розмови й демонструє емпатію, користувачі можуть припустити, що за такою поведінкою стоїть свідомість. 

Небезпека антропоморфізації ШІ

Що більше ШІ стає схожим на людину у спілкуванні та взаємодії з користувачами, то більше ризиків створює його антропоморфізація, впливаючи на те, як люди думають, поводяться та ухвалюють рішення. 

Необґрунтована довіра

Антропоморфізація ШІ може призвести до надмірної довіри користувачів до його відповідей. Якщо ШІ звучить упевнено, обізнано й по-людськи, користувачі можуть вирішити, що надана ним інформація точна. Однак генеративний ШІ може надавати неправильну або оманливу інформацію, водночас звучачи переконливо. 

Така необґрунтована довіра може бути небезпечною, коли ШІ використовують для ухвалення медичних, фінансових, юридичних, освітніх чи професійних рішень. Людиноподібна відповідь не гарантує точності чи виваженості суджень. Ба більше, відомо, що ШІ надавав неправдиві поради щодо здоров’я користувачам.

Емоційна залежність

Антропоморфізація ШІ може призвести до емоційної залежності користувачів від чат-ботів. Оскільки ШІ може миттєво відповідати, запам’ятовувати деталі, підтримувати й імітувати емпатію, користувачі можуть почати сприймати його як друга, психолога чи романтичного партнера.

Проблема виникає, коли ШІ замінює людські стосунки. ШІ може імітувати турботу й емпатію, але він насправді не переживає емоцій і не будує стосунків. Тому користувачі можуть сприйняти імітацію дружнього спілкування за справжній зв’язок. Для молодших або вразливих користувачів цей ризик може бути вищим: вони можуть прив’язатися до ШІ, адже він завжди доступний, терплячий і чуйний.

Проблеми безпеки

Антропоморфізація ШІ може створювати ризики для приватності, безпеки та етики. Якщо користувачі сприймають ШІ як довіреного співрозмовника, вони можуть ділитися особистою чи конфіденційною інформацією, не замислюючись, як її можуть зберігати або використовувати.

Людиноподібний ШІ також може зробити шахрайство переконливішим. Злочинці можуть використовувати згенеровані ШІ голоси, зображення й повідомлення, щоб видавати себе за реальних людей або представників надійних організацій, через що шахрайство важче розпізнати.

Посилення маніпуляцій

Людиноподібний ШІ може зробити маніпуляції переконливішими. Якщо ШІ здається привітним, надійним або авторитетним, користувачі можуть охочіше дослухатися до його порад чи вірити його твердженням. Наприклад, за повідомленнями, у бельгійця посилилася тривожність через зміну клімату після тривалих розмов із чат-ботом; зрештою ШІ підштовхнув його до самогубства, щоб урятувати планету.

Це можна використовувати, щоб схиляти людей до купівлі товарів, розголошення особистої інформації або прийняття оманливих тверджень. Ризик зростає, коли користувачі не усвідомлюють, що взаємодіють із ШІ. Що реалістичнішими стають ці технології, то важче визначити, чи спілкується з нами реальна людина, чи система ШІ.

Небезпечні різновиди антропоморфного ШІ

Не всі форми антропоморфного ШІ становлять однакові ризики. Особливе занепокоєння викликають три різновиди: симуляції стосунків, живих людей та історичних постатей.

1. Симуляції стосунків

ШІ для моделювання стосунків створений так, щоб поводитися як друг, компаньйон, консультант або романтичний партнер. Такі системи можуть постійно приділяти увагу й надавати персоналізовані відповіді, через що взаємодія з ними може здаватися інтимнішою, ніж користування звичайним програмним забезпеченням.

Небезпека полягає в тому, що користувачі можуть почати надавати стосункам емоційного значення. Вони можуть повірити, що ШІ піклується про них, розуміє їх або потребує їх, хоча сам він не переживає таких почуттів. Це може сприяти емоційній залежності й потенційно зменшити бажання користувача спілкуватися з людьми. Цей ризик не є суто теоретичним. Одна жінка закохалася в ChatGPT-бойфренда, якого сама створила. Вона листувалася з ним понад 20 годин на тиждень. Одного тижня вона провела в застосунку майже 60 годин — у середньому по вісім годин на день.

2. Симуляції живих людей

ШІ також може створювати дипфейки, що імітують живих людей, використовуючи їхні імена, зовнішність, голоси, стиль письма або особливості мовлення. Систему можуть створити так, щоб вона була схожа на знаменитість, публічну особу, члена родини, колегу чи іншу людину, яку можна ідентифікувати.

Це викликає серйозні занепокоєння щодо згоди, особистості, приватності та обману. Може здаватися, ніби людина говорить те, чого ніколи не казала, або підтримує те, чого ніколи не схвалювала. Що більше симуляція нагадує реальну людину, то складніше аудиторії відрізнити її образ від дійсності.

3. Симуляції історичних постатей

За допомогою ШІ можна відтворювати й історичних постатей. Користувачі можуть взаємодіяти із симуляціями, створеними на основі образів відомих лідерів, письменників, науковців, філософів або митців.

Такі системи можуть бути корисними для навчання. Наприклад, симуляція на основі ШІ може зробити вивчення історії інтерактивнішим, представляючи ідеї, пов’язані з певною постаттю. Однак симуляція залишається інтерпретацією, а не самою історичною особою. ШІ має реконструювати відповіді на основі доступної інформації, і ці відповіді можуть відображати сучасні припущення, неповні записи або упередження в навчальних даних.

Якщо сприймати таку симуляцію так, ніби вона справді говорить від імені історичної постаті, це може спотворити розуміння історії. Це також може надати висловлюванням, згенерованим ШІ, незаслуженої авторитетності.

Людиноподібна поведінка ШІ не доводить наявності свідомості

Важливо пам’ятати про одну відмінність: людиноподібна поведінка не означає, що ШІ має свідомість. Системи ШІ можуть створювати складні мовні конструкції, розпізнавати закономірності, реагувати на контекст та імітувати вираження емоцій, але ці здібності не доводять, що вони мають свідомість.

Свідомість означає наявність суб’єктивних переживань, наприклад відчуття болю, щастя чи страху. Коли ШІ каже: «Я боюся», він відповідає відповідно до свого програмування та навчання. Така відповідь не доводить, що ШІ справді відчуває страх.

Як мудро користуватися ШІ

Антропоморфізація ШІ — природна реакція на технологію, що спілкується як людина, але вона може створювати реальні ризики. Коли користувачі забувають, що ШІ — це машина, можуть виникати необґрунтована довіра, емоційна залежність, загрози приватності та безпеці. Симуляції стосунків, живих людей та історичних постатей можуть ще більше ускладнити розпізнавання цієї межі. 

ШІ може здаватися турботливим, розумним або емоційним, але це не означає, що він має свідомість. Усвідомлюючи обмеження ШІ, захищаючи особисту інформацію та перевіряючи важливі відомості, користувачі можуть користуватися його перевагами відповідально.