Заклик до поміркованого антропоморфізму в платформах штучного інтелекту

ВІДГУК Ніхто в вигаданому Зоряних війнах всесвіті не сприймає штучний інтелект серйозно. У історичній людській хронології 47-річного науково-фантастичного франчайзу Джорджа Лукаса загрози від сингулярностей та свідомості машин відсутні, а штучний інтелект обмежений автономними мобільними роботами (‘дроїдами’) – яких протагоністи звичайно відхиляють як прості ‘машини’.

Відтак більшість Зоряних війн роботів є високо антропоморфними, явно розробленими для взаємодії з людьми, участі в ‘органічній’ культурі та використання їхніх симулякрів емоційного стану для зв’язку з людьми. Ці можливості, очевидно, розроблені для того, щоб вони здобули певну перевагу для себе або навіть забезпечили своє виживання.

‘Справжні’ люди Зоряних війн здаються незворушними до цих тактик. У цинічній культурній моделі, очевидно, натхненній різними епохами рабства в Римській імперії та ранній Америці, Люк Скайвокер не вагається купувати та стримувати роботів у контексті рабів; дитиною Анакін Скайвокер кинутий свій недопрацьований проект С-3ПО як незакоханий іграшка; і, майже мертвий від пошкоджень під час атаки на Зірку Смерті, ‘хоробрий’ Р2-Д2 отримує від Люка близько такої ж турботи, як і поранений домашній тварина.

Це дуже 1970-ті погляди на штучний інтелект*; але оскільки ностальгія та канон диктують, що оригінальна трилогія 1977-83 років залишається шаблоном для пізніших сіквелів, приквелів та телешоу, ця людська байдужість до штучного інтелекту була стійким мотивом для франчайзу, навіть у світлі зростаючого списку телешоу та фільмів (таких як Її та Екз Махіна), які зображують наш спуск у антропоморфічні відносини зі штучним інтелектом.

Залишайте все реальним

Чи мають органичні Зоряні війни персонажі справді правильну позицію? Це не популярна думка зараз, у бізнес-кліматі, який сильно мотивований на максимальну взаємодію з інвесторами, зазвичай через вірусні демонстрації візуальної або текстової симуляції реального світу чи людських взаємодій, таких як великомасштабні мови моделі (LLM).

Натомість нова та коротка робота Стенфорда, Карнегі-Меллона та досліджень Майкрософту націлена на байдужість навколо антропоморфізму в штучному інтелекті.

Автори характеризують сприймане ‘перекрестне запилення’ між людською та штучною комунікацією як потенційну шкоду, яку потрібно терміново пом’якшити, з кількох причин^†:

‘[Ми] вважаємо, що нам потрібно зробити більше для розвитку знань і інструментів для кращого подолання антропоморфного поведінки, включаючи вимірювання та пом’якшення таких системних поведінь, коли вони вважаються нежаданими.

‘Це критично, оскільки – серед багатьох інших проблем – наявність систем штучного інтелекту, які генерують контент, що претендує на володіння, наприклад, почуттями, розумінням, вільною волею чи основним відчуттям себе, може підірвати людське чуття агентності, в результаті чого люди можуть закінчитися тим, що відкладуть моральну відповідальність системам, переоцінюють можливості системи, або надміру залежать від цих систем, навіть коли вони неправильні.’

Доповідачі уточнюють, що вони обговорюють системи, які сприймаються як людські, і центруються навколо потенційного наміру розробників сприяти антропоморфізму в системах машин.

Основна проблема статті полягає в тому, що люди можуть розвинути емоційну залежність від систем, заснованих на штучному інтелекті – як описано в дослідженні 2022 року на платформі генеративного штучного інтелекту Replika) – які активно пропонують ідіом-багату копію людських комунікацій.

Системи, такі як Replika, є об’єктом обережності авторів, і вони зазначають, що подальша робота 2022 року про Replika стверджувала:

‘[П]ід умовами стресу та відсутності людської компанії, особи можуть розвинути прикріплення до соціальних чат-ботів, якщо вони сприймають відповіді чат-бота як емоційну підтримку, заохочення та психологічну безпеку.

‘Ці висновки свідчать, що соціальні чат-боти можуть бути використані для психічного здоров’я та терапевтичних цілей, але мають потенціал спричинити залежність та шкоду реальним інтимним відносинам.’

Деантропоморфізований мовлення?

Нова робота стверджує, що потенціал генерації штучного інтелекту не може бути встановлений без вивчення соціальних наслідків таких систем на сьогоднішній день, і що це є знехтуваною справою в літературі.

Частина проблеми полягає в тому, що антропоморфізм важко визначити, оскільки він центрується, перш за все, на мові, людській функції. Виклик полягає, отже, у визначенні того, що саме ‘не людська’ мова виглядає чи звучить.

Іронічно, хоча робота не торкається цього, зростаюча недовіра до штучного інтелекту все частіше призводить до того, що люди відхиляють штучно створений текстовий контент, який може здаватися правдоподібно людським, і навіть відхиляють людський контент, який спеціально помічений як штучний інтелект.

Отже ‘де-гуманізований’ контент аргументно вже не потрапляє до ‘Does not compute’ мему, в якому мова конструктивно незграбна і явно генерується машиною.

Натомість визначення постійно еволюціонує в сценарії виявлення штучного інтелекту, де (на даний момент, принаймні) надмірно чітка мова або використання певних слів (таких як ‘Дельв‘) можуть спричинити асоціацію зі штучно створеним текстом.

‘[М]ова, як і інші цілі генеративних систем штучного інтелекту, є вроджено людською, довгий час вироблялася людьми для людей і часто також про людей. Це може зробити важким визначення відповідної альтернативної (менш людської) поведінки, і ризикує, наприклад, реалізувати шкідливі поняття про те, що – чиєї мова вважається більш або менш людською.’

Однак автори стверджують, що чітка лінія демаркації повинна бути проведена для систем, які явно неправильно представляють себе, претендуючи на здібності або досвід, які можливі тільки для людей.

Вони цитують випадки, такі як LLM, які претендують на ‘любов до піци’; претендують на людський досвід на платформах, таких як Facebook; і заявляють про любов до кінцевому користувачу.

Ознаки попередження

Стаття викликає сумнів щодо використання бланкетних роз’яснень про те, чи комунікація здійснюється за допомогою машинного навчання. Автори стверджують, що систематизація таких попереджень не адекватно контекстуалізує антропоморфізуючий ефект платформ штучного інтелекту, якщо сам вивід продовжує демонструвати людські риси^†:

‘Наприклад, спільно рекомендоване втручання полягає у включенні до виводу системи штучного інтелекту роз’яснення про те, що вивід генерується системою штучного інтелекту. Як оперативізувати такі втручання на практиці та чи можуть вони бути ефективними самі по собі, не завжди зрозуміло.

‘Наприклад, хоча приклад “[ф]ор an AI like me, happiness is not the same as for a human like [you]” включає роз’яснення, воно все ж може припускати відчуття ідентичності та здатність до самооцінки (звичайні людські риси).’

Відносно оцінки людських реакцій на поведінку системи, автори також стверджують, що вивчення з підкріпленням від людської обратної зв’язі (RLHF) не бере до уваги різницю між відповідною реакцією для людини та для штучного інтелекту^†.

‘[В]ираз, який здається дружнім або справжнім від людського оратора, може бути нежаданим, якщо він виникає з системи штучного інтелекту, оскільки остання не має суттєвого зобов’язання чи наміру за виразом, тим самим роблячи вираз порожнім та обманливим.’

Додаткові проблеми ілюструються, такі як те, як антропоморфізм може вплинути на людей, щоб вони вірили, що система штучного інтелекту отримала ‘свідомість’, або інші людські характеристики.

Можливо, найбільш амбіційна, заключна частина нової роботи полягає в тому, що автори закликають дослідницьку та розробницьку спільноту спрямувати зусилля на розвиток ‘відповідної’ та ‘точної’ термінології, щоб встановити параметри, які б визначали антропоморфну систему штучного інтелекту, і відрізняли її від реальної людської дискусії.

Як і у багатьох модних галузях розвитку штучного інтелекту, такий тип категоризації перетинається з літературними потоками психології, лінгвістики та антропології. Це складно знати, яка поточна влада могла б фактично сформулювати визначення такого типу, і нова робота дослідників не проливає світла на цю справу.

Якщо існує комерційна та академічна інерція щодо цієї теми, це можна частково пояснити тим, що це далеко не нова тема обговорення в дослідженнях штучного інтелекту: як зазначає стаття, у 1985 році покійний голландський комп’ютерний вчений Едсгер Вайбе Дейкстра описав антропоморфізм як ‘шкідливий’ тренд у розвитку систем.

‘[А]нтропоморфне мислення не добре в тому сенсі, що воно не допомагає. Але воно також погане, оскільки навіть якщо ми можемо вказати на деяку аналогію між Людина та Річ, аналогія завжди незначна у порівнянні з відмінностями, і як тільки ми дозволимо собі бути спокушеними аналогією, щоб описати Річ у антропоморфній термінології, ми негайно втрачаємо контроль над тим, які людські конотації ми тягнемо в картину.

‘…Але розмиття [між людиною та машиною] має набагато ширший вплив, ніж ви можете підозрювати. [Воно] не тільки те, що питання “Чи можуть машини думати?” регулярно піднімається; ми можемо – і повинні – займатися цим, вказуючи на те, що воно так само актуально, як і рівно так само палке питання “Чи можуть підводні човни плавати?”’

Однак, хоча дебати старі, вони тільки нещодавно стали дуже актуальними. Це можна порівняти з вікторіанською спекуляцією про космічні подорожі, як чисто теоретичну та очікуючу історичних розробок.

Отже ця добре встановлена дискусія може надати цій темі відчуття втоми, незважаючи на її потенціал для значної соціальної актуальності в наступні 2-5 років.

Висновок

Якщо б ми думали про системи штучного інтелекту так само відсторонено, як органичні Зоряні війни персонажі ставляться до своїх власних роботів (тобто як амбулаторні пошукові системи або прості передавачі механічної функціональності), ми, ймовірно, були б менш схильні до звичування цих соціально нежаданих характеристик над нашими людськими взаємодіями – оскільки ми б розглядали ці системи в цілком не людському контексті.

На практиці переплетення людської мови з людською поведінкою робить це складним, якщо не неможливим, як тільки запит розширюється від мінімалізму пошукового запиту Google до багатого контексту розмови.

Крім того, комерційний сектор (а також рекламний сектор) сильно мотивований на створення залежних або життєво важливих комунікаційних платформ, для утримання клієнтів та зростання.

У будь-якому випадку, якщо системи штучного інтелекту справді відповідають краще на ввічливі запити ніж на спрощені допити, контекст може бути примусовим і з цієї причини.

* Навіть у 1983 році, році, коли вийшов останній епізод оригінальної Зоряних війн, страхи навколо зростання машинного навчання призвели до апокаліптичних Війн ігор та майбутньої Термінатор франшизи.

^† Де необхідно, я перетворив внутрішні цитати авторів на гіперпосилання та в деяких випадках опустив деякі цитати для читабельності.

Перша публікація понеділка, 14 жовтня 2024 року