Призыв к умеренному антропоморфизму в платформах ИИ

МНЕНИЕ Никто в вымышленной вселенной Звездных войн не воспринимает ИИ серьезно. В исторической хронологии человечества 47-летней научно-фантастической франшизы Джорджа Лукаса угрозы от сингулярности и сознания машин отсутствуют, и ИИ ограничен автономными мобильными роботами (‘дроидами’) – которые привычно отвергаются протагонистами как простые ‘машины’.

Однако большинство роботов Звездных войн высоко антропоморфны, явно разработаны для взаимодействия с людьми, участия в ‘органической’ культуре и использования своих симулякров эмоционального состояния для связи с людьми. Эти возможности, по-видимому, предназначены для того, чтобы помочь им получить некоторое преимущество для себя или даже обеспечить их собственное выживание.

‘Настоящие’ люди Звездных войн кажутся невосприимчивыми к этим тактикам. В циничной культурной модели, видимо, вдохновленной различными эпохами рабства в Римской империи и ранних Соединенных Штатах, Люк Скайуокер не колеблется, чтобы купить и ограничить роботов в контексте рабов; ребенок Анакин Скайуокер бросает свою незавершенную проект C3PO, как неполюбившуюся игрушку; и, gần умерший от повреждений, полученных во время атаки на Звезду Смерти, ‘храбрый’ R2D2 получает примерно то же внимание от Люка, что и раненый питомец.

Это очень 1970-е представление об искусственном интеллекте*; но поскольку ностальгия и канон диктуют, что оригинальная трилогия 1977-83 годов остается шаблоном для более поздних сиквелов, приквелов и телешоу, это человеческое безразличие к ИИ было устойчивой линией для франшизы, даже перед лицом растущего списка телешоу и фильмов (таких как Она и Экс Махина), которые изображают наше спуск в антропоморфные отношения с ИИ.

Сохраните реальность

Действительно ли персонажи Звездных войн имеют правильное отношение? Это не популярная мысль в настоящее время, в деловой климате, который сильно мотивирован на максимальное взаимодействие с инвесторами, обычно через вирусные демонстрации визуальной или текстовой симуляции реального мира или человеческих систем, таких как большие языковые модели (LLM).

Тем не менее, новая и краткая работа из Стэнфорда, Карнеги-Меллона и исследований Майкрософта, направлена на безразличие вокруг антропоморфизма в ИИ.

Авторы характеризуют воспринимаемое ‘пересечение’ между человеческими и искусственными коммуникациями как потенциальный вред, который необходимо срочно смягчить, по нескольким причинам ^†:

‘[Мы] считаем, что нам нужно сделать больше, чтобы разработать знания и инструменты, чтобы лучше решать антропоморфное поведение, включая измерение и смягчение такого поведения системы, когда оно считается нежелательным.

‘Делать это критически важно, потому что – среди многих других проблем – наличие ИИ-систем, генерирующих контент, утверждающий, что имеет, например, чувства, понимание, свободную волю или основное чувство себя, может подорвать чувство агентности людей, в результате чего люди могут оказаться атрибутировать моральную ответственность системам, переоценивая возможности системы или чрезмерно полагаясь на эти системы, даже когда они неверны.’

Вкладчики уточняют, что они обсуждают системы, которые воспринимаются как человеческие, и сосредоточены на потенциальном намерении разработчиков поощрять антропоморфизм в машинных системах.

Проблема в сердце короткой работы заключается в том, что люди могут развить эмоциональную зависимость от ИИ-основанных систем – как описано в 2022 году на платформе генеративного ИИ-чата Replika) – которая активно предлагает богатую копию человеческих коммуникаций.

Системы, такие как Replika, являются целью осторожности авторов, и они отмечают, что дальнейшая работа 2022 года о Replika утверждала:

‘[П]ри условиях стресса и отсутствия человеческого общения люди могут развить привязанность к социальным чат-ботам, если они воспринимают ответы чат-ботов как эмоциональную поддержку, поощрение и психологическую безопасность.

‘Эти результаты предполагают, что социальные чат-боты могут быть использованы для целей психического здоровья и терапии, но имеют потенциал вызвать зависимость и нанести вред реальным интимным отношениям.’

Деантропоморфизированный язык?

Новая работа утверждает, что потенциал генеративного ИИ быть антропоморфизированным не может быть установлен без изучения социального воздействия таких систем на сегодняшний день, и что это пренебрегаемое преследование в литературе.

Часть проблемы заключается в том, что антропоморфизм трудно определить, поскольку он центрируется наиболее важным образом на языке, человеческой функции. Вызов заключается, следовательно, в определении того, что ‘не-человеческий’ язык именно звучит или выглядит.

Иронично, хотя работа не затрагивает это, растущее недоверие к ИИ заставляет людей отказаться от ИИ-генерируемого текстового контента, который может показаться правдоподобно человеческим, и даже отказаться от человеческого контента, который намеренно помечен как ИИ.

Следовательно, ‘де-гуманизированный’ контент, по-видимому, больше не попадает в ‘Does not compute’ мем, где язык неуклюже сконструирован и явно сгенерирован машиной.

Однако определение постоянно эволюционирует в сцене обнаружения ИИ, где (по крайней мере сейчас) чрезмерно ясный язык или использование определенных слов (таких как ‘Delve’) может вызвать ассоциацию с ИИ-генерируемым текстом.

‘[Я]зык, как и другие цели систем GenAI, является по своей сути человеческим, был долгое время производится людьми и для людей, и часто также о людях. Это может сделать трудным указание подходящих альтернативных (менее человеческих) поведений и рисков, например, реифицируя вредные представления о том, что – и чей – язык считается более или менее человеческим.’

Тем не менее, авторы утверждают, что четкая линия демаркации должна быть проведена для систем, которые явно неправильно представляют себя, утверждая способности или опыт, которые возможны только для людей.

Они цитируют случаи, такие как LLM, утверждающие, что ‘любят пиццу’; утверждая человеческий опыт на платформах, таких как Facebook; и объявляющие любовь конечному пользователю.

Предупреждающие знаки

Работа вызывает сомнения относительно использования простых предупреждений о том, является ли коммуникация облегчена машинным обучением. Авторы утверждают, что систематизация таких предупреждений не адекватно контекстуализирует антропоморфизирующий эффект ИИ-платформ, если сам вывод продолжает демонстрировать человеческие черты^†:

‘Например, часто рекомендуемое вмешательство заключается в включении в вывод ИИ-системы предупреждения о том, что вывод сгенерирован ИИ [системой]. Как операционализировать такие вмешательства на практике и являются ли они эффективными в одиночку, может быть не всегда ясно.

‘Например, хотя пример “[д]ля ИИ, подобного мне, счастье не то же самое как для человека, такого как [вы]” включает предупреждение, оно все равно может предположить чувство идентичности и способность к самооценке (общие человеческие черты).’

В отношении оценки человеческих реакций на поведение системы авторы также утверждают, что обучение с подкреплением от человеческой обратной связи (RLHF) не учитывает разницу между подходящим ответом для человека и для ИИ^†.

‘[З]аявление, которое кажется дружелюбным или искренним от человеческого говорящего, может быть нежелательным, если оно возникает из ИИ-системы, поскольку последняя лишена осмысленного обязательства или намерения за заявлением, тем самым делая заявление пустым и обманчивым.’

Дальнейшие проблемы иллюстрируются, такие как то, как антропоморфизм может повлиять на людей, чтобы поверить, что ИИ-система приобрела ‘сознание’, или другие человеческие характеристики.

Возможно, наиболее амбициозный, заключительный раздел новой работы – это призыв авторов к тому, чтобы исследовательское и разработочное сообщество стремилось разработать ‘подходящую’ и ‘точную’ терминологию, чтобы установить параметры, которые бы определили антропоморфную ИИ-систему, и отличили ее от реального человеческого дискурса.

Как и во многих трендовых областях разработки ИИ, такое категоризирование пересекается с литературными потоками психологии, лингвистики и антропологии. Трудно знать, какая текущая власть могла бы фактически сформулировать определения этого типа, и новые исследователи работы не проливают свет на этот вопрос.

Если есть коммерческая и академическая инерция вокруг этой темы, это может быть частично связано с тем, что это далеко не новая тема обсуждения в исследованиях ИИ: как работа отмечает, в 1985 году покойный голландский компьютерный ученый Эдсгер Вайбе Дейкстра описал антропоморфизм как ‘пагубную’ тенденцию в разработке системы.

‘[А]нтропоморфное мышление не хорошо в том смысле, что оно не помогает. Но оно также плохо, потому что даже если мы можем указать на некоторую аналогию между Человеком и Вещью, аналогия всегда незначительна по сравнению с различиями, и как только мы позволяем себе быть соблазненными аналогией, чтобы описать Вещь в антропоморфной терминологии, мы сразу же теряем контроль над тем, какие человеческие коннотации мы тащим в картину.

‘…Но размытие [между человеком и машиной] имеет гораздо более широкое воздействие, чем вы можете подозревать. [Это] не только то, что вопрос “Могут ли машины думать?” регулярно поднимается; мы можем – и должны – иметь дело с этим, указывая на то, что это так же актуально, как и равным образом горящий вопрос “Могут ли субмарины плавать?”’

Однако, хотя дебаты стары, они только недавно стали очень актуальными. Можно утверждать, что вклад Дейкстры эквивалентен викторианским спекуляциям о космических путешествиях, как чисто теоретическим и ожидая исторических событий.

Следовательно, эта хорошо установленная дискуссия может дать теме чувство усталости, несмотря на ее потенциал для значительного социального значения в течение следующих 2-5 лет.

Заключение

Если бы мы думали об ИИ-системах таким же пренебрежительным образом, как персонажи Звездных войн относятся к своим собственным роботам (т. е. как к амбулаторным поисковым системам или простым носителям механической функциональности), мы, возможно, были бы менее склонны к привыканию этих социально нежелательных характеристик к нашим человеческим взаимодействиям – потому что мы бы рассматривали системы в совершенно нечеловеческом контексте.

На практике, запутывание человеческого языка с человеческим поведением делает это трудным, если не невозможным, как только запрос расширяется от минимализма поискового запроса Google до богатого контекста разговора.

Кроме того, коммерческий сектор (а также рекламный сектор) сильно мотивирован на создание зависимых или необходимых коммуникационных платформ, для удержания и роста клиентов.

В любом случае, если ИИ-системы действительно лучше реагируют на вежливые запросы, чем на сведенные к минимуму допросы, контекст может быть навязан нам также по этой причине.

* Даже в 1983 году, году выпуска последней части оригинальной Звездных войн, страхи вокруг роста машинного обучения привели к апокалиптическим War Games и надвигающейся Terminator франшизе.

^† Где необходимо, я преобразовал внутренние цитаты авторов в гиперссылки и в некоторых случаях опустил некоторые цитаты для читаемости.

Опубликовано в понедельник, 14 октября 2024 года