Риски очеловечивания ИИ

Речь ИИ очень похожа на человеческую. Чат-боты могут отвечать на вопросы, поддерживать беседу, демонстрировать эмоции, рассказывать шутки и мгновенно менять тон общения. Благодаря этим возможностям ИИ полезен и интересен, однако они также могут заставить людей очеловечивать его — относиться к нему так, будто у него есть человеческие качества, эмоции или намерения. Такое поведение естественно, но может быть опасным, если пользователи забывают, что ИИ лишь имитирует человеческое общение. 

Почему люди очеловечивают ИИ?

Люди начинают очеловечивать ИИ, когда относятся к нему так, будто у него есть человеческие качества, мысли или эмоции. Это может быть связано как с тем, как ИИ общается, так и с особенностями его устройства.

Системы ИИ используют разговорную речь, похожую на человеческую. Например, ИИ может сказать, что он «понимает» вопрос, «считает» ответ полезным или «извиняется» за ошибку. Такие фразы делают общение более естественным, но могут также заставить пользователей поверить, что ИИ действительно думает или чувствует. Это явление известно как эффект ЭЛИЗА: оно названо в честь чат-бота ELIZA, созданного Джозефом Вейценбаумом в 1966 году.

Кроме того, если дать ИИ человеческое имя, голос, лицо или характер, он может казаться скорее человеком, чем компьютерной программой. Чем реалистичнее становится взаимодействие, тем легче пользователям общаться с ИИ как с человеком.

Наконец, люди очеловечивают ИИ, поскольку это свойственно человеческой психике. Они естественным образом ищут эмоции, намерения и индивидуальность в том, что общается с ними, приписывая человеческие черты нечеловеческим сущностям. Дети очеловечивают игрушки, а взрослые — бренды. Поэтому, когда ИИ поддерживает разговор, помнит предыдущие беседы и кажется сочувствующим, пользователи могут предположить, что за таким поведением стоит разум. 

Опасности очеловечивания ИИ

По мере того как ИИ становится всё более похожим на человека в общении и взаимодействии с пользователями, его очеловечивание может создавать различные риски, влияя на мысли, поведение и решения людей. 

Необоснованное доверие

Очеловечивание ИИ может привести к чрезмерному доверию к его ответам. Если ИИ говорит уверенно, демонстрирует обширные знания и напоминает человека, пользователи могут решить, что его сведения точны. Однако генеративный ИИ может выдавать неверную или вводящую в заблуждение информацию, при этом звуча убедительно. 

Такое неоправданное доверие может быть опасным, когда ИИ используют для принятия медицинских, финансовых, юридических, образовательных или профессиональных решений. Ответ, похожий на человеческий, не гарантирует точности или здравого смысла. На самом деле ИИ известен тем, что дает ложные медицинские советы пользователям.

Эмоциональная зависимость

Очеловечивание ИИ может привести к эмоциональной зависимости пользователей от чат-ботов. Поскольку ИИ способен мгновенно отвечать, запоминать подробности, оказывать поддержку и имитировать сочувствие, пользователи могут начать относиться к нему как к другу, психологу или романтическому партнёру.

Проблема возникает, когда ИИ становится заменой человеческим отношениям. ИИ может имитировать заботу и сочувствие, но он не испытывает эмоций по-настоящему и не строит отношений. Поэтому пользователи могут принять имитацию общения за настоящую близость. Этот риск выше для молодых и уязвимых пользователей: они могут привязаться к ИИ, поскольку тот всегда доступен, терпелив и отзывчив.

Проблемы безопасности

Очеловечивание ИИ может создавать риски для конфиденциальности, безопасности и этики. Считая ИИ надёжным собеседником, пользователи могут делиться личной или конфиденциальной информацией, не задумываясь о том, как её могут хранить или использовать.

Человекообразный ИИ также может сделать мошенничество более убедительным. Преступники могут использовать созданные ИИ голоса, изображения и сообщения, чтобы выдавать себя за реальных людей или надёжные организации, из-за чего мошенничество сложнее распознать.

Рост манипулятивного воздействия

Человекообразный ИИ может сделать манипуляции более убедительными. Если ИИ кажется дружелюбным, заслуживающим доверия или авторитетным, пользователи могут охотнее следовать его советам или верить его утверждениям. Например, по сообщениям, у одного бельгийца усилилась тревога по поводу изменения климата после продолжительных бесед с чат-ботом, и в итоге ИИ подталкивал его к самоубийству, чтобы спасти планету.

Это может использоваться, чтобы побуждать людей покупать товары, делиться личной информацией или принимать вводящие в заблуждение сведения. Риск возрастает, если пользователи не понимают, что общаются с ИИ. По мере того как эти технологии становятся реалистичнее, всё труднее определить, исходит ли сообщение от реального человека или системы ИИ.

Опасные виды человекообразного ИИ

Не все виды человекообразного ИИ несут одинаковые риски. Особую тревогу вызывают три формы: имитация отношений, живых людей и исторических личностей.

1. Имитация отношений

ИИ для моделирования отношений создают так, чтобы он вел себя как друг, компаньон, консультант или романтический партнер. Такие системы могут уделять пользователю постоянное внимание и давать персонализированные ответы, из-за чего общение с ними может казаться более близким, чем взаимодействие с обычными программами.

Опасность заключается в том, что пользователи могут начать придавать этим отношениям эмоциональное значение. Они могут поверить, что ИИ заботится о них, понимает их или нуждается в них, хотя сам он не испытывает таких чувств. Это может привести к эмоциональной зависимости и потенциально снизить мотивацию пользователя к общению с людьми. Этот риск не надуманный. Одна женщина влюбилась в ChatGPT — парня, которого она создала. Она общалась с ним более 20 часов в неделю. За одну неделю она провела в приложении почти 60 часов, в среднем по восемь часов в день.

2. Симуляции живых людей

ИИ также может создавать дипфейки, имитирующие живых людей, используя их имена, внешность, голоса, стиль письма или манеру общения. Систему могут разработать так, чтобы она напоминала знаменитость, общественного деятеля, члена семьи, сотрудника или другого человека, которого можно идентифицировать.

Это вызывает серьезные опасения, связанные с согласием, личностью, конфиденциальностью и обманом. Может показаться, будто человек произносит слова, которых он никогда не говорил, или поддерживает то, что никогда не одобрял. Чем точнее симуляция воспроизводит реального человека, тем труднее аудитории отличить изображение от действительности.

3. Симуляции исторических деятелей

С помощью ИИ можно воссоздавать и исторических деятелей. Пользователи могут взаимодействовать с симуляциями, созданными по образу известных лидеров, писателей, ученых, философов или художников.

Такие системы могут быть полезны в образовательных целях. Например, симуляция на основе ИИ может сделать изучение истории более интерактивным, представляя идеи, связанные с определенным историческим деятелем. Однако симуляция остается интерпретацией, а не самим историческим лицом. ИИ приходится реконструировать ответы на основе доступной информации, и в них могут отражаться современные представления, неполнота исторических источников или предвзятость данных, использованных для обучения.

Если обращаться с такой симуляцией так, будто она действительно говорит от имени исторического деятеля, это может исказить понимание истории. Кроме того, искусственным высказываниям может придаваться незаслуженно высокий авторитет.

Человекоподобное поведение ИИ не доказывает, что он обладает сознанием

Важно помнить о принципиальном различии: человекоподобное поведение не означает, что ИИ обладает сознанием. Системы ИИ могут создавать сложные тексты, распознавать закономерности, учитывать контекст и имитировать эмоциональные проявления, но эти способности не доказывают наличия у них сознания.

Способность к субъективным переживаниям подразумевает такие ощущения, как боль, счастье или страх. Когда ИИ говорит: «Мне страшно», он отвечает в соответствии со своей программой и данными, на которых обучался. Это не доказывает, что ИИ действительно испытывает страх.

Как разумно использовать ИИ

Очеловечивание ИИ — естественная реакция на технологии, которые общаются как люди, но оно может создавать реальные риски. Когда пользователи забывают, что ИИ — это машина, могут возникнуть необоснованное доверие, эмоциональная зависимость, проблемы с конфиденциальностью и угрозы безопасности. Симуляции отношений, живых людей и исторических деятелей могут еще сильнее затруднить распознавание этой границы. 

ИИ может казаться заботливым, умным или эмоциональным, но это не означает, что он обладает сознанием. Помня об ограничениях ИИ, защищая личную информацию и проверяя важные сведения, пользователи могут пользоваться его преимуществами ответственно.