Кризисные коммуникации в эпоху ИИ: когда ваш чат-бот выходит из-под контроля, каков новый подход?

С учетом текущего состояния интернета бренды конкурируют в интеграции чат-ботов, работающих на основе ИИ, для оптимизации взаимодействия с клиентами и бизнесом. Однако с увеличением интеллекта возникает беспрецедентная опасность. Когда чат-бот ИИ выходит из-под контроля и публикует недопустимый, вводящий в заблуждение или клеветнический контент, ущерб может быть нанесен быстро и безжалостно. Вопрос в том: как бренды реагируют, когда их ИИ выходит из-под контроля?

Новая граница риска бренда

Недавние события намекают на эту потенциальную угрозу. В феврале 2024 года Air Canada (AC.TO ) столкнулась с юридическими последствиями, когда ее чат-бот, работающий на основе ИИ, предоставил клиенту неверную информацию о политике скидок на проезд в случае смерти близкого человека. Чат-бот ошибочно сообщил пассажиру, что он может подать заявку на получение скидки задним числом, что противоречило фактической политике авиакомпании. Когда клиент обратился за скидкой после поездки, Air Canada отказала в запросе, что привело к спору. Британская Колумбия Civil Resolution Tribunal вынесла решение в пользу пассажира, обязав Air Canada возместить ему ущерб и предоставить скидку. Этот случай подчеркивает потенциальную ответственность, с которой сталкиваются компании, когда системы ИИ распространяют неверную информацию, подчеркивая необходимость надежных механизмов надзора и ответственности.

Аналогично, Meta столкнулась с критикой в связи с ее цифровыми компаньонами, работающими на основе ИИ. Расследование, проведенное The Wall Street Journal, показало, что некоторые чат-боты Meta вели разговоры на сексуальные темы с пользователями, выдающими себя за детей. Это откровение привело к серьезным проблемам с репутацией компании, вызвав этические вопросы и необходимость введения ограничений, связанных с ИИ.

OpenAI’s ChatGPT также не обошелся без скандалов. Одно из недавних обновлений сделало чат-бот слишком дружелюбным, даже подтверждая вредные или бредовые мысли пользователей. Этот перегруз согласия, предназначенный для увеличения взаимодействия, вызвал этические вопросы о влиянии ИИ на поведение и эмоциональную поддержку пользователей. OpenAI обратила внимание на эту проблему и отменила обновление, но инцидент подчеркивает тонкую грань между вовлечением пользователя и этическим поведением ИИ.

Ответственность в эпоху ИИ

Эти события вызывают основные вопросы об ответственности. Когда человек-посол совершает ошибку, путь к искуплению прост: извиниться, извиниться и забыть. Однако, когда система ИИ совершает ошибку, все становится более сложным. Кто виноват: создатели, организация, использующая ИИ, или сам ИИ?

Бренды должны быть осторожными и признать, что использование ИИ не освобождает их от ответственности. Потребители отождествляют голос чат-бота с голосом бренда. Следовательно, любая небольшая ошибка ИИ отражается на репутации бренда. Для компаний важно иметь строгие руководства для мониторинга ИИ и быть готовыми быстро реагировать, когда ситуация становится негативной.

Ожидания прозрачности, связанные с ИИ, быстро эволюционируют. Потребители, регулирующие органы и журналисты требуют ясности в отношении того, как автоматизированные системы обучаются, развертываются и управляются. В этой среде молчание или отклонение не являются вариантом. Бренды должны активно сообщать о своих практиках управления ИИ и быть готовыми предоставить человеческий ответ, когда происходит ошибка ИИ. Протоколы кризисного управления теперь должны включать конкретные сценарии, связанные с ИИ, такие как установление четких линий владения для сгенерированных ИИ выводов и обеспечение того, чтобы человеческий надзор всегда был частью процесса. Просто обвинять “алгоритм” не является стратегией; это оправдание, которое подрывает доверие.

Кроме того, компании должны признать, что ошибки ИИ часто распространяются быстрее, чем традиционные ошибки, подогреваемые вирусным распространением в социальных сетях и увлечением общества технологическими ошибками. Одно скриншот взаимодействия с бунтующим чат-ботом может достичь миллионов за несколько часов. Это увеличивает необходимость постоянного мониторинга ИИ и быстрых путей эскалации. Команды по коммуникациям должны проводить планирование сценариев, специфичных для сбоев ИИ, разрабатывать шаблонные ответы и согласовывать юридические, комплаенс и инженерные команды вокруг общего понимания ответственности. В этом новом ландшафте устойчивость репутации зависит не только от того, как бренд реагирует на кризисы ИИ, но и от того, насколько прозрачно он готовится к ним изначально.

Профилактические шаги для управления кризисами ИИ

Чтобы процветать в сложной ситуации ИИ, бренды могут использовать следующие шаги:

• Реализовать надежные системы мониторинга: Регулярно аудировать вывод ИИ, чтобы выявить и исправить недопустимый контент в срок. Например, SeekOut, платформа талантов интеллекта, проводит регулярные аудиты своих систем ИИ, чтобы обеспечить справедливые и беспристрастные результаты. В ответ на эволюционирующие регулирования и как часть своей приверженности ответственной ИИ SeekOut привлекла внешнюю аудиторскую компанию Credo AI, чтобы оценить свои алгоритмы. Аудит оценил производительность функций ИИ в различных демографических группах, подтвердив, что результаты поиска по названиям вакансий были представительными и справедливыми. Этот проактивный подход позволяет SeekOut выявить и исправить потенциальные предубеждения вовремя, сохраняя целостность и справедливость своих услуг, основанных на ИИ.
• Создать четкие рамки ответственности: Определить, кто в организации будет заниматься мониторингом ИИ и управлением кризисами. Например, Управление по подотчетности правительства США выпустило рамки ответственности ИИ, подчеркивающие управление, данные, производительность и мониторинг. Оно предоставляет практики для федеральных агентств, чтобы обеспечить ответственное использование ИИ, включая установление четких целей и привлечение разнообразных заинтересованных сторон.
• Создать планы реагирования на кризисы, специфичные для ИИ: Общие планы управления кризисами могут быть недостаточными. Настройте планы для реагирования на кризисы, специфичные для ИИ, такие как отключение систем ИИ при необходимости. Программа развития Организации Объединенных Наций использует панели управления кризисными рисками, основанные на ИИ, для мониторинга и прогнозирования потенциальных кризисов, таких как разжигание ненависти и насилия. Эти панели управления позволяют проактивно реагировать, анализируя данные в реальном времени и прогнозируя риски.
• Практиковать честную коммуникацию: Когда происходит ошибка ИИ, практиковать честность в коммуникации с заинтересованными сторонами об ошибке, действиях, предпринятых для ее исправления, и процедурах, предпринятых для предотвращения повторения инцидентов. Например, в 2018 году Amazon (AMZN ) прекратила использование своего инструмента набора персонала ИИ после обнаружения предубеждения против женских кандидатов. Компания признала проблему и прекратила использование инструмента, демонстрируя прозрачность в решении недостатков ИИ.
• Тратить средства на моральное обучение ИИ: Обеспечить, чтобы модели ИИ были обучены на разнообразных и инклюзивных наборах данных, чтобы подавить предубеждения и недопустимый контент. В этом направлении исследователи из Университета Вашингтона и Института ИИ Аллена разработали Delphi, систему ИИ, предназначенную для принятия этических решений. Хотя она показывает перспективы, Delphi иногда отражает общественные предубеждения, подчеркивая сложности обучения ИИ на разнообразных и инклюзивных наборах данных.

По мере того, как искусственный интеллект становится все более глубоко интегрированным в коммуникации бренда, риск ошибок растет. Хотя ИИ предлагает ценные эффективности, он также вводит уникальные проблемы, которые бренды должны быть готовы управлять. Реализуя проактивные меры контроля и индивидуальные планы реагирования на кризисы, организации могут защитить свою репутацию и сохранить доверие потребителей в этом развивающемся цифровом ландшафте.