Криза комунікацій штучного інтелекту: коли ваш чат-бот виходить з-під контролю, який новий посібник?

З сучасним інтернетом бренди конкурують у інтеграції чат-ботів, що працюють на основі штучного інтелекту, для оптимізації взаємодії з клієнтами та бізнесом. Але з вищим рівнем інтелекту приходить безпрецедентна небезпека. Коли чат-бот штучного інтелекту виходить з-під контролю, публікуючи неприйнятний, обманний або наклепницький контент, шкода може бути завдана швидко та безжально. Проблема полягає в тому, як бренди реагують, коли їхній штучний інтелект виходить з-під контролю?

Нова межа ризику бренду

Недавні події натякають на цю потенційну загрозу. У лютому 2024 року Air Canada зіткнулася з юридичними наслідками, коли її чат-бот, що працює на основі штучного інтелекту, надав клієнтові неправильну інформацію щодо політики знижок на авіаквитки у разі смерті близької людини. Чат-бот помилково повідомив пасажирові, що він може подати заявку на знижку після поїздки, що суперечило фактичній політиці авіакомпанії. Коли клієнт звернувся за знижкою після поїздки, Air Canada відмовила у задоволенні заяви, що призвело до спору. Британська Колумбійська цивільна резолюційна трибуна винесла рішення на користь пасажира, зобов’язавши Air Canada виплатити йому компенсацію та підтвердити знижку. Цей випадок підкреслює потенційні зобов’язання компаній, коли системи штучного інтелекту поширюють неточну інформацію, підкреслюючи необхідність впровадження ефективних механізмів нагляду та відповідальності.

Аналогічно, Meta зіткнулася з критикою щодо своїх цифрових компаньйонів, що працюють на основі штучного інтелекту. Розслідування The Wall Street Journal виявило, що деякі чат-боти компанії вели розмови з користувачами на основі статевих тем, видаючи себе за дітей. Це відкриття призвело до серйозних проблем з репутацією компанії, піднімаючи питання щодо етики та необхідності впровадження механізмів контролю щодо штучного інтелекту.

Чат-бот ChatGPT від OpenAI також не уникнув критики. Один із недавніх оновлень зробив чат-бота надто дружнім, навіть підтверджуючи шкідливі чи марні думки користувачів. Ця перевантаження згоди, призначене для підвищення взаємодії, підняло питання щодо етики штучного інтелекту та його впливу на поведінку користувачів та емоційну валідність. OpenAI звернула увагу на проблему та відкликала оновлення, але інцидент показав тонку межу між взаємодією користувача та етичним поведінкою штучного інтелекту.

Відповідальність у добу штучного інтелекту

Ці події ставлять базові питання щодо відповідальності. Коли людський посланник допускає помилку, шлях до виправлення простий: вибачитися, вибачитися та забути. Однак, коли система штучного інтелекту винна, все стає складніше. Хто винен, творці, організація, що використовує штучний інтелект, або сам штучний інтелект?

Бренди повинні бути обережними та визнавати, що застосування штучного інтелекту не звільняє їх від відповідальності. Користувачі ототожнюють голос чат-бота з голосом бренду. Тому будь-яка помилка штучного інтелекту відображається на репутації бренду. Для компаній важливо мати суворі вказівки щодо моніторингу штучного інтелекту та бути готовими до швидких дій, коли ситуація стає негативною.

Очікування прозорості щодо штучного інтелекту швидко еволюціонують. Користувачі, регулятори та журналісти вимагають ясності щодо того, як автоматизовані системи тренуються, розгортаються та керуються. У цьому середовищі мовчання або відхилення не є варіантом. Бренди повинні активно спілкуватися щодо своїх механізмів управління штучним інтелектом та бути готовими надати людську відповідь, коли помилка штучного інтелекту трапляється. Протоколи кризового управління повинні тепер включати конкретні заходи щодо штучного інтелекту, такі як встановлення чітких ліній власності для виводів штучного інтелекту та забезпечення того, що людський нагляд завжди є частиною процесу. Просто звинувачувати “алгоритм” не є стратегією; це виправдання, яке підколює довіру.

Крім того, компанії повинні визнати, що помилки штучного інтелекту часто поширюються швидше, ніж традиційні, підживлюються вірусним соціальним медіа-ампліфікацією та публічним інтересом до технологічних помилок. Одне знімок взаємодії з чат-ботом може досягти мільйонів людей за кілька годин. Це підвищує необхідність постійного моніторингу штучного інтелекту та швидких шляхів ескалації. Команди зв’язків з громадськістю повинні проводити планування сценаріїв, специфічних для помилок штучного інтелекту, розробляти шаблонні відповіді та узгоджувати юридичні, відповідальні та інженерні команди щодо спільного розуміння відповідальності. У цьому новому ландшафті стійкість репутації залежить не тільки від того, як бренд реагує на кризи штучного інтелекту, але також від того, наскільки прозоро він готується до них з самого початку.

Профілактичні заходи для кризового управління штучним інтелектом

Аби успішно діяти в складному сценарії штучного інтелекту, бренди можуть використовувати наступні заходи:

• Впровадження потужних систем моніторингу: Регулярно проводити аудит виводів штучного інтелекту, щоб визначити та виправити неприйнятний контент у своєчасному порядку. Наприклад, SeekOut, платформа талантів інтелекту, проводить регулярні аудити своїх систем штучного інтелекту, щоб забезпечити справедливі та необмежені результати. У відповідь на еволюцію регуляцій та як частина своєї відповідальності за штучний інтелект, SeekOut залучила незалежного аудитора Credo AI для оцінки своїх алгоритмів. Аудит оцінив продуктивність функцій штучного інтелекту у різних демографічних групах, підтвердивши, що результати пошуку вакансій були репрезентативними та справедливими. Цей проактивний підхід дозволяє SeekOut визначати та виправляти потенційні упередження своєчасно, підтримуючи цілісність та справедливість своїх послуг, що працюють на основі штучного інтелекту.
• Створення чітких рамок відповідальності: Визначити, хто в організації буде займатися моніторингом штучного інтелекту та кризовим управлінням. Наприклад, Урядовий обліковий офіс США опублікував рамки відповідальності штучного інтелекту, що підкреслюють управління, дані, продуктивність та моніторинг. Він надає практичні поради для федеральних агентств щодо забезпечення відповідального використання штучного інтелекту, включаючи встановлення чітких цілей та залучення різноманітних зацікавлених сторін.
• Створення планів кризового реагування, специфічних для штучного інтелекту: Загальні плани кризового управління можуть бути недостатніми. Настройте плани для реагування на кризи, специфічні для штучного інтелекту, такі як вимкнення систем штучного інтелекту, коли це необхідно. Програма розвитку ООН використовує панелі управління кризовими ризиками, що працюють на основі штучного інтелекту, для моніторингу та передбачення потенційних кризів, таких як ненависть та насильство. Ці панелі дозволяють проактивно реагувати, аналізуючи дані в реальному часі та прогнозуючи ризики.
• Практикувати чесну комунікацію: Коли трапляється помилка штучного інтелекту, практикувати чесність у спілкуванні з зацікавленими сторонами щодо помилки, дій, вжитих для виправлення помилки, та процедур, встановлених для уникнення повторення інцидентів. Наприклад, у 2018 році Amazon припинила використання свого інструменту набору персоналу на основі штучного інтелекту після виявлення упередженості проти жінок-кандидатів. Компанія визнала проблему та припинила використання інструменту, демонструючи прозорість у вирішенні проблем штучного інтелекту.
• Витрачати кошти на моральне навчання штучного інтелекту: Забезпечити, щоб моделі штучного інтелекту були навчені на різноманітних та інклюзивних наборах даних, щоб придушити упередженість та неприйнятність. У цьому напрямку дослідники з Університету Вашингтону та Інституту штучного інтелекту Аллена розробили Delphi, систему штучного інтелекту, призначену для прийняття етичних рішень. Хоча вона показує перспективи, Delphi іноді відображає суспільні упередження, підкреслюючи складності навчання штучного інтелекту на різноманітних та інклюзивних даних.

Як штучний інтелект все глибше інтегрується у комунікації брендів, ризик помилок зростає. Хоча штучний інтелект пропонує цінні ефективності, він також вводить унікальні виклики, які бренди повинні бути готові керувати. Проактивно впроваджуючи заходи контролю та настраївши плани кризового реагування, організації можуть захистити свою репутацію та підтримувати довіру споживачів у цьому еволюційному цифровому ландшафті.