Коли неправильне використання штучного інтелекту викликає корпоративну кризу

Більшість компаній не мають політики, щоб запобігти репутаційним катастрофам від інструментів штучного інтелекту

Недавні опитування показують, що лише близько 30 відсотків компаній мають встановлені політики штучного інтелекту. Тим часом 77 відсотків працівників ділиться секретами компанії на ChatGPT, згідно з звітом LayerX про безпеку даних штучного інтелекту та SaaS у 2025 році. Така комбінація створює ідеальні умови для репутаційних криз.

Більшість політик штучного інтелекту, які існують, зосереджуються на технічних та юридичних ризиках. Вони охоплюють протоколи безпеки даних, оцінку постачальників та нормативні вимоги. Однак ці політики часто не враховують публічну кризу, яка може розгорнутися впродовж годин через неправильне використання штучного інтелекту. У Red Banyan ми консультуємо все більшу кількість організацій щодо криз, пов’язаних зі штучним інтелектом, і починаємо бачити певний шаблон. Технічна криза зазвичай швидко локалізується, але шкода репутації, відносинам з клієнтами та довірі зацікавлених сторін може тривати місяцями або навіть роками.

Проблема тіньового штучного інтелекту

Найбільша загроза походять від того, що спеціалісти з безпеки називають “тіньовим штучним інтелектом“. Це відбувається, коли працівники використовують не затверджені особисті облікові записи штучного інтелекту для робочих завдань, обходячи корпоративні засоби безпеки. Більшість часу вони роблять це без повного розуміння ризиків.

Згідно з дослідженням Cyberhaven, 11 відсотків даних, які працівники вводять у ChatGPT, є конфіденційними. Ця цифра повинна насторожити кожного керівника інформаційних технологій та керівника зв’язків з громадськістю. Ми говоримо про вихідний код, контракти клієнтів, неопубліковані плани продуктів, фінансові прогнози та записи працівників, які потрапляють у системи, які організації не контролюють.

Як відбувається вихід даних

Інженери-програмісти можуть використовувати інструменти штучного інтелекту, такі як Claude або ChatGPT, для налагодження або оптимізації коду. У 2023 році інженери-програмісти Samsung зробили саме це – вони завантажили внутрішній вихідний код у ChatGPT під час спроби виправити проблеми. Виклик конфіденційного коду змусив Samsung впровадити повні обмеження на використання штучного інтелекту у всіх інженерних відділах.

Маркетологи та працівники відділу кадрів часто використовують штучний інтелект, щоб поліпшити свою писемну діяльність. Вони завантажують чернетки пропозицій, внутрішні документи політики та іноді навіть угоди з клієнтами, просячи штучний інтелект покращити ясність або виправити граматичні помилки. Ці документи часто містять фінансові прогнози, юридичні терміни або стратегічні плани, які конкуренти знайшли б цінними.

Команди служби підтримки клієнтів, які експериментують з інструментами ефективності штучного інтелекту, іноді вводять фактичні розмови з клієнтами та квитки підтримки. Вони хочуть, щоб штучний інтелект підсумував взаємодію або запропонував кращі відповіді. Коли ці входи містять імена клієнтів, контактну інформацію, дані про обліковий запис або історію покупок, компанія потенційно порушує правила конфіденційності, такі як GDPR або CCPA.

Команди розробки продуктів, які мозковий штурм нових функцій, можуть описати неоголошені можливості ChatGPT, сподіваючись, що штучний інтелект допоможе їм вдосконалити свої ідеї або визначити потенційні проблеми. Ці описи можуть розкрити конкурентні переваги, технологічні інновації або ринкові стратегії, які компанія мала намір тримати конфіденційними до запуску.

Вся ця інформація потенційно може бути збережена великими мовними моделями та вплинути на відповіді штучного інтелекту іншим користувачам у майбутньому.

Наприклад, після того, як команда розробки продукту описала свій майбутній продукт ChatGPT, конкурент або журналіст міг би запитати у ChatGPT про майбутні випуски цієї компанії. ChatGPT міг би посилатися на конфіденційну інформацію, яку було поділено, і розголосити новий продукт або технологію, над якими компанія витратила значні ресурси.

Як це стає кризою зв’язків з громадськістю

Коли такі інциденти стаються на поверхню, вони рідко залишаються локалізованими як питання інформаційних технологій. Ось, що зазвичай відбувається:

Виявляється порушення, часто випадково або через попередження третіх осіб. Відділ інформаційних технологій починає розслідування, намагаючись оцінити масштаб. Тим часом, якщо інцидент涉лює дані клієнтів або регулюється інформацією, юридичні зобов’язання вимагають розкриття інформації. Як тільки інформацію розкривають, починається висвітлення в ЗМІ. Соціальні медіа посилюють історію. Клієнти починають дзвонити з питаннями. Працівники хвилюються про безпеку своєї роботи та свою власну відповідальність.

Упродовж 24-48 годин те, що почалося як технічний інцидент, перетворюється на повноцінну кризу репутації. Компанія повинна пояснити кільком аудиторіям, як це сталося, чому заходи безпеки не спрацювали, та що робиться для запобігання повторенню. Якщо компанія не підготувалася до цього сценарію, реакція часто повільна, нестійка або оборонна. Кожен помилковий крок розтягує кризу та поглиблює шкоду.

Будівництво кризового реагування для інцидентів штучного інтелекту

Керівники інформаційних технологій повинні співпрацювати з командами зв’язків з громадськістю та юридичними командами, щоб створити протоколи реагування на кризи конкретно для інцидентів штучного інтелекту. Технічні засоби контролю та політики мають значення, але вони недостатні без плану управління медійним висвітленням, коли щось пішло не так.

Ось шість дієвих кроків для початку цього процесу:

1. Встановіть чіткі шляхи ескалації. Коли виявляється витік даних, пов’язаний зі штучним інтелектом, хто негайно повідомляється? Відділ інформаційних технологій, юридичний відділ, зв’язки з громадськістю та керівництво повинні бути оперативно повідомлені. Створіть дерево рішень, яке визначає, коли активувати протоколи кризи на основі типу та чутливості витоку даних.
2. Розробіть шаблони відповідей. Предварньо підготовте тримачі заяв і документи з частими запитаннями для загальних сценаріїв неправильного використання штучного інтелекту. Вони повинні охоплювати неправильне використання працівниками, питання безпеки постачальників та випадковий витік даних. Майте шаблони готовими, щоб забезпечити швидшу та більш послідовну реакцію, коли час критичний.
3. Пройдіть підготовку зі спікерами. Виконавці та працівники зв’язків з громадськістю потребують підготовки з медіа, спеціально зосередженої на тому, як обговорювати інциденти штучного інтелекту. Технологія складна та повна жаргону, що може бути складним для навігації під час відповідей на питання зацікавлених сторін.
4. Моніторьте ранні попереджувальні сигнали. Моніторинг у соціальних медіа повинен включати ключові слова, пов’язані з вашою організацією та інструментами штучного інтелекту. Іноді перша ознака проблеми надходить від працівника, який публікує щось у LinkedIn, або клієнта, який скаржиться на відповідь, сгенеровану штучним інтелектом, у Twitter.
5. Проведіть кризові симуляції. Стільникові вправи, які проходять через сценарій витоку даних штучного інтелекту, допомагають командам зрозуміти свої ролі та визначити прогалини в плані реагування. Ці симуляції повинні включати відділ інформаційних технологій, юридичний відділ, зв’язки з громадськістю, відділ кадрів та керівництво.
6. Будуйте відносини до того, як вам це буде потрібно. Збудуйте зв’язки з фірмами кризових зв’язків з громадськістю, експертами з кібербезпеки, які можуть надати незалежну перевірку, та юридичними радниками, досвідченими у питаннях, пов’язаних зі штучним інтелектом. Коли криза настане, вам потрібні довірені радники, які можуть мобілізуватися негайно.

Шлях вперед

Пропуск між впровадженням штучного інтелекту та управлінням штучним інтелектом продовжує зростати. Працівники мають легкий доступ до потужних інструментів, які можуть створити значні репутаційні ризики. Керівники інформаційних технологій традиційно зосереджувалися на технічному аспекті управління ризиками штучного інтелекту. Однак репутаційний вимір інцидентів штучного інтелекту вимагає рівної уваги та підготовки.

Питання не в тому, чи зіткнеться ваша організація з кризом, пов’язаним зі штучним інтелектом. Ураховуючи поточні темпи впровадження та поширення тіньового штучного інтелекту, питання в тому, коли. Компанії, які підготуються зараз, з політиками, які охоплюють технічні та репутаційні ризики, будуть краще переживати ці інциденти, ніж ті, хто буде спійманий зненацька.