Якщо бот може зафліртувати з дітьми, то що ще йому дозволено робити з вашими даними?

Коли викрили внутрішні керівництва щодо того, що Meta дозволяє своїм чат-ботам зафліртувати з дітьми, більшість людей сприйняли це як скандал і перейшли далі. Але варто приділити увагу тому, що розслідування розповідає нам про сучасний стан етики штучного інтелекту: якщо така компанія, як Meta, схвалює такі політики у своєму масштабі, то що ще ці платформи тихо дозволяють? І скільки з цього стосується ваших даних?

Лідери бізнесу звичайно оцінюють інструменти штучного інтелекту за тим, що вони можуть зробити, як швидко і за яку ціну. Але є важливіші питання, які варто поставити, особливо зараз, коли інструменти штучного інтелекту стають стандартними: Які умови ви погоджуєтеся з тим, коли ваша команда починає використовувати інструменти штучного інтелекту? Що роблять постачальники моделей і будівельники агентів з вашими даними? І хто бере на себе відповідальність, коли щось піде не так?

Більшість організацій так зайняті тим, щоб виробити з цієї нової технології якнайбільше грошей, що вони ще не подумали про найважливіше питання:

Що насправді відбувається з вашими даними?

Більшість людей або сильно переоцінюють ризик поділитися чимось з чат-ботом, або зовсім відкидають цю справу. Факт полягає в тому, що великі мовні моделі, в певному сенсі, заморожені, коли вони тренуються і випускаються для публічного використання. Це означає, що ваші розмови зберігаються окремо, а не миттєво підключаються до пам’яті системи; те, що ви сказали ChatGPT сьогодні вранці, не впливає на те, що модель скаже комусь іншим у другій половині дня.

Це не означає, що ваші дані не використовуються. Вони використовуються. Шлях просто складніший.

Журнали розмов зберігаються окремо, і багато лабораторій штучного інтелекту явно заявляють про право використовувати їх для навчання наступної версії своєї моделі. Про це говориться у умовах надання послуг. Те, що надходить у вигляді запиту на підтримку клієнтів або стратегічного мозкового штурму сьогодні, може з часом вплинути на модель, яку використовуватимуть мільйони людей завтра.

Ризик для власних даних виходить за межі політики. У 2025 році Scale AI мимоволі викрили тисячі сторінок конфіденційних матеріалів проєктів клієнтів, включаючи Meta, Google і xAI. Окремо, у листопаді стався перебіг даних одного з постачальників OpenAI, в результаті чого хакери викрали дані клієнтів, включаючи імена, електронні адреси та системні дані.

Щоб бути ясним, це не надзвичайна ситуація, але й не зовсім без ризику. Системи рівня підприємства мають контрактні гарантії щодо повторного використання даних. Інструменти для споживачів здебільшого їх не мають. Якщо ваші дані настільки чутливі, що ви хотіли б захистити їх угодою про нерозголошення, вам не слід передавати їх споживчому чат-боту і припускати, що вони не будуть використані в іншому місці.

Цифри свідчать про те, що більшість організацій ще не зрозуміли цього. Практично вісім із десяти працівників вставляли інформацію компанії в інструменти штучного інтелекту, а з них понад чотири з п’яти робили це за допомогою своїх особистих облікових записів, згідно з опитуванням працівників у 2025 році. Одна з п’яти організацій вже повідомила про порушення, пов’язане з тіньовим використанням штучного інтелекту, а лише 37 відсотків мають політики, щоб виявити або керувати цим, згідно з звітом IBM про витрати на порушення даних у 2025 році.

Як тільки ви зрозумієте цей тип ризику даних, його не так вже й складно обійти. Відокремте інструменти для споживачів і підприємств, знайте, на що ви погоджуєтеся, і ви покриєте більшу частину своїх потреб.

Де комунікація, опосередкована штучним інтелектом, не справляється з бізнесом

Що відбувається з вашими даними – це одна частина картини. Інша, і для багатьох бізнесів більш суттєва, – це те, що ці системи роблять із якістю і відповідальністю ваших найважливіших комунікацій.

Подумайте про розмови, які рухають бізнес: зустрічі, щоб утримати довгострокових клієнтів; переговори про продаж, де тон і довіра майже важливіші, ніж мова угоди; або квартальна презентація ради директорів про ваш прогрес до цілей року. Виявляється, штучний інтелект може досить добре справитися з транзакційними елементами цих взаємодій, такими як ведення записів зустрічей, призначення пріоритетів і виділення пунктів дій. Але він має труднощі з усім іншим.

Конкретні моди відмови варті назви. Штучний інтелект стискає контекст; він підсумовує, згладжує і стандартизує способами, які можуть вилучити нюанси. Крім того, вміст, який великі мовні моделі генерують, важко перевірити. Люди, яким ви надіслали електронний лист, згенерований штучним інтелектом, або підсумки зустрічей, не мають жодного способу підтвердити, що вони отримали те, що ви мали на увазі, або що повідомлення не було фільтровано чи перефразовано штучним інтелектом.

Це не означає, що штучний інтелект не має місця в бізнес-комунікації. Він явно має. Але є категорія розмов, де вигоди від ефективності не виправдовують ризик, і більшість організацій не подумали про те, щоб відрізнити ці випадки використання достатньо.

Знайте, коли робити це самостійно

Отже, питання полягає в тому: чи повинен штучний інтелект взагалі бути у вашому найбільш чутливому спілкуванні?

Моя чесна відповідь – ні, принаймні не без людини, яка може бути відповідальною за те, що було сказано, як воно було сказано, і чи було повідомлення доставлено. Перевірка людської комунікації не є перевагою старого способу робити речі; це просто визнання того, що деякі розмови потребують людини, яка стоїть за ними.

Лідери повинні зробити свою домашню роботу. Що говорить політика постачальника щодо повторного використання даних? Що відбувається з журналами розмов вашої команди, коли закінчується контракт? Це не питання для вашої команди ІТ, щоб розібратися з цим на задньому плані. Це питання закупівель, і вони повинні бути раніше в процесі, ніж зараз.

Чат-бот, якому було дозволено зафліртувати з дітьми, не прийняв це рішення сам. Хтось його схвалив. Кожна система штучного інтелекту відображає судження людей, які її створили і розгорнули, і ці рішення не завжди очевидні ззовні.

До тих пір, поки інструменти для аудиту інструментів і систем штучного інтелекту не впораються з їхнім прийняттям, найбільш оборонною позицією, яку можуть зайняти лідери бізнесу, є проведення лінії між розмовами, які вони згодні передавати через штучний інтелект, і тими, які ні.

Аргумент ефективності штучного інтелекту переконливий. Так само переконливий і аргумент щодо володіння тим, що виходить на ваше ім’я.