Лідери думок

Якщо боту дозволено фліртувати з дітьми, що ще йому дозволено робити з вашими даними?

Victor Cho
Додайте Unite.AI до бажаних джерел у Google
A professional boardroom at night featuring a large monitor displaying a glowing
Ключові моментиБільшість співробітників вставляють корпоративні дані в споживчі інструменти ШІ без…
Показати більше
  • Більшість співробітників вставляють корпоративні дані в споживчі інструменти ШІ без корпоративних засобів захисту.
  • ШІ стискає контекст і позбавляє нюансів чутливі ділові комунікації.
  • Кожна система ШІ відображає судження її творців, а не лише свій код.

Коли внутрішні інструкції, що потрапили у відкритий доступ, показали, що Meta дозволяє своїм чат-ботам фліртувати з дітьми, більшість людей сприйняли це як скандал і перейшли далі. Але варто приділити увагу тому, що розслідування розповідає нам про сучасний стан етики штучного інтелекту: якщо така компанія, як Meta, схвалює такі політики у своєму масштабі, то що ще ці платформи тихо дозволяють? І скільки з цього стосується ваших даних?

Лідери бізнесу звичайно оцінюють інструменти штучного інтелекту за тим, що вони можуть зробити, як швидко і за яку ціну. Але є важливіші питання, які варто поставити, особливо зараз, коли інструменти штучного інтелекту стають стандартними: На які умови ви погоджуєтеся, коли ваша команда починає використовувати інструменти штучного інтелекту? Що роблять постачальники моделей і розробники агентів з вашими даними? І хто бере на себе відповідальність, коли щось піде не так?

Більшість організацій так зайняті тим, щоб витиснути з цієї нової технології якнайбільше грошей, що вони ще не подумали про найважливіше питання:

Що насправді відбувається з вашими даними?

Більшість людей або сильно переоцінюють ризик поділитися чимось з чат-ботом, або зовсім відкидають цю справу. Факт полягає в тому, що великі мовні моделі, в певному сенсі, заморожені після навчання та оприлюднення. Це означає, що ваші розмови зберігаються окремо, а не миттєво підключаються до пам’яті системи; те, що ви сказали ChatGPT сьогодні вранці, не впливає негайно на те, що модель скаже комусь іншому у другій половині дня.

Це не означає, що ваші дані не використовуються. Вони використовуються. Шлях просто складніший.

Журнали розмов зберігаються окремо, і багато лабораторій штучного інтелекту явно заявляють про право використовувати їх для навчання наступної версії своєї моделі. Про це говориться в умовах надання послуг. Те, що надходить у вигляді запиту на підтримку клієнтів або стратегічного мозкового штурму сьогодні, може з часом вплинути на модель, яку використовуватимуть мільйони людей завтра.

Ризик для власних даних виходить за межі політики. У 2025 році Scale AI випадково розкрила тисячі сторінок конфіденційних матеріалів проєктів клієнтів, включаючи Meta, Google і xAI. Окремо, у листопаді стався витік даних у одного з постачальників OpenAI, в результаті чого хакери викрали дані клієнтів, включаючи імена, електронні адреси та системні дані.

Щоб бути ясним, це не надзвичайна ситуація найвищого рівня небезпеки, але й не зовсім без ризику. Системи рівня підприємства мають контрактні гарантії щодо повторного використання даних. Інструменти для споживачів здебільшого їх не мають. Якщо ваші дані настільки чутливі, що ви хотіли б захистити їх угодою про нерозголошення, вам не слід передавати їх споживчому чат-боту і припускати, що вони не будуть використані в іншому місці.

Цифри свідчать про те, що більшість організацій ще не зрозуміли цього. Практично вісім із десяти працівників вставляли інформацію компанії в інструменти штучного інтелекту, а з них понад чотири з п’яти робили це за допомогою своїх особистих облікових записів, згідно з опитуванням працівників у 2025 році. Одна з п’яти організацій вже повідомила про порушення, пов’язане з тіньовим використанням штучного інтелекту, а лише 37 відсотків мають політики для виявлення такого використання або керування ним, згідно зі звітом IBM про витрати на порушення даних у 2025 році.

Як тільки ви зрозумієте цей тип ризику даних, його не так вже й складно обійти. Відокремте інструменти для споживачів і підприємств, знайте, на що ви погоджуєтеся, і ви охопите більшість основних аспектів.

Коли комунікація через штучний інтелект підводить бізнес

Що відбувається з вашими даними – це одна частина картини. Інша, і для багатьох бізнесів більш суттєва, – це те, що ці системи роблять із якістю і відповідальністю ваших найважливіших комунікацій.

Подумайте про розмови, які рухають бізнес: зустрічі, щоб утримати довгострокових клієнтів; переговори про продаж, де тон і довіра майже важливіші, ніж мова угоди; або квартальна презентація перед радою директорів про ваш прогрес до цілей року. Виявляється, штучний інтелект може досить добре справитися з транзакційними елементами цих взаємодій, такими як ведення записів зустрічей, призначення пріоритетів і виділення пунктів дій. Але він має труднощі з усім іншим.

Варто назвати конкретні способи, у які ці системи дають збій. Штучний інтелект стискає контекст; він підсумовує, згладжує і стандартизує способами, які можуть вилучити нюанси. Крім того, вміст, який великі мовні моделі генерують, важко перевірити. Люди, яким ви надіслали електронний лист, згенерований штучним інтелектом, або підсумки зустрічей, не мають жодного способу підтвердити, що вони отримали те, що ви мали на увазі, або що повідомлення не було фільтровано чи перефразовано штучним інтелектом.

Це не означає, що штучний інтелект не має місця в бізнес-комунікації. Він явно має таке місце. Але є категорія розмов, де вигоди від ефективності не виправдовують ризик, і більшість організацій не подумали про те, щоб відрізнити ці випадки використання достатньо.

Знайте, коли робити це самостійно

Отже, питання полягає в тому: чи повинен штучний інтелект взагалі бути у вашому найбільш чутливому спілкуванні?

Моя чесна відповідь – ні, принаймні не без людини, яка може бути відповідальною за те, що було сказано, як воно було сказано, і чи було повідомлення доставлено. Перевірка людської комунікації не означає прихильності до старих методів; це просто визнання того, що деякі розмови потребують людини, яка стоїть за ними.

Лідери повинні зробити свою домашню роботу. Що говорить політика постачальника щодо повторного використання даних? Що відбувається з журналами розмов вашої команди, коли закінчується контракт? Це не питання для вашої команди ІТ, щоб розібратися з цим на задньому плані. Це питання закупівель, і їх слід розглядати на ранішому етапі процесу, ніж зараз.

Чат-бот, якому було дозволено фліртувати з дітьми, не прийняв це рішення сам. Хтось його схвалив. Кожна система штучного інтелекту відображає судження людей, які її створили і розгорнули, і ці рішення не завжди очевидні ззовні.

До тих пір, поки інструменти для аудиту інструментів і систем штучного інтелекту не наздоженуть темпи їхнього впровадження, найбільш обґрунтованою позицією, яку можуть зайняти лідери бізнесу, є проведення лінії між розмовами, які вони згодні передавати через штучний інтелект, і тими, які ні.

Аргумент ефективності штучного інтелекту переконливий. Так само переконливий і аргумент щодо відповідальності за те, що надсилається від вашого імені.

Віктор Чо є генеральним директором Emovid, де він досліджує, як штучний інтелект може підтримувати більш автентичну, емоційно інтелектуальну комунікацію. З досвідом у сфері інновацій продуктів та цифрового лідерства, він зосереджений на створенні інструментів, які допоможуть людям зв'язуватися більш ефективно - без втрати людського дотику.