Чи існує чітке рішення проблем приватності, пов’язаних із генеративним штучним інтелектом?

Ризики приватності, пов’язані з генеративним штучним інтелектом, дуже реальні. Від збільшення спостереження та викриття до більш ефективних фішингових і вішингових кампаній, ніж будь-коли раніше, генеративний штучний інтелект підірває приватність масово, без розбору, надавши зловмисникам, чи то злочинцям, чи спонсованим державою або урядом, інструменти для націлювання на окремих осіб і групи.

Найясніше рішення цієї проблеми полягає в тому, що споживачі та користувачі колективно відмовляються від гіпу навколо штучного інтелекту, вимагають прозорості від тих, хто розробляє або впроваджує так звані функції штучного інтелекту, та ефективного регулювання від урядових органів, які контролюють їхню діяльність. Хоча це варте того, щоб прагнути до цього, це не дуже ймовірно, що це відбудеться в найближчому майбутньому.

Що залишається, це розумні, навіть якщо необхідні неповні, підходи до пом’якшення ризиків приватності генеративного штучного інтелекту. Довгострокове, безпечне, але нудне передбачення полягає в тому, що чим більше громадськість буде освічена щодо приватності даних загалом, тим менші ризики приватності, пов’язані з масовим впровадженням генеративного штучного інтелекту.

Чи всі ми правильно розуміємо концепцію генеративного штучного інтелекту?

Гіп навколо штучного інтелекту такий поширений, що опитування того, що люди розуміють під генеративним штучним інтелектом, майже не потрібно. Очевидно, що жодна з цих “функцій штучного інтелекту”, функціональності та продуктів насправді не представляє прикладів справжнього штучного інтелекту, яким би він не був. Радше, вони в основному являють собою приклади машинного навчання (ML), глибокого навчання (DL) та больших мовних моделей (LLM).

Генеративний штучний інтелект, як випливає з назви, може генерувати новий контент – чи то текст (включаючи мови програмування), аудіо (включаючи музику та голоси, подібні до людських), чи відео (із звуком, діалогами, монтажем та зміною камер). Все це досягається шляхом навчання LLM ідентифікувати, збігати та відтворювати закономірності в контенті, створеному людиною.

Давайте розглянемо ChatGPT як приклад. Як і багато LLM, він тренується в трьох широких етапах:

• Предварительное навчання: На цьому етапі LLM “годують” текстовим матеріалом з Інтернету, книг, академічних журналів та всього, що містить потенційно актуальний або корисний текст.
• Навчання з нагляду за інструкціями: Моделі тренуються для більш послідовної відповіді на інструкції за допомогою високоякісних пар інструкцій та відповідей, зазвичай отриманих від людей.
• Навчання з підкріпленням від людської обратної зв’язі (RLHF): LLM, подібні до ChatGPT, часто проходять цей додатковий етап навчання, під час якого взаємодії з людськими користувачами використовуються для уточнення моделі відповідно до типових випадків використання.

Усі три етапи процесу навчання включають дані, чи то величезні запаси попередньо зібраних даних (як ті, що використовуються на етапі попереднього навчання), чи дані, зібрані та оброблені майже в режимі реального часу (як ті, що використовуються на етапі RLHF). Саме ці дані несуть основну частку ризиків приватності, пов’язаних з генеративним штучним інтелектом.

Які ризики приватності пов’язані з генеративним штучним інтелектом?

Приватність порушується, коли особиста інформація щодо окремої особи (суб’єкта даних) стає доступною іншим особам або організаціям без згоди суб’єкта даних. LLM тренуються та уточнюються на дуже широкому спектрі даних, які можуть містити особисту інформацію. Ці дані зазвичай збираються з публічно доступних джерел, але не завжди.

Дажи коли ці дані беруться з публічно доступних джерел, їх агрегація та обробка LLM, а потім фактично пошук через інтерфейс LLM, можна вважати подальшим порушенням приватності.

Етап навчання з підкріпленням від людської обратної зв’язі (RLHF) ускладнює ситуацію. На цьому етапі навчання реальні взаємодії з людськими користувачами використовуються для ітеративного виправлення та уточнення відповідей LLM. Це означає, що взаємодія користувача з LLM може бути переглянута, поділена та поширена будь-якою особою, яка має доступ до тренувальних даних.

У більшості випадків це не є порушенням приватності, оскільки більшість розробників LLM включає політику конфіденційності та умови використання, які вимагають від користувачів згоди перед взаємодією з LLM. Ризик приватності полягає радше в тому, що багато користувачів не знають, що вони погодилися на збір та використання своїх даних. Такі користувачі, ймовірно, розкриють приватну та конфіденційну інформацію під час взаємодії з цими системами, не усвідомлюючи, що ці взаємодії не є конфіденційними чи приватними.

Таким чином, ми прийходимо до трьох основних способів, якими генеративний штучний інтелект створює ризики приватності:

• Великі запаси даних попереднього навчання, які потенційно можуть містити особисту інформацію, вразливі до компрометації та екзфільтрації.
• Особиста інформація, включена в дані попереднього навчання, може бути витicana до інших користувачів тієї ж LLM через її відповіді на запити та інструкції.
• Особиста та конфіденційна інформація, надана під час взаємодії з LLM, потрапляє до працівників LLM та, можливо, третіх підрядчиків, звідки вона може бути переглянута чи витicana.

Це всі ризики для приватності користувачів, але ймовірність того, що особиста інформація потрапить до неправильних рук, все ж таки здається досить низькою. Хоча поки що не з’являються компанії, які займаються збором, агрегацією та поширенням особистої інформації, будь-яка особиста інформація, яка потрапляє “туди”, дуже ймовірно буде підібрана цими компаніями та поширена далеко та широко.

З особистою інформацією, яка стала певного роду товаром, та індустрією збору даних, яка виникла для отримання прибутку від цього, будь-яка особиста інформація, яка потрапляє “туди”, дуже ймовірно буде підібрана компаніями збору даних та поширена далеко та широко.

Ризики приватності генеративного штучного інтелекту в контексті

Перед тим, як розглянути ризики приватності, пов’язані з генеративним штучним інтелектом, у контексті конкретних продуктів, послуг та корпоративних партнерств, давайте зробимо крок назад і розглянемо повний спектр ризиків генеративного штучного інтелекту. Написавши для IAPP, Moraes і Previtali підходили до цього питання, заснованого на даних, уточняючи “Таксономію приватності” Солове 2006 року, скорочуючи 16 ризиків приватності, описаних там, до 12 ризиків, специфічних для штучного інтелекту.

Це 12 ризиків приватності, включених у переглянуту таксономію Moraes і Previtali:

• Нагляд: Штучний інтелект посилює ризики нагляду, збільшуючи масштаб та поширення збору особистих даних.
• Ідентифікація: Технології штучного інтелекту дозволяють автоматичне зв’язування ідентичностей через різні джерела даних, збільшуючи ризики, пов’язані з викриттям особистої ідентичності.
• Агрегація: Штучний інтелект поєднує різні частини інформації про людину, щоб зробити висновки, створюючи ризики вторгнення у приватність.
• Френологія та фізіогноміка: Штучний інтелект робить висновки про особистість чи соціальні атрибути з фізичних характеристик, нова категорія ризиків, не описана в таксономії Солове.
• Вторинне використання: Штучний інтелект посилює використання особистих даних для цілей, інших ніж ті, для яких вони були спочатку призначені, шляхом перепрофілактики даних.
• Виключення: Штучний інтелект робить відсутність інформації чи контролю над тим, як використовуються дані користувачів, ще гіршим через непрозорі практики даних.
• Небезпека: Потребності даних штучного інтелекту та практики зберігання створюють ризик витоку даних та несанкціонованого доступу.
• Викриття: Штучний інтелект може розкрити чутливу інформацію, наприклад, через техніки генеративного штучного інтелекту.
• Спотворення: Спроможність штучного інтелекту генерувати реалістичний, але фальшивий контент, посилює поширення хибної чи оманливої інформації.
• Розголошення: Штучний інтелект може спричинити неправильне поширення даних, коли він робить висновки про додаткову чутливу інформацію з сирої інформації.
• Збільшення доступності: Штучний інтелект робить чутливу інформацію більш доступною для ширшої аудиторії, ніж це було передбачено.
• Вторгнення: Технології штучного інтелекту вторгаються у особистий простір чи самоту, часто через заходи нагляду.

Це досить тривожне читання. Важливо відзначити, що ця таксономія, до її заслуг, враховує схильність генеративного штучного інтелекту до галюцинацій – генерації та впевненого подання фактично неточної інформації. Це явище, хоча воно рідко розкриває справжню інформацію, також є ризиком приватності. Поширення хибної та оманливої інформації впливає на приватність суб’єкта способами, які є більш тонкими, ніж у випадку точної інформації, але все ж таки впливають на неї.

Давайте розглянемо деякі конкретні приклади того, як ці ризики приватності проявляються у контексті реальних продуктів штучного інтелекту.

Прямі взаємодії з текстовими генеративними системами штучного інтелекту

Найпростіший випадок – це той, коли користувач взаємодіє безпосередньо з генеративною системою штучного інтелекту, наприклад, з ChatGPT, Midjourney чи Gemini. Взаємодія користувача з багатьма цими продуктами реєструється, зберігається та використовується для RLHF (навчання з підкріпленням від людської обратної зв’язі), нагляду за інструкціями та навіть попереднього навчання інших LLM.

Аналіз політики конфіденційності багатьох таких послуг також розкриває інші діяльності з обміну даними, підтримувані цілком іншими цілями, такими як маркетинг та обмін даними. Це ще один тип ризику приватності, пов’язаного з генеративним штучним інтелектом: ці системи можна охарактеризувати як величезні труби даних, які збирають дані, надані користувачами, а також дані, згенеровані під час їхньої взаємодії з основною LLM.

Взаємодії з вбудованими генеративними системами штучного інтелекту

Деякі користувачі можуть взаємодіяти з інтерфейсами генеративного штучного інтелекту, вбудованими в той продукт, який вони фактично використовують. Користувач може знати, що він використовує “функцію штучного інтелекту”, але він менш ймовірно знає, що це означає щодо ризиків приватності даних. Що виходить на перший план з вбудованими системами, це відсутність розуміння того факту, що особисті дані, поділені з LLM, можуть потрапити до розробників та компаній збору даних.

Є два ступені відсутності усвідомлення: деякі користувачі розуміють, що вони взаємодіють з продуктом генеративного штучного інтелекту; і деякі вважають, що вони використовують той продукт, до якого генеративний штучний інтелект вбудований або доступний. У будь-якому випадку користувач, ймовірно, вже погодився (і, ймовірно, зробив це) на умови використання та умови, пов’язані з його взаємодією з вбудованою системою.

Інші партнерства, які піддають користувачів впливу генеративних систем штучного інтелекту

Деякі компанії вбудовують або інакше включають інтерфейси генеративного штучного інтелекту в своє програмне забезпечення способами, які менш очевидні, залишаючи користувачів взаємодіяти – та ділячись інформацією – з третіми сторонами, не усвідомлюючи цього. На щастя, “штучний інтелект” став таким ефективним продажним аргументом, що малоймовірно, що компанія буде приховувати такі реалізації.

Іншим явищем у цьому контексті є зростаючий протест, який такі компанії зазнають після спроби поділитися даними користувачів чи клієнтів з компаніями генеративного штучного інтелекту, такими як OpenAI. Компанія з видалення даних Optery, наприклад, недавно скасувала рішення про поділ даних користувачів з OpenAI на основі опт-аут, тобто користувачі були зараховані до програми за замовчуванням.

Не тільки клієнти швидко виразили своє розчарування, але послуга з видалення даних компанії була негайно виключена зі списку рекомендованих послуг з видалення даних Privacy Guides. До заслуг Optery належить те, що вона швидко та прозоро скасувала своє рішення, але саме протест, який тут важливий, свідчить про те, що люди починають розуміти ризики, пов’язані з поділом даних з “компаніями штучного інтелекту”.

Приклад Optery є хорошим тут, оскільки її користувачі, в певному сенсі, знаходяться на авангарді зростаючої скептичності щодо так званих реалізацій штучного інтелекту. Люди, які обирають послугу з видалення даних, також, зазвичай, ті, хто звертає увагу на зміни умов використання та політики конфіденційності.

Свідчення зростаючого протесту проти використання даних генеративним штучним інтелектом

Користувачі, які піклуються про приватність, не були єдиними, хто висловив занепокоєння щодо систем генеративного штучного інтелекту та пов’язаних з ними ризиків приватності даних. На законодавчому рівні категоризація ризиків Акту про штучний інтелект ЄС відбувається відповідно до їхньої тяжкості, причому приватність даних явно або неявно вказується як критерій для присвоєння тяжкості в більшості випадків. Акт також розглядає питання інформованої згоди, про які ми обговорювали раніше.

У США, які відомі своєю повільністю у прийнятті комплексного федерального законодавства про приватність даних, є деякі охоронні заходи завдяки Указу 14110. Знову ж таки, питання приватності даних стоять на першому місці серед цілей, зазначених в Указі: “іреспонсібле використання [технологій штучного інтелекту] може посилити суспільні шкоди, такі як шахрайство, дискримінація, упередженість та дезінформація” – всі ці питання пов’язані з доступністю та поширенням особистих даних.

Повертаючись до рівня споживачів, це не тільки особливо ретельні щодо приватності споживачі, які обурюються вторгненнями у приватність реалізацій генеративного штучного інтелекту. “Фішка відзиву” Microsoft, призначена для операційної системи Windows 11, є яскравим прикладом. Як тільки було розкрито масштаб приватних та безпекових ризиків, протест був достатнім, щоб змусити технологічного гіганта зробити крок назад. На жаль, Microsoft, здається, не відмовилася від цієї ідеї, але перша публічна реакція все ж таки заслуговує на увагу.

Залишаючись у Microsoft, її програма Copilot була широко розкритикована за проблеми як приватності даних, так і безпеки даних. Оскільки Copilot був навчений на даних GitHub (в основному на джерельному коді), виникла також суперечка щодо передбачуваних порушень Microsoft угод про ліцензування програмного забезпечення розробників та програмістів. У таких випадках лінії між приватністю даних та правами інтелектуальної власності починають розмитись, надаючи приватності грошову вартість – щось, що не легко зробити.

Можливо, найкращим свідченням того, що штучний інтелект стає червоним прапором у очах споживачів, є стримана, якщо не прямо обережна, публічна реакція Apple на свій перший запуск штучного інтелекту, особливо щодо угод про поділ даних з OpenAI.

П’єзові рішення

Є кроки, які законодавці, розробники та компанії можуть зробити, щоб пом’якшити деякі ризики, пов’язані з генеративним штучним інтелектом. Це спеціалізовані рішення конкретних аспектів загальної проблеми, жодне з яких не очікується достатнім, але всі вони, працюючи разом, могли б зробити реальну різницю.

• Мінімізація даних. Мінімізація кількості зібраних та збережених даних є розумною метою, але вона прямо протилежна бажанню розробників генеративного штучного інтелекту щодо тренувальних даних.
• Прозорість. Ураховуючи сучасний стан машинного навчання, це може бути не технічно можливим у багатьох випадках. Огляд того, які дані обробляються та як під час генерації певного виходу, є одним зі способів забезпечення приватності у взаємодіях з генеративним штучним інтелектом.
• Анонімізація. Будь-яка особиста інформація, яка не може бути виключена з тренувальних даних (через мінімізацію даних), повинна бути анонімізована. Проблема полягає в тому, що багато популярних технік анонімізації та псевдонімізації легко обходяться.
• Згода користувача. Вимога згоди користувачів на збір та поділ їхніх даних є важливою, але надто відкритою для зловживання та надто схильною до споживчої самозадоволеності, щоб бути ефективною. Це інформована згода, яка потрібна тут, і більшість споживачів, належним чином поінформовані, не погодилися б на такий обмін даними, тому стимули неправильно виражені.
• Захист даних під час передачі та зберігання. Інший фундамент як приватності даних, так і безпеки даних, захист даних через криптографічні та інші засоби завжди може бути зроблений більш ефективним. Однак системи генеративного штучного інтелекту схильні витікати дані через свої інтерфейси, роблячи це лише частиною рішення.
• Виконання законодавства про авторське право та права інтелекту у контексті так званого штучного інтелекту. Машинне навчання може працювати у “чорній скриньці”, роблячи складним, якщо не неможливим, відстежувати, яка авторська робота та інтелектуальна власність потрапляє до якого виходу генеративного штучного інтелекту.
• Аудити. Інший важливий захід охорони, зірваний “чорною скринькою” LLM та генеративних систем штучного інтелекту, які вони підтримують. Ускладнюючи цю вроджену обмеження, закритий характер більшості продуктів генеративного штучного інтелекту обмежує аудити лише тим, які проводяться за розсудом розробника.

Усі ці підходи до проблеми є дійсними та необхідними, але жоден з них не достатній. Вони всі потребують законодавчої підтримки, щоб мати суттєвий ефект, що означає, що вони обречені бути позаду часу, оскільки ця динамічна галузь продовжує розвиватися.

Чітке рішення

Рішення ризиків приватності, пов’язаних з генеративним штучним інтелектом, не революційне та не цікаве, але, доведене до логічного висновку, його результати можуть бути як революційними, так і цікавими. Чітке рішення полягає в тому, що звичайні споживачі стають усвідомленими щодо цінності своїх даних для компаній та безцінності приватності даних для себе.

Споживачі є джерелами та двигунами за особистою інформацією, яка живить так звану сучасну економіку спостереження. Як тільки критична маса споживачів починає стримувати потік приватних даних у публічну сферу та починає вимагати відповідальності від компаній, які займаються особистими даними, система повинна самокорегуватися.

Похвально щодо генеративного штучного інтелекту те, що, на відміну від поточних моделей реклами та маркетингу, він не потребує особистої інформації на жодному етапі. Дані попереднього навчання та уточнення не повинні містити особисту інформацію чи інші особисті дані, а користувачі не повинні розкривати таку інформацію під час взаємодії з системами генеративного штучного інтелекту.

Щоб видалити свою особисту інформацію з тренувальних даних, люди можуть звернутися безпосередньо до джерела та видалити свої профайли з різних компаній збору даних (включаючи сайти пошуку людей), які агрегують публічні записи, вводячи їх у відкритий ринок. Послуги з видалення особистих даних автоматизують процес, роблячи його швидким та легким. Очевидно, що видалення особистих даних з баз даних цих компаній має багато інших переваг та жодних недоліків.

Люди також генерують особисті дані, взаємодіючи з програмним забезпеченням, включаючи генеративний штучний інтелект. Щоб стримати потік цих даних, користувачам доведеться бути більш уважними до того, що їхні взаємодії реєструються, переглядаються, аналізуються та діляться. Їхні варіанти для уникнення цього зводяться до обмеження того, що вони розкривають онлайн-системам, та використання локальних, відкритих LLM, де це можливо. Люди, в цілому, вже роблять хорошу роботу з регулювання того, про що вони говорять на публіці – нам просто потрібно розширити ці інстинкти у сфері генеративного штучного інтелекту.