Розгляньте ризики, перш ніж скористатися Bard з розширеннями штучного інтелекту

Google недавно оголосив про повномасштабний запуск розширень Bard, інтегруючи інструмент генеративного штучного інтелекту (GenAI) у свої інші сервіси. Тепер Bard може використовувати персональні дані користувачів для виконання різних завдань – організації електронної пошти, бронювання авіаквитків, планування поїздок, створення відповідей на повідомлення та багато іншого.

Оскільки сервіси Google вже глибоко вплетені у нашу повсякденну життя, ця інтеграція означає справжній крок вперед у практичному застосуванні GenAI, створюючи більш ефективні та продуктивні способи виконання персональних завдань та робочих процесів. Як наслідок, коли Google випускає більш зручні інструменти штучного інтелекту, інші веб-орієнтовані функції штучного інтелекту з’являються, щоб задовольнити попит користувачів, які зараз шукають розширення продуктивності для браузера.

Користувачі, однак, повинні бути обережними та відповідальними. Як корисними та продуктивними можуть бути розширення Bard та інші подібні інструменти, вони відкривають нові двері до потенційних ризиків безпеки, які можуть скомпрометувати персональні дані користувачів, серед інших ще не відкритих ризиків. Користувачі, які хочуть скористатися Bard або іншими інструментами продуктивності GenAI, повинні вивчити найкращі практики та шукати комплексні рішення безпеки, перш ніж бездумно передавати свої конфіденційні дані.

Перегляд персональних даних

Google явно зазначає, що його співробітники можуть переглядати розмови користувачів з Bard – які можуть містити приватну інформацію, від рахунків до банківських даних до любовних листів. Користувачів попереджають про те, щоб не вводити конфіденційну інформацію або будь-які дані, які вони не хочуть, щоб співробітники Google бачили або використовували для інформування продуктів, сервісів та технологій машинного навчання.

Google та інші постачальники інструментів GenAI, ймовірно, також будуть використовувати персональні дані користувачів для повторної підготовки своїх моделей машинного навчання – необхідного аспекту покращення GenAI. Сила штучного інтелекту полягає в його здатності навчатися самостійно та вчиться з нової інформації, але коли ця нова інформація надходить від користувачів, які довірили розширенню GenAI свої персональні дані, це несення ризику інтеграції інформації, такої як паролі, банківська інформація чи контактні дані, до публічно доступних сервісів Bard.

Невизначені ризики безпеки

Як Bard стає все більш інтегрованим інструментом у Google, експерти та користувачі продовжують працювати над розумінням повного обсягу його функціональності. Але, як і кожен інноваційний гравець у сфері штучного інтелекту, Google продовжує випускати продукти, не знаючи точно, як вони будуть використовувати інформацію та дані користувачів. Наприклад, нещодавно було виявлено, що якщо ви поділитесь розмовою з Bard з другом через кнопку “Поділитися”, вся розмова може з’явитися у стандартних результатах пошуку Google для всіх на перегляд.

Хоча це і є привабливим рішенням для покращення робочих процесів та ефективності, надання розширенню Bard або іншому інструменту штучного інтелекту дозволу виконувати корисні повсякденні завдання від вашого імені може привести до нежаданих наслідків у вигляді галюцинацій штучного інтелекту – помилкових або неточних виводів, яких GenAI іноді створює.

Для користувачів Google це може означати бронювання неправильного рейсу, неточне оплата рахунку або поділ документів з неправильною людиною. Виставлення персональних даних неправильній особі або зловмисникові або надсилання неправильних даних правильній особі може привести до нежаданих наслідків – від крадіжки особистості та втрати цифрової приватності до потенційної фінансової втрати або виставлення прикрої кореспонденції.

Розширення безпеки

Для середнього користувача штучного інтелекту найкращою практикою є просто не ділитися жодною персональною інформацією з ще непередбачуваними помічниками штучного інтелекту. Але це сам по собі не гарантує повної безпеки.

Перехід до SaaS та веб-застосунків уже зробив браузер головною мішенню для атакувальників. І коли люди починають приймати більше веб-орієнтованих інструментів штучного інтелекту, вікно можливостей для крадіжки конфіденційних даних відкривається ще ширше. Як більше розширень браузера намагаються скористатися успіхом GenAI – заманюючи користувачів новими та ефективними функціями – люди повинні бути обережними щодо того, що багато з цих розширень закінчаться крадіжкою інформації або ключів API OpenAI, у випадку інструментів, пов’язаних з ChatGPT.

На щастя, рішення безпеки розширень браузера вже існують, щоб запобігти крадіжці даних. Реалізувавши розширення браузера з контролями DLP, користувачі можуть пом’якшити ризик запрошення інших розширень браузера, заснованих на штучному інтелекті чи іншим, до неправильного використання або поділу персональних даних. Ці розширення безпеки можуть інспектувати діяльність браузера та застосовувати політики безпеки, запобігаючи ризику веб-застосунків, які можуть вихопити конфіденційну інформацію.

Захистіть Bard

Хоча Bard та інші подібні розширення обіцяють покращення продуктивності та зручності, вони несуть суттєві кібербезпекові ризики. Кожного разу, коли залучаються персональні дані, завжди існують підкладені проблеми безпеки, про які користувачі повинні бути обізнані – ще більше у нових, ще не картографованих водах генеративного штучного інтелекту.

Як користувачі дозволяють Bard та іншим веб-орієнтованим інструментам діяти незалежно з конфіденційними персональними даними, більш серйозні наслідки, безумовно, чекають на невігласних користувачів, які залишають себе вразливими без розширень безпеки браузера чи контроля DLP. Адже підвищення продуктивності буде значно менше продуктивним, якщо це збільшить шанс виставлення інформації, і люди повинні встановити заходи безпеки для штучного інтелекту до того, як дані будуть неправильно оброблені за їх рахунок.