Небезпеки чат-ботів штучного інтелекту – і як їм протидіяти

Колись чат-боти штучного інтелекту вважалися просто автоматизованими програмами для розмов, але тепер вони можуть навчатися і вести розмови, які майже не відрізняються від тих, що ведуть люди. Однак небезпеки чат-ботів штучного інтелекту так само різноманітні.

Ці небезпеки можуть варіюватися від випадків, коли люди неправильно використовують їх, до реальних кібербезпек. Коли люди все більше залежать від технологій штучного інтелекту, знання потенційних наслідків використання цих програм є важливим. Але чи небезпечні чат-боти?

1. Упередженість і дискримінація

Однією з найбільших небезпек чат-ботів штучного інтелекту є їхня схильність до шкідливих упереджень. Через те, що штучний інтелект встановлює зв’язки між пунктами даних, які часто люди не помічають, він може вчитися в своїх навчальних даних і вчиться бути дискримінаційним. В результаті чат-боти можуть швидко навчитися висловлювати расистські, сексистські або інші дискримінаційні вислови, навіть якщо нічого такого не було в їхніх навчальних даних.

Примітним прикладом є скасований робот з найму Amazon. У 2018 році з’явилося повідомлення, що Amazon полишив проект штучного інтелекту, призначений для попередньої оцінки резюме претендентів, оскільки він штрафував заявки від жінок. Через те, що більшість резюме, на яких навчався робот, належали чоловікам, він навчився вважати, що чоловіки-претенденти є більш прийнятними, навіть якщо навчальні дані явно цього не казали.

Чат-боти, які використовують інтернет-контент для навчання спілкування, демонструють ще більш екстремальні упередження. У 2016 році Microsoft представив чат-бота під назвою Tay, який навчився наслідувати соціальні медіа-пости. За кілька годин він почав твітити вислови з високим рівнем образливого змісту, що призвело до того, що Microsoft тимчасово призупинив обліковий запис.

Якщо компанії не будуть обережні при створенні та розгортанні цих ботів, вони можуть випадково створити подібні ситуації. Чат-боти можуть погано поводитися з клієнтами або поширювати шкідливі упереджені вислови, яких вони повинні запобігати.

2. Кібербезпеки

Небезпеки технологій чат-ботів штучного інтелекту також можуть становити пряму кібербезпеку для людей і підприємств. Одним з найпоширеніших видів кібератак є фішинг і вішинг-атаки. Це涉лює кібератаки, які маскеруються під довірені організації, такі як банки або державні органи.

Фішинг-атаки зазвичай здійснюються через електронну пошту та текстові повідомлення — натискання на посилання дозволяє шкідливому коду потрапити до комп’ютерної системи. Як тільки він потрапляє всередину, вірус може робити все, від крадіжки особистої інформації до вимагання викупу за систему.

Частота фішинг-атак постійно зростає під час і після пандемії COVID-19. Університет кібербезпеки та інфраструктури виявив, що 84% осіб відповіли на фішинг-повідомлення з конфіденційною інформацією або натиснули на посилання.

Фішери використовують технологію чат-ботів штучного інтелекту для автоматизації пошуку жертв, переконання їх натиснути на посилання та видачі особистої інформації. Чат-боти використовуються багатьма фінансовими установами — такими як банки — для оптимізації досвіду клієнтського обслуговування.

Фішерські чат-боти можуть маскеруватися під автоматичні запити, які використовують банки, щоб обманути жертв. Вони також можуть автоматично набирати номери телефонів або контактувати з жертвами безпосередньо на інтерактивних платформах.

3. Отруєння даних

Отруєння даних — це новий вид кібератаки, який безпосередньо націлений на штучний інтелект. Технологія штучного інтелекту вчиться з наборів даних і використовує цю інформацію для виконання завдань. Це стосується всіх програм штучного інтелекту, незалежно від їх мети або функцій.

Для чат-ботів штучного інтелекту це означає навчання на декількох відповідях на можливі питання, які можуть задати користувачі. Однак це також одна з небезпек штучного інтелекту.

Ці набори даних часто є відкритими інструментами та ресурсами, доступними для всіх. Хоча компанії штучного інтелекту зазвичай тримають у секреті свої джерела даних, кібератаки можуть визначити, які джерела вони використовують, і маніпулювати даними.

Кібератаки можуть знайти способи втручатися в набори даних, які використовуються для навчання штучного інтелекту, що дозволяє їм маніпулювати рішеннями та відповідями штучного інтелекту. Штучний інтелект буде використовувати інформацію з змінених даних і виконувати дії, які хочуть кібератаки.

Наприклад, одним з найпоширеніших джерел даних для наборів даних є Вікі-ресурси, такі як Вікіпедія. Хоча дані не походять безпосередньо з живої статті Вікіпедії, вони походять зі знімків даних, зроблених у певний момент часу. Хакери можуть знайти спосіб редагувати дані для своєї вигоди.

У випадку чат-ботів штучного інтелекту хакери можуть пошкодити набори даних, які використовуються для навчання чат-ботів, що працюють у медичних або фінансових установах. Вони можуть маніпулювати програмами чат-ботів, щоб надавати клієнтам неправильну інформацію, яка може привести їх до натискання на посилання, що містять шкідливі програми або підроблені веб-сайти. Як тільки штучний інтелект починає витягувати інформацію з отруєних даних, його важко виявити і це може привести до значної порушення кібербезпеки, яке може тривати довгий час без виявлення.

Як протидіяти небезпекам чат-ботів штучного інтелекту

Ці ризики викликають занепокоєння, але вони не означають, що чат-боти є небезпечними за своєю суттю. Радше потрібно підходити до них обережно і враховувати ці небезпеки при створенні та використанні чат-ботів.

Ключем до запобігання упередженості штучного інтелекту є пошук упередженості під час навчання. Перевірте, щоб навчальні дані були різноманітними, і спеціально запрограмуйте його на уникнення факторів, таких як раса, стать або сексуальна орієнтація, при прийнятті рішень. Також найкраще мати різноманітну команду вчених-даних для перевірки внутрішньої роботи чат-ботів і забезпечення того, що вони не демонструють жодних упереджень, dù як би тонких.

Найкращим захистом проти фішингу є навчання. Навчіть усіх працівників розпізнавати поширені ознаки фішинг-атак, щоб вони не піддалися цим атакам. Поширення інформації серед споживачів щодо цієї проблеми також допоможе.

Від отруєння даних можна захиститися, обмеживши доступ до навчальних даних чат-ботів. Лише особи, яким потрібно доступ до цих даних для виконання своєї роботи, повинні мати авторизацію — це концепція принципу мінімальної привілеї. Після реалізації цих обмежень використовуйте сильні засоби верифікації, такі як багатофакторна аутентифікація або біометрія, щоб запобігти ризикам кібератак.

Залишайтеся пильними проти небезпек залежності від штучного інтелекту

Штучний інтелект — це дійсно чудова технологія з майже безмежними застосуваннями. Однак небезпеки штучного інтелекту можуть бути нечіткими. Чи небезпечні чат-боти? Не за своєю суттю, але кібератаки можуть використовувати їх різними способами. Вирішення щодо застосування цієї нової технології залежить від користувачів.