Лідери думок
Небезпеки чат-ботів штучного інтелекту – і як їм протидіяти

Ключові моментиЧатботи зі штучним інтелектом можуть посилювати шкідливі упередження з навчальних…
Показати більше
- Чатботи зі штучним інтелектом можуть посилювати шкідливі упередження з навчальних даних, про що свідчить інструмент Amazon з найму персоналу, що дискримінував жінок.
- Чатботи дозволяють проводити складні фішингові атаки, імітуючи довірені установи для автоматизації вибору жертв і крадіжки інформації.
- Атаки через отруєння даних псують навчальні набори ШІ, такі як знімки Вікіпедії, щоб непомітно маніпулювати відповідями чатботів.
Колись чат-боти штучного інтелекту вважалися просто автоматизованими програмами для розмов, але тепер вони можуть навчатися і вести розмови, які майже не відрізняються від тих, що ведуть люди. Однак небезпеки чат-ботів штучного інтелекту так само різноманітні.
Ці небезпеки можуть варіюватися від випадків, коли люди неправильно використовують їх, до реальних ризиків кібербезпеки. Коли люди все більше залежать від технологій штучного інтелекту, знання потенційних наслідків використання цих програм є важливим. Але чи небезпечні чат-боти?
1. Упередженість і дискримінація
Однією з найбільших небезпек чат-ботів штучного інтелекту є їхня схильність до шкідливих упереджень. Через те, що штучний інтелект встановлює зв’язки між точками даних, які часто люди не помічають, він може засвоювати тонкі приховані упередження у своїх навчальних даних і навчатися дискримінації. В результаті чат-боти можуть швидко навчитися висловлювати расистські, сексистські або інші дискримінаційні вислови, навіть якщо нічого такого не було в їхніх навчальних даних.
Примітним прикладом є скасований робот з найму Amazon (AMZN ). У 2018 році з’явилося повідомлення, що Amazon полишив проект штучного інтелекту, призначений для попередньої оцінки резюме претендентів, оскільки він штрафував заявки від жінок. Через те, що більшість резюме, на яких навчався робот, належали чоловікам, він навчився вважати, що чоловіки-претенденти є більш прийнятними, навіть якщо навчальні дані явно цього не казали.
Чат-боти, які використовують інтернет-контент для навчання спілкування, демонструють ще більш екстремальні упередження. У 2016 році Microsoft (MSFT ) представив чат-бота під назвою Tay, який навчився наслідувати соціальні медіа-пости. За кілька годин він почав твітити вислови з високим рівнем образливого змісту, що призвело до того, що Microsoft тимчасово призупинив обліковий запис.
Якщо компанії не будуть обережні при створенні та розгортанні цих ботів, вони можуть випадково створити подібні ситуації. Чат-боти можуть погано поводитися з клієнтами або поширювати шкідливі упереджені вислови, яких вони повинні запобігати.
2. Ризики кібербезпеки
Небезпеки технологій чат-ботів штучного інтелекту також можуть становити пряму кіберзагрозу для людей і підприємств. Одним з найпоширеніших видів кібератак є фішинг і вішинг-атаки. Це охоплює кіберзловмисників, які маскуються під довірені організації, такі як банки або державні органи.
Фішинг-атаки зазвичай здійснюються через електронну пошту та текстові повідомлення — натискання на посилання дозволяє шкідливому коду потрапити до комп’ютерної системи. Як тільки він потрапляє всередину, вірус може робити все, від крадіжки особистої інформації до вимагання викупу за систему.
Частота фішинг-атак постійно зростає під час і після пандемії COVID-19. Агентство з кібербезпеки та безпеки інфраструктури США виявив, що 84% осіб відповіли на фішинг-повідомлення з конфіденційною інформацією або натиснули на посилання.
Фішери використовують технологію чат-ботів штучного інтелекту для автоматизації пошуку жертв, переконання їх натиснути на посилання та видачі особистої інформації. Чат-боти використовуються багатьма фінансовими установами — такими як банки — для оптимізації досвіду клієнтського обслуговування.
Фішерські чат-боти можуть маскуватися під автоматичні запити, які використовують банки, щоб обманути жертв. Вони також можуть автоматично набирати номери телефонів або контактувати з жертвами безпосередньо на інтерактивних платформах.
3. Отруєння даних
Отруєння даних — це новий вид кібератаки, який безпосередньо націлений на штучний інтелект. Технологія штучного інтелекту вчиться з наборів даних і використовує цю інформацію для виконання завдань. Це стосується всіх програм штучного інтелекту, незалежно від їх мети або функцій.
Для чат-ботів штучного інтелекту це означає навчання на декількох відповідях на можливі питання, які можуть задати користувачі. Однак це також одна з небезпек штучного інтелекту.
Ці набори даних часто є відкритими інструментами та ресурсами, доступними для всіх. Хоча компанії штучного інтелекту зазвичай тримають у секреті свої джерела даних, кіберзловмисники можуть визначити, які джерела вони використовують, і маніпулювати даними.
Кіберзловмисники можуть знайти способи втручатися в набори даних, які використовуються для навчання штучного інтелекту, що дозволяє їм маніпулювати рішеннями та відповідями штучного інтелекту. Штучний інтелект буде використовувати інформацію з змінених даних і виконувати дії, яких прагнуть кіберзловмисники.
Наприклад, одним з найпоширеніших джерел даних для наборів даних є Вікі-ресурси, такі як Вікіпедія. Хоча дані не походять безпосередньо з живої статті Вікіпедії, вони походять зі знімків даних, зроблених у певний момент часу. Хакери можуть знайти спосіб редагувати дані для своєї вигоди.
У випадку чат-ботів штучного інтелекту хакери можуть пошкодити набори даних, які використовуються для навчання чат-ботів, що працюють у медичних або фінансових установах. Вони можуть маніпулювати програмами чат-ботів, щоб надавати клієнтам неправильну інформацію, яка може привести їх до натискання на посилання, що містять шкідливі програми або підроблені веб-сайти. Як тільки штучний інтелект починає витягувати інформацію з отруєних даних, його важко виявити і це може привести до значного порушення кібербезпеки, яке може тривати довгий час без виявлення.
Як протидіяти небезпекам чат-ботів штучного інтелекту
Ці ризики викликають занепокоєння, але вони не означають, що чат-боти є небезпечними за своєю суттю. Радше потрібно підходити до них обережно і враховувати ці небезпеки при створенні та використанні чат-ботів.
Ключем до запобігання упередженості штучного інтелекту є пошук упередженості під час навчання. Перевірте, щоб навчальні дані були різноманітними, і спеціально запрограмуйте його на уникнення факторів, таких як раса, стать або сексуальна орієнтація, при прийнятті рішень. Також найкраще мати різноманітну команду вчених-даних для перевірки внутрішньої роботи чат-ботів і забезпечення того, що вони не демонструють жодних упереджень, хоч якими тонкими вони були б.
Найкращим захистом проти фішингу є навчання. Навчіть усіх працівників розпізнавати поширені ознаки фішинг-атак, щоб вони не піддалися цим атакам. Поширення інформації серед споживачів щодо цієї проблеми також допоможе.
Від отруєння даних можна захиститися, обмеживши доступ до навчальних даних чат-ботів. Лише особи, яким потрібен доступ до цих даних для виконання своєї роботи, повинні мати авторизацію — це концепція принципу найменших привілеїв. Після реалізації цих обмежень використовуйте сильні засоби верифікації, такі як багатофакторна аутентифікація або біометрія, щоб запобігти ризику зламу авторизованого облікового запису кіберзлочинцями.
Залишайтеся пильними проти небезпек залежності від штучного інтелекту
Штучний інтелект — це дійсно чудова технологія з майже безмежними застосуваннями. Однак небезпеки штучного інтелекту можуть бути нечіткими. Чи небезпечні чат-боти? Не за своєю суттю, але кіберзлочинці можуть використовувати їх різними способами. Вирішення щодо застосування цієї нової технології залежить від користувачів.












