Небезпеки AI-чатботів – І як їм протидіяти

Колись вважалися просто автоматизованими програмами для спілкування, AI-чатботи тепер можуть навчатися та вести розмови, які майже не відрізняються від людей. Однак небезпеки AI-чатботів так само різноманітні.

Ці небезпеки можуть варіюватися від випадків, коли люди неправильно використовують їх, до реальних кібербезпекових ризиків.既然 люди все більше покладаються на технології штучного інтелекту, знання про потенційні наслідки використання цих програм є суттєвими. Але чи є боти небезпечними?

1. Упередженість і дискримінація

Однією з найбільших небезпек AI-чатботів є їхня схильність до шкідливих упереджень. Через те, що штучний інтелект встановлює зв’язки між даними, яких часто не помічають люди, він може виявити тонкі, неявні упередження у своїх навчальних даних та навчитися бути дискримінаційним. В результаті чатботи можуть швидко навчитися висловлювати расистські, сексистські або інші дискримінаційні вислови, навіть якщо нічого такого не було у їхніх навчальних даних.

Прямим прикладом є скасований робот для прийому на роботу компанії Amazon. У 2018 році з’ясувалося, що Amazon полишив проект штучного інтелекту, призначений для попередньої оцінки резюме申请ників, оскільки він штрафував заявки жінок. Через те, що більшість резюме, на яких навчався бот, належали чоловікам, він навчився вважати, що чоловічі заявники є більш прийнятними, навіть якщо навчальні дані явно не говорили про це.

Чатботи, які використовують інтернет-контент для навчання спілкуватися природно, демонструють ще більш екстремальні упередження. У 2016 році Microsoft представила чатбота під назвою Tay, який навчився наслідувати соціальні медійні пости. Усього за кілька годин він почав твітити високообразливі вислови, що змусило Microsoft призупинити обліковий запис незабаром.

Якщо компанії не будуть обережними при створенні та розгортанні цих ботів, вони можуть випадково привести до подібних ситуацій. Чатботи можуть погано поводитися з клієнтами або поширювати шкідливі упереджені вислови, яких вони повинні запобігати.

2. Кібербезпекові ризики

Небезпеки технології AI-чатботів також можуть становити більш пряму кібербезпекову загрозу для людей та підприємств. Одним з найпоширеніших видів кібератак є фішинг та вішинг-атаки. Вони полягають у імітації кібератакерами довірених організацій, таких як банки чи урядові органи.

Фішинг-атаки зазвичай здійснюються через електронну пошту та текстові повідомлення — натискання на посилання дозволяє малварю потрапити до комп’ютерної системи. Як тільки він потрапляє всередину, вірус може робити все, від крадіжки особистої інформації до утримання системи за викуп.

Рівень фішинг-атак постійно зростав під час та після пандемії COVID-19. Управління з питань кібербезпеки та інфраструктури безпеки виявило, що 84% осіб відповіли на фішинг-повідомлення з конфіденційною інформацією або натиснули на посилання.

Фішери використовують технологію AI-чатботів для автоматизації пошуку жертв, переконання їх натиснути на посилання та видачі особистої інформації. Чатботи використовуються багатьма фінансовими установами — такими як банки — для оптимізації досвіду клієнтів.

Чатботи-фішери можуть наслідувати ті самі автоматизовані запити, які використовують банки, щоб обманути жертв. Вони також можуть автоматично набирати номери телефонів або контактувати з жертвами безпосередньо на інтерактивних платформах для чату.

3. Отруєння даних

Отруєння даних — це новостворена кібератака, яка безпосередньо націлена на штучний інтелект. Технологія штучного інтелекту навчає się на наборах даних та використовує цю інформацію для виконання завдань. Це стосується всіх програм штучного інтелекту, незалежно від їх призначення чи функцій.

Для чатботів штучного інтелекту це означає навчання на多численних відповідях на можливі запитання користувачів. Однак це також одна з небезпек штучного інтелекту.

Ці набори даних часто є відкритими інструментами та ресурсами, доступними кожному. Хоча компанії, які займаються штучним інтелектом, зазвичай тримають у секреті свої джерела даних, кібератакери можуть визначити, які джерела вони використовують, та маніпулювати даними.

Кібератакери можуть знайти способи втручатися у набори даних, які використовуються для навчання штучного інтелекту, що дозволяє їм маніпулювати рішеннями та відповідями. Штучний інтелект буде використовувати інформацію з змінених даних та виконувати дії, які хочуть атакувальники.

Наприклад, одним з найпоширеніших джерел даних є Вікі-ресурси, такі як Вікіпедія. Хоча дані не походять безпосередньо з Вікіпедії, а з знімків даних, зроблених у певний момент часу. Хакери можуть знайти спосіб редагувати дані для своєї вигоди.

У випадку чатботів штучного інтелекту хакери можуть корумпувати набори даних, які використовуються для навчання чатботів, що працюють у медичних чи фінансових установах. Вони можуть маніпулювати програмами чатботів, щоб клієнти отримували неправильну інформацію, яка могла б змусити їх натиснути на посилання, що містить малвар або фальшивий веб-сайт. Як тільки штучний інтелект починає використовувати отруєні дані, його складно виявити, що може привести до суттєвого порушення кібербезпеки, яке залишається непоміченим протягом тривалого часу.

Як протидіяти небезпекам AI-чатботів

Ці ризики є занепокоєнням, але вони не означають, що боти є внутрішньо небезпечними. Радше, слід підходити до них обережно та враховувати ці небезпеки під час створення та використання чатботів.

Ключем до попередження упередженості штучного інтелекту є пошук її під час навчання. Перевірте, щоб навчати його на різноманітних наборах даних, та спеціально програмувати його, щоб уникнути урахування таких факторів, як раса, стать чи сексуальна орієнтація при прийнятті рішень. Також найкраще мати різноманітну команду вчених-даних для огляду внутрішньої роботи чатботів та забезпечення того, що вони не демонструють жодних упереджень, хоч би як тонких.

Найкращим захистом проти фішингу є навчання. Навчіть усіх працівників розпізнавати поширені ознаки фішинг-попыток, щоб вони не піддалися цим атакам. Поширення осведомленості серед споживачів щодо цієї проблеми також допоможе.

Ви можете запобігти отруєнню даних, обмеживши доступ до навчальних даних чатботів. Лише особи, яким потрібний доступ до цих даних для виконання своєї роботи, повинні мати авторизацію — це концепція, відома як принцип мінімальної привілегії. Після реалізації цих обмежень використовуйте сильні засоби верифікації, такі як багатофакторна аутентифікація або біометрія, щоб запобігти ризикам кіберзлочинців, які можуть хакнути авторизований обліковий запис.

Залишайтеся уважними проти небезпек залежності від AI

Штучний інтелект — це真正но чудова технологія з майже безкінечними застосуваннями. Однак небезпеки штучного інтелекту можуть бути нечіткими. Чи є боти небезпечними? Не внутрішньо, але кіберзлочинці можуть використовувати їх різними деструктивними способами. Вирішення про застосування цієї нової технології залежить від користувачів.