Новий дослід вивів на світло приховані уразливості штучного інтелекту

У швидкозмінному ландшафті штучного інтелекту обіцянка трансформаційних змін охоплює безліч галузей, від революційних перспектив автономних транспортних засобів, які змінюють транспорт, до складного використання штучного інтелекту при інтерпретації складних медичних зображень. Розробка технологій штучного інтелекту була нічим іншим, як цифровим відродженням, що оголошує майбутнє, повне можливостей і досягнень.

Однак недавній дослід вивів на світло стурбуючу сторону, яка часто залишається поза увагою: підвищену вразливість систем штучного інтелекту до націлених атак. Це відкриття викликає питання про надійність застосунків штучного інтелекту в критичних галузях і підкреслює необхідність глибшого розуміння цих уразливостей.

Концепція атак проти штучного інтелекту

Атаки проти штучного інтелекту – це тип кіберзагроз, при яких атакувальники навмисно маніпулюють вхідними даними системи штучного інтелекту, щоб обманути її і змусити приймати неправильні рішення або класифікації. Ці атаки використовують вбудовані слабкості в тому, як алгоритми штучного інтелекту обробляють і інтерпретують дані.

Наприклад, розглянемо автономний транспортний засіб, який використовує штучний інтелект для розпізнавання дорожніх знаків. Атака проти штучного інтелекту може бути такою простою, як розміщення спеціально розробленого стікера на знак “стоп”, що змусить штучний інтелект неправильно інтерпретувати його, що потенційно може привести до катастрофічних наслідків. Аналогічно, в медичній галузі хакер може тонко змінити дані, що подаються в систему штучного інтелекту, яка аналізує рентгенівські зображення, що призведе до неправильних діагнозів. Ці приклади підкреслюють критичний характер цих уразливостей, особливо в застосунках, де питання безпеки і людських життів стоять на першому місці.

Стурбуючі результати дослідження

Дослід, співавтором якого є Тяньфу У, асоційований професор електротехніки та комп’ютерних наук університету штату Північна Кароліна, досліджував поширення цих уразливостей проти штучного інтелекту, виявивши, що вони значно частіші, ніж вважалося раніше. Це відкриття особливо стурбує, враховуючи зростаючу інтеграцію штучного інтелекту в критичні та повсякденні технології.

У підкреслює серйозність цієї ситуації, заявляючи: “Атакувальники можуть використати ці уразливості, щоб змусити штучний інтелект інтерпретувати дані так, як їм хочуть. Це надзвичайно важливо, оскільки якщо система штучного інтелекту не є стійкою проти таких атак, ви не хочете використовувати цю систему на практиці – особливо для застосунків, які можуть вплинути на людські життя.”

QuadAttacK: Інструмент для викриття уразливостей

У відповідь на ці результати У та його команда розробили QuadAttacK, новаторський软件, призначений для систематичного тестування глибоких нейронних мереж на уразливості проти атак штучного інтелекту. QuadAttacK працює, спостерігаючи за реакцією системи штучного інтелекту на чисті дані та вивчаючи, як вона приймає рішення. Потім він маніпулює даними, щоб протестувати уразливість штучного інтелекту.

У пояснює: “QuadAttacK спостерігає за цими операціями та вчиться, як штучний інтелект приймає рішення, пов’язані з даними. Це дозволяє QuadAttacK визначити, як дані можуть бути маніпульовані, щоб обманути штучний інтелект.”

У тестуванні концепції QuadAttacK було використано для оцінки чотирьох широко використовуваних нейронних мереж. Результати були шокуючими.

“Ми були здивовані, виявивши, що всі чотири цих мереж були дуже вразливі до атак проти штучного інтелекту”, – каже У, підкреслюючи критичну проблему в галузі штучного інтелекту.

Ці результати служать сигналом тривоги для спільноти дослідників штучного інтелекту та галузей, що залежать від технологій штучного інтелекту. Виявлені уразливості не тільки становлять ризики для поточних застосунків, але також викликають сумніви щодо майбутньої реалізації систем штучного інтелекту в чутливих галузях.

Зов до дії для спільноти штучного інтелекту

Публічна доступність QuadAttacK позначає значний крок до більш широких досліджень та розробок з метою забезпечення безпеки систем штучного інтелекту. Надавши цей інструмент, У та його команда забезпечили цінний ресурс для дослідників та розробників, щоб виявити та подолати уразливості в своїх системах штучного інтелекту.

Результати дослідження команди та інструмент QuadAttacK будуть представлені на Конференції з обробки нейронної інформації (NeurIPS 2023). Основним автором статті є Томас Паніагуа, аспірант університету штату Північна Кароліна, разом з співавтором Раяном Грейнджером, також аспірантом університету. Ця презентація не лише академічне дослідження, а й зов до дії для глобальної спільноти штучного інтелекту, щоб пріоритизувати безпеку при розробці штучного інтелекту.

Стоячи на роздоріжжі інновацій штучного інтелекту та безпеки, робота У та його колег пропонує як застережливу історію, так і карту шляху для майбутнього, де штучний інтелект може бути одночасно потужним і безпечним. Подорож вперед складна, але необхідна для сталого інтегрування штучного інтелекту в тканину нашого цифрового суспільства.

Команда зробила QuadAttacK публічно доступним. Ви можете знайти його тут: https://thomaspaniagua.github.io/quadattack_web/