Як хакери використовують штучний інтелект

Штучний інтелект довів свою цінність як технологія, яка додає вартість у глобальній економіці.

Когда компанії намагалися адаптуватися до поточних подій за останні кілька років, деякі з них знайшли способи впакувати півдесятиліття цифрових трансформацій у значно коротший термін. Наприклад, у випадку Frito-Lay, вони змогли впакувати півдесятиліття цифрових трансформацій у значно коротший термін. Harris Poll і Appen виявили, щобюджети на штучний інтелект збільшилися на 55% під час глобальної пандемії.

Як і будь-який інструмент, штучний інтелект не має вродженої моральної цінності. Корисність або потенційна шкода штучного інтелекту залежить від того, як система “навчиться” і що люди в кінцевому підсумку зроблять з ним.

Деякі спроби використовувати штучний інтелект, наприклад, “передбачення” злочинів до того, як вони трапляться, показують, що моделі, навчені на упереджених даних, мають тенденцію повторювати людські недоліки. До цього часу навчання штучного інтелекту за допомогою даних з системи правосуддя США призвело до трагічно упередженого висновку штучного інтелекту.

У інших випадках люди обирають більш свідомі способи використання руйнівного потенціалу штучного інтелекту. Хакери демонструють свою інноваційну схильність знову, використовуючи штучний інтелект для поліпшення ефективності, досяжності та прибутковості своїх атак. І оскільки кібервійна стає все більш поширеною у світі, ми обов’язково побачимо розвиток застосунків штучного інтелекту в хакінгу.

Штучний інтелект – це можливість і ризик

Штучний інтелект пропонує світ можливостей для підприємств, які бажають покращити прогнозування, оптимізацію бізнесу та стратегії утримання клієнтів. Це також величезна можливість для тих, хто намагається підірвати цифрову суверенітет інших.

Ось кілька способів, якими штучний інтелект може бути вразливий до прихованого втручання та більш відкритих спроб перетворити його на агресивні дії.

1. Підірвання логіки машини

Головна перевага штучного інтелекту для споживачів та комерційних підприємств полягає в тому, що він виконує передбачувані та повторювані акти логіки без людського втручання. Це також його найбільша слабкість.

Як і будь-яка інша цифрова конструкція, штучний інтелект може бути вразливим до проникнення ззовні. Хакери, які отримують доступ і підірвають логіку машини, що керує штучним інтелектом, можуть змусити його виконувати непередбачувані чи шкідливі дії. Наприклад, штучний інтелект, призначений для моніторингу промислових умов, може надавати хибні показання або не доставляти повідомлення про технічне обслуговування.

Оскільки вся суть інвестицій у штучний інтелект полягає в тому, щоб виключити людське втручання та сумніви щодо результатів, шкода інфраструктурі чи якості продукції, спричинена атакою цього типу, може не бути поміченою до катастрофічної відмови.

2. Використання алгоритмів зворотного інжинірингу

Інший потенційний шлях шкоди – особливо щодо інтелектуальної власності (ІП) та даних споживачів чи підприємств – полягає в понятті зворотного інжинірингу. Хакери можуть навіть викрасти код штучного інтелекту. З достатнім часом для вивчення того, як він працює, вони можуть в кінцевому підсумку виявити набори даних, використані для навчання штучного інтелекту спочатку.

Це може привести до кількох результатів, перший з яких – отруєння штучного інтелекту. Інші приклади можуть включати використання хакерами даних навчання штучного інтелекту для отримання компрометуючої інформації про ринки, конкурентів, уряди, постачальників чи загальних споживачів.

3. Навчання про цілі

Навчання цілей, ймовірно, одне з найбільш тривожних наслідків штучного інтелекту, що потрапляє до рук хакерів. Спроможність штучного інтелекту робити висновки про можливості людини, області знань, характер і ймовірність того, що людина стане жертвою цільової атаки, шахрайства чи зловживання, викликає особливу тривогу серед деяких експертів з кібербезпеки.

Штучний інтелект може споживати і досягати досить детальних висновків про людей, команди та групи на основі деяких найменше очікуваних даних. “Зайнятий” чи “розсіяний” індивід може друкувати швидко, грати з мишею або перемикатися між вкладками браузера швидко. Користувач, який “замішаний” чи “розсіяний”, може завішувати перед кліком на елементи сторінки або повторно відвідувати кілька сайтів.

У правильних руках такі сигнали допомагають відділам кадрів підвищувати рівень залученості працівників або допомогти маркетинговим командам поліпшити свої веб-сайти та продажі.

Для хакерів такі сигнали можуть привести до досить детального психологічного профілю цілі. Кіберзлочинці можуть визначити, хто з людей може бути вразливим до фішингу, смішингу, вимагання викупу, фінансового шахрайства та інших видів шкоди. Це також може допомогти зловмисникам вивчити, як найкраще переконати своїх цілей, що їхні спроби шахрайства походять з легітимних джерел.

4. Виявлення уразливості мережі

Професіонали з кібербезпеки опублікували дані про 20 175 відомих уразливостей безпеки у 2021 році. Це було збільшенням порівняно з 2020 роком, коли таких уразливостей було 17 049.

Світ стає все більш цифрово пов’язаним – деякі сказав би, залежним – з годиною. Світ тепер містить величезну кількість малих і промислових мереж, з мільярдами підключених пристроїв в Інтернеті та ще більше на шляху. Все знаходиться в Інтернеті, від датчиків моніторингу стану до програмного забезпечення для планування підприємств.

Штучний інтелект показує перспективи у допомозі командам з кібербезпеки швидко виявляти уразливості мережі, програмного забезпечення та апаратного забезпечення швидше, ніж люди могли б самостійно. Швидкість та масштаб росту цифрової інфраструктури Землі означають, що майже неможливо шукати тріліони рядків коду для пошуку уразливостей для патчу. Все це має відбуватися під час роботи цих систем через вартість простою.

Якщо штучний інтелект є інструментом кібербезпеки тут, то це також двосічний меч. Хакери можуть використовувати ті самі механізми, що й “білі” спеціалісти з ІТ, для виконання тієї самої роботи: виявлення уразливостей мережі, програмного забезпечення та апаратного забезпечення більш ефективно, ніж спеціалісти з ІТ можуть.

Цифрова гонка озброєння

Є занадто багато застосунків штучного інтелекту в кіберзлочинності, щоб їх усі перелічити, але ось кілька прикладів:

• Хакери можуть приховати код штучного інтелекту в іншому інструменті, який виконає шкідливу поведінку, коли він виявить певний сигнал або поріг.
• Зловмисні моделі штучного інтелекту можуть бути використані для визначення даних про обліковий запис або функцій управління ІТ за допомогою біометричних даних, таких як відбитки пальців та розпізнавання голосу.
• Навіть якщо спроба кібератаки в кінцевому підсумку не вдасться, хакери, оснащені штучним інтелектом, можуть використовувати машинне навчання для визначення того, що пішло не так і що вони могли б зробити інакше наступного разу.

Було достатньо однієї добре розміщеної історії про хакінг джипа під час руху, щоб сповільнити розвиток автономних транспортних засобів. Одна високопрофільна атака, в якій штучний інтелект грає ключову роль, може викликати подібну ерозію громадської думки. Деякі опитування показують, що середній американець вже досить сумнівався щодо переваг штучного інтелекту.

Омпрезентна комп’ютеризація супроводжується ризиками кібербезпеки – і як “білі”, так і “чорні” хакери знають про це. Штучний інтелект може допомогти зберегти нашу онлайн-безпеку, але він також є епіцентром нової цифрової гонки озброєння.