Коли штучний інтелект поводиться неадекватно: мінімізація внутрішніх загроз у добу автономних агентів

 Штучні інтелектні агенти створюють нові виклики для команд безпеки та ІТ. На порозі цього зсуву до більш автоматизованих робочих процесів для завдань бізнес-континуїтету, недавнє тестування виявило, що штучні інтелектні агенти можуть виявляти небезпечну або обманну поведінку під певними умовами, створюючи нову внутрішню загрозу для підприємств різних галузей.

Виносячи критичну потребу для організацій правильно моніторити штучні інтелектні агенти, які отримують доступ до конфіденційних даних і діють без нагляду людини, це потенційно вводить нові класи ризиків, які є швидшими, менш передбачуваними і важчими для визначення. Реальність цих ризиків двоїста. З одного боку, команди безпеки повинні бути готові до зловмисників, які використовують штучні інтелектні агенти для посилення соціальної інженерії атак на своїх працівників. З іншого боку, їм потрібно бути готовими до внутрішніх штучних інтелектних агентів компанії, які можуть виявляти поведінку, що створює цілком новий набір ризиків безпеки та уразливості.

Як внутрішні штучні інтелектні агенти можуть привести до внутрішніх загроз

Штучні інтелектні агенти становлять два ключових внутрішніх ризики безпеки всередині корпоративних мереж. По-перше, вони діють автономно без етичних меж або вбудованої підзвітності, яких дотримуються людські працівники. Працюючи на основі припущених цілей, а не явних інструкцій, їхня ефективність і наполегливість можуть розширити межі і дозволити їм діяти без схвалення. Без необхідних перевірок і балансів ризики можуть легко бути створені і проігноровані.

Ці агенти також можуть мати доступ до великих обсягів даних, але не мають можливості розрізняти привілейовані та звичайні відомості. Тому навіть прості завдання, такі як аналіз наборів даних, можуть спричинити витік даних або їхнє відкриття зовнішнім сторонам. Ця проблема стає ще більш складною, коли штучний інтелект розгортається по різних системах і робочим процесам з різними правилами та протоколами обробки даних. Агенти, що діють у різних регіонах, часто порушують місцеві правила обробки даних через несумісну політику, тим самим створюючи ризики безпеки. Реальність така, що лише 30% підприємств США активно відстежують, які штучні інтелектні агенти мають доступ до критичних систем, створюючи велику сліпоту безпеки.

Як зовнішні штучні інтелектні агенти можуть привести до внутрішніх загроз

Одним з найпоширеніших способів входу для хакерів є фішинг і соціальна інженерія атак. Зловмисники та кібер-групи використовують штучні інтелектні агенти для посилення цих атак і проведення складних інцидентів глибокого фейку та імітації. Штучні інтелектні агенти можуть бути використані для створення фішингу та соціальної інженерії атак, які здаються більш реальними і правдоподібними для необізнаної людини. 60% порушень у 2024 році включали людський фактор, і майже чверть з них походили від соціальної інженерії. Ця кількість буде збільшуватися з тим, як використання штучних інтелектних агентів буде продовжувати посилювати ці методи входу.

Штучні інтелектні агенти можуть бути навчені просіювати великі обсяги соціальних медіа та особистих даних по різних платформам і каналам для відправки цілевих, персоналізованих повідомлень. Повідомлення, які імітують тон і голос відправників, більш ймовірно будуть успішними і важче відрізнити від реальних медіа. Штучні інтелектні агенти можуть навчитися адаптувати свої кампанії для підвищення ефективності, зміни напрямку, коли атака не спрацьовує, або імітуючи атаку, яка спрацювала.

Коли йдеться про глибокі фейки, штучні інтелектні агенти можуть генерувати ці імітації з видатними швидкостями, які призводять до масової маніпуляції. Зловмисники також використовують штучні інтелектні агенти для спілкування з відеодзвінками в режимі реального часу з мінімальною затримкою і підвищенням достовірності. Вони можуть реагувати на реакцію цілі в режимі реального часу і змінити свій підхід, якщо це необхідно. Ці посилені атаки можуть збільшити ризик внутрішніх загроз з необізнаними працівниками, які можуть бути обмануті і витягнути конфіденційні дані, авторизувати транзакції або поділитися凍никами з загрозливими акторами.

Роль команд безпеки у вирішенні проблем штучного інтелекту

Команди безпеки повинні вжити конкретних дій для обмеження сліпих плямів, створених штучними інтелектними агентами. Відділи ІТ повинні насамперед обмежити доступ штучних інтелектних агентів до конфіденційних даних за допомогою управління даними та контролю видимості в режимі реального часу. кроки для досягнення цього включають класифікацію ідентифікаторів штучних інтелектних агентів у системах управління ідентифікацією та моніторинг їхньої діяльності з тією ж суворістю, що і привілейовані облікові записи. Частина видимості полягає у моніторингу мережевої діяльності для вже реалізованих поведінкових базових ліній, призначених штучним інтелектним агентам. З видимістю команди ІТ можуть моніторити рух привілейованого доступу та аномалії, підтримуючи не тільки профілактичні зусилля, але й прискорюючи заходи ізоляції та відновлення у разі виявлення зловмисного агента.

Крім того, ідентифікуючи нові закономірності та тактику, використовувану у атаках штучних інтелектних агентів, організації можуть оновити свої стратегії захисту та навчити свої системи безпеки розпізнавати та нейтралізувати подібні загрози в майбутньому.

Передбачення внутрішніх загроз, введених штучними інтелектними агентами

Реальність така, що штучні інтелектні агенти вводять новий внутрішній ризик через свою автономність і зростаючий доступ до чутливих систем. Крім того, загрозливі актори будуть продовжувати використовувати штучні інтелектні агенти для більш ефективного використання людських уразливостей через глибокі фейки, фішинг та соціальну інженерію.

По мірі розвитку цієї технології підприємства повинні покращити свою видимість у доступі та поведінці штучних інтелектних агентів до їхньої інтеграції у робочі процеси. Це включає інвестиції у проактивний, круговий, моніторинг у режимі реального часу поряд зі штучним інтелектним агентством. Хоча штучні інтелектні агенти можуть вирішувати критичні бізнес-затори та виклики, вони потребують проактивного підходу для обмеження майбутніх внутрішніх загроз.