Як звернутися до мережевих проблем безпеки, пов’язаних з агентним штучним інтелектом

Агентний штучний інтелект (AI) представляє собою наступний етап розвитку штучного інтелекту, який обіцяє перевершити навіть можливості генераційного штучного інтелекту (GenAI). На відміну від більшості систем генераційного штучного інтелекту, які залежать від людських підказок або нагляду, агентний штучний інтелект є активним, оскільки він не потребує вводу користувача для вирішення складних багатокрокових завдань. Використовуючи цифрову екосистему великомасштабних мовних моделей (LLM), машинного навчання (ML) та обробки природної мови (NLP), агентний штучний інтелект виконує завдання автономно від імені людини або системи, суттєво підвищуючи продуктивність та ефективність.

Хоча агентний штучний інтелект ще перебуває на ранній стадії розвитку, експерти вже виділили деякі революційні випадки його застосування. Розгляньте середовище обслуговування клієнтів банку, де агент штучного інтелекту робить більше, ніж просто відповідає на запитання користувача. Натомість, агент дійсно виконує транзакції чи завдання, такі як переміщення коштів, коли це необхідно користувачеві. Інший приклад може бути у фінансовому середовищі, де системи агентного штучного інтелекту допомагають людським аналітикам, автономно та швидко аналізуючи великі об’єми даних для генерування звітів, готових до аудиту, для прийняття рішень на основі даних.

Незаперечні можливості агентного штучного інтелекту. Однак, як і будь-яка нова технологія, існують питання безпеки, управління та відповідності вимогам. Унікальна природа цих агентів штучного інтелекту представляє кілька проблем безпеки та управління для організацій. Підприємства повинні вирішити ці проблеми, щоб не тільки отримати вигоду від агентного штучного інтелекту, але й забезпечити мережеву безпеку та ефективність.

Які мережеві проблеми безпеки створює агентний штучний інтелект для організацій?

Агенти мають чотири основні операції. Перша – сприйняття та збор даних. Ці сотні, тисячі та, можливо, мільйони агентів збирають та обробляють дані з різних місць, незалежно від того, чи це хмара, локальна інфраструктура, край або інше, і ці дані можуть фізично походити з будь-якого місця, а не лише з одного географічного розташування. Другий етап – прийняття рішень. Після того, як агенти зібрали дані, вони використовують штучний інтелект та моделі машинного навчання для прийняття рішень. Третій етап – виконання дій. Агенти діють відповідно до прийнятого рішення. Останній етап – навчання, під час якого агенти використовують зібрані дані для корекції та адаптації своїх дій.

У цьому процесі агентний штучний інтелект вимагає доступу до величезних наборів даних для ефективної роботи. Агенти зазвичай інтегруються з системами даних, які обробляють або зберігають конфіденційну інформацію, таку як фінансові записи, бази даних охорони здоров’я та інші особисті ідентифікатори (PII). Нажаль, агентний штучний інтелект ускладнює зусилля щодо забезпечення мережевої інфраструктури проти уразливостей, особливо при міжхмарних з’єднаннях. Він також представляє проблеми безпеки виходу даних, що робить важким для підприємств захист від витоку даних, а також від командних та контрольних порушень. Якщо агент штучного інтелекту буде скомпрометований, конфіденційна інформація може бути легко витекла або вкрадена. Аналогічно, агентів можна захопити зловмисниками та використовувати для генерації та розповсюдження дезінформації у великих масштабах. Коли відбуваються порушення безпеки, то разом з фінансовими штрафами відбуваються й репутаційні наслідки.

Ключові можливості, такі як спостережуваність та відстежуваність, можуть бути ускладнені агентним штучним інтелектом, оскільки важко відстежувати, які набори даних агенти доступ themselves, збільшуючи ризик витоку даних або доступу до них неавторизованими користувачами. Аналогічно, динамічне навчання та адаптація агентного штучного інтелекту можуть перешкоджати традиційним аудитам безпеки, які залежать від структурованих журналів для відстеження потоку даних. Агентний штучний інтелект також є епізодичним, динамічним та безперервно працюючим, створюючи потребу у 24/7 підтримці оптимальної видимості та безпеки. Масштаб також є проблемою. Площа атаки значно зросла, розширившись за межі локального центру даних та хмари, щоб включити край. Насправді, залежно від організації, агентний штучний інтелект може додати тисячі до мільйонів нових кінцевих точок на краю. Ці агенти працюють у багатьох місцях, незалежно від того, чи це різні хмари, локальна інфраструктура, край тощо, роблячи мережу більш вразливою до атак.

Комплексний підхід до вирішення проблем безпеки агентного штучного інтелекту

Організації можуть вирішити проблеми безпеки агентного штучного інтелекту, застосовуючи рішення з безпеки та найкращі практики на кожному з чотирьох основних етапів роботи:

1. Сприйняття та збір даних: Підприємства потребують високошвидкісного мережевого з’єднання з кінцевим шифруванням, щоб їхні агенти могли зібрати величезну кількість даних, необхідних для роботи. Відзначте, що ці дані можуть бути конфіденційними або дуже цінними, залежно від випадку застосування. Компанії повинні розгорнути високошвидкісне шифроване рішення для з’єднання між усіма цими джерелами даних та захистити конфіденційну інформацію та особисті дані.
2. Приняття рішень: Компанії повинні забезпечити, щоб їхні агенти мали доступ до правильних моделей та інфраструктури штучного інтелекту та машинного навчання для прийняття правильних рішень. Реалізуючи брандмауер хмари, підприємства можуть отримати необхідне з’єднання та безпеку для своїх агентів, щоб вони могли доступитися до правильних моделей у аудитуємому порядку.
3. Виконання дій: Агенти приймають рішення та виконують дії відповідно. Однак компанії повинні ідентифікувати, який агент з сотень або тисяч зробив це рішення. Вони також повинні знати, як їхні агенти спілкуються один з одним, щоб уникнути конфліктів або “роботів, які борються з роботами”. Тому організації потребують спостережуваності та відстежуваності дій, виконаних їхніми агентами. Спостережуваність – це можливість відстежувати, моніторити та розуміти внутрішні стани та поведінку агентів штучного інтелекту в реальному часі. Відстежуваність – це можливість відстежувати та документувати дані, рішення та дії, виконані агентом штучного інтелекту.
4. Навчання та адаптація: Компанії витрачають мільйони, якщо не сотні мільйонів або більше, на налаштування своїх алгоритмів, що підвищує вартість та точність цих агентів. Якщо зловмисник отримає доступ до цих моделей та викраде їх, усі ці ресурси можуть опинитися в його руках за лічені хвилини. Підприємства можуть захистити свої інвестиції за допомогою функцій безпеки виходу даних, які охороняють проти витоку даних та командних та контрольних порушень.

Використання агентного штучного інтелекту у безпечній та відповідній манері

Агентний штучний інтелект має суттєвий потенціал, дозволяючи компаніям досягти нових висот продуктивності та ефективності. Однак, як і будь-яка нова технологія в сфері штучного інтелекту, організації повинні вжити заходів для захисту своїх мереж та конфіденційних даних. Безпека особливо важлива сьогодні, враховуючи високоорганізовані та добре фінансовані зловмисники, яких підтримують держави, такі як Salt Typhoon та Silk Typhoon, які продовжують проводити великомасштабні атаки.

Організації повинні співпрацювати з експертами з безпеки хмари, щоб розробити потужну, масштабовану та майбутнє-готову стратегію безпеки, здатну вирішити унікальні проблеми агентного штучного інтелекту. Ці партнери можуть дозволити підприємствам відстежувати, керувати та захищати своїх агентів штучного інтелекту; крім того, вони допомагають компаніям отримати необхідну свідомість для задоволення стандартів, пов’язаних з відповідністю вимогам та управлінням.