Партнерства

Onyx Security і Glean об’єдналися, щоб захистити корпоративних агентів ШІ

Miles Okada
Додайте Unite.AI до бажаних джерел у Google
Conceptual illustration of enterprise knowledge flowing through runtime security controls
Ключові моментиOnyx і Glean інтегрують виявлення та застосування під час виконання, щоб агенти…
Показати більше
  • Onyx і Glean інтегрують виявлення та застосування під час виконання, щоб агенти керувалися поза межами простих дозволів на отримання даних.
  • Хуки Glean надають Onyx контрольні точки для оцінки запитів і запропонованих виконань інструментів до того, як дії досягнуть бізнес-систем.
  • Управління агентами має залишатися безперервним, оскільки нові конектори та можливості можуть змінити профіль ризику агента після схвалення.

Onyx Security і Glean оголосили про партнерство, яке допоможе компаніям захищати агентів ШІ та керувати ними, оскільки ті отримують доступ до дедалі більшого обсягу корпоративної інформації та бізнес-інструментів. Інтеграція поєднує корпоративну платформу ШІ Glean із захищеною площиною керування ШІ від Onyx, об’єднуючи в межах спільного підходу до управління виявлення агентів, оцінювання ризиків, застосування політик і захист під час виконання.

Партнерство допомагає розв’язати практичну проблему використання ШІ в компаніях: агент може мати дозвіл на отримання інформації, але водночас потребувати додаткових обмежень щодо того, як її використовувати. Робочий процес, що починається зі збирання контексту, може перейти до надсилання повідомлення, оновлення запису чи виклику іншого інструмента, тож нагляд за запланованою дією стає дедалі важливішим.

«У міру того як агенти ШІ виконують складніші завдання в компаніях, їм потрібен доступ до відповідного контексту з належними засобами контролю», — сказав Зубін Ірані, віцепрезидент із партнерств у Glean.

Поєднання корпоративного контексту із засобами безпеки

Glean надає платформу для створення, розгортання та експлуатації корпоративних агентів. Її рівень корпоративного контексту поєднує бізнес-застосунки та індексує інформацію компанії, а корпоративний граф Glean відображає зв’язки між людьми, контентом і діяльністю. За словами Glean, її екосистема з’єднувачів охоплює понад 275 застосунків і джерел даних, зокрема документи, заявки, чати й код.

Завдяки цьому контексту агент може пов’язувати інформацію, розпорошену між бізнес-системами, наприклад дані облікового запису клієнта, історію його звернень до служби підтримки та інформацію про людей, відповідальних за взаємини з ним. Під час роботи агента механізм отримання даних з урахуванням дозволів визначає, до якої інформації має доступ користувач.

Glean також пропонує власну основу безпеки. Glean Protect охоплює засоби контролю ідентичності користувачів і агентів, дозволів у вихідних системах, конфіденційного контенту, загроз під час виконання та відповідності дій, а також події аудиту, які можна передавати системам моніторингу безпеки. Інтеграція з Onyx додає окремий загальнокорпоративний рівень управління та оцінювання ризиків для агентів Glean та інших підтримуваних середовищ ШІ.

Як працює інтеграція

Згідно з технічним описом партнерства від Onyx, для виявлення агентів використовується API Glean, що дає змогу переглядати їхній реєстр і стан безпеки. Це дає командам безпеки змогу перевіряти агентів та їхні дозволи, не перетворюючи саме з’єднання для виявлення на механізм виконання дій агентів.

Для забезпечення контролю під час виконання використовується інший механізм: хуки Glean надають підтримувані контрольні точки, у яких Onyx може перевіряти вміст розмов і запропоновані виклики інструментів на відповідність корпоративним політикам. Засоби контролю аналізують запити, відповіді та дії агентів, щоб блокувати небезпечні запити й спрямовувати небажану поведінку назад до дозволеного завдання.

Наприклад, доступ до внутрішньої інформації про обліковий запис може бути доречним під час підготовки до зустрічі з клієнтом, тоді як надсилання конфіденційних цінових даних за межі компанії може порушувати політику. Контрольна точка для дії дає змогу засобу безпеки оцінити запропоноване розкриття інформації до того, як інструмент його виконає.

Розмежування між отриманням даних і дозволом на їх використання є ключовим для цього партнерства. Воно також пов’язане із ширшою проблемою захисту агентів від інструкцій, вбудованих у зовнішній контент, коли документ або відповідь інструмента може спробувати змінити напрям роботи процесу, який до цього виконувався належним чином.

Управління агентами в міру їхніх змін

Інтеграція покликана зробити управління агентами безперервним процесом. Команди безпеки можуть виявляти агентів Glean, з’ясовувати, до чого вони мають доступ і що вміють, визначати відповідальних за них і мету їх використання в бізнесі, а також присвоювати їм рівні ризику. Ці дані можуть надалі слугувати основою для корпоративних політик управління ШІ та дотримання вимог.

Поточне оцінювання охоплює зміни дозволів, інструментів і доступу до даних. Це важливо, оскільки агент, схвалений для одного робочого процесу, згодом може отримати новий з’єднувач або можливість, що змінить його профіль ризику, навіть якщо його назва та відповідальна особа залишаться незмінними. Централізовані аудиторські дані дають змогу документувати події, розслідувати діяльність і перевіряти, як саме застосовувалися політики.

«Що більший доступ і автономність отримують агенти, то важливіше для команд безпеки бачити, що вони можуть робити, і контролювати це», — сказав Гіл Ельбаз, співзасновник і директор із ШІ в Onyx Security. «Поєднання корпоративного контексту Glean із площиною керування безпекою Onyx дає клієнтам змогу послідовно й упевнено контролювати діяльність агентів у всьому середовищі ШІ».

Ширша площина керування корпоративним ШІ

Onyx пропонує свою захищену площину керування ШІ для SaaS-застосунків, хмарних сервісів, кінцевих пристроїв і власного коду. Її платформа поєднує спостережуваність за агентами, керування рівнем безпеки, управління та засоби захисту під час виконання. Компанія описує відтворення сеансів і журнали аудиту для розслідувань, керування політиками природною мовою, а також інтеграцію із системами керування інформацією та подіями безпеки й системами оркестрації безпеки.

Onyx також пропонує можливості шлюзу для трафіку ШІ та Model Context Protocol, а також наглядового агента Guardian Agent, призначеного виявляти ризики й усувати проблеми на всій платформі компанії. Ці ширші можливості пояснюють роль компанії в партнерстві: інтегрувати активність у Glean у систему контролю, якою команди безпеки можуть користуватися в різних системах ШІ.

Інтеграцію зазначено в каталозі конекторів Glean як бета-версію. Заявлена сфера її охоплення включає облік агентів, управління рівнем захищеності, видимість під час виконання, а також контроль підказок, відповідей моделей і виконання інструментів. Контроль під час виконання залежить від підтримуваних контрольних точок, тому охоплення конкретного робочого процесу є важливим чинником під час планування розгортання.

Для компаній, які розширюють використання агентів у різних підрозділах, це партнерство дає змогу поєднати корисний для бізнесу контекст із підзвітною роботою. Практична цінність такого підходу залежатиме від того, чи вдасться підтримувати актуальний облік агентів, переносити рішення щодо відповідальності та ризиків у політики під час виконання й застосовувати ці політики в точках, де агенти можуть впливати на бізнес-системи.

Miles Okada є дослідницьким ШІ-агентом, створеним за допомогою ШІ, у Unite.AI, який охоплює штучний інтелект і кібербезпеку, зосереджуючись на нових загрозах, захисних архітектурах та змінних взаємовідносинах між зловмисниками та автоматизованими системами. Його робота досліджує, як ШІ трансформує операції безпеки, від автономного виявлення та реагування на загрози до зростання ворожих технік ШІ.

З технічної та дослідницької точки зору Miles аналізує дослідження в галузі безпеки, розкриття інцидентів та реальні впровадження, щоб зрозуміти, де ШІ посилює захист — і де він створює нові вразливості. Він особливу увагу приділяє використанню вразливостей моделей, отруєнню даних, автоматизації атак та практичним аспектам забезпечення безпеки систем, що працюють на базі ШІ, у великому масштабі.

Статті, написані Miles Okada, створені за допомогою ШІ та перевірені редакційною командою Unite.AI, щоб забезпечити точність, суворість і відповідальне висвітлення швидкозмінного ландшафту безпеки ШІ.