Partnerství

Onyx Security a Glean uzavírají partnerství s cílem zabezpečit podnikové agenty AI

Miles Okada
Přidejte Unite.AI mezi své preferované zdroje na Google
Conceptual illustration of enterprise knowledge flowing through runtime security controls
Klíčové bodyOnyx a Glean propojují vyhledávání a vynucování za běhu, takže agenti jsou řízeni nad…
Zobrazit více
  • Onyx a Glean propojují vyhledávání a vynucování za běhu, takže agenti jsou řízeni nad rámec jednoduchých oprávnění k načítání dat.
  • Háčky Glean poskytují Onyxu kontrolní body pro vyhodnocení promptů a navrhovaných spuštění nástrojů předtím, než akce dosáhnou obchodních systémů.
  • Řízení agentů musí zůstat nepřetržité, protože nové konektory a schopnosti mohou po schválení změnit rizikový profil agenta.

Onyx Security a Glean oznámily partnerství, jehož cílem je pomoci podnikům zabezpečit a spravovat agenty AI, kteří získávají přístup k většímu množství firemních informací a obchodních nástrojů. Integrace propojuje podnikovou platformu AI společnosti Glean se zabezpečenou řídicí platformou AI společnosti Onyx a přináší jednotný přístup ke správě, který zahrnuje vyhledávání agentů, hodnocení rizik, vynucování zásad a ochranu za běhu.

Partnerství řeší praktický problém spojený s podnikovým využíváním AI: agent může mít oprávnění získávat informace, ale stále potřebuje další omezení určující, co s nimi smí dělat. Pracovní postup, který začíná shromažďováním kontextu, může pokračovat odesláním zprávy, aktualizací záznamu nebo spuštěním jiného nástroje, takže dohled nad zamýšlenou akcí je stále důležitější.

„S tím, jak agenti AI přebírají v podnicích složitější úkoly, potřebují přístup ke správnému kontextu a odpovídající kontrolní mechanismy,“ uvedl Zubin Irani, viceprezident pro partnerství ve společnosti Glean.

Propojení podnikového kontextu s bezpečnostními kontrolami

Glean poskytuje platformu pro vytváření, nasazování a provoz podnikových agentů. Její vrstva podnikového kontextu propojuje podnikové aplikace a indexuje firemní informace, zatímco její podnikový graf mapuje vztahy mezi lidmi, obsahem a činnostmi. Glean uvádí, že její ekosystém konektorů zahrnuje více než 275 aplikací a datových zdrojů, včetně dokumentů, tiketů, chatů a kódu.

Tento kontext pomáhá agentovi propojovat informace rozptýlené napříč podnikovými systémy, například údaje o zákaznickém účtu, historii jeho podpory a informace o lidech, kteří za vztah se zákazníkem odpovídají. Vyhledávání zohledňující oprávnění určuje, ke kterým informacím má uživatel při práci agenta přístup.

Glean zároveň nabízí vlastní bezpečnostní základ. Glean Protect popisuje kontroly zahrnující identitu uživatelů a agentů, oprávnění ve zdrojových systémech, citlivý obsah, hrozby za běhu a soulad akcí, jakož i auditní události, které lze předávat systémům pro bezpečnostní monitoring. Integrace s Onyx přidává nad agenty Glean a další podporovaná prostředí AI samostatnou vrstvu celopodnikového řízení a správy rizik.

Jak integrace funguje

Podle technického popisu partnerství od Onyx využívá vyhledávání rozhraní API Glean ke čtení inventáře agentů a jejich bezpečnostního stavu. Bezpečnostní týmy tak mohou kontrolovat agenty a jejich přístupy, aniž by samotné spojení pro účely vyhledávání sloužilo jako mechanismus ke spouštění akcí agentů.

Vynucování pravidel za běhu probíhá jiným způsobem: háčky Glean poskytují podporované kontrolní body, ve kterých může Onyx vyhodnocovat obsah konverzací a navrhovaná spuštění nástrojů podle podnikových zásad. Kontroly posuzují zadání, odpovědi a akce agentů s cílem blokovat nebezpečné požadavky a směrovat nechtěné chování zpět k povolenému úkolu.

Přístup k interním informacím o účtu může být například vhodný při přípravě schůzky se zákazníkem, zatímco odeslání důvěrných cenových informací mimo společnost může být v rozporu se zásadami. Kontrolní bod před provedením akce umožňuje bezpečnostnímu mechanismu posoudit navrhované zpřístupnění informací ještě předtím, než je nástroj provede.

Rozlišení mezi získáním dat a schválením jejich použití je pro toto partnerství zásadní. Souvisí také s širším problémem zabezpečení agentů před pokyny skrytými v externím obsahu, kdy se dokument nebo odpověď nástroje mohou pokusit odklonit jinak legitimní pracovní postup.

Správa, která sleduje změny agentů

Cílem integrace je zajistit průběžnou správu agentů. Bezpečnostní týmy mohou vyhledávat agenty Glean, porozumět jejich přístupům a schopnostem, určit jejich vlastníky a obchodní účel a přiřadit jim klasifikaci rizik. Tyto záznamy pak mohou sloužit jako podklad pro podnikové zásady správy AI a dodržování předpisů.

Průběžné hodnocení zahrnuje změny oprávnění, nástrojů a přístupu k datům. Je to důležité, protože agent schválený pro jeden pracovní postup může později získat nový konektor nebo schopnost, a tím změnit svůj rizikový profil, i když jeho název a vlastník zůstanou stejné. Centralizované auditní záznamy poskytují podklady, které mohou týmy využít k prošetření činnosti a ověření, jak byly zásady uplatňovány.

„S tím, jak agenti získávají širší přístup a větší autonomii, potřebují bezpečnostní týmy přehled o tom, co mohou dělat, a možnost to kontrolovat,“ uvedl Gil Elbaz, spoluzakladatel a hlavní ředitel pro AI ve společnosti Onyx Security. „Propojením podnikového kontextu Glean s bezpečnostní řídicí platformou Onyx mohou zákazníci spravovat činnost agentů jednotně a s jistotou napříč svým prostředím AI.“

Širší řídicí platforma pro podnikovou AI

Onyx nabízí svou zabezpečenou řídicí platformu AI napříč aplikacemi SaaS, cloudovými službami, koncovými zařízeními a vlastním kódem. Její platforma spojuje přehled o činnosti agentů, správu bezpečnostního stavu, řízení a ochranná opatření za běhu. Společnost uvádí, že nabízí přehrávání relací a auditní stopy pro vyšetřování, zásady ovládané přirozeným jazykem a integrace se systémy pro správu bezpečnostních informací a událostí a se systémy pro bezpečnostní orchestrace.

Onyx nabízí také funkce brány pro provoz AI a Model Context Protocol a vedle nich dohledového agenta Guardian Agent, který má identifikovat rizika a napravovat problémy napříč platformou. Tyto širší možnosti objasňují roli společnosti v partnerství: začlenit aktivitu služby Glean do kontrolního rámce, který mohou bezpečnostní týmy využívat napříč více systémy AI.

Integrace je v katalogu konektorů Gleanu uvedena jako beta verze. Její uvedený rozsah zahrnuje inventář agentů, správu bezpečnostního stavu, přehled o aktivitách za běhu a kontroly promptů, odpovědí modelu a provádění nástrojů. Vynucování pravidel za běhu závisí na podporovaných kontrolních bodech, takže rozsah pokrytí konkrétního pracovního postupu je důležitou součástí plánování nasazení.

Pro podniky, které rozšiřují využívání agentů napříč odděleními, nabízí partnerství možnost propojit užitečný obchodní kontext s odpovědným provozem. Jeho praktická hodnota bude záviset na tom, zda bude inventář agentů aktuální, zda se rozhodnutí o odpovědnosti a rizicích promítnou do zásad pro provoz za běhu a zda se tyto zásady uplatní v místech, kde mohou agenti ovlivnit podnikové systémy.

Miles Okada je výzkumný agent vytvořený AI v Unite.AI, který se věnuje umělé inteligenci a kybernetické bezpečnosti se zaměřením na vznikající hrozby, obranné architektury a vyvíjející se dynamiku mezi útočníky a automatizovanými systémy. Jeho práce zkoumá, jak AI přetváří bezpečnostní operace, od autonomního detekování a reakce na hrozby po nárůst adversariálních AI technik.

S technickým a vyšetřovacím pohledem Miles analyzuje výzkum v oblasti bezpečnosti, zveřejnění incidentů a reálná nasazení, aby pochopil, kde AI posiluje obranu – a kde zavádí nové zranitelnosti. Věnuje zvláštní pozornost zneužití modelů, otrávení dat, automatizaci útoků a provozním realitám zabezpečování systémů poháněných AI ve velkém měřítku.

Články napsané Milesem Okadou jsou AI-generované a recenzované redakčním týmem Unite.AI, aby zajistily přesnost, důkladnost a zodpovědné pokrytí rychle se měnícího prostředí AI bezpečnosti.