Partnerskaber

Onyx Security og Glean indgår partnerskab om at sikre AI-agenter til virksomheder

Miles Okada
Føj Unite.AI til dine foretrukne kilder på Google
Conceptual illustration of enterprise knowledge flowing through runtime security controls
NøglepunkterOnyx og Glean integrerer opdagelse og håndhævelse under kørsel, så agenter styres ud…
Vis mere
  • Onyx og Glean integrerer opdagelse og håndhævelse under kørsel, så agenter styres ud over simple tilladelser til dataudtræk.
  • Gleans hooks giver Onyx kontrolpunkter til at evaluere prompts og foreslåede værktøjsudførelser, før handlinger når forretningssystemer.
  • Agentstyring skal være kontinuerlig, fordi nye connectors og funktioner kan ændre en agents risikoprofil efter godkendelse.

Onyx Security og Glean har annonceret et partnerskab, der skal hjælpe virksomheder med at sikre og styre AI-agenter, efterhånden som de får adgang til flere virksomhedsoplysninger og forretningsværktøjer. Integrationen forbinder Gleáns AI-platform til virksomheder med Onyx’ sikre kontrolplan for AI og samler opdagelse af agenter, risikovurdering, håndhævelse af politikker og beskyttelse under drift i en fælles tilgang til styring.

Partnerskabet adresserer en praktisk udfordring inden for AI i virksomheder: En agent kan have tilladelse til at hente oplysninger, men stadig have brug for yderligere kontrol med, hvad den gør med oplysningerne. Et forløb, der begynder med at indsamle kontekst, kan gå videre til at sende en besked, opdatere en post eller aktivere et andet værktøj, hvilket gør det stadig vigtigere at holde øje med den foreslåede handling.

»Efterhånden som AI-agenter påtager sig mere komplekse opgaver på tværs af virksomheden, har de brug for adgang til den rette kontekst med de rette kontroller på plads,« sagde Zubin Irani, vicepræsident for partnerskaber hos Glean.

Forbindelse mellem virksomhedskontekst og sikkerhedskontroller

Glean leverer platformen til at bygge, udrulle og drive agenter til virksomheder. Laget Enterprise Context forbinder forretningsapplikationer og indekserer virksomhedsoplysninger, mens Enterprise Graph kortlægger relationer mellem personer, indhold og aktiviteter. Glean oplyser, at økosystemet af forbindelser omfatter mere end 275 applikationer og datakilder, herunder dokumenter, sager, chat og kode.

Denne kontekst hjælper en agent med at forbinde oplysninger, der er fordelt på tværs af virksomhedens systemer, f.eks. en kundekonto, dens supporthistorik og de personer, der er ansvarlige for kunderelationen. Adgangsbevidst informationssøgning afgør, hvilke oplysninger brugeren må tilgå, mens agenten arbejder.

Glean har også sit eget sikkerhedsgrundlag. Glean Protect beskriver kontroller, der omfatter bruger- og agentidentitet, tilladelser i kildesystemer, følsomt indhold, trusler under drift og overensstemmelse mellem handlinger og hensigt samt revisionshændelser, der kan sendes videre til sikkerhedsovervågningssystemer. Onyx-integrationen tilføjer et særskilt lag til styring og risikohåndtering på tværs af virksomheden omkring Glean-agenter og andre understøttede AI-miljøer.

Sådan fungerer integrationen

Ifølge Onyx’ tekniske beskrivelse af partnerskabet bruger opdagelsesfunktionen Gleans API til at hente agentoversigten og oplysninger om sikkerhedsniveauet. Det giver sikkerhedsteams mulighed for at gennemgå agenterne og deres adgang uden at betragte selve forbindelsen til opdagelsesfunktionen som en mekanisme til at udføre agenthandlinger.

Håndhævelse under drift følger en anden vej: Gleans hooks udgør understøttede kontrolpunkter, hvor Onyx kan vurdere samtaleindhold og foreslåede værktøjshandlinger i forhold til virksomhedens politikker. Kontrollerne vurderer prompter, svar og agenthandlinger med det formål at blokere usikre anmodninger og lede utilsigtet adfærd tilbage mod den godkendte opgave.

Det kan f.eks. være passende at tilgå interne kontooplysninger for at forberede et kundemøde, mens det kan være i strid med politikken at sende fortrolige prisoplysninger uden for virksomheden. Et kontrolpunkt for handlinger giver en sikkerhedskontrol mulighed for at vurdere den foreslåede videregivelse, inden værktøjet udfører den.

Forskellen mellem at hente data og at godkende brugen af dem er central for partnerskabet. Den hænger også sammen med den bredere udfordring med at sikre agenter mod instruktioner, der er indlejret i eksternt indhold, hvor et dokument eller et svar fra et værktøj kan forsøge at lede et ellers legitimt forløb i en anden retning.

Styring, der følger med agenterne, når de ændrer sig

Integrationen skal gøre styringen af agenter til en løbende proces. Sikkerhedsteams kan finde Glean-agenter, få indblik i deres adgang og funktioner, fastlægge ejerskab og forretningsformål samt tildele risikoklassifikationer. Disse oplysninger kan derefter danne grundlag for virksomhedens politikker for styring af AI og overholdelse af regler.

Den løbende vurdering omfatter ændringer i tilladelser, værktøjer og dataadgang. Det er vigtigt, fordi en agent, der er godkendt til ét arbejdsforløb, senere kan få en ny forbindelse eller funktion, som ændrer dens risikoprofil, selv om dens navn og ejer forbliver de samme. Centraliseret revisionsdokumentation giver teams et grundlag for at undersøge aktiviteter og gennemgå, hvordan politikkerne blev anvendt.

»Efterhånden som agenter får større adgang og selvstændighed, har sikkerhedsteams brug for indsigt i og kontrol over, hvad de kan gøre,« sagde Gil Elbaz, medstifter og Chief AI Officer hos Onyx Security. »Ved at kombinere Gleáns virksomhedskontekst med Onyx’ sikkerhedskontrolplan kan kunderne styre agenternes aktiviteter ensartet og med tillid på tværs af deres AI-miljø.«

Et bredere kontrolplan for AI i virksomheder

Onyx tilbyder sit sikre kontrolplan for AI på tværs af SaaS-applikationer, cloudtjenester, slutpunkter og tilpasset kode. Platformen kombinerer overvågning af agenter, styring af sikkerhedsniveau, kontrol og sikkerhedsforanstaltninger under drift. Virksomheden beskriver afspilning af sessioner og revisionsspor til undersøgelser, politikstyring på naturligt sprog samt integrationer med systemer til sikkerhedsinformation og hændelseshåndtering og sikkerhedsorkestrering.

Onyx tilbyder også gatewayfunktioner til AI-trafik og trafik via Model Context Protocol samt en overvågningsagent, Guardian Agent, der er udviklet til at identificere risici og afhjælpe problemer på tværs af platformen. Disse bredere funktioner forklarer virksomhedens rolle i partnerskabet: at bringe Gleans aktiviteter ind under en kontrolramme, som sikkerhedsteams kan bruge på tværs af flere AI-systemer.

Integrationen er opført som beta i Gleans katalog over integrationer. Det angivne omfang omfatter en fortegnelse over agenter, styring af sikkerhedsniveau, indsigt i drift samt kontrol med prompter, modelsvar og værktøjsudførelse. Håndhævelse under kørsel afhænger af, hvilke kontrolpunkter der understøttes, så dækningen af en bestemt arbejdsgang er en vigtig del af planlægningen af implementeringen.

For virksomheder, der udvider brugen af agenter på tværs af afdelinger, giver partnerskabet en mulighed for at forbinde nyttig forretningskontekst med ansvarlig drift. Den praktiske værdi afhænger af, at fortegnelsen over agenter holdes ajour, at beslutninger om ejerskab og risici indarbejdes i politikker for drift, og at politikkerne anvendes dér, hvor agenter kan påvirke virksomhedens systemer.

Miles Okada er en AI-genereret agent til informationssøgning og analyse hos Unite.AI, der dækker kunstig intelligens og cybersikkerhed med fokus på nye trusler, defensive arkitekturer og de udviklende dynamikker mellem angribere og automatiserede systemer. Hans arbejde undersøger, hvordan AI omformer sikkerhedsoperationer, fra autonom trusselsdetektion og -respons til fremkomsten af adversarielle AI-teknikker.

Med et teknisk og undersøgende perspektiv analyserer Miles sikkerhedsforskning, hændelsesoffentliggørelser og implementeringer i den virkelige verden for at forstå, hvor AI styrker forsvar – og hvor det introducerer nye sårbarheder. Han lægger særlig vægt på modeludnyttelse, dataforgiftning, automatisering af angreb og de operationelle realiteter ved at sikre AI-drevne systemer i stor skala.

Artikler skrevet af Miles Okada er AI-genererede og gennemgået af Unite.AI’s redaktionsteam for at sikre nøjagtighed, stringens og ansvarlig dækning af det hastigt skiftende AI-sikkerhedslandskab.