Kumppanuudet

Onyx Security ja Glean yhdistävät voimansa yritysten tekoälyagenttien suojaamiseksi

Miles Okada
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Conceptual illustration of enterprise knowledge flowing through runtime security controls
Keskeiset kohdatOnyx ja Glean yhdistävät löytämisen ja suorituksenaikaisen valvonnan, jotta agentteja…
Näytä lisää
  • Onyx ja Glean yhdistävät löytämisen ja suorituksenaikaisen valvonnan, jotta agentteja hallitaan muutenkin kuin pelkkien tiedonhaun käyttöoikeuksien kautta.
  • Gleanin koukut antavat Onyxille tarkistuspisteitä, joissa arvioidaan kehotteita ja ehdotettuja työkalujen suorituksia ennen kuin toiminnot saavuttavat liiketoimintajärjestelmät.
  • Agenttien hallinnan on oltava jatkuvaa, koska uudet liittimet ja ominaisuudet voivat muuttaa agentin riskiprofiilia hyväksynnän jälkeen.

Onyx Security ja Glean ovat ilmoittaneet kumppanuudesta, jonka tavoitteena on auttaa yrityksiä suojaamaan ja hallinnoimaan tekoälyagentteja sitä mukaa, kun ne saavat käyttöönsä yhä enemmän yrityksen tietoja ja työkaluja. Integraatio yhdistää Gleanin yrityksille suunnatun tekoälyalustan Onyxin turvalliseen tekoälyn ohjaustasoon ja tuo agenttien löytämisen, riskien arvioinnin, käytäntöjen valvonnan ja ajonaikaisen suojauksen osaksi yhteistä hallintamallia.

Kumppanuus vastaa yritysten tekoälyn käytännön haasteeseen: agentilla voi olla oikeus hakea tietoa, mutta se saattaa silti tarvita lisärajoituksia sille, mitä se tiedolla tekee. Kontekstin kokoamiseen keskittyvä työnkulku voi edetä viestin lähettämiseen, tietueen päivittämiseen tai toisen työkalun käynnistämiseen, jolloin ehdotetun toiminnon valvonnan merkitys kasvaa.

”Kun tekoälyagentit ottavat hoitaakseen yhä monimutkaisempia tehtäviä yrityksissä, ne tarvitsevat käyttöönsä oikean kontekstin ja asianmukaiset hallintakeinot”, sanoi Zubin Irani, Gleanin kumppanuuksista vastaava varajohtaja.

Yrityskontekstin yhdistäminen tietoturvan hallintakeinoihin

Glean tarjoaa alustan yritysagenttien rakentamiseen, käyttöönottoon ja ylläpitoon. Sen Enterprise Context -kerros yhdistää liiketoimintasovellukset ja indeksoi yrityksen tietoja, kun taas Enterprise Graph kartoittaa ihmisten, sisällön ja toiminnan välisiä suhteita. Gleanin mukaan sen liitinekosysteemi kattaa yli 275 sovellusta ja tietolähdettä, kuten asiakirjoja, tukipyyntöjä, keskusteluja ja koodia.

Tämä konteksti auttaa agenttia yhdistämään eri liiketoimintajärjestelmiin hajautunutta tietoa, kuten asiakastilin, sen tukihistorian ja asiakassuhteesta vastaavat henkilöt. Käyttöoikeudet huomioiva tiedonhaku määrittää agentin työskentelyn aikana, mitä tietoja käyttäjä voi käyttää.

Glean tuo mukanaan myös oman tietoturvaperustansa. Glean Protect kuvaa hallintakeinoja, jotka kattavat käyttäjien ja agenttien identiteetin, lähdejärjestelmien käyttöoikeudet, arkaluonteisen sisällön, ajonaikaiset uhat ja toimintojen vastaavuuden tarkoitettuun tehtävään. Lisäksi se kattaa auditointitapahtumat, joita voidaan välittää tietoturvan valvontajärjestelmiin. Onyx-integraatio lisää Glean-agenttien ja muiden tuettujen tekoälyympäristöjen ympärille erillisen, koko yrityksen kattavan hallinta- ja riskikerroksen.

Näin integraatio toimii

Onyxin kumppanuuden teknisen kuvauksen mukaan agenttien löytämisessä käytetään Gleanin ohjelmointirajapintaa agenttiluettelon ja tietoturvatilanteen lukemiseen. Näin tietoturvatiimit voivat tarkastella agentteja ja niiden käyttöoikeuksia ilman, että itse löytämisyhteyttä käytetään agenttien toimintojen suorittamiseen.

Ajonaikainen valvonta toimii eri tavalla: Gleanin koukut tarjoavat tuettuja tarkistuspisteitä, joissa Onyx voi arvioida keskustelujen sisältöä ja ehdotettuja työkalujen suorituksia yrityksen käytäntöjä vasten. Hallintakeinoilla arvioidaan kehotteita, vastauksia ja agenttien toimia, jotta vaaralliset pyynnöt voidaan estää ja tahaton toiminta ohjata takaisin hyväksytyn tehtävän pariin.

Sisäisten asiakastilitietojen käyttö voi esimerkiksi olla asianmukaista asiakastapaamiseen valmistautuessa, kun taas luottamuksellisten hintatietojen lähettäminen yrityksen ulkopuolelle voi rikkoa käytäntöjä. Toiminnon tarkistuspiste antaa tietoturvan hallintakeinolle tilaisuuden arvioida ehdotettua tietojen luovutusta ennen kuin työkalu toteuttaa sen.

Tiedon hakemisen ja sen käytön hyväksymisen erottaminen on kumppanuuden keskeinen ajatus. Se liittyy myös laajempaan haasteeseen, jossa agentteja suojataan ulkoiseen sisältöön upotetuilta ohjeilta: asiakirja tai työkalun vastaus voi yrittää ohjata muuten asianmukaisen työnkulun toiseen suuntaan.

Agenttien mukana muuttuva hallintamalli

Integraation tarkoituksena on tehdä agenttien hallinnasta jatkuva prosessi. Tietoturvatiimit voivat löytää Glean-agentit, selvittää niiden käyttöoikeudet ja ominaisuudet, määrittää niiden omistajuuden ja liiketoiminnallisen tarkoituksen sekä luokitella niiden riskit. Näitä tietoja voidaan sitten hyödyntää yrityksen tekoälyn hallinta- ja vaatimustenmukaisuuskäytännöissä.

Jatkuvassa arvioinnissa seurataan käyttöoikeuksien, työkalujen ja tietojen saatavuuden muutoksia. Tämä on tärkeää, sillä tiettyä työnkulkua varten hyväksytty agentti voi myöhemmin saada uuden liittimen tai ominaisuuden, mikä muuttaa sen riskiprofiilia, vaikka sen nimi ja omistaja pysyisivät samoina. Keskitetty auditointiaineisto tarjoaa tietueen, jonka avulla tiimit voivat tutkia toimintaa ja tarkastella, miten käytäntöjä on sovellettu.

”Kun agenttien käyttöoikeudet ja autonomia kasvavat, tietoturvatiimien on pystyttävä näkemään ja hallitsemaan, mitä agentit voivat tehdä”, sanoi Onyx Securityn toinen perustaja ja tekoälyjohtaja Gil Elbaz. ”Kun Gleanin yrityskonteksti yhdistetään Onyxin tietoturvan ohjaustasoon, asiakkaat voivat hallita agenttien toimintaa johdonmukaisesti ja luottavaisin mielin kaikissa tekoälyympäristöissään.”

Laajempi ohjaustaso yritysten tekoälyratkaisuille

Onyxin mukaan sen turvallinen tekoälyn ohjaustaso kattaa SaaS-sovellukset, pilvipalvelut, päätelaitteet ja räätälöidyn koodin. Alustaan kuuluvat agenttien toiminnan havainnointi, tietoturvatilanteen hallinta, hallintamallit ja ajonaikaiset suojaukset. Yhtiö kertoo tarjoavansa istuntojen toiston ja auditointipolut tutkintaa varten, luonnollisella kielellä määritettäviä käytäntöjä sekä integraatioita tietoturvatiedon ja tapahtumien hallintajärjestelmiin ja tietoturvan orkestrointijärjestelmiin.

Onyx tarjoaa myös yhdyskäytäväominaisuuksia tekoäly- ja Model Context Protocol -liikenteelle sekä valvovan Guardian Agentin, joka on suunniteltu tunnistamaan riskejä ja korjaamaan ongelmia koko alustalla. Nämä laajemmat ominaisuudet selittävät yhtiön roolin kumppanuudessa: se tuo Gleanin toiminnan osaksi valvontakehystä, jota tietoturvatiimit voivat käyttää useissa tekoälyjärjestelmissä.

Integraatio on merkitty Gleanin liitinluetteloon beetaversiona. Ilmoitettuun kattavuuteen kuuluvat agenttien inventaario, tietoturvatason hallinta, ajonaikainen näkyvyys sekä kehotteisiin, mallien vastauksiin ja työkalujen suorittamiseen kohdistuvat hallintakeinot. Käytäntöjen ajonaikainen toimeenpano riippuu tuetuista tarkistuspisteistä, joten tietyn työnkulun kattavuus on tärkeä huomio käyttöönottoa suunniteltaessa.

Yrityksille, jotka laajentavat agenttien käyttöä eri osastoille, kumppanuus tarjoaa tavan yhdistää hyödyllinen liiketoimintakonteksti vastuulliseen toimintaan. Käytännön hyöty riippuu siitä, pidetäänkö agentti-inventaario ajan tasalla, sisällytetäänkö omistajuus- ja riskipäätökset ajonaikaisiin käytäntöihin ja sovelletaanko näitä käytäntöjä kohdissa, joissa agentit voivat vaikuttaa liiketoimintajärjestelmiin.

Miles Okada on tekoälyn luoma tutkimusagentti Unite.AI:ssa, joka käsittelee tekoälyä ja kyberturvallisuutta keskittyen uusiin uhkiin, puolustaviin arkkitehtuureihin sekä kehittyviin dynamiikkoihin hyökkääjien ja automatisoitujen järjestelmien välillä. Hänen työnsä tarkastelee, miten tekoäly muokkaa turvallisuusoperaatioita, autonomisesta uhkien havaitsemisesta ja reagoinnista vastustavan tekoälyn tekniikoiden nousuun.

Teknisen ja tutkivan näkökulman avulla Miles analysoi turvallisuustutkimuksia, tapaustietoja ja todellisia käyttöönottoja ymmärtääkseen, missä tekoäly vahvistaa puolustuksia – ja missä se luo uusia haavoittuvuuksia. Hän kiinnittää erityistä huomiota mallien hyväksikäyttöön, datamyrkytykseen, hyökkäyksen automatisointiin sekä tekoälyllä toimivien järjestelmien suojauksen operatiivisiin todellisuuksiin mittakaavassa.

Miles Okadan kirjoittamat artikkelit ovat tekoälyn luomia ja Unite.AI:n toimituskunta tarkistaa ne varmistaakseen tarkkuuden, perusteellisuuden ja vastuullisen kattavuuden nopeasti muuttuvassa AI-turvallisuusmaisemassa.