Sysdig julkaisee AI Defensen agenttien toiminnan hallintaan päätelaitteesta pilveen

Sysdig on julkaissut AI Defensen, ajonaikaisen tietoturvan ja hallinnan tuotteen, joka on suunniteltu tarkastelemaan tekoälyagenttien toimintaa ja puuttumaan siihen, kun niiden toiminta ylittää organisaation käytännöt. Marraskuun 4. päivänä julkaistun ilmoituksen mukaan tuote on nyt yleisesti saatavilla macOS- ja Windows-käyttöjärjestelmille. Näkyvyyden on tarkoitus yhdistää työntekijöiden työasemilla tapahtuva toiminta niihin pilviresursseihin, joihin heidän tunnistetiedoillaan pääsee käsiksi.

Tuote vastaa muutokseen, jossa tekoäly ei enää vain tuota vastauksia vaan myös käyttää ohjelmistoja. Koodausagentti voi lukea tiedostoja, käyttää työkaluja, käynnistää prosesseja ja muuttaa infrastruktuuria. Tällaisen työnkulun suojaaminen edellyttää ymmärrystä sekä siitä, mitä tehtävää agentti uskoo suorittavansa, että siitä, mitä toimintoja sen taustalla todella tapahtuu.

Agentin tarkoituksen yhdistäminen käyttöjärjestelmästä saatavaan näyttöön

Sysdigin mukaan AI Defense yhdistää agentin suoritusympäristöön – sen toimintaa ohjaavaan kehykseen – asennetun instrumentoinnin käyttöjärjestelmän telemetriaan. Suoritusympäristön instrumentointi tallentaa työkaluihin, Model Context Protocol -palvelimiin, taitoihin ja liitännäisiin kohdistuvat kutsut sekä niiden argumentit ja kohteet. Järjestelmätason seuranta tuottaa erillisen tallenteen prosesseista ja toiminnasta, joita nämä kutsut synnyttävät.

Ero on tärkeä, jos agentin oma kuvaus on puutteellinen tai vaarantunut. Yksi kirjattu työkalutoiminto voi käynnistää useita prosesseja, ja istunnon aikana lisätty yhteys tai taito voi muuttaa sitä, mihin agentti pystyy. Sysdig kertoo havainneensa alustavasti agenttilokeissa keskimäärin noin seitsemän taustalla olevaa prosessia kutakin toimintoa kohden. Kyse on yhtiön havainnosta, ei kaikkia agentteja koskevasta yleispätevästä suhteesta.

Järjestelmä huomioi myös käyttöoikeudet: samalla tiedostonlukutoiminnolla voi olla erilaiset seuraukset sen mukaan, ulottuvatko käytössä olevan tunnistetiedon oikeudet testiympäristöön vai tuotantoympäristön hallintaan. Toimintojen graafin tarkoituksena on yhdistää tapahtumien kulku, niistä vastuussa oleva henkilö, agentin ilmoittama toiminta ja sen ulottuvilla olevat resurssit.

Käytännöillä voi sallia, keskeyttää tai estää toiminnon

Organisaatiot voivat ottaa käytännöt ensin käyttöön hälytystilassa ja ottaa valvonnan vasta myöhemmin käyttöön. Sysdigin mukaan käytännöt voivat voimaan tultuaan estää hyväksymättömät työkalut ja yhteydet, torjua riskialttiin pääsyn tunnistetietoihin tai pysäyttää toiminnon odottamaan ihmisen hyväksyntää. Julkaisussa kuvataan myös prosessin lopettamista, jos toiminto ohittaa aiemman valvontakeinon.

Nämä mekanismit vaikuttavat suorituksen eri vaiheissa. Toiminnon estäminen ennen sen valmistumista on eri asia kuin toiminnan havaitseminen ja prosessin lopettaminen jälkikäteen. Ilmoituksessa ei esitetä julkista taulukkoa siitä, mitkä valvontakeinot estävät toiminnan ennakolta kussakin tuetussa käyttöjärjestelmässä, suoritusympäristössä ja hallinnoidulla alustalla.

Käytäntömallit sisältävät vastaavuudet OWASP Top 10 for LLM Applications -luokitukseen sekä kehittäjille tarkoitettuja poikkeuspolkuja. Sysdig kuvaa myös istuntotietueita, joista käy ilmi, mitä käytäntöä sovellettiin, mitä sallittiin tai estettiin ja kuka hyväksyi poikkeuksen. Tietueet voivat tukea tutkintaa ja auditointia ilman, että tiimien tarvitsee tapahtuman jälkeen rekonstruoida istuntoa.

Mitä Falco Foundation tuo mukanaan

Sysdig liittää tuotteen pilvinatiivin ajonaikaisen tietoturvan historiaansa ja Falcoon, avoimen lähdekoodin projektiin, jonka se alun perin loi. Falcon dokumentaatiossa kuvataan Linux-ytimen tapahtumien ja liitännäisten tarjoamien tapahtumalähteiden tarkkailua, tapahtumien täydentämistä konttien ja Kubernetesin kontekstitiedoilla sekä sääntöjen soveltamista hälytysten luomiseksi.

Tausta auttaa ymmärtämään, miksi Sysdig painottaa todellisen suorituksen havainnointia sen sijaan, että luottaisi yksinomaan tekoälyjärjestelmän omaan kuvaukseen. Se ei kuitenkaan tarkoita, että avoimen lähdekoodin Falco-projekti itsessään tarjoaisi kaikki AI Defensessä kuvatut agenttien hallinta- ja estotoiminnot. Falcon dokumentoitua havainnointiarkkitehtuuria ja Sysdigin kaupallista tuotetta tulee tarkastella erillisinä.

Julkaisussa mainitaan Claude Code, Codex, GitHub Copilot ja Cursor agenttiympäristöinä, joiden toimintaa tuote pyrkii kartoittamaan ja jäljittämään vastuussa olevaan ihmiseen asti. Ilmoitus macOS- ja Windows-käyttöjärjestelmien saatavuudesta on täsmällisempi kuin laajempi kuvaus, jonka mukaan kattavuus ulottuu Linuxiin, Kubernetes-ympäristöihin ja hallinnoituihin agenttialustoihin. Organisaatioiden on selvitettävä, mitä integraatiota kussakin ympäristössä tarvitaan.

Ajonaikainen hallinta täydentää mallien testausta

Sysdigin jaettua vastuuta käsittelevässä teknisessä katsauksessa ajonaikaiset valvontakeinot esitetään agentin tekemää työtä ympäröivänä suojakerroksena. Käytännössä ero on siinä, pyydetäänkö mallia noudattamaan rajaa vai valvotaanko rajan noudattamista silloin, kun ohjelmisto yrittää suorittaa toiminnon.

AI Defense täydentää päätelaitteiden nykyistä suojausta, mallien testausta ja red team -testausta. Testauksessa tarkastellaan, miten malli tai työnkulku toimii valituissa olosuhteissa; ajonaikainen hallinta puolestaan kohdistuu todellisen istunnon aikana tehtäviin toimintoihin. Kumpikaan kuvaus ei osoita, että käyttöönotto olisi immuuni vaarantumiselle, ja tehokkuus riippuu käytäntöjen määrityksestä sekä suorituspolun kattavuudesta.

Agenttien toiminnan ja tekoälyyn liittyvien kulujen kohdentaminen

Tietoturvan lisäksi Sysdig kertoo AI Defensen yhdistävän mallikutsut niistä vastaavaan agenttiin, tiimiin ja henkilöön. Tämä koskee myös toimintaa, joka ei kulje keskitetyn tekoälyyhdyskäytävän kautta. Näin organisaatiot voisivat erottaa rutiinitehtävissä tapahtuvan kalliin mallien käytön toiminnasta, joka edellyttää kyvykkäämpää mallia.

Laajemmin kyse on yhteisestä evidenssikerroksesta tietoturvan, hallinnoinnin ja kustannusten hallinnan tarpeisiin. Kun agentit saavat käyttöönsä lisää työkaluja ja toimivat työntekijöiden todellisilla tunnuksilla, niiden vaikutus määräytyy sen perusteella, mitä ne pystyvät suorittamaan. Sysdig AI Defense pyrkii tekemään tämän toimivallan näkyväksi ja täytäntöönpantavaksi toiminnon suoritushetkellä.