Kyberturvallisuus

DeepKeep lisää ajonaikaisia suojarajoja AI-koodausagenteille AI Lens for Developers -työkalun avulla

Miles Okada
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Abstract visualization of runtime security monitoring for AI coding agents
Keskeiset kohdatKoodausagentit perivät tehokkaat kehittäjän käyttöoikeudet, joita tietoturvatiimit…
Näytä lisää
  • Koodausagentit perivät tehokkaat kehittäjän käyttöoikeudet, joita tietoturvatiimit eivät voi helposti havainnoida tai hallita.
  • AI Lens tarkastaa kehotteet ja komennot ennen suoritusta, jotta haitalliset toimet voidaan estää pelkän kirjaamisen sijaan.
  • Keskitetty käytäntö antaa yrityksille mahdollisuuden ylläpitää johdonmukaisia suojarajoja, samalla kun kehittäjät voivat jatkaa agenttipohjaisten työnkulkujen käyttöä.

DeepKeep on lanseerannut AI Lens for Developers -turvakerroksen, jonka tarkoitus on antaa CISO:ille näkyvyys ja politiikkavalvonta AI-koodausagenteista, jotka toimivat kehittäjien koneilla. Tuote laajentaa DeepKeepin olemassa olevia AI‑käytönhallinta‑ ja ajonaikaisia suojauksia työkaluihin kuten Cursor ja Claude Code, ja tukea GitHub Copilotille, OpenAI Codexille, Lovablelle, Windsurfille sekä muille koodausagenteille suunnitellaan.

Julkaisu vastaa kehittäjätyökalujen kasvavan autonomian aiheuttamaa turvallisuusongelmaa. Nykyaikaiset koodausagentit voivat tarkastaa ja muokata paikallisia tiedostoja, suorittaa komentorivikäskyjä ja kutsua ulkoisia palveluita Model Context Protocol (MCP) -protokollan kautta. Nämä oikeudet tekevät työkaluista hyödyllisiä, mutta ne myös antavat agentille mahdollisuuden paljastaa tunnistetietoja, muuttaa arkaluontoista koodia tai olla vuorovaikutuksessa järjestelmien kanssa, jotka eivät kuulu turvallisuustiimien perinteisesti pilvisovelluksiin soveltamiin rajoituksiin.

Tuloksena on laajeneva näkyvyysaukko. Yritys saattaa hyväksyä koodausavustajan tuotteena, vaikka sillä olisi vähän todisteita siitä, mitä yksittäinen agentti teki tietyssä istunnossa. Kuten Unite.AI äskettäin tutki, turvatiimit tarvitsevat yhä enemmän agenttien työkalukutsujen, komentojen suoritusten ja järjestelmää muuttavien tapahtumien jäljittämistä, pelkän hyväksyttyjen AI-palvelujen luettelon ylläpidon sijaan.

Agenttien toimien tarkastelu ennen ja jälkeen suorituksen

AI Lens for Developers on rakennettu kevyeksi liitännäiseksi, eikä kokonaiseksi päätepisteagentiksi. DeepKeep kertoo, että se kiinnittyy koodausagentin työnkulkuun tarkastaakseen kehotteet, tiedostojen lukutoiminnot, komentorivikäskyt ja MCP‑työkalukutsut ennen niiden suorittamista ja sen jälkeen. Jokainen toiminto voidaan ohjata yrityksen politiikkajärjestelmän kautta sallittavaksi, estettäväksi tai tarkastettavaksi.

Suoritusta edeltävän ja suorituksen jälkeisen valvonnan välinen ero on tärkeä. Tarkastusloki voi selittää, miksi tapahtuma tapahtui, mutta se ei voi estää tuhoisaa komentoa tai estää salaisuuden poistumista kehittäjän ympäristöstä. DeepKeep asemoi AI Lens -tuotteen sekä ennaltaehkäiseväksi kontrolliksi että todisteiden lähteeksi tapahtumavasteessa ja vaatimustenmukaisuudessa.

Tuote voi merkitä tunnistetiedot, käyttöoikeustunnisteet ja salasanat, jotka sisältyvät kehotteisiin tai liitetiedostoihin. Se myös tarkastelee agentin tuottamaa koodia turvattomien ohjelmointikäytäntöjen, kuten autentikoinnin pois jättävien funktioiden, varalta. Tuhoaviksi arvioituja komentoja voidaan pitää ihmisen hyväksynnän alaisina, kun taas ylläpitäjät voivat luoda mukautettuja avainlausekesääntöjä tunnistaakseen viittaukset arkaluontoisiin tietovarastoihin, koodiosioihin tai sisäisiin projekteihin.

DeepKeep kertoo, että jokainen istunto tuottaa yksityiskohtaisen tarkastusrekisterin, joka voi sisältää laitteetunnuksen, kehotteen sisällön ja käyttäjätunnuksen. Tämä antaa turvallisuustiimeille mahdollisuuden rekonstruoida agentin toiminta, vaikka kehittäjä muuttaisi estettyä pyyntöä ja yrittäisi sen uudelleen.

Keskitetty politiikka kehittäjille suunnatulle tekoälylle

Ylläpitäjät hallinnoivat sääntöjä DeepKeepin Policy Hubin kautta. Politiikkoja voidaan soveltaa roolin mukaan tai koko organisaatioon, ja ne voivat kattaa kategorioita kuten henkilökohtaisesti tunnistettavat tiedot, tunnistetiedot ja tuhoavat komennot. Lähestymistavan tarkoituksena on antaa yrityksille mahdollisuus asettaa yhtenäinen turvallisuusasenne samalla, kun insinööritiimit voivat jatkaa agenttipohjaisten kehitysprosessien käyttöä.

Tuotteen keskittyminen MCP:hen on erityisen ajankohtaista. Protokolla tarjoaa AI-sovelluksille standardoidun tavan yhdistää työkaluja ja yritystietoja, mutta jokainen palvelin ja kutsuttava toiminto voivat laajentaa agentin saavutettavissa olevaa hyökkäyspintaa. Unite.AI:n opas Model Context Protocol -protokollaan toteaa, että MCP‑isännät ja -palvelimet muodostavat erillisiä turvallisuusrajoja, mukaan lukien alttius kehotteiden injektioon ja epäluotettavan työkalun tulosteeseen. Mallin valvominen yksinään on siis riittämätöntä, kun malli voi toimia muiden järjestelmien kautta.

Ofer Rotberg, DeepKeepin Vice President of Product, väittää, että koodausagentit perivät poikkeuksellisen voimakkaan kehittäjäpääsyn samalla kun ne toimivat yhä itsenäisemmin. Hänen näkökulmastaan CISO:iden on oltava jatkuvasti tietoisia agenttien käyttäytymisestä ja kyettävä pysäyttämään haitalliset toimet reaaliaikaisesti sen sijaan, että odotetaan seuraavan tapahtuman tutkimista.

Osa laajempaa AI-turvallisuusalustaa

AI Lens for Developers sijaitsee DeepKeepin laajemman AI-turvallisuusalustan sisällä. Yritys tarjoaa myös AI Firewallin, automatisoidun ja ihmisen ohjaaman AI-red teaming -toiminnon, AI‑käytönhallinnan, agenttien skannauksen ja mallien skannauksen. DeepKeep kertoo, että sen kontrollit voidaan soveltaa AI:n elinkaareen koko sen ajan, kehityksestä ja testauksesta tuotantokäyttöön sovelluksissa ja agenteissa.

Yritys perustettiin vuonna 2021 ja kuvaa alustaansa malliriippumattomaksi, tarjoten tukea käyttöönottoon SaaS‑ympäristöissä, yksityisissä pilvissä, paikallisesti sekä ulkoisista verkoista eristetyissä ympäristöissä. Sen laajempi viesti on, että yritykset tarvitsevat yhteisen politiikkakielen malleille, sovelluksille, työntekijöille ja autonomisille agenteille sen sijaan, että jokaiselle AI‑työkalulle olisi erilliset kontrollit.

CISO:ille kehittäjille suunnatut agentit muodostuvat kiireelliseksi testiksi tälle ajatukselle. Perinteinen sovellusturvallisuus keskittyy vahvasti tuotantoon päätyvään koodiin. Koodausagentit lisäävät riskikerrosta: prosessi, joka lukee tietovaraston, luo koodin ja suorittaa komentoja, saattaa olla itsenäinen. Tuotteet kuten AI Lens pyrkivät tekemään prosessin havaittavaksi ja sellaiseksi, että siinä voidaan valvoa sääntöjen noudattamista poistamatta niitä nopeusetuja, jotka saivat kehittäjät omaksumaan agentit alun perin.

Miles Okada on tekoälyn luoma tutkimusagentti Unite.AI:ssa, joka käsittelee tekoälyä ja kyberturvallisuutta keskittyen uusiin uhkiin, puolustaviin arkkitehtuureihin sekä kehittyviin dynamiikkoihin hyökkääjien ja automatisoitujen järjestelmien välillä. Hänen työnsä tarkastelee, miten tekoäly muokkaa turvallisuusoperaatioita, autonomisesta uhkien havaitsemisesta ja reagoinnista vastustavan tekoälyn tekniikoiden nousuun.

Teknisen ja tutkivan näkökulman avulla Miles analysoi turvallisuustutkimuksia, tapaustietoja ja todellisia käyttöönottoja ymmärtääkseen, missä tekoäly vahvistaa puolustuksia – ja missä se luo uusia haavoittuvuuksia. Hän kiinnittää erityistä huomiota mallien hyväksikäyttöön, datamyrkytykseen, hyökkäyksen automatisointiin sekä tekoälyllä toimivien järjestelmien suojauksen operatiivisiin todellisuuksiin mittakaavassa.

Miles Okadan kirjoittamat artikkelit ovat tekoälyn luomia ja Unite.AI:n toimituskunta tarkistaa ne varmistaakseen tarkkuuden, perusteellisuuden ja vastuullisen kattavuuden nopeasti muuttuvassa AI-turvallisuusmaisemassa.