Kyberturvallisuusstrategiat vähäkoodiseen ja runsaskoodiseen agenttikehitykseen

Kun organisaatiot ottavat tekoälyagentteja käyttöön eri liiketoimintajärjestelmissään, kehitysnopeus ja tietoturvan valvonta kietoutuvat tiiviisti toisiinsa. Vähäkoodisen ja runsaskoodisen agenttikehityksen kyberturvallisuusstrategioissa on huomioitava, miten kumpikin lähestymistapa myöntää pääsyn tietoihin ja mahdollistaa toimintojen suorittamisen. Kohdennetuilla suojatoimilla voidaan puuttua näiden lähestymistapojen eroihin, ja yhteinen hallintamalli pitää agenttien toiminnan hyväksyttyjen tehtävien mukaisena käyttöönoton laajentuessa.

Miten vähäkoodinen ja runsaskoodinen tekoälyagenttien kehitys eroavat toisistaan

Vähäkoodisilla alustoilla agentteja voidaan koota visuaalisten käyttöliittymien ja valmiiden liiketoimintapalveluihin yhdistävien liittimien avulla. Runsaskoodinen kehitys antaa ohjelmoijille enemmän joustavuutta määrittää agenttien toimintaa omalla koodilla, työkalujen integroinneilla ja suoritusympäristöillä. Molemmissa lähestymistavoissa on valvottava, mitä tietoja agentit voivat käyttää ja mitä toimintoja ne voivat suorittaa.

Tietoturvavastuut eroavat toisistaan, koska hallinta on eri tahojen käsissä. Vähäkoodisten ratkaisujen rakentajat toimivat alustan asetusten puitteissa, ja nämä asetukset säätelevät jakamista ja liittimien käyttöoikeuksia. Siksi määrityksiä koskevat päätökset ovat erityisen tärkeitä. Runsaskoodisissa tiimeissä vastuu agenttien ohjeita suorittavista ohjelmistoista ja ympäristöistä on suurempi. Tähän vastuuseen kuuluvat myös tiedostoja ja tunnistetietoja koskevat rajaukset.

Cybersecurity and Infrastructure Security Agency tunnistaa useita agenttipohjaiseen tekoälyyn liittyviä riskejä, jotka tarjoavat hyödyllisen viitekehyksen molempiin lähestymistapoihin. Hyökkäyspinnan laajentuminen tarkoittaa uusien hyökkäysreittien syntymistä, kun taas käyttöoikeuksien hallitsematon kasautuminen tarkoittaa pääsyoikeuksien kertymistä. Käyttäytymisen poikkeaminen tarkoitetuista tehtävistä vaikeuttaa toimintaa, ja puutteelliset tapahtumalokit hankaloittavat tutkintaa. Laajasti käytetty liitin ja rajoituksetta toimiva komentorivityökalu voivat aiheuttaa samankaltaisia ongelmia eri tavoin.

Vähäkoodisten tekoälyagenttien tietoturvariskit ja ratkaisut

Vähäkoodisten ratkaisujen helppokäyttöisyys tuo agenttien luomisen myös perinteisten kehitystiimien ulkopuolisten työntekijöiden ulottuville. Tietoturvan valvonnan on katettava myös nämä rakentajat, jotta vaivattomat yhteydet pysyvät hyväksytyn liiketoimintakäytön mukaisina.

Vähäkoodisten ympäristöjen tietoturvan puutteet

Kansalaiskehittäjät saattavat yhdistää agentin jaettuihin tiedostoihin tai liiketoimintasovelluksiin ymmärtämättä täysin agentin käyttöoikeuksia. Näiden yhteyksien kautta myönnetyt käyttöoikeudet voivat paljastaa arkaluonteisia tietoja tai mahdollistaa työnkulun tarkoituksen ylittäviä toimintoja. Laaja jakaminen ja epäselvä omistajuus voivat pahentaa riskiä.

Käyttöönoton laajuuden vuoksi johdonmukainen valvonta eri osastoilla on tärkeää. Forrester kertoo vuoden 2024 markkina-analyysissään, että 87 % yrityskehittäjistä käyttää vähäkoodisia alustoja joihinkin kehitystehtäviin. Havainto koskee kehitystyötä yleisesti, joten se osoittaa alustojen laajan käytön mutta ei mittaa nimenomaan tekoälyagenttien käyttöönottoa.

Käytännön keinoja vähäkoodisten agenttien tietoturvan vahvistamiseen

Tiimien tulisi verrata liittimien käyttöoikeuksia kunkin agentin tehtävään ja noudattaa vähimpien käyttöoikeuksien periaatetta. Keskitettyyn luetteloon tulisi kirjata jokaisen käyttöönoton omistaja ja siihen yhdistetyt palvelut, ja arkaluonteisille toiminnoille tulisi asettaa hyväksyntävaatimukset. Näin tietoturvatiimit voivat tunnistaa rekisteröimättömät agentit ja tutkia epäasianmukaista käyttöoikeuksien käyttöä.

Microsoftin tiedonhallintamallissa painotetaan liiketoimintatietojen käytön valvontaa. Microsoft Digitalin pääarkkitehti Naveen Jangir suosittelee, että organisaatiot ”hallinnoivat ja suojaavat tietoja asianmukaisilla käyttörajoituksilla”. Näiden hallintakeinojen avulla valtuutetut käyttäjät ja tekoälytoiminnot voivat käyttää tietoja ilman tarpeetonta altistumista määriteltyjen käyttöoikeusrajojen puitteissa. Kun liitinkäytäntöjä sovelletaan ja omistajuudesta tehdään selkeä vastuu, rajoitukset voidaan ottaa osaksi jokapäiväistä kehitystyötä.

Runsaskoodisten tekoälyagenttien tietoturvariskit ja ratkaisut

Kun tiimit käyttävät tekoälypohjaisia koodausagentteja räätälöityjen järjestelmien rakentamiseen, muutoksia voi syntyä nopeammin kuin ihmiset ehtivät tarkastaa niitä. Runsaskoodisen kehityksen tietoturva edellyttää siksi sekä kehitysprosessin että niiden ympäristöjen valvontaa, joissa agentit suorittavat tehtäviä.

Runsaskoodisen kehityksen erityiset tietoturvahaasteet

Koodausagentit voivat joutua epäsuoran kehotteinjektion kohteeksi lukiessaan ulkoisia ohjelmistovarastoja, jotka sisältävät hyökkääjän lisäämiä ohjeita. Jos agentti noudattaa ohjeita ja sillä on samalla pääsy kehitystyökaluihin, se saattaa suorittaa vaarallisia komentoja tai paljastaa tunnistetietoja. Mahdolliset seuraukset riippuvat osittain siitä, mitä tiedostoja, työkaluja ja ulkoisia kohteita agentin suoritusympäristö sallii sen käyttää.

NVIDIAn eristämisohjeissa käsitellään tunnistetietojen paljastumista suoritusympäristön rajojen sisällä. Ohjeissa todetaan, että ”eristetyissä ympäristöissä tulisi käyttää tunnistetietojen nimenomaista syöttämistä” niiden käytön rajoittamiseksi. Siksi agenttien ei tulisi periä kaikkia ympäristömuuttujissa olevia tunnistetietoja, jos niiden tehtävät edellyttävät vain rajoitettua käyttöoikeutta. Tiimien tulisi myöntää tunnistetiedot tiettyä tehtävää varten ja pitää siihen liittymättömät salaisuudet agentin ulottumattomissa.

Koodipainotteisten agenttiputkien tietoturvan vahvistaminen

Rajoitettujen suoritusympäristöjen tulisi rajata tiedostojen käyttöä ja ulospäin suuntautuvia yhteyksiä tehtävän vaatimusten mukaisesti. Tiimien tulisi myös tehdä generoidulle koodille staattista sovellustietoturvatestausta. Riippumattomien tarkastajien tulisi arvioida valtuutuspäätöksiä ja liiketoimintalogiikkaa, joita automaattiset tarkistukset eivät välttämättä tunnista. Näillä kerroksilla hallitaan suoritusympäristön rajoja ja valmiin ohjelmiston heikkouksia.

Amazon Web Services suosittelee koodin generoinnin ja arvioinnin erottamista koodausagenttien hallintaa koskevassa viitekehyksessään. Sen mukaan ”erillinen istunto auttaa välttämään itseään vahvistavaa vinoumaa”. Kaksi samaa mallia käyttävää istuntoa voi kuitenkin sisältää samat taustalla olevat katvealueet tarkastuksen aikana. Jos mahdollista, arviointiin kannattaa käyttää eri mallia ja teettää tietoturvan kannalta arkaluonteisista muutoksista myös ihmisen tekemä arvio, jotta niitä voidaan tarkastella perusteellisemmin.

Molemmat lähestymistavat kattavan tietoturvastrategian rakentaminen

Vähäkoodisten ja koodipainotteisten agenttien kehityksen tietoturva edellyttää yhteistä näkymää toimintaan kaikkialla, missä agentit vaihtavat tietoja. Vähäkoodinen työnkulku voi esimerkiksi lähettää sisältöä räätälöidylle agentille, joka puolestaan kutsuu toista liiketoimintapalvelua. Jos kutakin osaa tarkastellaan erikseen, tietoturvatiimeiltä voi puuttua koko tapahtumaketjun ymmärtämiseen tarvittava konteksti.

Darktracen tekoälyn tietoturva-asiantuntijat katsovat, että organisaatioiden on tarkasteltava kehotteita ja istuntoja vastausten rinnalla kaikissa yritysten generatiivisen tekoälyn työkaluissa ja molemmissa kehitystavoissa. Näkökulma kattaa myös ohjelmistopalvelut sekä suojatun pääsyn reunapalveluympäristöt. Tällaisen näkyvyyden ansiosta organisaatiot saavat kontekstia, jonka avulla ”ne voivat havaita ovelat keskustelupohjaiset kehotehyökkäykset ja haitalliset toimintaketjut”.

Darktracen näkemys tukee laajempaa vähäkoodisten ja koodipainotteisten agenttien kehityksen tietoturvastrategiaa, sillä näkyvyys kehotteisiin, istuntojen valvonta ja identiteettien hallinta auttavat tiimejä ymmärtämään, miten agentit ovat vuorovaikutuksessa toisiinsa liitettyjen työkalujen kautta. Tietoturvatiimien tulisi tarkastella, miten ohjeet muuttuvat toisiinsa liitetyissä istunnoissa ja pysyvätkö myöhemmät toimet alkuperäisen valtuutuksen mukaisina. Niiden tulisi myös ottaa huomioon tutkintaa varten säilytettävien tietojen arkaluonteisuus.

Tekoälyagenttien pitkäaikaisen tietoturvan hallinta ja valvonta

Jokaisella agentilla tulisi olla vastuullinen omistaja ja selkeästi määritelty sallittujen tehtävien laajuus sen kehitystavasta riippumatta. Hallintamallissa tulisi myös määrittää, kuka voi hyväksyä muutoksia tähän laajuuteen ja kuka voi keskeyttää toiminnan, jos agentti käyttäytyy odottamattomasti.

Agenttien hallintaa koskeva tutkimus viittaa siihen, että agentit tarvitsevat todennettavissa olevaa toimivaltaa ja että niiden toimintaa on voitava auditoida, jotta vastuuvelvollisuus toteutuu. Tämä toimintatapa yhdistää luvan myöntävän henkilön tehtäviin, joita agentti voi suorittaa. Organisaatiot voivat näin tarkistaa, onko toiminta kyseisen valtuutuksen mukaista.

Tiimien tulisi ylläpitää toimintalokeja, joista käyvät ilmi delegoidut käyttöoikeudet, työkalujen käyttö ja sen tulokset. Säännöllisissä tarkastuksissa tulisi arvioida käyttöoikeudet uudelleen kyvykkyyksien muuttuessa, poistaa pääsyoikeudet, joita ei enää tarvita päättyneiden tehtävien jälkeen, ja varmistaa, että omistajuustiedot ovat ajan tasalla. Kehitys- ja tietoturvatiimit voivat tarkastusten avulla pitää operatiiviset kontrollit linjassa agentille hyväksytyn käyttötarkoituksen kanssa.

Tekoälyagenttien tietoturvariskien ennakointi

Vähäkoodisessa kehityksessä on kiinnitettävä erityistä huomiota alustan käyttöoikeuksiin ja liittimien hallintaan, kun taas koodipainotteisessa kehityksessä on valvottava tarkasti räätälöityjä suoritusympäristöjä ja koodin tarkastusta. Keskitetty valvonta ja johdonmukainen vastuunjako luovat yhteisen perustan sen seuraamiselle, miten agentit käyttävät tietoja ja toimivat toisiinsa liitetyissä liiketoimintajärjestelmissä. Kyvykkyyksien laajentuessa kehittäjien tulisi arvioida suojatoimet uudelleen agenttien työkalujen ja vastuiden muuttuessa sekä pitää kunkin käyttöönoton sallitut toiminnot selkeästi määriteltyinä koko elinkaaren ajan.