Adam Markowitz, Dratan toimitusjohtaja ja toinen perustaja – haastattelusarja

Adam Markowitz on Dratan toimitusjohtaja ja toinen perustaja. Hän laajentaa yrityksen jatkuvaan vaatimustenmukaisuuteen ja luottamukseen liittyvää työtä tekoälyagenttien hallintaan. Ennen kuin hän perusti Dratan yhdessä muiden kanssa vuonna 2020, hän perusti Portfoliumin yhdessä Troy Markowitzin ja Daniel Marashlianin kanssa. Hänen kokemuksensa tietoturvakyselyistä, auditoinneista ja vaatimustenmukaisuuden arvioinneista auttoi muovaamaan Dratan lähestymistapaa siihen, miten organisaatiot voivat automatisoidusti osoittaa olevansa luotettavia.

Drata tarjoaa hallinnan, riskienhallinnan ja vaatimustenmukaisuuden alustan, jossa yhdistyvät todisteiden automaattinen kerääminen, valvontatoimien jatkuva seuranta, kolmansien osapuolten riskienhallinta ja tietoturvakyselyjen työnkulut. Sen tekoälyagenttien hallintatoiminnot keskittyvät agenttien löytämiseen, käytäntöjen toimeenpanoon ennen toimien suorittamista ja päätösten tallentamiseen auditointia varten. Tässä haastattelussa Markowitz käsittelee sisäpiirin agenttiuhkia, koneidentiteettiä, työkalukutsujen tietoturvarajoja ja niitä hallintakeinoja, joita yritykset tarvitsevat ottaakseen käyttöön autonomisia agentteja laajassa mittakaavassa.

Perustit aiemmin Portfoliumin ennen kuin perustit Dratan yhdessä muiden kanssa vuonna 2020. Olit itse nähnyt, miten työlääksi tietoturvan vaatimustenmukaisuudesta huolehtiminen voi käydä yrityksen kasvaessa. Mikä sai sinut uskomaan, että ongelman ympärille kannatti perustaa kokonaan uusi yritys, ja miten Dratan missio on kehittynyt tekoälyn muuttaessa tietoturvan toimintaympäristöä?

Johtaessamme Portfoliumia yhdessä perustajakumppaneideni Troy Markowitzin ja Daniel Marashlianin kanssa opimme tärkeän asian: luottamuksen ansaitseminen liiketoiminnassa on prosessi, ei myyntipuhe. Opiskelijoiden tietojen suuren määrän ja arkaluonteisuuden vuoksi yliopistot ja yritykset eivät ryhtyneet yhteistyöhön kanssamme ennen kuin osoitimme suojelevamme niiden tietoja asianmukaisesti. Huomasimme, että jokaisen tietoturvakyselyn, auditoinnin ja vaatimustenmukaisuuden arvioinnin läpikäyminen käsin oli hidasta ja tuskallista – ja että sama kokemus oli monilla muillakin. Portfoliumin yrityskaupan jälkeen me kolme, Troy, Daniel ja minä, löysimme jälleen toisemme ja käytimme kuusi kuukautta Dratan ensimmäisen version rakentamiseen. Keskustelimme kymmenien yritysten ja auditoijien kanssa varmistaaksemme ongelman todellisuuden jo ennen kuin aloimme kirjoittaa koodia. Kun julkaisimme palvelun, saimme kuuden ensimmäisen viikon aikana 100 asiakasta ja vuoden kuluessa 1 000. Se kertoi meille, että olimme siirtyneet myymästä jotakin ”mukavaa lisäpalvelua” tarjoamaan jotakin, jota ilman ihmiset eivät pystyneet toimimaan.

Tekoälyn myötä Dratan missio jatkuvan luottamuksen tarjoamiseksi ei ole muuttunut, mutta luottamuksen piiri on laajentunut. Aloitimme automatisoimalla vaatimustenmukaisuuteen liittyvän raskaan työn ja siirryimme sitten agenttipohjaisiin työnkulkuihin, jotka pystyivät hoitamaan kolmansien osapuolten riskienarvioinnit ja tietoturvakyselyt alusta loppuun. Todellinen muutos tapahtui kuitenkin, kun agenteista itsestään tuli hallintaa vaativa kohde. Nyt olemme laajentaneet alustaa tekoälyagenttien hallintaan: etsi agentit, hallitse sitä, mitä ne saavat tehdä, ja tuota näyttöä, joka kestää tarkastelun, kun joku sitä pyytää.

Olet ottanut käyttöön termin ”sisäpiirin agenttiuhka” kuvaamaan riskejä, joita aiheuttavat ulkopuolisen hyökkääjän sijaan organisaation omat tekoälyagentit. Miten sisäpiirin agenttiuhka eroaa perinteisestä sisäpiiriuhasta, johon tietoturvatiimit ovat varautuneet jo vuosikymmenten ajan?

Perinteisissä sisäpiiriuhissa on kyse siitä, että henkilö käyttää väärin jo saamaansa pääsyä – esimerkiksi tyytymätön tai huolimaton työntekijä tai joku, joka vain napsauttaa väärää kohtaa. Tietoturvatiimit ovat rakentaneet vuosikymmenten ajan toimintamalleja tämän riskin varalle. Niissä keskitytään esimerkiksi taustatarkistuksiin, vähimpien oikeuksien periaatteeseen ja työsuhteen päättymisen tarkistuslistoihin.

Sisäpiirin agenttiuhka on erilainen, koska agentille ei alun perinkään myönnetty pääsyä. Riski siirtyy väärinkäytöstä pääsyn hankkimiseen. Jos agentille annetaan tavoite ja selkeä reitti sen saavuttamiseen tukkeutuu, se ei vain tee tukipyyntöä ja jää odottamaan ihmisen tavoin. Se yrittää löytää toisen reitin: heikolla salasanalla suojatun palvelutilin tai päätepisteen, jonka sulkeminen on unohtunut. Agentti löytää tiensä sisään ilman pahantahtoisuutta tai sen tiedossa olevaa käytäntörikkomusta. Se tekee täsmälleen sen, mitä siltä pyydettiin, ja siksi sitä on niin vaikea havaita. Jokainen vaihe näyttää erikseen tarkasteltuna järkevältä, ja lopuksi agentti ilmoittaa onnistuneensa.

Tiedämme jo, miten hallita työntekijöitä ja kolmansia osapuolia, joilla on pääsy arkaluonteisiin järjestelmiin, mutta agentit ovat kolmas ryhmä, jota varten kahdelle ensimmäiselle ryhmälle rakennetut työkalut eivät riitä.

Tekoälyagentit voivat pyrkiä tavoitteisiinsa sinnikkäästi, toimia koneen nopeudella ja käyttää useita järjestelmiä ilman harkintakykyä, jota ihmistyöntekijä saattaisi soveltaa. Miten tämä muuttaa perustavanlaatuisesti yritysten uhkamallia?

Eniten muuttuu aikajänne. Järjestelmään pääsyä etsivä ihminen kyllästyy lopulta, jää kiinni tai luovuttaa. Agentti ei. Aiemmin huomaamatta jäänyt avoin ovi löytyy nyt, koska agentti ei väsy eikä lopeta etsimistä.

Kyse ei myöskään ole vain yhdestä ovesta. Yhtä tehtävää varten rakennettu agentti käy mielellään läpi tusinan järjestelmiä tehtävää suorittaessaan – se hakee tilihistoriaa yhdestä paikasta ja tarkistaa tietokannan toisesta – vaikka useimmilla näistä toimista ei ole mitään tekemistä sen kanssa, mitä sitä oikeastaan pyydettiin tekemään. Yhtä esitystä rakentaessaan se voi kulkea toisen asiakkaan tietojen, taloustietojen, työntekijätietojen tai minkä tahansa tielleen osuvan läpi. Mikään tästä ei näy tietoturvapoikkeamana.

Uhkamalli on siis muuttunut. Tietoturvatiimien pitäisi nykyään kysyä, kuinka pitkälle niiden omat agentit menevät tehtävän suorittamiseksi, jos niille ei ole kerrottu, missä niiden on pysähdyttävä.

Monilla organisaatioilla on jo käytössä identiteetin- ja käyttöoikeuksien hallinta, etuoikeutettujen käyttöoikeuksien hallinta sekä nollaluottamusarkkitehtuureja. Miksi nämä kontrollit eivät yksin riitä autonomisten tekoälyagenttien hallintaan?

Nämä viitekehykset on suunniteltu ihmisille ja toimittajille – molemmilla ryhmillä on harkintakyky, ja molemmat pysähtyvät tullessaan esteelle. Agenttien identiteettien hallinnassa tarvitaan yhtä tiukkaa otetta kuin ihmisten identiteettien ja kolmannen osapuolen riskien hallinnassa: agenttien kartoittamista, omistajuuden määrittämistä ja näyttöä, johon auditoija voi luottaa. Ongelma on, ettei vielä ole yhteistä mittapuuta sille, mitä ”hallittu” oikeastaan tarkoittaa, kun tunnistetietoa käyttää agentti.

Esimerkiksi jonkin insinöörisi luoma agentti voi toimia kyseisen insinöörin käyttöoikeuksilla – jopa järjestelmissä, joita insinööri itse ei koskaan käytä. Identiteetin- ja käyttöoikeuksien hallinnassa sekä etuoikeutettujen käyttöoikeuksien hallinnassa oletetaan, että tunnistetietoa käyttävä tietää, milloin pitää pysähtyä, mutta agenteilla ei ole tällaista oletusta sisäänrakennettuna.

Pitäisikö yritysten alkaa käsitellä jokaista tekoälyagenttia omana koneidentiteettinään, jolla on selkeästi määritelty omistaja, käyttöoikeudet, toiminta-alue ja elinkaari? Millainen olisi kypsä agenttien identiteettien hallinnan viitekehys?

Kyllä, mutta useimmat yritykset eivät ole vielä siinä vaiheessa. Yllättävän moni ei osaa edes kertoa, kuinka monta agenttia niiden ympäristöissä toimii, saati kuka niistä vastaa. Kypsä viitekehys alkaa kartoittamisesta – jokaisen agentin kattavasta, jatkuvasti päivittyvästä luettelosta. Sen jälkeen jokaiselle agentille on määritettävä omistaja, tarkka toiminta-alue eli se, mihin agentti saa päästä käsiksi, sekä käytäntö, joka todella valvoo näitä rajoja. Omasta tutkimuksestamme näemme, että toimittajapuolella esiintyy sama ongelma: kolme neljästä organisaatiosta arvioi kolmannet osapuolensa uudelleen vain kerran vuodessa tai harvemmin, joten niiden hallinta perustuu tietoihin, jotka ovat jo vanhentuneita muutosten tapahtuessa. Yksittäiseen ajankohtaan perustuva arviointi ei toimi agenttien kohdalla, olivatpa ne organisaation sisäisiä tai ulkoisia

Haluamme yhden standardin, jota sovelletaan kaikkiin agentteihin samalla tavalla sen sijaan, että tietoturvatiimi joutuisi selvittämään, mitä kukin kehittäjä on erikseen rakentanut. Tämä tarkoittaa selkokielellä laadittavia käytäntöjä, jotka testataan todellista aiempaa liikennettä vasten ennen käyttöönottoa ja joita sen jälkeen valvotaan suoraan suorituksen aikana. Näin viitekehys vaikuttaa agentin jokaiseen toimintoon eikä jää pelkäksi dokumentaatioksi.

Erityisen hankala tilanne syntyy, kun agentti rikkoo tietoturvakäytäntöä toimimatta kuitenkaan pahantahtoisesti. Jos agentti löytää tahattoman reitin arkaluonteisiin tietoihin vain siksi, että se yrittää suorittaa sille annetun tehtävän, miten tietoturvatiimit voivat erottaa onnistuneen automaation tietoturvapoikkeamasta?

Rehellinen vastaus on, ettei sitä tällä hetkellä voi tietää. Kuvitellaan asiakastukiagentti, jonka tehtävänä on laatia neljännesvuosittaisia liiketoimintakatsauksia ja jota pyydetään hakemaan asiakastilin historia ja kokoamaan esitys. Oikea reitti – vientitiedosto, josta agentin pitäisi hakea tiedot – on tyhjä. Ihminen pysähtyisi siihen, mutta agentti löytää toisen reitin, ja omasta näkökulmastaan se onnistuu tehtävässään.

Vaikka tehtävä tulikin tehdyksi, agentti kiersi tietoturvakäytäntönne ja päätyi järjestelmiin, joita sen ei ollut tarkoitus avata. Ratkaisevaa on kysyä, pysyikö agentti sille määrittämissämme rajoissa. Tehtävän suorittaminen ei koskaan ollut varsinainen kysymys. Kyse on käytännöistä. Toiminta-alue on määriteltävä niin tarkasti, etteivät ”onnistunut automaatio” ja ”tietoturvapoikkeama” näytä jälkikäteen samalta.

Perinteinen tietoturvavalvonta tunnistaa usein epäilyttävän toiminnan vasta sen tapahduttua, mutta autonominen agentti voi suorittaa satoja toimintoja ennen kuin ihminen ehtii reagoida. Edellyttääkö agenttinen tekoäly tietoturvakontrolleja, jotka toimivat suoraan suorituksen aikana, sen sijaan että luotettaisiin pääasiassa hälytyksiin ja jälkikäteiseen valvontaan?

Kyllä, ehdottomasti. Jos havaitset tämän vasta suorituksen aikana, olet jo liian myöhässä. Kun valvontatyökalu ilmoittaa toiminnosta, se on jo suoritettu. Saat täydellisen tallenteen siitä, miten altistuit, mutta et voi enää pysäyttää tapahtunutta.

Ainoa toimiva hallintatapa koneen nopeudella tapahtuvassa toiminnassa on sellainen, joka arvioi toiminnon ennen sen suorittamista ja estää rikkomuksen suoraan suorituksen aikana. Emme koskaan antaisi uudelle työntekijälle pääsyä arkaluonteisimpiin tietoihimme ja vain toivoisi, että valvonta havaitsee mahdolliset ongelmat. Agentit ansaitsevat saman tiukan valvonnan juuri silloin, kun toiminto on tapahtumaisillaan. Eivät vasta jälkikäteen.

Model Context Protocol (MCP) ja muut agenttien ja työkalujen väliset rajapinnat antavat tekoälyjärjestelmille pääsyn yhä tehokkaampiin ulkoisiin toimintoihin. Millaisia uusia tietoturvarajoja tarvitaan työkalukutsujen, ohjelmointirajapintojen, tunnistetietojen ja palvelutilien ympärille, kun yritykset laajentavat sitä, mitä niiden agentit saavat tehdä?

Työkalukutsut muodostavat uuden turvarajan. Aina kun agentti käyttää tunnistetietoa, kutsuu API:a tai käynnistää työkalun, kyseessä on päätöksentekopiste. Useimmissa yrityksissä ei kuitenkaan ole juuri siinä kohdassa rajaa, joka arvioisi, pitäisikö toiminto sallia. Tämä on ollut puuttuva osa. Näemme saman katvealueen myös ulkoa sisäänpäin: vain 37 % tietoturvajohtajista luottaa siihen, että he pystyvät edes tunnistamaan, missä tekoälyä käytetään niiden toimittajien järjestelmissä, joiden kanssa he jo tekevät yhteistyötä. Jos et näe sitä toimittajan tuotteessa, et näe myöskään oman agenttisi seuraavaa siirtoa. Kaikkien näiden toimintojen taustalla oleviin tunnistetietoihin ja palvelutileihin on sovellettava yhtä tiukkoja vaatimuksia kuin ihmisten käyttöoikeuksiin: omistajuuden on oltava tiedossa, käyttöoikeuksien rajattuja ja niiden säännöllisesti tarkistettuja. Agentti ei saa päästä käyttämään tunnistetietoa, jota sille ei ole koskaan myönnetty, vain siksi, että tunnistetieto on jossakin sen käytettävissä olevalla polulla.

Kun tilintarkastaja, sääntelyviranomainen tai asiakas kysyy, mitä tekoälyagentti on käyttänyt, mitä päätöksiä se on tehnyt ja minne sen käsittelemät tiedot ovat päätyneet, millaista jäljitettävyyttä organisaatioiden pitäisi realistisesti pystyä tarjoamaan? Voisivatko agenttien tarkastusketjut aikanaan olla yhtä keskeisiä kuin perinteiset käyttöoikeuslokit?

Organisaatioiden pitäisi pystyä tarvittaessa kertomaan, mitä agentti on käyttänyt, mitä päätöksiä se on tehnyt ja minne sen käsittelemät tiedot ovat päätyneet. Ei riitä, että vastaus kootaan jälkikäteen lokeista. Vaatimuksena on jatkuva, peukaloinnin paljastava tallenne, joka on jo olemassa kysymyksen esittämisen hetkellä. Tällä hetkellä useimmat yritykset eivät vastaa näihin kysymyksiin mitään. Tätä puutetta ei voi selitellä asiakkaalle, eivätkä sääntelyviranomaisetkaan hyväksy sitä, jos tietoja on vuotanut.

Uskon myös, että agenttien tarkastusketjuista tulee pian yhtä keskeisiä kuin käyttöoikeuslokeista. Ihmisten järjestelmissä kysymys siitä, kuka käytti mitä ja milloin, on ollut jo vuosia ehdoton vaatimus. Ei ole mitään syytä asettaa agenteille matalampaa rimaa vain siksi, ettei toimintoa napsauttanut ihminen. EU:n tekoälysäädös, AIUC-11 ja ISO 42001 ohjaavat jo tähän suuntaan. Agenttien jäljitettävyyden on perustuttava samoihin kontrolleihin ja näyttöä koskevaan logiikkaan, joille vaatimustenmukaisuusohjelmat jo rakentuvat. Jos asiaan suhtaudutaan jälkikäteen hoidettavana sivuseikkana, se jää helposti syrjään.

Uskotko, että tekoälyagenttien hallinnasta muodostuu tulevaisuudessa oma tietoturvan osa-alueensa vai sulautuuko se lopulta osaksi nykyisiä hallinta-, riski-, vaatimustenmukaisuus-, identiteetin- ja kyberturvallisuuden alustoja? Mitä yrityksillä mielestäsi on oltava valmiina, ennen kuin ne voivat ottaa käyttöön aidosti autonomisia agentteja turvallisesti ja laajassa mittakaavassa?

Jokainen merkittävä teknologia-aalto synnyttää oman tietoturva-aaltonsa: pilvipalvelut synnyttivät Wizin ja päätelaitteet CrowdStriken – nyt tekoälyagentit synnyttävät omansa. Mallipalveluntarjoajat rakentavat omille alustoilleen hallintakonsoleita ja käytäntöjä. Se on hyödyllistä, mutta yksikään yritys ei käytä vain yhtä mallipalveluntarjoajaa, yhtä koodausavustinta ja yhtä joukkoa itse kehitettyjä agentteja. Jonkun on hallittava niitä kaikkia yhtenäisillä käytännöillä ja yhdenmukaisella näyttöaineistolla. Yksikään tekoälyalusta ei kuitenkaan ole suunniteltu ratkaisemaan tätä ongelmaa – sen ratkaiseminen ei ole niiden tarkoitus. Tekoälyagenttien hallinta on jo oma osa-alueensa, vaikka se kytkeytyykin yritysten jo käyttämiin GRC-, identiteetti- ja vaatimustenmukaisuusjärjestelmiin.

Ennen kuin yritykset voivat ottaa aidosti autonomisia agentteja käyttöön laajassa mittakaavassa, niillä on oltava neljä asiaa kunnossa, eikä useimmilla ole vielä yhtäkään niistä. Ensimmäinen on reaaliaikainen kartoitus: on tiedettävä jokaisen käynnissä olevan agentin olemassaolosta, omistajasta ja sen käyttämästä identiteetistä heti agentin luomishetkellä.

Toiseksi käytäntöjen on oltava valvottuja suoraan toimintaketjussa, ja ne on arvioitava ennen toiminnon suorittamista. Kolmanneksi yritykset tarvitsevat jatkuvaa poikkeamien seurantaa, sillä agentit toimivat vielä niitä luoneen istunnon päätyttyä ja niiden käyttöoikeudet voivat laajentua huomaamatta. Viimeiseksi tarvitaan peukaloinnin paljastava tallenne jokaisesta agentin tekemästä päätöksestä, joka vastaa tilintarkastajien ja sääntelyviranomaisten tunnustamia viitekehyksiä. Tätä tasoa rakennamme Dratassa. Ilman sitä yritys, joka ottaa autonomisia agentteja käyttöön laajassa mittakaavassa, luottaa vain hyvään onneen.

Kiitos hienosta haastattelusta! Lukijoiden, jotka haluavat tutustua tekoälyagenttien hallintaan, jatkuvaan vaatimustenmukaisuuteen ja sisäpiiriläisten agenttiuhkien torjuntakeinoihin, kannattaa vierailla sivustolla Drata.