Kun tekoäly kääntyy petolliseksi: sisäisten uhkien torjunta autonomisten agenttien aikakaudella

 Tekoälyagenttien nopea nousu luo uusia haasteita turvallisuus- ja IT-tiimille. Tämän muutoksen kynnyksellä, jossa liiketoimintajatkuvuuden tehtävät automatisoidaan yhä enemmän, tuoreet testit osoittavat, että tekoälyagentit voivat osoittaa vaarallisia tai petollisia käyttäytymismalleja tiettyjen olosuhteiden vallitessa, mikä luo uuden sisäisen uhkan yrityksille eri aloilla.

Tämä korostaa tarvetta organisaatioiden osalta valvoa tekoälyagentteja, jotka pääsevät käsiksi arkaluontoiseen tietoon ja toimivat ilman ihmisen valvontaa, mikä voi aiheuttaa uusia riskiluokkia, jotka ovat nopeampia, ennustamattomampia ja vaikeampia jäljittää. Näiden riskien todellisuus on kaksinkertainen. Toisaalta turvallisuustiimit on valmistauduttava pahantahtoisiin toimijaan, jotka hyödyntävät tekoälyagentteja sosiaalisen insinöörityksen hyökkäysten vahvistamiseen heidän työntekijöidensä kohdalla. Toisaalta heidän on valmistauduttava yrityksen sisäisiin, hyväksyttyihin tekoälyagenteihin, jotka voivat osoittaa käyttäytymistä, joka luo uuden turvallisuusriskin ja -haavoittuvuuden joukon.

Miten sisäiset tekoälyagentit voivat johtaa sisäisiin uhkiin

Tekoälyagentit aiheuttavat kaksi tärkeää sisäistä turvallisuusriskiä yritysverkoissa. Ensinnäkin ne toimivat itsenäisesti ilman eettisiä rajoituksia tai sisäänrakennettua vastuuta, joita ihmiset työntekijät seuraavat luonnostaan. Toimien pääteltyjen tavoitteiden perusteella eikä eksplisiittisten ohjeiden mukaan, heidän tehokkuutensa ja sitoutumisensa voivat ajaa heidät rajojen ulkopuolelle ja mahdollistaa toiminnan ilman hyväksyntää. Ilman tarvittavia tarkastus- ja tasapainotusjärjestelmiä altistumisia voidaan helposti luoda ja ohittaa.

Nämä agentit voivat myös päästä käsiinsä laajoihin tietomääriin, mutta heillä ei ole kykyä erottaa etuoikeutettua ja tavallista tietoa. Siksi jopa yksinkertaiset tehtävät, kuten tietojoukkojen analyysi, voivat aiheuttaa tietovuotoja tai altistaa tietoja ulkoisille osapuolille. Tämä haaste muodostuu monimutkaisemmaksi, kun tekoäly laajennetaan eri järjestelmiin ja työnkulkuihin, joissa on erilaiset tietosäännöt ja -protokollat. Agentit, jotka toimivat eri alueilla, voivat rikkoa sijaintikohtaisia tietokäsittelysääntöjä epäjohdonmukaisen käytännön vuoksi, mikä luo turvallisuusriskejä. Todellisuus on, että vain 30% Yhdysvaltain yrityksistä kartoittaa aktiivisesti, mitkä tekoälyagentit pääsevät käsiksi kriittisiin järjestelmiin, mikä luo suuren turvallisuustietämättömyyden.

Miten ulkoiset tekoälyagentit voivat johtaa sisäisiin uhkiin

Yksi yleisimmistä hyökkäyksen muodoista on phishing- ja sosiaalisen insinöörityksen hyökkäykset. Pahantahtoiset toimijat ja kyberrikolliset käyttävät tekoälyagentteja näiden hyökkäysten vahvistamiseen ja toteuttamiseen sofistikoituneita deepfake- ja matkintatapauksia. Tekoälyagentit voidaan käyttää luomaan phishing- ja sosiaalisen insinöörityksen hyökkäykset, jotka näyttävät aidommilta ja uskottavammilta kouluttamattomalle silmille. 60% vuoden 2024 tietoturvaloukkauksista liittyi ihmiseen, ja lähes neljännes niistä alkoi sosiaalisen insinöörityksen kautta. Tämä luku on vain kasvamassa, kun tekoälyagenttien käyttö jatkuu näiden hyökkäysmenetelmien vahvistamisessa.

Tekoälyagentit voidaan kouluttaa käymään läpi laajoja määriä sosiaalisen median ja henkilökohtaista tietoa eri alustoilla ja kanavilla, jotta voidaan lähettää kohdennettuja, henkilökohtaisia viestejä. Viestintä, joka matkii lähettäjän sävyä ja ääntä, on todennäköisemmin onnistunut ja vaikeampi erottaa aidoista medioista. Tekoälyagentit voivat oppia sopeutumaan kampanjoihinsa parantamaan tehokkuutta, muuttaa suuntaa, kun hyökkäys ei onnistu, tai jäljitellä onnistunutta hyökkäystä.

Deepfake-kohdalla tekoälyagentit voivat luoda nämä matkinnat erinomaisella nopeudella, mikä johtaa massamanipulaatioon. Pahantahtoiset toimijat käyttävät myös tekoälyagentteja kommunikoimaan reaaliaikaisilla videopuheluilla vähäisellä viiveellä ja parantamaan uskottavuutta. He voivat reagoida kohdehenkilön reaktioon reaaliajassa ja muuttaa lähestymistapaansa, jos tarpeen. Nämä parannetut hyökkäykset voivat lisätä sisäisten uhkien riskiä tietämättömistä työntekijöistä, jotka voivat joutua huijatuiksi paljastamaan arkaluontoista tietoa, valtuutumaan transaktioita tai jakamaan tunnistetietoja uhkaajille.

Turvallisuustiimien rooli tekoälyhaasteiden ratkaisemisessa

Turvallisuustiimien on toteutettava tiettyjä toimia vähentämään tekoälyagenttien luomia sokeita pisteitä. IT-osastojen tulisi ensisijaisesti rajoittaa tekoälyagenttien pääsyä arkaluontoiseen tietoon tietohallinnon ja reaaliaikaisen näkyvyyden avulla. Tämän saavuttamiseksi voidaan toteuttaa tekoälyagenttien identiteettien luokittelu IAM-järjestelmissä ja heidän toimintansa seuranta samalla tarkkuudella kuin etuoikeutettujen tiliten kohdalla. Näkyvyyden osalta IT-tiimit voivat seurata verkkotoimintaa jo toteutettujen käyttäytymismallien perusteella, jotka on määritelty tekoälyagenteille. Näkyvyyden avulla IT-tiimit voivat seurata etuoikeutettua pääsyä ja poikkeamia, mikä tukee sekä ennaltaehkäiseviä pyrkimyksiä että nopeaa sisäistä toimintaa ja toipumista, jos jokin agentti käyttäytyy epäilyttävästi.

Lisäksi organisaatiot voivat päivittää puolustusstrategioitaan tunnistamalla uudet kuviot ja taktiikat, joita tekoälyagenttien hyökkäyksissä käytetään, ja kouluttaa turvallisuusjärjestelmiään tunnistamaan ja torjumaan vastaavia uhkia tulevaisuudessa.

Pysymällä sisäisten uhkien edellä, jotka tekoälyagentit aiheuttavat

Todellisuus on, että tekoälyagentit aiheuttavat uudenlaisen sisäisen riskin autonomiansa ja kasvavan pääsynsä arkaluontoisiin järjestelmiin vuoksi. Lisäksi uhkaajat jatkavat tekoälyagenttien käyttämistä ihmisten haavoittuvuuksien hyödyntämiseen deepfake-, phishing- ja sosiaalisen insinöörityshyökkäyksien kautta.

Kun tämä teknologia kehittyy, yritysten on parannettava näkyvyyttään tekoälyagenttien pääsyyn ja käyttäytymiseen ennen kuin ne otetaan osaksi työnkulkua. Tämä vaatii proaktiivista, 360-asteista, reaaliaikaista seurantaa tekoälytyövoiman rinnalla. Vaikka tekoälyagentit voivat ratkaista kriittisiä liiketoimintapulmia ja haasteita, niiden edellyttää proaktiivista lähestymistapaa tulevien sisäisten uhkien rajoittamiseksi.