Tekoälyturvallisuus ei ole rikki, puolustamme vain väärää asiaa

KyberTurvallisuusala on kehittänyt mallin uuden teknologian ilmaantumiselle, jossa välittömästi aloitamme muurien rakentamisen ympärille. Teimme tämän pilvessä, teimme tämän kontissa ja nyt teemme tämän tekoälyssä, paitsi että tämän kerran muurit, joita rakennamme, ovat täysin väärässä paikassa.

Mene mihin tahansa yrityksen turvallisuuskatselmuksiin tänään, ja kuulet samat prioriteetit: tekoälymallien turvallisuus, koulutusdatan suojaaminen, tulostusvalidointi ja tekoälyvoimaiset copilotit. Toimittajat kilpailevat myydäkseen “tekoälyturvallisuustyökaluja”, jotka keskittyvät yksinomaan mallin tasolla oleviin ohjaimiin, kuten reunapuolustuksiin, prompt-injektioihin ja mallin seurantaplattoihin.

Mutta hyökkääjät käyttävät tekoäly-integraatioita moottoriteina kaiken muun läpi.

Todellinen hyökkäyspinta, jota kukaan ei ole seuraamassa

Yksi malli, jota havaitsemme jatkuvasti yritysympäristöissä, kertoo huolestuttavan tarinan turvallisuustiimien panostamisesta tekoälykehitysympäristöjensä turvallisuuteen: mallin pääsyvalvonta, datanhallintakehykset, MLOps-turvallisuustyökalut. Tämä antaa väärän turvallisuuden tunteen, että heidän tekoälynsä on “lukittu”.

Kun kartoitat todellisen hyökkäyspinnan, näet, että tekoälychatbotit usein pitävät OAuth-tunnuksia kymmenille SaaS-alustoille, API-avaimia, joilla on liialliset pilviominaisuudet, ja identiteettien luottamussuhteita, jotka voivat luoda suoria polkuja yksinkertaisesta prompt-injektiosta tuotantoinfrastruktuuriin. Mallit itsessään saattavat olla turvallisia, mutta ekosysteemit, joissa ne toimivat, ovat usein avoimia, ja tämä ei ole reunatapaus.

Yritykset käyttävät nykyään keskimäärin 130+ SaaS-sovellusta, ja tekoälyintegraatiot kattavat identiteettitarjoajat, pilvinfrastruktuurin, tietokannat ja liiketoimintakriittiset järjestelmät. Jokainen integraatio on potentiaalinen hyökkäysreitti, ja jokainen API-yhteys on luottamuksen raja, jota hyökkääjät aktiivisesti tutkivat.

Ongelma ei ole siinä, että tekoälyturvallisuustyökalumme ovat rikki. Se on siinä, että turvallisuustiimit suojelevat yksittäisiä komponentteja, kun taas hyökkääjät hyödyntävät yhteyksiä niiden välillä.

Miksi mallikeskeinen turvallisuus ei osu kohtaan

Nykyinen tekoälyturvallisuuden lähestymistapa perustuu perustavanlaatuiseen väärinkäsitykseen siitä, miten modernit hyökkäykset toimivat. Käsittelemme tekoälyä erillisenä varana, jota tarvitaan suojella, samalla tavalla kuin suojelisimme tietokantaa tai web-sovellusta. Mutta tekoäly tuotannossa ei ole eristyneessä tilassa. Se on solmu monimutkaisessa identiteettien, oikeuksien, API:iden ja tietovirtojen verkossa.

Oletetaan tyypillinen yrityksen tekoälykäyttöönotto. Sinulla on tekoälyagentti, jolla on pääsy Google Workspaceen. Se on kytketty Salesforceen API:iden kautta. Se on integroitu Slackiin ilmoituksia varten. Se hakee tietoja AWS S3-bucketeista. Se on todennettu Okta- tai Azure AD: n kautta. Se laukaisee työvirtoja ServiceNow:ssa.

Perinteinen tekoälyturvallisuus keskittyy itse malliin: sen turvallisuusasemaan, syötteen validointiin, tulostuksen turvallisuuteen. Mutta hyökkääjät keskittyvät integraatioihin: mihin he voivat päästä komprometoiduista palvelutilien kautta, mihin he voivat siirtyä API-manipulaatioiden kautta, mitkä luottamuksen rajat he voivat rikkoa hyödyntämällä integraatioita.

Hyökkäys ei ala eikä lopu tekoälymallissa. Malli on vain sisäänpääsy.

Hyökkäysreitit eivät kunnioita tuotteen rajoja

Tässä useimmat organisaatiot jäävät jumiin. He ovat käyttäneet turvallisuustyökaluja, jotka antavat näkyvyyden yksittäiseen alueeseen. Yksi työkalu seuraa pilviominaisuuksia. Toinen seuraa SaaS-konfiguraatioita. Kolmas hallinnoi identiteetin hallintaa. Neljäs hoitaa haavoittuvuuden hallintaa.

Jokainen työkalu näyttää sinulle palan puzzlesia.

Gartnerin mukaan organisaatiot käyttävät nykyään keskimäärin 45+ turvallisuustyökalua. Vaikka tästä massiivisesta investoinnista huolimatta hyökkääjät onnistuvat ketjuamalla määritysvirheitä näiden alueiden yli, koska yksikään työkalu ei voi nähdä koko hyökkäysreittiä.

Hyökkääjän ei tarvitse löytää kriittistä haavoittuvuutta tekoälymallissasi. Heidän tarvitsee vain löytää ketju. Ehkä se on väärin määritelty IAM-rooli, joka on liitetty tekoälypalveluusi, jolla on oikeudet S3-bucketiin, joka sisältää tunnistetiedot SaaS-sovellukseen, jolla on pääsy tuotantoympäristöösi.

Jokainen yksittäinen määritysvirhe saattaa saada “keskitasoisen” tai “matalan” turvallisuustyökaluissasi. Mutta ketjuamalla? Se on kriittinen altis. Ja se on täysin näkymätön, jos tarkastelet jokaista turvallisuusaluetta erillään.

Altistumisen hallinnan imperatiivi

Tämä on syynä, miksi keskusteluun on siirryttävä “tekoälyturvallisuudesta” jatkuvaan uhka-altistumisen hallintaan tekoälyintegroituissa ympäristöissä.

On riittämätöntä kysyä, ovatko tekoälymallimme turvallisia. Turvallisuustiimien on ymmärrettävä, mitä hyökkääjä voi todella tavoittaa, jos he komprometoivat tekoälypalvelutilin. Heidän on oltava selville, miten määritysvirheet pilvi-, SaaS- ja identiteettijärjestelmissä voivat olla ketjuamalla yhteen. Heidän on tiedettävä, miten tekoälyintegraatiot muuttavat heidän hyökkäyspintaansa reaaliajassa. Ja heidän on priorisoitava riskejä todellisen hyökkäävyyden perusteella, ei pelkästään vakavuuspisteiden perusteella.

Useimmat turvallisuusohjelmat priorisoivat edelleen riskejä erillään, käyttäen CVSS-pisteitä ja vaatimustenmukaisuusluetteloita, jotka täysin jättävät huomiotta, onko haavoittuvuus todella hyödynnettävissä tietyssä ympäristössä.

Tämä aukko on vielä ilmeisempi tekoälyjärjestelmissä, koska ne muuttuvat jatkuvasti. Uusia integraatioita lisätään viikoittain. Oikeudet kehittyvät. API-yhteydet muuttuvat. Hyökkäyspintasi viime kuusta ei ole enää sama kuin nyt, mutta turvallisuusarviosi on todennäköisesti edelleen sama.

Miten hyökkäysreittitietoinen turvallisuus näyttää todella

Tekoälyturvallisuuden tarjoaminen tuotannossa vaatii perustavanlaatuista muutosta ajattelussa, ja se tulee neljästä avainmuutoksesta.

Ensinnäkin tarvitset yhdistetyn näkyvyyden turvallisuusalueiden yli. Lopeta kutsumasta jokaista turvallisuustyökalua toimimaan omassa eristetyssä tilassa. Pilviturvallisuutesi, identiteettien hallinta, SaaS-hallinta ja haavoittuvuuden skannaus -kaikki nämä työkalut sisältävät palan hyökkäysreitin palapeliä. Niiden on jaettava tietoja reaaliajassa, jotta voit nähdä, miten määritysvirheet ketjuuntuvat yhteen.

Toiseksi omaksu jatkuva hyökkäysreitin simulaatio. Älä odota penetraatiotestejä tai red team -harjoituksia, jotta löydät hyödynnettävissä olevia polkuja. Testaa jatkuvasti, miten hyökkääjä voisi liikkua ympäristössäsi, keskittyen todelliseen hyödynnettävyyteen teoreettisten vakavuuspisteiden sijaan.

Kolmanneksi priorisoi kontekstin perusteella. Väärin määritelty S3-bucketti ei ole kriittinen vain siksi, että se on julkinen. Se on kriittinen, jos se on julkinen ja sisältää tunnistetiedot ja nämä tunnistetiedot ovat etuoikeutettuja ja ne ovat saatavilla internetin kautta. Konteksti on tärkeämpää kuin yksittäinen piste.

Neljänneksi siirry ennaltaehkäisevään korjaamiseen. Kun turvallisuustiimisi tutkii hälytystä, olet jo menettänyt arvokasta vastausaikaa. Moderni puolustus vaatii kykyä sulkea hyödynnettävissä olevat polut ennen kuin ne hyödynnetään, ei vasta tapahtuman jälkeen.

Varoitus, jota emme voi jättää huomiotta

Kun tekoäly upotetaan jokaiseen kerrokseen yrityksen pinossa, hyökkäyspinta laajenee nopeammin kuin turvallisuustiimit voivat manuaalisesti päättää siitä. Lisämme tekoälyintegraatioita 10 kertaa nopeammin kuin turvallisuutta.

Jos suojelet tekoälyä eristyneisyydessä, suojelet mallia ja jätät ekosysteemin, jossa se toimii, huomiotta, olet jo jäljessä. Hyökkääjät eivät ajattele työkaluissa, he ajattelevat poluissa. He eivät hyödyntää yksittäisiä haavoittuvuuksia. He ketjuuntavat määritysvirheitä koko ympäristössäsi.

Yritykset, jotka onnistuvat turvallisuudessa, eivät ole niitä, joilla on eniten tekoälyturvallisuustyökaluja. Ne ovat niitä, jotka ymmärtävät, että tekoälyturvallisuus on erottamaton altistumisen hallinnasta koko hyökkäyspinnan yli.

Malliturvallisuus on perusasia. Se, mitä on tärkeää, on ymmärtää, mitä hyökkääjä voi tavoittaa, kun he komprometoivat tekoälyintegraation. Kunnes turvallisuustiimit voivat vastata tähän jatkuvasti, reaaliajassa, koko ympäristössä, he eivät turvallisuudessa tekoälyä. He vain toivovat, että muurit, jotka he ovat rakentaneet, ovat oikeassa paikassa.