Yritysten tekoälyn suojatoimet voivat olla tärkeämpiä kuin tekoälyn eturintama

Unohda tekoälyn eturintama. Asiakkaat vaativat yrityksiltä lisää suojatoimia jo käytössä olevalle tekoälylle, ja PCI DSS tarjoaa tähän hyödyllisen mallin.

Tekoälyn sääntelyn kuherruskuukausi on ohi. Viimeaikaiset paljastukset ovat käynnistäneet keskustelua tekoälyn eturintaman kehityksen hidastamisesta ja valvontakeinojen määräämisestä. Yksi harvoista yhteisymmärrystä herättävistä asioista on se, että valvontakeinojen tulisi olla mallien ulkopuolella ja niiden toiminta tulisi varmentaa riippumattomasti.

Seuraavista toimista kiistellään, mutta sääntelyviranomaiset etenevät. Euroopan unionin tekoälysäädöksessä otetaan vaiheittain käyttöön tietoturvavelvoitteita, myös ostajien vastuuta koskevia. Yhdysvalloissa NISTin tekoälyn riskienhallintakehyksestä on tulossa kohtuullisen huolellisuuden standardi. Maailmanlaajuisesti OWASPin suurten kielimallien sovellusten Top 10 -listasta on tullut yleisesti käytetty viite tietoturva-arvioinneissa, ja ISO/IEC 42001 -sertifiointi alkaa näkyä hankinta-asiakirjoissa.

Tämä tarkoittaa, etteivät vastuuvelvollisia ole vain mallien kehittäjät. Tietoturvavelvoitteet ja -riskit koskevat myös yrityksiä, jotka käyttävät jo julkaistuja malleja, etenkin suuririskisissä käyttötapauksissa. Virheelliset vastaukset asiakkaan tietoturvakyselyyn tai tarjouspyyntöön annettuun vastaukseen voivat viivästyttää yritysten välistä kauppaa.

PCI DSS näyttää tietä

Onneksi tämä on nähty ennenkin. Kaksikymmentä vuotta sitten verkkosovellusten tietoturva perustui pääasiassa säännöllisiin kooditarkastuksiin, staattisiin analyyseihin ja kehittäjien huolellisuuteen. Vuonna 2006 julkaistu ja vuodesta 2008 alkaen voimaan pantu PCI DSS:n vaatimus 6.6 edellytti, että maksukortinhaltijoiden tietoja käsittelevät organisaatiot joko tarkastavat sovellustensa koko koodin haavoittuvuuksien varalta tai ottavat käyttöön automaattisia teknisiä valvontakeinoja. Myöhemmin kooditarkastuksen vaihtoehto poistui, ja teknisistä valvontakeinoista tuli pakollisia.

PCI DSS ei kuitenkaan alkanut lakina. Se sai alkunsa sopimusperusteisena standardina, joka muokkasi markkinoita – luultavasti nopeammin kuin lainsäädäntö olisi tehnyt, sillä sopimukset etenevät hallituksen säädöksiä nopeammin.

Samoin organisaatioihin kohdistuu nyt paineita ottaa käyttöön suojatoimia käytössä olevalle tekoälylle. Paine ei tule sääntelyviranomaisilta vaan asiakkailta ja kumppaneilta tietoturvakyselyjen, tarjouspyyntöehtojen ja vakuutusehtojen kautta.

Ratkaise operatiivinen ongelma, niin vaatimustenmukaisuus seuraa perässä

Tähän paineeseen voi olla vaikea vastata, sillä tekoälyn hallinnointi ei koske pelkästään toimintaperiaatteita. Kyse on jatkuvasti tuotettavasta teknisestä näytöstä.

Monet yritykset, joiden kanssa keskustelen, käyttävät tuotannossa puolta tusinaa mallia tai enemmän ja ketjuttavat tai orkestroivat niitä usein niin, että yhden mallin tuloste toimii toisen syötteenä. Kuvitelkaa, että tällaisissa oloissa pitäisi osoittaa, että jotakin yksittäistä käytäntöä noudatetaan järjestelmänlaajuisesti – esimerkiksi estää mallin tulostetta sisältämästä henkilötietoja (PII). Useiden erikseen määritettyjen mallien manuaalinen tarkastaminen veisi kehittäjiltä runsaasti aikaa. Lisäksi useimmilla organisaatioilla on vaikeuksia hallita hyväksymätöntä ja suuririskistä tekoälyn käyttöä, kuten sitä, että työntekijät liittävät arkaluonteisia tietoja kuluttajille tarkoitettuihin tekoälytyökaluihin tai että SaaS-palveluntarjoajat ottavat uusia tekoälyominaisuuksia käyttöön asiakkaiden tietämättä. Vastuu on silti kokonaan yrityksellä.

Näin haastavissa tilanteissa vaatimukset voidaan kiteyttää yhteen yksinkertaiseen tehtävään: osoita, että pystyt rajoittamaan mallien syötteitä ja tulosteita jatkuvasti ja tallentamaan tämän toiminnan myöhempää varmentamista varten. Kun sovellukset kutsuvat malleja, agentit käyttävät työkaluja ja mallit suorittavat toimintoja tai käynnistävät työnkulkuja, hallittavana on toiminto – työkalukutsu, API-pyyntö tai työnkulun käynnistys.

Siirrä tietoturva päättelypolulle

Toiminto on valvonnan kohta, jota sovellustietoturvan asiantuntijat ovat rakentaneet sovellusliikenteelle 20 vuoden ajan. Erityisesti silloin, kun päättelyliikenne kulkee jaetun infrastruktuurin kautta, päättelypolusta tulee ihanteellinen valvontapiste eri malleille ja jopa hyväksymättömälle tekoälyn käytölle. Tekoälyn päättelyliikenne on välitettävä, tarkastettava, todennettava ja hallinnoitava kuten mikä tahansa muu tärkeä sovelluksen toiminto sen mukaan, mistä liikenne tulee ja mitä sillä yritetään tehdä. Toisin kuin manuaalisesti tehtävä tarkastus, päättelyliikenteen hallinnointi skaalautuu.

Näin pääset alkuun

Sääntelyn kehityssuunta huomioon ottaen organisaatioiden on käynnistettävä nyt kolme toimenpidettä:

1. Kartoita vastuualueesi SaaS-rajapinnoista ja isännöidyistä päätepisteistä varjotekoälyyn.
2. Erota tietoturvakäytännöt ja niiden valvonta malleista ja siirrä ne päättelypolulle.
3. Varmista, että tarkastuslokit tuotetaan mallien ja agenttien valvonnan ulkopuolella, sillä niiden on osoitettu yrittävän muuttaa omien toimiensa tallenteita.

Riittävän valvonnan ja vaatimusten noudattamisen valvonnan määritelmää vielä tarkennetaan, mutta yrityksesi operatiiviset tiimit ja tietoturvatiimit tietävät, mikä on aidosti valvottavissa, kuinka paljon valvontakeino maksaa viiveen ja monimutkaisuuden muodossa ja missä hyväntahtoinen sääntö voi johtaa väärään lopputulokseen. Ota heidät mukaan jo nyt. Tekoälyn käyttöön liittyvät tietoturvariskit ja velvoitteet ovat todellisia, ja asiakkaasi ja johtosi välittävät epäilemättä enemmän niistä riskeistä, joita he kohtaavat tänään, kuin huomisen eturintaman mallien aiheuttamista uhista.