Miksi maailmanloppupuheet vievät huomion pois todellisesta tekoälyriskistä, josta meidän pitäisi olla huolissamme

Jos seuraat uutisia, tekoälyalan kasvavaa pelottelua ja maailmanloppuvaroituksia on vaikea olla huomaamatta. Kertomus, jossa varoitetaan tekoälyjärjestelmien ihmiskunnalle aiheuttamasta ”eksistentiaalisesta riskistä”, on tehnyt kyberturvallisuusyrityksille liiankin helpoksi hypätä mukaan pelotteluun ja antaa pelon tehdä myyntityö. Maailmanloppuun keskittyminen on kuitenkin harhaanjohtavaa, sillä se sivuuttaa välittömämmät riskit, joita agenttipohjainen tekoäly aiheuttaa organisaatioille jo nyt.

Tekoälyagenttien itsenäiseen toimintaan organisaation valvontakeinoista riippumatta liittyy toki selviä riskejä. Vasta äskettäin Australiasta ja Yhdysvalloista saaduissa raporteissa kerrottiin, että OpenAI:n tekoälyagentit olivat molemmissa maissa poikenneet niille annetuista tehtävistä valtionhallinnon järjestelmissä.

Tekoälyn aiheuttamia maailmanloppuskenaarioita kuitenkin liioitellaan. Hypoteettisiin uhkiin takertumisen sijaan organisaatioiden on kohdattava tämä uusi todellisuus ja varmistettava, että toiminnan häiriönsietokykyä turvaavat deterministiset suojatoimet ovat käytössä.

Internetissä ei ole yhtä ainoaa katkaisinta

Maailmanloppukertomukseen uskovat ajattelevat, että tekoälyn kehittyessä yhä monimutkaisemmaksi ja laajemmalle ulottuvaksi siitä voisi tulla keskitetty ”tappokytkin”: yksittäinen haavoittuva kohta, jonka joku voisi ottaa täysin hallintaansa ja laukaista katastrofin.

Internet on kuitenkin paljon hajautetumpi ja monimuotoisempi kuin tappokytkinteoria antaa ymmärtää. Se toimii ”verkkojen verkkona”, joka koostuu miljardeista osista, jotka on järjestetty eri arkkitehtuureihin ja joita puolustavat lukemattomat, eri standardeja ja työkaluja käyttävät operatiiviset tiimit. Siksi ei ole olemassa yhtä ainoaa kytkintä, jota ihminen tai kone voisi napsauttaa – ei myöskään yksittäistä haavoittuvuutta tai haavoittuvuuksien ketjua, jota voitaisiin hyödyntää näin tuhoisaan lopputulokseen.

Ajatus siitä, että tekoäly voisi kehittää ja levittää muokatun taudinaiheuttajan tai murtautua verkkoyhteyksistä eristettyihin ydinjärjestelmiin, voi tarjota jännittävän katselukokemuksen elokuvateatterissa. Se ei silti ole uskottava skenaario operatiivisessa uhka-arviossa.

Poissa näkyvistä, poissa hallinnasta

Agenttipohjaisen tekoälyn kehittyessä jatkuvasti kaksi tekijää on muuttanut perustavanlaatuisesti yritysten riskien luonnetta.

Yhtäältä tekoäly auttaa nyt pahantahtoisia toimijoita löytämään kyberturvallisuuden haavoittuvuuksia ja hyödyntämään niitä minuuteissa kuukausien sijaan. Kun todennäköisyyksiin perustuvat tekoälypuolustukset ovat tunnistaneet epäilyttävän toiminnan, uhkaan vastaaminen on usein jo liian myöhäistä. Koska ne perustuvat tilastollisiin todennäköisyyksiin eivätkä kiinteisiin sääntöihin, parhaatkin niistä jättävät osan haitallisesta toiminnasta havaitsematta, ja hyökkääjän tarvitsee päästä läpi vain kerran

Toisaalta työntekijöiden varjo-tekoälyn käyttö on vaikeuttanut huomattavasti sen selvittämistä, mitä on suojattava. Cloud Security Alliancen kyselyyn vastanneista 82 % organisaatioista havaitsi viime vuoden aikana tekoälyagentteja, joiden toiminnasta tietoturva- tai IT-tiimit eivät tienneet, vaikka 68 % ilmoitti luottavansa vahvasti siihen, että heillä on näkyvyys agenttien toimintaan. EY puolestaan havaitsi, että neljännes suurista agenttipohjaista tekoälyä käyttävistä yhdysvaltalaisyrityksistä myönsi, ettei se kyennyt havaitsemaan yrityksen sisällä toimivia luvattomia agentteja.

Molemmat muutokset aiheuttavat luonnollisesti huomattavaa operatiivista painetta yritysten järjestelmille. Yhdessä ne asettavat organisaatiot merkittävästi epäedulliseen asemaan: ne tunnistavat ja korjaavat paljastuneet haavoittuvuudet liian hitaasti eivätkä tiedä, mitkä järjestelmät ovat ylipäätään alttiina hyökkäyksille.

Hallintaan se, mikä on hallittavissa

Organisaatiot tarvitsevat ajantasaisen luettelon kaikista yrityksessä toimivista agenteista, olivatpa ne hyväksyttyjä tai eivät. Jokaiselle agentille on nimettävä vastuuhenkilö ja määriteltävä selkeästi, mihin agentti saa päästä käsiksi ja mitä se saa tehdä. Tämä on ensimmäinen askel hallittavissa olevien asioiden hallintaan: tekoälymallit saattavat toimia todennäköisyyksien varassa, mutta niiden ympärille asetettavat valvontakeinot voivat olla deterministisiä, kiinteitä ja selkeästi määriteltyjä.

Käytännössä tämä tarkoittaa, että aina kun agentti ehdottaa toimenpidettä, erillisen, itse mallista riippumattoman sääntöjen toimeenpanokerroksen on varmistettava, että toimenpide on sallittu, ja tallennettava se tarkastuslokiin. Silti vain 11 % organisaatioista estää automaattisesti agentin toimenpiteen, kun se ylittää agentin toimivallan; useimmat luottavat ihmisen hyväksyntään tai ainoastaan kirjaavat toimenpiteen lokiin. Australian tapaus osoittaa, mitä seuraa siitä, että kohdejärjestelmän odotetaan sanovan ei: kun pääsy evättiin, agentti löysi toisen reitin sisään. Laajemman hallinta-arkkitehtuurin on myös pystyttävä jatkuvasti tunnistamaan, valtuuttamaan ja todentamaan kaikki agentit, jotta ennakoimattomat operatiiviset riskit eivät pääse toteutumaan. Kaikki tämä on tehtävä nopeasti, sillä koneen nopeudella etenevät hyökkäykset edellyttävät yhtä nopeasti toimivia sääntöjä.

Hypoteettisista peloista käytännön ratkaisuihin

Vaikka autonomisiin tekoälyjärjestelmiin liittyvä maailmanloppu-uutisointi on kuinka vakuuttavaa, se on kaukana todellisuudesta. Huolen arvoinen riski on paljon arkisempi kuin tekoäly, joka päättää tuhota meidät: agentti toimii yrityksessäsi nopeammin kuin kukaan ehtii huomata, ja sillä on käyttöoikeuksia, joita kukaan ei ole sille myöntänyt.

Nopeuteen ja näkyvyyteen liittyvät ongelmat voidaan molemmat ratkaista, kunhan tekoälyä ohjaavat tietoturvajärjestelmät ovat deterministisiä ja pystyvät tarkistamaan ja jäljittämään jokaisen agentin toiminnan tarkasti sen toimintanopeudella.

Hallituksille ja tietoturvasta vastaaville johtajille tämä tiivistyy kolmeen käytännön kysymykseen: tiedämmekö kaikki ympäristössämme toimivat agentit, onko jokaisella niistä omistaja ja selkeästi määritellyt rajat, ja pystymmekö pysäyttämään luvattoman toiminnan ennen sen toteutumista? Auttaessaan asiakkaita kuromaan umpeen näitä käytännön puutteita kyberturvallisuuspalvelujen tarjoajat voivat vahvistaa häiriönsietokykyä huomattavasti enemmän kuin lietsomalla pelkoa hypoteettisista tulevaisuuksista.