Tekoälyala haluaa luottamustamme, mutta ensin tarvitaan paremmat hallintakeinot

Tietoturvassa emme odota, että jokin menee pieleen ennen kuin selvitämme, toimivatko turvatoimet. Me testaamme niitä. Koettelemme niitä. Oletamme, että joku löytää ennen pitkää heikkouden, joka meiltä jäi huomaamatta.

Tietoturvan perusteita.

Miksi edistyneimmän tekoälyn kohdalla pitäisi siis soveltaa eri vaatimustasoa?

Tekoälyjärjestelmien muuttuessa itsenäisemmiksi ja saadessa laajemman pääsyn todellisiin järjestelmiin näemme jotakin, minkä pitäisi huolestuttaa kaikkia kyberturvallisuuden puolustustehtävissä työskennelleitä: järjestelmien kyvykkyys kehittyy nopeammin kuin niiden hallinta.

Nopeus ei ole peruste heikommalle tietoturvalle. Päinvastoin, juuri siksi tarvitsemme vahvempaa tietoturvaa.

Voittoa tavoittelemattoman Guidelight AI:n tuoreessa arvioinnissa tarkasteltiin julkisesti saatavilla olevaa näyttöä tekoälyn hallintakäytännöistä Anthropicilla, Googlella, Metalla, OpenAI:lla ja xAI:lla. Yksikään niistä ei saanut kokonaisarvosanakseen C+:aa parempaa arvosanaa.

Tämä ei tarkoita, että nämä yritykset toimisivat piittaamattomasti. Eikä se tarkoita, ettei suljettujen ovien takana olisi käytössä muitakin hallintakeinoja.

Tietoturva ei kuitenkaan perustu oletuksiin. Jos meiltä odotetaan yhä tehokkaampien järjestelmien luotettavan käytön varaan rakentamista, meidän pitäisi vaatia näyttöä siitä, että niitä ympäröivät hallintakeinot kestävät yhtä tiukan tarkastelun kuin missä tahansa muualla edellyttäisimme.

Älkää pitäkö epäonnistumisia vain kiinnostavina tarinoina

Kun tekoälyagentti käyttäytyy odottamattomasti, saa tahattomasti pääsyn johonkin tai paljastaa heikkouden, huomio kiinnittyy yleensä siihen, mitä teknologia teki.

Se on kiinnostavaa.

Se ei kuitenkaan ole tärkein kysymys.

Tietoturva-ammattilainen haluaa tietää: Kirjattiinko toiminta lokiin? Huomasiko kukaan, mitä tapahtui? Oliko vaarallisille toimille asetettu rajoituksia? Pystyikö joku pysäyttämään järjestelmän? Oliko järjestelmän eristämiseen suunnitelma, ja oliko sitä testattu?

Nämä kysymykset eivät koske vain tekoälyä. Olemme esittäneet niitä kyberturvallisuudessa jo vuosia.

Ennaltaehkäisy ja eristäminen vaikuttavat silti olevan heikkoja kohtia kehittymässä olevassa edistyneimmän tekoälyn hallintaympäristössä. Julkisesti saatavilla oleva näyttö toimien hyväksyntäporteista, hätäpysäytysmekanismeista ja hätäeristämisestä on edelleen vähäistä.

Tämän pitäisi olla tärkeämpää kuin tapauksen uutuusarvo. Kun jokin epäonnistuu, haluan tietää, mikä petti, mikä esti tilanteen pahenemisen ja mitä sen jälkeen muutettiin.

Avoimuudesta on hyötyä. Oppimisesta vielä enemmän.

Tekoälyn tietoturvan todellinen ongelma on nopeus

En usko, että lähiajan suurin uhka on tekoälyn äkillisesti keksimä täysin uudenlainen kyberhyökkäys. Suurempi ongelma on paljon käytännönläheisempi: tekoäly voi nopeuttaa jo tuntemiemme hyökkäysten toteuttamista huomattavasti.

Tutkimus, joka aiemmin vei tunteja, voi tapahtua minuuteissa. Hyökkäystekniikoita voidaan ketjuttaa nopeammin. Haavoittuvuudet voidaan tunnistaa ja niihin voidaan puuttua ennen kuin ihmiskeskeisessä tietoturvaprosessissa on ehditty edes ensimmäiseen eskalointipuheluun.

Tämä on ongelma, koska suuri osa nykyisestä tietoturvainfrastruktuurista perustuu yhä oletukseen, että reagointiin jää aikaa.

Aina sitä ei jää.

Jos hyökkäys etenee nopeasti, tiketteihin, kokouksiin, hyväksyntöihin ja manuaaliseen eskalointiin perustuva reagointiprosessi voi vanhentua jo ennen kuin kukaan ehtii kolmanteen vaiheeseen.

Tässä tekoälyalalla on siis vielä tehtävää.

Jos edistyneintä tekoälyä kehittävät laboratoriot odottavat yritysten uudistavan näkyvyyden, haavoittuvuuksien hallinnan, arkkitehtuurin ja poikkeamatilanteisiin reagoinnin tekoälyn aikakautta varten, niiden pitäisi osoittaa tehneensä saman itse.

”Luottakaa meihin” ei ole hallintakehys

Olen tehnyt koko urani tietoturvatestauksen parissa, ja yksi periaate on osoittautunut poikkeuksellisen kestäväksi: hyvät aikomukset eivät todista tietoturvan olevan kunnossa. Näyttö todistaa.

• Testaat.
• Valvot.
• Yrität rikkoa järjestelmän.

Selvität, mitä tapahtuu, kun hallintakeinot eivät toimi arkkitehtuurikaavion lupaamalla tavalla. Varmistat myös, että jollakulla on tarvittaessa valtuudet pysäyttää järjestelmä. Edistyneimpään tekoälyyn on sovellettava samaa vaatimustasoa.

Tämä tarkoittaa hallintakeinojen vastustavaa testaamista, mitattavaa näyttöä niiden toimivuudesta ja selkeitä valtuuksia järjestelmien sammuttamiseen, jos jokin menee pieleen.

Se tarkoittaa myös eristämisen uudelleenarviointia.

Edistyneintä tekoälyä kehittävät laboratoriot eivät voi improvisoida eristämistä sen jälkeen, kun tekoälyagentti toimii sille asetettujen rajojen ulkopuolella. Kouluttaessaan ja testatessaan yhä kyvykkäämpiä malleja niiden on kannettava vastuu siitä, mihin nämä järjestelmät pystyvät. Tämä edellyttää perusteellista vastustavaa testaamista, etukäteen valtuutettuja suojatoimia, selkeitä rajoja agenttien toimivallalle sekä testattuja keinoja puuttua tilanteeseen tai sammuttaa järjestelmä ennen kuin vika pääsee leviämään.

Ihmisten harkintakyvyllä on yhä merkitystä. Näitä järjestelmiä kehittävien laboratorioiden on kuitenkin asetettava rajat, testattava niiden pitävyyttä ja kannettava vastuu, jos ne eivät pidä.

Niiden vastuuna ei ole vain osoittaa, mihin agentti pystyy. Niiden on osoitettava, että agentti voi toimia turvallisesti, että sen toimintaa voidaan hallita ja että uudet kyvykkyydet tekevät maailmasta turvallisemman, eivät turvattomamman.

Luottamus on ansaittava

En väitä, että tekoälyn innovointia pitäisi hidastaa lähes pysähdyksiin. Väitän, että tietoturvan on pysyttävä sen tahdissa. Jos investoimme valtavasti resursseja tekoälyn kyvykkyyden parantamiseen, meidän on panostettava yhtä kiireellisesti myös siihen, että tekoälyä voidaan puolustaa.

Mutta kun tekoälyn kehityksen kärjessä olevat laboratoriot vauhdittavat kyberkyvykkyyksiä sisältävien uusien tekoälymallien koulutusta ja testausta, niiden on pidettävä puolustajat mielessä. Ensinnäkin auttamalla heitä havaitsemaan uhkia ja reagoimaan niihin nopeammin. Vielä tärkeämpää on estää näitä järjestelmiä muuttumasta itse uhkiksi. Tämä vastuu edellyttää myös ulkopuolisen arvioinnin hyväksymistä.

Riippumattomasta arvioinnista ei saa tulla asiaa, jonka yritykset hyväksyvät vain silloin, kun se tukee niiden haluamaa kertomusta. Jos tekoälyn kehityksen kärjessä olevat järjestelmät ovat niin tehokkaita, että ne voivat muuttaa uhkakuvaa, niiden suojamekanismien on oltava niin vahvoja, että ne kestävät merkityksellistä riippumatonta testausta.

Tekoälyala haluaa luottamuksemme.

Tietoturva-ammattilaisena olen valmis luottamaan siihen. Mutta näyttäkää ensin, millaiset suojamekanismit teillä on.