Miksi tekoälyyritykset kilpailevat tunnustellessaan tietoturvapuutteet

Lähes missä tahansa muussa teollisuudessa lause “tuotteemme murtautui toisen yrityksen järjestelmiin” on sellainen tapaus, jonka organisaatio pyrkii kovasti pitämään hiljaisena. Mutta kun tekoäly etenee nopeasti, sen tietoturvavirheet nousevat säännöllisesti otsikoihin, ja yritykset selittävät nyt suunnittelematonta tekoälytoimintaa huolellisesti laadituissa blogikirjoituksissa.

Tämä kasvava rutiininomaisuus pitäisi toimia punaisena lippuna liiketoimintajohtajille.

Kun tekoälymallit tulevat kykenevämmiksi, itsenäisemmiksi ja syvemmin integroituneiksi yritystoimintaan, avoimuudesta on tullut yksi alan arvokkaimmista valuutoista. Yritykset tietävät, että asiakkaat eivät voi itsenäisesti tarkistaa jokaisen edistyneen mallin turvallisuusväitteen paikkansapitävyyttä, joten epäonnistumisen myöntäminen viestii, että organisaatio tarkastelee omia virheitään julkisesti. Mutta läpinäkyvyys ei ole sama kuin vastuullisuus. Avoimuus ei koskaan voi korvata ennaltaehkäisyä, mikä tulee yhä kriittisemmäksi tekoälymallien kehittyessä.

Kun yksi avoimuus laukaisee seuraavan

Kuvio selkeytyi viimeisten viikkojen aikana. OpenAI:n arvioimilla malleilla saatiin tahattomasti pääsy live-järjestelmiin, mukaan lukien Hugging Face:n tuotantoinfrastruktuuri. OpenAI tunnisti oman agenttinsa vastuulliseksi ja julkaisi tapauksen. Se myöntö sai Anthropicin tutkimaan yli 141 000 arviointisuoritusta, paljastaen kolme tapausta, joissa Claude-mallit pääsivät internetiin ja murtautuivat kolmen organisaation tuotantojärjestelmiin. 

Seuraavaksi tuli Meta, joka ei aloittanut julkisella tarkastelulla. Lehdistö raportoi ensin tapahtuneesta, ja vasta sen jälkeen Meta vahvisti, että ulkoisen testauksen aikana tapahtunut virheasetukset olivat antaneet yhden sen malleista päästä internetiin ja hyödyntää kolmannen osapuolen palvelun haavoittuvuutta. Meta kertoi, että se tutkii asiaa ja jakaa lisätietoja myöhemmin.

Nämä tapaukset eivät olleet identtisiä, ja mallit toimivat epätavallisissa arviointitilanteissa. Joissakin tapauksissa tavallisia suojatoimia oli vähennetty tai poistettu käytöstä raakojen kybertaitojen mittaamiseksi. Mutta laajempi opetus on vaikea sivuuttaa: yhä itsenäisemmät järjestelmät ylittivät ne rajat, jotka niiden operaattorit olivat luulleet asettaneensa.

Läpinäkyvyys voi olla kilpailuetu (tai voiko se olla?)

Suotuisa tulkinta on, että tekoälyyritykset kehittävät kypsän avoimuuskulttuurin. Kyberturvallisuus on viettänyt vuosikymmeniä oppien, että salailu usein pahentaa vahinkoa. Organisaatiot, jotka raportoivat tapahtumista nopeasti, selittävät mitä tapahtui ja auttavat muita oppimaan, saavat yleensä enemmän uskottavuutta kuin ne, jotka vähättelevät tai viivyttävät. 

Anthropicin avoimuus näytti, miltä se näyttää. Se kuvasi tarkastelunsa laajuuden, myönsi omat virheensä, otti yhteyttä vaikuttuneisiin organisaatioihin ja esitteli suunnittelemansa kontrollit. Se lähestyi korjauksia ikään kuin vastuu olisi pelkästään sen, vaikka kolmannen osapuolen testausasetukset olivatkin osallisina. Tuottava avoimuus ei edellytä teeskentelevän, että yksi organisaatio aiheutti kaikki epäonnistumiset. Se vaatii vastuullisuuden hyväksymistä niistä kontrolli­istä, joihin sinulla on vaikutusvaltaa.

Tunnustus voi tehdä enemmän kuin vain rakentaa luottamusta

Silti avoimuus ei koskaan ole pelkästään altruistista. Julkinen tunnustus voi suorittaa useita strategisia tehtäviä samanaikaisesti.

Ensinnäkin se voi osoittaa kyvykkyyden. “Mallimme pakeni testistään ja vaaransi todellisen järjestelmän” on huolestuttava myöntö, mutta se toimii myös todisteena siitä, että malli on poikkeuksellisen voimakas. Tapaus muuttuu, tahallisesti tai tahattomasti, tuotteen esittelyksi.

Toiseksi se antaa yritykselle mahdollisuuden muokata tarinaa ennen kuin sääntelijät, asiakkaat tai toimittajat tekevät sen heidän puolestaan. Organisaatio määrittelee terminologian, selittää testausolosuhteet ja asettaa korjauksen kehyksen.

Kolmanneksi toistuvat avoimuudet riskivät normalisoivan käyttäytymisen. Jos jokainen merkittävä tekoälylaboratorio raportoi, että agentti ylitti rajan ja vaaransi live-järjestelmän, ala saattaa alkaa pitää tätä käyttäytymistä väistämättömänä edistymisen sivuvaikutuksena.

Se ei voi tulla normiksi. Ne CISO:t, joiden kanssa puhun, haluavat tietää, miksi ennaltaehkäisevät kontrollit eivät pysäyttäneet toimintaa. He kysyvät, kuka valtuutti mallin pääsyn, mitä rajoja noudatettiin, miten sen toimia seurattiin ja oliko kukaan voinut pysäyttää sen ennen kuin se saavutti kolmannen osapuolen. Nämä ovat vastuukysymyksiä, eivät viestintäkysymyksiä.

Avoimuus on vastuullisuuden alku

Kyberturvallisuus on jo oppinut, että tapahtuman ilmoittaminen ei ole sama kuin sen käsitteleminen. Luotettava avoimuus selittää, mitä tapahtui, ketkä olivat vaikuttuneita, miten toimijat rajoittivat sen, mitkä kontrollit epäonnistuivat ja mitä estää samanlaisen toiminnan seuraavalla kerralla.

Tekoälyagenteille tämä standardi täytyy viedä pidemmälle. Agentit eivät kulje ennustettavissa poluissa. Ne päättävät, valitsevat työkaluja ja sopeutuvat kontekstiin. Laillinen tavoite ei takaa, että jokainen siihen kohti tehty askel on laillinen. Organisaatiot tarvitsevat ennaltaehkäiseviä kontroll­eja, jotka säätelevät, mitä agentti voi käyttää, mitä työkaluja se voi kutsua ja mitä toimia se voi tehdä, sekä jatkuvaa seurantaa siitä, mitä agentti todellisuudessa tekee.

Tämä työ on alettava ennen käyttöönottoa. Johtajien tulisi vaatia uhkamallinnusta agenttipohjaisille työnkuluille, vähimmän oikeuden periaatetta, selkeitä rajoituksia ulkoiselle yhteydelle, riippumatonta testausympäristöjen validointia, reaaliaikaista politiikan täytäntöönpanoa ja selkeitä kohtia ihmisen puuttumiselle. Ennaltaehkäisyä ei voi lisätä jälkikäteen ensimmäisen julkisen tapauksen jälkeen.

Johtajien tulisi nyt päättää, mitä seuraavaksi tapahtuu

Jokainen tekoälyagentteja käyttävä yritys saattaa lopulta kohdata oman versionsa tästä hetkestä. Organisaatio voi huomata, että agentti on päässyt käsiksi tietoon, johon sen ei olisi pitänyt, toiminut valtuutensa ulkopuolella tai saavuttanut odottamattomasti ulkoisen järjestelmän.

Päätä nyt, mitä aiot paljastaa, kenelle ja millä ehdoilla. Vielä tärkeämpää on määritellä siihen liittyvä vastuullisuus. Kuka omistaa agentin toimet? Kuka voi katkaista sen pääsyn? Millaisia todisteita säilytät? Minkä kontrollin lisäät ennen kuin järjestelmä otetaan takaisin verkkoon?

Kiihdytys julkaista tekoälyvirheitä voi viitata terveempään ja avoimempaan alaan. Mutta tunnustus ei voi olla koko tarina.

Luottamus ei synny pelkästä myöntöstä. Se rakennetaan niistä kontroll­eista, joiden olisi pitänyt estää tapaus, välittömästi sen jälkeen toteutetuista toimista ja todisteista, että sama virhe ei yksinkertaisesti toistu.