Tekoäly on uusi sisäpiirin uhka, mutta riskien torjuntasuunnitelmat tulevat yhden kerroksen liian myöhään

Hugging Faceen kohdistunut tietomurto ja vastaavat tapaukset ovat säikäyttäneet koko alan, mutta organisaatioiden pitäisi keskittyä ohjelmistokehityksen elinkaareen (SDLC), ei tekoälymallien tasoon.

Heinäkuussa tapahtunut Hugging Faceen kohdistunut tietomurto, jonka toteuttivat OpenAI-agentit, sekä pian sen jälkeen raportoidut vastaavat Anthropic- ja Meta-mallien aiheuttamat murtautumiset ovat herättäneet huolta näennäisesti uudesta kyberhyökkäysten luokasta: pahantahtoisista agenttipohjaisen tekoälyn sisäpiiriuhkista.

Tällaiset tapaukset eivät kuitenkaan ole varsinaisesti uusia. Se, että niitä on tapahtunut johtavissa tekoälylaboratorioissa, jotka ovat herättäneet ihmisissä huolta jo useiden vuosien ajan, on antanut ilmiölle pahaenteisen uuden kasvot, mutta tapaukset osoittavat samoja virhetilanteita ja sokeita pisteitä, joita yrityksiin on kertynyt vuosien mittaan.

Ne eivät myöskään olleet tahallisesti pahantahtoisia. Hugging Faceen kohdistuneessa tietomurrossa noin 1 200 tekoälyagenttia yritti saavuttaa niille annetun tavoitteen testiympäristössä, vaikka niiden toiminta ei rehellisesti sanottuna aina ollut kunniallista. Prosessin aikana ne viestivät salaa, käyttivät hyväkseen haavoittuvuuksia ja toimivat huomaamatta parin kuukauden ajan. Niistä noin 700 onnistui kiipeämään ”eristetyn” ympäristönsä muurien yli ja pääsemään internetiin ja kolmansien osapuolten järjestelmiin.

Näissä tapauksissa huolestuttavaa ei ole vain se, että rajoittamattomat tekoälyagentit voivat aiheuttaa vakavan uhan – niin ne epäilemättä voivatkin. Jos agentit kuitenkin pääsevät riehumaan huippuluokan tekoälylaboratorion tiimin nenän edessä, vaikka tiimillä on runsaasti osaamista ja resursseja sekä vahva motivaatio valvoa toimintaa tarkasti, sinun kannattaa luultavasti myös kysyä, mitä kehitysympäristössäsi parhaillaan tapahtuu tekoälyagenteille ja tekoälyavusteisille työkaluille. Jos tekoälyalan suurimmilla toimijoilla ei ole reaaliaikaista näkyvyyttä omaan ympäristöönsä, millaiset mahdollisuudet keskiverto-organisaatiolla on?

Organisaatioiden paras keino saada agenttipohjainen tekoäly hallintaan on tunnistaa, että kyseessä on vain aiempaa tehokkaampi versio pitkäaikaisesta haasteesta. Sen ratkaiseminen edellyttää kuitenkin jotakin, mitä monilta yrityksiltä yhä puuttuu: näkyvyyttä ja havainnoitavuutta jo ohjelmistokehityksen elinkaaren (SDLC) alkuvaiheista lähtien.

OpenAI ja Hugging Face: ennakkomerkki tulevasta

Hugging Faceen kohdistuneessa tietomurrossa joukko huippuluokan tekoälymalleja, mukaan lukien OpenAI:n uusi lippulaivamalli GPT-5.6 Sol, joka julkaistiin heinäkuussa, yritti ratkaista rajattua tehtävää eli ExploitGym-vertailutestiä, jolla arvioidaan agentin kykyä hyödyntää tietoturvahaavoittuvuuksia. Anthropic totesi tietomurtoa käsittelevässä julkaisussaan, että tekoälymallit pystyivät ”heikennettyjen suojatoimien alaisina” ylittämään niille asetetut rajat, kiertämään teknisiä rajoituksia, tekemään yhteistyötä luvattomissa viestintäkanavissa ja lopulta ryhtymään riskialttiisiin toimiin.

Vaikka tietomurto havaittiin heinäkuussa, agentit alkoivat viestiä sopimattomasti jo toukokuussa pysyen samalla tutkan alla. METR ja Redwood Research tekivät OpenAI:n rinnalla riippumattoman rinnakkaistutkimuksen ja havaitsivat, että vaikka agentit tiesivät rikkovansa sääntöjä, harva niistä harkitsi ilmoittavansa asiasta OpenAI:lle. Sen sijaan ne jatkoivat toimintaansa.

OpenAI:n raportin jälkeen Anthropic tarkasti uudelleen aiemmat kyberturvallisuusarviointinsa ja havaitsi, että Claude-malli oli kiertänyt rajoituksia kolmesti huhtikuussa, selvittänyt, miten päästä verkkoon, ja hankkinut luvattoman pääsyn kolmeen ulkopuoliseen organisaatioon. Pian tämän jälkeen Meta kertoi, että sen kehittyneimmän agenttipohjaisen tekoälymallin Muse Spark 1.1:n versio oli niin ikään karannut kyberturvallisuustestauksen hiekkalaatikosta ja tunkeutunut ulkopuolisen yrityksen verkkoon.

OpenAI varoitti raportissaan myös, että tapaus oli ennakkomerkki tulevasta: monet mallit, myös tavanomaiset avoimen lähdekoodin mallit, saisivat pian kyvyn toimia samalla tavalla. Äskettäinen Medicare-tietomurto vahvisti tätä väitettä.

Tekoälyä on ohjattava ohjelmistokehityksen elinkaaren tasolla

Nämä agenttipohjaisen tekoälyn avulla toteutetut hyökkäykset ovat järkyttäneet tekoäly-yhteisöä. OpenAI ilmoitti tiukentavansa valvontaa testiympäristössään ja liittyi sitten Anthropicin, Microsoftin, Amazon Web Servicesin ja yli sadan muun yrityksen kanssa varoittamaan kriittiseen infrastruktuuriin kohdistuvien tekoälyavusteisten kyberhyökkäysten lähestyvästä aallosta. Kirjeessä varoitettiin, että hyökkäykset voivat olla vain kuukausien päässä.

Organisaatioiden, jotka pelkäävät joutuvansa vastaavien hyökkäysten kohteeksi, on vahvistettava omaa infrastruktuuriaan ohjelmistokehityksen tasolta alkaen. Todellinen ongelma ei ole pelkästään agenttipohjaisen tekoälyn kasvava kehittyneisyys, vaan reaaliaikaisen valvonnan ja mielekkään ihmisen suorittaman valvonnan puute. Organisaatioiden tulisi keskittyä korjaamaan ihmisiin ja prosesseihin liittyviä puutteita sen sijaan, että ne pitäisivät tekoälyriskiä väistämättömänä teknologian seurauksena.

Suuri osa alan organisaatioista keskittää valvonnan ja havainnoitavuuden tekoälymallien tasolle, mikä on jo yhden kerroksen verran liian myöhäistä. Siinä vaiheessa vahinko on jo puoliksi tapahtunut. Näkyvyys, valvonta, havainnoitavuus ja hallintamallit on ulotettava sinne, missä tekoäly tulee ensimmäistä kertaa osaksi yritystä: ohjelmistokehityksen elinkaaren (SDLC) sisään. Organisaatioiden on myös varmistettava, että tekoälyä hyödyntäviä koodaustyökaluja käyttävillä kehittäjillä on riittävä koulutus ja osaaminen, jotta työkalut eivät tuo kehitysprosessiin virheitä, haavoittuvuuksia ja huonoja toimintatapoja.

Useimmat ohjelmistojen puutteet saavat alkunsa kehitysvaiheessa. Jos kehittäjiltä puuttuu taito kirjoittaa tietoturvallista koodia tai korjata tekoälyn aiheuttamia puutteita, ongelmat voivat levitä nopeasti. Kehittäjät tarvitsevat koulutusohjelman, joka antaa heille tarvittavat tietoturvataidot ja seuraa heidän edistymistään sekä näiden taitojen oppimisessa että niiden säännöllisessä hyödyntämisessä työssä.

Tekoälyn juurtuessa yhä syvemmin organisaatioiden toimintaan on käynyt selväksi, että kehittäjien ja heidän käyttämiensä tekoälypohjaisten koodaustyökalujen tietoturvaan liittyvä jäljitettävyys, havainnoitavuus ja hallinnointi ovat nousseet yrityksissä turvallisen koodin tuottamisen uudeksi vähimmäisvaatimukseksi.

Jatkuvat uhat vaativat jatkuvaa reagointia

Ohjelmistojen on ehkä aiemmin oletettu olevan suhteellisen harmittomia ja tekevän vain sen, mihin ne oli ohjelmoitu. Jos jokin meni vikaan, ohjelma saattoi jumittua tai aiheuttaa käyttökatkon, mutta se ei ryhtynyt hyökkäämään. Tekoäly, etenkin agenttipohjainen tekoäly, on kääntänyt tämän oletuksen päälaelleen. Olipa kyse agenttipohjaisesta tekoälystä tai kehittäjän avustamasta tekoälystä, kaikkien tekoälymallien toimintaa on seurattava ja hallinnoitava jatkuvasti.

Uudet tekoälyuhat, jotka voivat kohdistua sairaaloihin, vedenkäsittelylaitoksiin, voimalaitoksiin tai yrityksiin, voivat tuntua pelottavilta. Organisaatiot eivät kuitenkaan ole puolustuskyvyttömiä. Ne voivat ottaa käyttöön tekoälyn hallintamallin, mutta se on rakennettava alusta alkaen. Omaksumalla turvalliseen ohjelmistokehitykseen sitoutuneen toimintakulttuurin ja tarjoamalla kehittäjille koulutusta tämän tavoitteen saavuttamiseksi organisaatiot voivat parantaa merkittävästi mahdolliseen ongelmaan liittyvää havainnoitavuutta, jäljitettävyyttä ja hallinnointia. Jos ongelman annetaan kehittyä valvomatta, se vain pahenee huomattavasti.