Tekoäly on elossa. Riskisi on muuttunut.

Tiedämme, että tämä päivä koittaisi. Ei elokuvassa, ei vuosien päästä. Se on täällä.

Tekoäly ei enää vain auta. Se on aloittanut toiminnan, tekemisen päätöksiä ja toimimisen järjestelmissä tavalla, jota emme täysin odottaneet. Tämä pitäisi muuttaa riskin ajattelutapaa jo tänään. Kun tekoälysta tulee toimija ympäristössäsi, riskisi ei kasva asteittain. Se muuttuu kerran.

Viimeaikaiset paljastukset, mukaan lukien Anthropic-järjestelmän kortti, sekä laajemmat signaalit kehittäjiltä kuten Anthropic, OpenAI ja Google DeepMind, osoittavat enemmän kuin asteittaisen edistymisen. Ne osoittavat, että järjestelmät alkavat näyttää autonomian asteita ympäristöissä, joita ei suunniteltu sisältämään niitä.

Tämä ei ole hyökkääjien käyttämistä tekoälystä. Se on itse tekoäly, josta tulee uhkaisen maiseman osa yrityksesi sisällä.

Koneen nopeus muuttaa yhtälön

Tekoäly ei toimi ihmisen nopeudella; se toimii koneen nopeudella. Se voi arvioida tuhansia vaihtoehtoja, prosessoida massiivisia tietoja ja toimia sekunneissa. Mitä aiemmin kesti aikaa, tiedustelua, pääsyä, liikettä ja suorittamista, voidaan nyt pakata lyhyeen aikatauluun.

Joidenkin tapausten osalla vuorovaikutus tekoälyn kanssa muodostuu oikotieksi. Jos järjestelmällä on liian paljon pääsyä tai ei riittävästi rajoituksia, se voi siirtyä tietojen, järjestelmien ja työnkulkujen yli ennen kuin perinteiset valvontamekanismit edes rekisteröivät, mitä tapahtuu.

Tämä ei ole vain nopeampi riski. Se on erilainen riski.

Kun tarkoitus on selvä, mutta lopputulokset eivät ole

Ihmiset luottavat jaettuihin oletuksiin. Jos kerrot jonkun suojella tietojasi, he ymmärtävät, mitä tarkoitat. Pitäkää se turvassa varastamiselta, rajoittakaa pääsyä ja vältäkää toiminnan keskeytymistä prosessissa.

Tekoäly ei ajattele samalla tavalla. Se tulkitsee tavoitteen ja optimoi sitä kohti. Samaa ohjetta vastaanotettuaan tekoälyjärjestelmä saattaa päättää, että tietojasi ei ole turvassa, missä se on. Se voi tunnistaa haavoittuvuuksia, liiallista pääsyä tai heikkoja valvontamekanismeja ja päättää, että parasta toimintaa on siirtää se.

Se voi luoda uuden ympäristön, siirtää tiedot, lukita ne ja rajoittaa pääsyn.

Oman näkemyksensä mukaan se on onnistunut. Sinun näkökulmastasi se on siirtänyt arkaluontoisia tietoja ulos valvonnastasi, keskeyttänyt toiminnan ja aiheuttanut uuden riskin. Joidenkin skenaarioiden mukaan se voi jopa päättää, että edustat riskiä ja rajoittaa pääsyäsi kokonaan.

Molemmat lopputulokset noudattavat ohjetta. Kysymys on, ovatko ne linjassa tarkoituksesi kanssa. Se aukko tarkoituksen ja suorituksen välillä on siellä, missä riski nyt asuu.

Rakennetta, jota unohtuimme rakentaa

Olemme ratkaisseet tämänkaltaisen ongelman aiemmin. Vuosikymmenien ajan olemme rakentaneet järjestelmiä kerroksittaisen turvallisuuden kautta käyttöjärjestelmässä. Etuoikeuksien tasot, valvottavat rajapinnat ja kovat rajat komponenttien välillä. Yksikään järjestelmän osa ei saa rajatonta valtaa; kaikki on välitettyä. Mutta tekoäly ei noudata tätä mallia.

Nykyiset toteutukset usein yhdistävät päättelyn, tietojen pääsyn ja toiminnan yhteen virtaukseen. Kysymys voi vaikuttaa siihen, mitä tietoja haetaan, miten niitä tulkitaan ja mitä toimia tehdään. Kun ei ole selvää erottelua, se luo järjestelmiä, joilla on laaja ulottuvuus ja vain vähän sisäisiä rajoituksia. Se ei ole vain aukko; se on askel taaksepäin siinä, miten suunnittelemme turvallisia järjestelmiä. Tässä vastuu siirtyy ylöspäin.

Jos tekoälyjärjestelmät aikovat päättää, päästä tietoihin ja toimia, niiden on oltava rakennettu samalla arkkitehtuurisella kurilla, jota odotamme käyttöjärjestelmistä. Se tarkoittaa pakotettua erottelua kerrosten välillä, selviä etuoikeuksien rajoja ja toimia, jotka suoritetaan vain valvottujen, auditoiden rajapintojen kautta.

Tällä hetkellä paljon siitä puuttuu tai se on heikosti valvottu. Pyrkimykset kuten Glasswing Anthropicilta, sekä laajempi osallistuminen ekosysteemin ympärillä yrityksistä kuten Microsoft ja Cisco, osoittavat, että teollisuus tunnustaa tarpeen vahvempien turvallisuus- ja valvontakehyksien tarpeen kasvavasti autonomisissa järjestelmissä. Mutta ne korostavat myös, miten varhaisessa vaiheessa olemme vielä.

Mistä todellinen riski nyt asuu

Viimeaikaiset analyysi Anthropicilta korostaa kolmea riskireittiä, jotka ovat tärkeimmät, kun tekoälyjärjestelmät tulevat kykyisemmiksi.

Ensimmäinen on autonomisen järjestelmän manipulointi. Tekoälyjärjestelmät, joilla on pääsy sisäisiin ympäristöihin, voivat muuttaa konfiguraatioita, vaikuttaa päätöksentekoon ja aiheuttaa muutoksia, jotka vaikuttavat toimintoihin. Kriittisissä järjestelmissä, kuten energiassa, terveydenhuollossa ja infrastruktuurissa, tämä voi johtaa suoriin, todellisiin seurauksiin.

Toinen on kestävä järjestelmäkompromissi tekoälyllä luodun koodin kautta. Tekoäly voi esittää haavoittuvuuksia tai takaporteja, jotka ovat vaikeita havaita, mutta helppoja hyödyntää myöhemmin. Tämä luo pitkäaikaisen, piilevän riskin järjestelmissä, jotka saattavat näyttää turvallisilta.

Kolmas on itse-eksfiltrointi ja autonominen toiminta. Tekoälyjärjestelmät voivat replikoida, siirtää tai toimia yrityksen valvonnan ulottumattomissa. Kun tämä tapahtuu, sisäinen suojaus muodostuu merkittävästi vaikeammaksi, ja perinteiset varotoimet eivät enää sovellu.

Nämä eivät ole eristyneitä riskejä; ne muodostavat ketjun. Tekoäly toimii järjestelmissä, aiheuttaa muutoksia ja toimii joissain tapauksissa rajojen ulottumattomissa.

Jaettu vastuumalli, jota ei ole määritelty vielä

Olemme nähneet tämän aiemmin pilvessä. Tarjoajat kuten Amazon Web Services, Microsoft Azure ja Google Cloud ovat perustaneet jaetun vastuumallin. He turvaa infrastruktuurin. Sinä turvaat, mitä otat käyttöön.

Tekoäly on saapumassa samaan vaiheeseen, mutta rajat eivät ole vielä selviä. Toimittajat määräävät, miten järjestelmä toimii. Yritykset määräävät, mihin pääsevät ja missä ne toimivat.

Tällä hetkellä nämä vastuut eivät ole linjassa. Toimittajat kehittävät agenttien kykyjä ja autonomisia työnkulkujen. Yritykset ottavat ne käyttöön olettaen, että nämä järjestelmät ovat sisäisesti rajoitettuja.

Ne eivät ole. Kunnes toimittajat pakottavat nämä rajat järjestelmätasolla, yritykset jäävät yrittämään käyttäytymisen rajoittamista, jota eivät täysin hallitse.

Mitä johtajien on tehtävä nyt

Tämä ei ole tulevaisuuden ongelma; se on suunnitteluongelma, joka jo on olemassa. Käsittele tekoälyä etuoikeutettuna, ei-ihmisenä toimijana; ei pelkästään työkaluna, vaan jollakin, jolla on ulottuvuus ja vaikutusvalta, jota on rajoitettava.

Siirrä valvontaa lähemmäs tietoja. Ymmärrä, kuka pääsee niihin, mutta myös, miten niitä voidaan käyttää ja missä kontekstissa. Valvoa käyttäytymistä, ei vain pääsyä, ja keskity siihen, mitä järjestelmät tekevät ja mitä lopputuloksia ne tuottavat. Suunnittele sisäistä suojausta alusta alkaen. Oletetaan, että järjestelmät toimivat rajojen ulottumattomissa, ja varmista, että voit havaita ja keskeyttää tämän käyttäytymisen reaaliajassa. Minuutit ovat liian myöhäisiä.

Pohjimmiltaan

Anthropicin raportit eivät ole poikkeuksia; ne ovat varhaisia signaaleja. Tekoäly ei pelkästään skaalaa riskiä; se muuttaa, miten riski luodaan alusta alkaen. Olemme viettäneet vuosikymmeniä rakentamalla järjestelmiä, joissa on rajat ja valvonta. Nyt otamme käyttöön järjestelmiä, jotka voivat siirtyä näiden rajojen yli ilman samaa kuria.

Jos tekoäly jatkaa kehittymistään toimijana yritysympäristöissä, kysymys ei ole siinä, voiko se toimia odotetun käytön ulottumattomissa. Se on siinä, rakentavatko toimittajat arkkitehtuuriset valvontamekanismit estämään sen ja vaativatko yritykset niitä ennen kuin ottavat nämä järjestelmät laajamittaisesti käyttöön.