Enemmän tekoälyturvallisuusmenoa ei välttämättä vähennä tekoälyriskejäsi

Tekoälyturvallisuusbudjetit kasvavat nopeasti. Monissa organisaatioissa ne kasvavat nopeammin kuin niiden suojelemat järjestelmät.

Tämä epätasapaino on helppo huomioida. Tekoälysijoitukset jatkavat kasvamistaan, ja maailmanlaajuinen yksityinen rahoitus saavutti 33,9 miljardia dollaria vuonna 2025. Samalla turvallisuusjohtajat joutuvat vastaamaan uusista riskeistä, jotka liittyvät mallin käyttäytymiseen, tietojen altistumiseen ja vihamieliseen manipulaatioon. Vastaus on ollut ennustettavissa: enemmän työkaluja, enemmän valvontaa ja enemmän budjettia.

On kiehtovaa muuttaa tämä keskusteluksi siitä, miten paljon organisaatioiden on vietävä tekoälyn turvallisuuden varmistamiseksi. Tämä on kuitenkin väärä lähestymistapa. Sen sijaan organisaatioiden on tarkasteltava, ovatko heidän tekoälysijoitukset todella turvallisia.

Suurimmissa osissa yrityksiä tekoäly esitellään edelleen tehtäväkohtaisesti. Tiimit kokeilevat tiivistämistä, koodin apua, analytiikkaa tai työnkulkujen automaatioita yksittäisen tuottavuuden parantamiseksi. Nämä työkalut tarjoavat paikallisia hyötyjä, mutta ne harvoin muuttavat, miten päätöksiä tehdään tai miten järjestelmät toimivat laajemmassa mittakaavassa. Tämä aukko alkaa näkyä tuloksissa. Vaikka käyttöönotto on laajaa, vain noin 20 %:a organisaatioista raportoi merkittävää vaikutusta kannattavuuteensa.

Turvallisuussijoitus kasvaa rinnakkain tämän kokeilun kanssa. Useissa tapauksissa se kohdistetaan kuitenkin kasvavaan joukkoon erillisiä työkaluja sen sijaan, että se kohdistettaisiin yhtenäisiin järjestelmiin, jotka muokkaavat liiketoiminnan toimintaa. Tekoäly arvioidaan tehtäväkohtaisesti, turvataan järjestelmäkohtaisesti ja suunnitellaan harvoin työnkulkutasolla, jossa todellinen arvo luodaan.

Tekoälyn käyttöönotto laajenee nopeammin kuin se integroidaan

Useimmat nykyiset tekoälykäyttöönotot ovat kapeita suunnittelun vuoksi. Ne on rakennettu nopeuttamaan yksittäisiä tehtäviä sen sijaan, että ne muuttaisivat, miten työ kulkee joukkueiden tai järjestelmien välillä.

Myyntitiimi voi ottaa tekoälyn käyttöön sähköpostien laatimiseen tai puheluiden tiivistämiseen. Insinööritiimit käyttävät sitä koodin nopeuttamiseen. Toimintatiimit kokeilevat analytiikkaa tai ennustetukea. Kukin näistä käyttötavoista tarjoaa mitattavissa olevia tuottavuushyötyjä yksittäisellä tasolla, ja se on usein riittävä peruste alkuvaiheen sijoitukselle.

Monimuotoisuus alkaa, kun nämä erilliset hyödyt kertyvät.

Kunkin käyttöönoton myötä tulee omat mallinsa, tietojen käyttömallinsa, rajapintansa ja riippuvuutensa. Ajan myötä organisaatiot löytävät itsensä hallitsemassa kasvavaa tekoälykykyjen ekosysteemiä, jotka eivät ole suunniteltu toimimaan yhdessä. Edelleen suuri osa yrityksistä on edelleen varhaisessa kokeiluvaiheessa, ja monet aloitteet eivät ole vielä upotettu perusliiketoimintaprosesseihin.

Turvallisuustiimit perivät tämän ympäristön, kun se muotoutuu. Heitä pyydetään suojelemaan ei yhtä järjestelmää, vaan jatkuvasti muuttuvaa työkalujen, integraatioiden ja tietovirtojen kokoelmaa, joka laajenee jokaisen uuden kokeilun myötä. Ilman yhtenäistä arkkitehtuuria turvallisuus muuttuu peittämisestä hallinnaksi.

Todellinen riski ei ole yksittäisiä työkaluja, vaan järjestelmän fragmentaatio

Kun tekoälykokeilu jatkuu, johtajan odotukset alkavat muuttua. Hallitukset ja johtoryhmät kysyvät, miten kasvava tekoälymeno kääntyy mitattavissa oleviin liiketoimintatuloksiin.

Kun varhaiset aloitteet epäonnistuvat, organisaatiot harvoin hidastavat vauhtia. He laajentavat pyrkimyksiään. Enemmän kohteita käynnistetään. Enemmän työkaluja otetaan käyttöön. Enemmän integraatioita luodaan etsimään arvoa, jota ei vielä ole materialisoitunut. Ennustukset viittaavat jo siihen, että yli puolet tekoälyprojekteista voi epäonnistua tuotantoon siirtymisessä tai odotettujen tulosten saavuttamisessa tulevina vuosina.

Turvaamisen haaste ei ole enää ainoastaan yksittäisten sovellusten tai mallien suojeleminen. Se on ympäristön hallitseminen, jossa perustava järjestelmä muuttuu jatkuvasti. Kunkin uuden työkalun myötä tulee lisää identiteettejä, tietovirtoja ja mallin käyttäytymisiä, jotka laajentavat hyökkäyspintaa ennen kuin puolustajat ehtivät täysin ymmärtää sitä.

Tässä kontekstissa turvallisuusmenon lisääminen ei välttämättä vähennä riskiä. Se voi lisätä toiminnallista monimuotoisuutta sen sijaan. Fragmentoitujen järjestelmien suojeleminen vaatii enemmän työkaluja, enemmän valvontaa ja enemmän koordinointia, mutta se ei koske juurisyytä, joka on tekoälyn käyttöönoton ja käytön yhtenäisen rakenteen puute.

Turvaamisen sijoittaminen muuttuu strategiseksi vasta, kun tekoäly muuttuu operatiiviseksi

Olemme hyvällä tolalla tekoälyturvallisuussijoitusten ansiosta; innovaation aste on astronominen, ja vaikka tulevaisuus on kirkas tekoälyn käyttötarkoituksille, turvallisuussijoitus on usein irrotettu siitä, missä tekoäly todella luo arvoa.

Kun tekoäly otetaan käyttöön pääasiassa erillisten tuottavuustyökalujen joukkona, turvallisuuspyrkimykset joutuvat seuraamaan tätä fragmentaatiota. Tiimit joutuvat suojelemaan kymmeniä erillisiä sovelluksia, joilla on rajattu vaikutus perusliiketoimintatuloksiin.

Merkitsevämpi arvo syntyy, kun tekoäly upotetaan työnkulkuihin, jotka ohjaavat, miten organisaatiot toimivat. Suunnittelu, ennustaminen, resurssien aloitus, ja operatiivinen päätöksenteko ovat siellä, missä tekoäly alkaa vaikuttaa tuloksiin merkittävällä tavalla. Nämä ovat myös ympäristöt, joissa turvallisuussijoitus muuttuu strategiseksi.

Erillisen työkalun suojeleminen suojaa tehtävän. Yhtenäisen järjestelmän suojeleminen suojaa liiketoimintaprosessia.

Tässä on se ero, jossa tehtäväkohtainen käyttöönotto ja työnkulun suunnittelu eroavat toisistaan. Tekoäly, jota ei ole integroitu päätöksentekoprosesseihin, kamppailee luodakseen mitattavissa olevaa vaikutusta. Turvallisuus, joka ei ole linjassa näiden päätöksentekojärjestelmien kanssa, kamppailee vähentääkseen merkittävää riskiä.

Muutosta on tehtävä aikaisemmin kuin myöhemmin

Organisaatioille ei tarvitse vähemmän tekoälyaloitteita. He tarvitsevat tarkoituksenmukaisempia aloitteita.

Ensimmäinen muutos on siinä, miten tekoälymenestyksen arvioidaan. Jos käyttöönotto ei muuta, miten päätöksiä tehdään tai miten työ etenee joukkueiden välillä, sen vaikutus pysyy rajattuna, riippumatta siitä, kuinka laajasti se on otettu käyttöön. Menestyksen mittaaminen työnkulutasolla sen sijaan, että tehtäväkohtaisesti, antaa selkeämmän signaalin siitä, missä tekoäly todella luo arvoa.

Toinen muutos on turvallisuussijoituksen priorisoinnissa. Sen sijaan, että levittäisi valvontaa jokaiselle kokeelliselle työkalulle, organisaatioiden tulisi keskittää suojelu ympäristöihin, jotka vaikuttavat suunnitteluun, toimintoihin ja päätöksentekoon. Nämä ovat ympäristöt, joissa riski ja arvo leikkaavat toisiaan.

Kolmas muutos on rakenteellinen. Tekoälyjärjestelmät esittelevät uusia omistajuuden muotoja, jotka ulottuvat perinteisten sovellusrajojen ulkopuolelle. Mallit, koulutusdata, tietoputket ja tekoälyluontaiset tulosteet vaativat selkeää omistajuutta. Ilman määriteltyä omistajuutta hallinto muuttuu epäjohdonmukaiseksi ja turvallisuusaukot muuttuvat vaikeammaksi tunnistaa.

Näiden muutosten yhdistelmä siirtää organisaatiot turvallisuuden suojeluun sen sijaan, että toiminnan suojeleminen.

Rakentaminen tekoälyjärjestelmistä, jotka voivat todella skaalata

Organisaatiot, jotka linjaavat tekoälyn käyttöönoton työnkulutasolla, saavat selkeämmän polun sekä arvon että hallinnan suhteen.

Turvallisuusresursseista tulee tehokkaampia, kun ne kohdistetaan järjestelmiin, jotka ovat tärkeimpiä, sen sijaan, että ne jakautuisivat erillisiin kokeiluihin. Johtajuus saa paremman näkyvyyden siihen, miten tekoälysijoitukset kääntyvät operatiiviseen vaikutukseen. Ajan myötä tekoälyohjelmat muuttuvat kestävämmiksi, koska ne rakennetaan järjestelmien sijaan kertyvien työkalujen varaan.

Tekoälysijoitukset eivät hidasta vauhtiaan. Turvallisuusmeno jatkaa kasvuaan rinnakkain. Ero tulee siitä, miten nämä sijoitukset sovelletaan.

Organisaatiot, jotka jatkavat tekoälyn skaalaamista tehtäväkohtaisesti, löytävät itsensä suojelemassa jatkuvasti laajenevaa pinnaa erillisiä työkaluja. Ne, jotka suunnittelevat tekoälyä työnkulutasolla, suojelevat järjestelmiä, jotka ovat todella arvokkaita suojelemisen arvoisia.