Piilotetut riskit varjossa toimivasta tekoälystä

Useimmat yritysten tiimit eivät olleet suunnitelleet tekoälyn ottavan haltuunsa työprosessinsa. Se alkoi yksinkertaisista työkaluista, jotka lupaavat nopeampaa kirjoittamista, sileämpää tapaamista ja parempaa asiakasymmärrystä. Työntekijät asensivat tekoälyavustajat selaimiinsa, yhdistivät ne sähköpostiin, lisäsivät ne Zoomiin ja kokeilivat Slackiä ja Google Workspacea.

Nuo alkuvaiheet etenivät nopeammin kuin yritysten valvontamekanismit ja levisivät SaaS-järjestelmiin, jotka pyörittivät koko yrityksiä, kunnes tekoälystä tuli osa arkipäivän työtä. Ja juuri näin varjossa toimiva tekoäly, yksi nykyisen yritysmaailman aliarvostetuimmista riskeistä, syntyi. Se kasvoi useimmissa organisaatioissa jo kauan ennen kuin johtajat ymmärsivät, kuinka syvällisesti se liittyi arkaluonteiseen tietoon.

Varjossa toimiva tekoäly viittaa tekoälytyökaluihin, jotka toimivat organisaation sisällä ilman hyväksyntää, ilman näkyvyyttä ja usein ilman turvallisuussääntöjä. Kun nämä työkalut integroidaan suoraan alustoille, kuten Salesforce, Zoom tai Microsoft 365, ne saavat pääsyn tietoihin, joita johtajat olettavat olevan turvallisia. Vaara on jo näkösällä complianssien epäonnistumisissa, valvomattomissa tietovirroissa ja tapauksissa, joissa tekoälyagentit tekevät toimia, joita kukaan ei odottanut.

Olemme viettäneet vuosia työskentelemällä yritysten kanssa, jotka uskoivat omistavansa vahvat turvallisuusohjelmat. Kuitenkin kun autimme heitä tutkimaan SaaS-ympäristöjään, he löysivät satoja aktiivisia tekoälyyhteyksiä, joita he eivät olleet valtuuttaneet. Jotkut näistä yhteyksistä olivat olleet aktiivisia kuukausia, kun taas toiset kuuluivat työntekijöille, jotka olivat jo lähteneet yrityksestä. Varjossa toimiva tekoäly kasvaa hiljalleen, koska se etenee nopeammin kuin hallinto ja nopeammin kuin useimmat organisaatiot ovat valmiit havaitsemaan.

Näkymättömät tietoputket

Tarina alkoi usein jalolla aikomuksella: myyntiedustaja, joka haluaa kirjoittaa parempia sähköposteja, tai asiakastyytyväisyyden johtaja, joka haluaa tapaamisten transkriptioita, tai insinööri, joka haluaa nopeamman tavan tarkastella koodia. Tekoälytyökalut tekevät nämä tehtävät vaivattomiksi, joten työntekijät omaksuvat ne nopeasti. Mutta omaksuminen on vain ensimmäinen askel.

Monet näistä työkaluista pyytävät laajoja oikeuksia OAuthin, selainlaajennusten tai API-avaimien kautta. Kun nämä oikeudet on myönnetty, ne saavat pääsyn CRM-tietoihin, asiakasmerkintöihin, sisäisiin viesteihin tai luottamukselliseen lähdekoodiin.

Olemme nähneet, mitä tapahtuu seuraavaksi. Yhdessä tapauksessa tiimi löysi, että tekoälyavustaja, joka oli yhdistetty Salesforceen, oli luonut yli 400 raporttia yhdessä viikonloppuna. Aluksi kaikki olettivat, että se oli järjestelmävirhe. Kuitenkin tekoäly oli saanut laajan pääsyn. Se alkoi automatisoida tehtäviä mittakaavassa, jota ihmisanalyytikko ei olisi koskaan yrittänyt. Arkaluontoiset myyntinäkymät ja asiakastiedot ilmestyivät paikkoihin, joissa niiden ei pitänyt olla, yksinkertaisesti siksi, että tekoälytyökalu oli päättänyt toimia.

Toisessa organisaatiossa otettiin käyttöön tekoälypohjainen transkriptiopalvelu avustamaan asiakaspalvelutiimejä. Se tallensi jokaisen tapaamisen ja keräsi tietoja hinnoittelusta, asiakasongelmista, tulevista suunnitelmista ja kilpailutiedosta. Kaikki nämä tiedot siirrettiin suoraan kolmannen osapuolen järjestelmään ilman sopimusta ja ilman näkyvyyttä siitä, miten tietoja säilytettiin tai käytettiin. Tällaiset tilanteet ovat yleistyviä, koska tekoälytyökalut toimivat eri tavoin kuin perinteinen ohjelmisto. Ne lukevat enemmän tietoa ja liikkuvat nopeammin, ja usein ne toimivat ilman selkeitä rajoja.

Kun tekoälyn omaksuminen kiihtyy, hyökkäyspinta-ala laajenee. Erityisesti Model Context Protocolin nousu tekee tekoälystä voimakkaampaa sallimalla agenttien suoran vuorovaikutuksen yritysten tietojen kanssa. Valitettavasti tuo helppous myös avaa uusia ovia toimitusketjun hyökkäyksille ja etuoikeuksien korotukselle.

Johtajien on ymmärrettävä, että moderni tekoäly ei sovi vanhoihin turvallisuusmalleihin, joita yritykset edelleen käyttävät, koska nämä tekoälytyökalut elävät järjestelmissänne, eivät reunalla, mikä tekee niistä paljon vaikeampia havaita ja hallita.

Perinteisten turvallisuustyökalujen rajoitukset

Useimmat turvallisuusohjelmat on rakennettu maailmaan, jossa sovellukset elävät yrityksen sisäverkossa ja käyttäjät ovat yhteydessä ennustettavissa kaavoin. Kuitenkin tekoäly on rikkonut tämän mallin. Nykyaikaiset työkalut elävät SaaS-alustoilla, eivät yrityspalvelimilla. Ne viestivät API:n kautta, eivät verkon kautta. Ne lukevat ja kirjoittavat tietoa jatkuvasti, ja ne käyttäytyvät tavoin, jota perinteiset valvontajärjestelmät eivät voi tulkita.

Kokemuksemme osoittaa, että organisaatiot usein aliarvioivat, kuinka monta tekoälytyökalua on heidän ympäristössään. Monet eivät tiedä, mitkä integraatiot ovat aktiivisia tai kuinka kauan ne oikeudet ovat olleet olemassa. Toiset olettavat, että yksinkertainen kirjautuminen tai palomuurisäännöt riittävät pitämään heidät turvassa. Ne eivät riitä. Varjossa toimiva tekoäly kukoistaa identiteettijärjestelmissä, oikeuuden määrityksissä ja kolmannen osapuolen integraatioissa, joita turvallisuustiimit harvoin tarkastavat. Se piileksii paikoissa, joissa yritykset eivät katso, ja työkaluissa, joita työntekijät asentavat, koska he haluavat liikkua nopeammin.

Siirtymä upotettuun tekoälyyn tekee tämän tehtävän vielä haasteellisemmaksi. Alustat kuten Microsoft 365, Google Workspace, Slack ja Salesforce toimittavat nyt sisäänrakennettuja tekoälyominaisuuksia. Jotkut ovat käytössä oletusarvoisesti. Toisia voidaan aktivoida yhdellä klikkauksella. Organisaatiot saattavat jo käyttää tekoälyominaisuuksia tietämättä, mitä tietoa nämä ominaisuudet kuluttavat tai miten nämä järjestelmät säilyttävät tulosteen. Riski tulee ei ainoastaan siitä, mitä työntekijät lisäävät, vaan myös siitä, mitä toimittajat esittävät.

Valvontaan palaaminen

Varjossa toimivaa tekoälyä ei pidä pitää työntekijöiden epäonnistumisena. Se on luonnollinen seuraus nopeasta teknologisesta edistymisestä, ja johtajien on oltava näkyvissä, ei syytteleviä. Ensimmäinen askel on olettaa, että varjossa toimiva tekoäly on olemassa, ja aloittaa sen kartoittaminen, missä tekoäly jo vuorovaikuttaa kriittisten järjestelmien kanssa. Toinen askel on luoda hyväksyttyjä tekoälytyökaluja, jotta tiimit voivat innovoida turvallisesti. Tekoälyn esto on epärealistista, ja turvallisten vaihtoehtojen tarjoaminen on ainoa kestävä polku.

Reaaliaikainen valvonta on myös olennainen. Vuosittaiset tarkastukset eivät pysty pitämään yllä työkaluja, jotka voivat siirtää tietoja muutamassa tunnissa. Organisaatioiden on oltava jatkuvasti tietoisia, mitkä tekoälyagentit ovat aktiivisia, mitkä oikeudet niillä on ja ovatko nämä oikeudet linjassa vähimmäisoikeuksien periaatteen kanssa. Kun työskentelemme johtoryhmien kanssa, rohkaamme heitä esittämään suoria kysymyksiä: mitkä työkalut pääsevät asiakastietoihin, mitkä työkalut yhdistetään tuotantoympäristöihin ja mitkä työkalut ovat edelleen aktiivisia, kun käyttäjät poistuvat?

Olemme nähneet organisaatioita, jotka ovat muuttaneet tämän sekasorron selkoksi. Kun johtajat näkevät, missä tekoäly toimii heidän järjestelmissään, he voivat asettaa oikeat rajoitukset ja antaa tiimien käyttää sitä turvallisesti. Silloin tekoäly lopettaa olemasta riskinä ja alkaa olla todellinen etu.

Varjossa toimiva tekoäly ei ole tulevaisuuden asia. Se on jo täällä. Mutta organisaatiot, jotka ratkaisevat sen ennen kuin se kasvaa kriisiksi, johtavat tekoälyaikakautta.