Varjo-ai: Hallintoaukko, jota organisaatiot eivät voi jättää huomiotta

Tässä vaiheessa tekoälymatkalla liiketoimintajohtajat tunnustavat laajasti tekoälyhallinnon merkityksen. Organisaatiot kehittävät kuitenkin politiikkaa ja turvallisuusvarusteita hitaammin kuin työntekijät omaksuvat ja integroivat tekoälyä päivittäiseen työhönsä.

Organisaatiot, jotka odottavat hallintorakenteiden valmistumista ennen tekoälyn käyttöönottoa, joutuvat kohtaamaan karun todellisuuden: selkeiden sääntöjen puutteen vuoksi siitä, miten, mitä ja missä tekoälyä voidaan käyttää, työntekijät määrittelevät itse nämä rajat. Ja nämä päätökset voivat suoraan ristiriidassa olla organisaation standardeiden, riskitoleranssin tai sääntelyvelvoitteiden kanssa.

Tämä hallintaukko on johtanut siihen, että varjo-ai on muodostunut monien organisaatioiden oletusmalliksi.

Laaja ja kasvava ongelma

Varjo-ai ei rajoitu yksittäisten työntekijöiden kokeiluihin reunoilla. Se ulottuu koko organisaatioon, myös johtoon. Tekoälyä käytetään päivittäin työprosesseissa, ja jopa korkeat päättäjät ohittavat viralliset hyväksymismenettelyt sen hyödyntämiseksi. Itse asiassa uusi tutkimus osoittaa, että 68 % turvallisuusjohtajista, mukaan lukien CISO:t, myöntävät käyttävänsä jonkinlaista valtuutumatonta tekoälyä työprosesseissaan.

Samaan aikaan 79 % IT-johtajista raportoi, että heidän organisaatiot ovat jo kokeneet negatiivisia seurauksia jaettuaan yritysdatan tekoälytyökalujen kanssa. Ja analyytikot ennustavat, että tämä ongelma tulee pahentumaan. Gartner arvioi, että vuoteen 2030 mennessä yli 40 % organisaatioista kohtaa turvallisuus- tai sääntelyloukkauskohtauksia valtuutumattoman tekoälytyökalujen käytön vuoksi.

Laajeneva riskipinta

Varjo-ai esittää laajan riskivalikoiman, mukaan lukien:

• Datan hallinnan menetys ja potentiaalinen datavuoto
• Turva-aukkojen laajentuminen ja hyökkäyspinnan kasvu
• Sääntely- ja määräysvaltaexposure
• Näkyvyyden puute siitä, miten tekoälyä käytetään
• Immateriaalioikeuksien menetys
• Mainevahinko
• Epätarkat tai harhatulokset

Näiden riskien merkittävä katalysaattori on perustavanlaatuinen väärinkäsitys siitä, miten tekoälyjärjestelmät käsittelevät dataa.

Monet työntekijät olettavat, että “ilmaisten” työkalujen käyttäminen, erityisesti niiden, jotka eivät vaadi kirjautumistietoja, tarjoaa anonymiteettiä tai suojaa. Todellisuudessa nämä työkalut usein riippuvat käyttäjän syötteistä mallien kouluttamiseen ja parantamiseen, ja joissain tapauksissa ne jakavat dataa kolmansille osapuolille. Tämä data voi sisältää erittäin arkaluontoista tietoa, kuten henkilökohtaisia tunnistetietoja (PII), lääketieteellistä tai oikeudellista dataa, taloudellisia tietoja, immateriaalioikeuksia ja muita luottamuksellisia liiketoimintatietoja.

Entistä huolestuttavampaa on, että tietoisuus ei aina muuta käyttäytymistä. Tutkimus osoittaa, että 38 % työntekijöistä jakaa tietoisesti arkaluontoista tietoa tekoälytyökalujen kanssa organisaation hyväksynnän ulottumattomissa.

Miksi varjo-ai säilyy

Varjo-ain ongelman tehokkaaseen ratkaisemiseen organisaatioiden on ensin ymmärrettävä sen juurisyy.

Useimmissa tapauksissa työntekijät eivät toimi ilkeästi. He reagoivat järkevästi ympäristöönsä. He ovat painostettuja toimimaan nopeammin, tekemään enemmän vähemmällä ja saavuttamaan parempia tuloksia. Tekoäly mahdollistaa kaiken tämän.

Varjo-ai ilmenee, kun organisaatioiden järjestelmät eivät pysty seuraamaan näitä odotuksia. Yleisiä katalysaattoreita ovat:

• Kovia rajoituksia tekoälytyökalujen käytölle työpaikalla
• Hyväksyttyjä työkaluja, jotka ovat vähemmän kykeneviä tai vähemmän käyttäjäystävällisiä
• Paineet täyttää aggressiiviset määräajat
• Hitaat tai monimutkaiset hankintaprosessit
• Epäselvät, ristiriitaiset tai olemattomat käytäntöjen
• Rajoitettu koulutus tai ohjeistus
• Yliriittynyt luottamus henkilökohtaiseen arviointiin tai aliarviointi riskiä

Varjo-ain ydin on vaihtokauppa. Kun havaittu tuottavuuden parantuminen ylittää havaitut riskit, työntekijät valitsevat aina nopeuden ja tehokkuuden.

Hallitse tekoälyä tukahduttamatta innovaatiota

Työntekijät käyttävät jo tekoälyä. Tämän tosiasian jättäminen huomiotta tai toiminnan viivästäminen vain laajentaa kuilua politiikan ja käytännön välillä.

Organisaatioiden tulisi muuttaa lähestymistapaansa hallinnasta mahdollistamiseen.

Se alkaa selkeiden, käytännöllisten ja avoimien ohjeiden asettamisella, vaikka ne eivät ole täysin valmiit. Varhaiset turvallisuusvarusteet antavat suunnan, vähentävät epävarmuutta ja luovat yhteisen ymmärryksen hyväksytystä käytöstä.

Ohjeistus yksin ei kuitenkaan riitä. Organisaatioiden on myös oltava näkyvissä. Tämä edellyttää luottamuksellisten mekanismien luomista, jotka sallivat työntekijöiden turvallisesti ilmoittaa, mitä työkaluja he käyttävät ja miksi. Lähestymistavat, kuten “varjo-ai-armahduskaudet” tai anonyymin ilmoittaminen, voivat paljastaa kriittisiä oivalluksia rangaistuksia aiheuttamatta.

Samaan aikaan organisaatioiden on ylläpidettävä vastuuta. Tapauksissa, joissa datan altistuminen on merkittävää tai laiminlyöntiä, seuraukset saattavat edelleen olla tarpeen. Tavoitteena ei ole poistaa riskiä kokonaan, vaan hallita sitä älykkäästi.

Varjosta strategiaan

Varjo-ai on merkki siitä, että innovaatio etenee nopeammin kuin organisaation rakenteet, jotka on suunniteltu sitä hallitsemaan.

Organisaatioiden ei voida odottaa. Hallinnon perustaminen nyt, vaikka se ei ole täydellinen, on kriittinen riskin vähentämiseksi ja näkyvyyden palauttamiseksi. Mutta hallinto yksin ei riitä. Selkeiden turvallisuusvarusteiden on oltava yhdistettynä mahdollistamiseen, koulutukseen ja helposti saatavilla oleviin vaihtoehtoihin, jotka antavat työntekijöille mahdollisuuden käyttää tekoälyä turvallisesti ja tehokkaasti.

Tavoitteena ei ole rajoittaa tekoälyn omaksumista, vaan muotoilla sitä. Kun organisaatiot löytävät tämän tasapainon, varjo-ai siirtyy piilotetusta vastuusta hallitsemaksi, strategiseksi kyvyksi. Ja tekemällä näin, ne voivat sulkea kuilun siinä, miten tekoälyä käytetään ja miten sitä pitäisi käyttää, ennen kuin tämä kuilu kehittyy turvallisuusloukkaukseksi.