Kun tekoälyväärinkäyttö laukaisee yrityskriisin

Useimmat yritykset puuttuvat politiikoista, joilla voitaisiin estää maineeseen liittyvät katastrofit tekoälytyökaluista

Hiljattain julkaistut tutkimukset osoittavat, että vain noin 30 prosenttia yrityksistä on perustanut tekoälypolitiikkaa. Samaan aikaan 77 prosenttia työntekijöistä jakaa yrityssalaisuuksia ChatGPT:hen, LayerX:n Enterprise AI and SaaS Data Security Report -raportin mukaan vuonna 2025. Tämä yhdistelmä luo täydelliset olosuhteet maineeseen liittyville kriiseille.

Useimmat olemassa olevat tekoälypolitiikat keskittyvät teknisiin ja mukautumisriskeihin. Ne käsittelevät tietoturvaohjeita, toimittajien arviointeja ja sääntelyvaatimuksia. Mitä nämä politiikat usein puuttuvat, on julkisen suhteen katastrofi, joka voi kehittyä muutamassa tunnissa tekoälyn väärinkäytön vuoksi. Red Banyanissa neuvomme kasvavan määrän organisaatioita tekoälyyn liittyvissä kriiseissä, ja meillä on alkanut näkyä yleinen kaava. Tekninen rikkoutuminen on yleensä rajattu nopeasti, mutta vahinko maineelle, asiakassuhteille ja sidosryhmien luottamukselle voi kestää kuukausia tai jopa vuosia.

Varjo-tekkoälyongelma

Suurin uhka tulee turvallisuusammattilaisten kutsumasta “Varjo-tekkoälystä“. Tämä on tilanne, jossa työntekijät käyttävät hyväkseen hyväksymättömiä, henkilökohtaisia tekoälytiliä työtehtäviin, ohittaen yrityksen turvallisuusohjaimet. Useimmiten he tekevät tämän tietämättä riskejä.

Cyberhavenin tutkimuksen mukaan 11 prosenttia tietoa, jonka työntekijät syöttävät ChatGPT:hen, on luottamuksellista. Se luku pitäisi hälyttää jokaisen CIO:n ja viestintäjohtajan. Puhumme lähdekoodista, asiakassopimuksista, julkaisemattomista tuotekehityssuunnitelmista, taloudellisista ennusteista ja henkilöstötiedoista, jotka virtaavat järjestelmiin, joita organisaatiot eivät hallitse.

Miten tietojen paljastuminen tapahtuu

Ohjelmistosuunnittelijat voivat turvautua tekoälytyökaluihin, kuten Claudeen tai ChatGPT:hen, vianetsintään tai koodin optimointiin. Vuonna 2023 Samsungin ohjelmistosuunnittelijat tekivät juuri niin – he lataivat sisäisen lähdekoodin ChatGPT:hen yrittäessään vianetsintää. Luottamuksellisen koodin vuoto pakotti Samsungin asettamaan kattavat rajoitukset tekoälyn käytölle kaikissa insinööriosastoissa.

Markkinointiammattilaiset ja HR-henkilöstö käyttävät usein tekoälyä kirjoitustensa hiomiseen. He lataavat luonnoksia, sisäisiä asiakirjoja ja joskus jopa asiakassopimuksia ja pyytävät tekoälyä parantamaan selkeyttä tai korjaamaan kielioppi- ja oikeinkirjoitusvirheitä. Nämä asiakirjat sisältävät usein taloudellisia ennusteita, oikeudellisia termejä tai strategisia suunnitelmia, joita kilpailijat pitäisivät arvokkaina.

Asiakaspalvelutiimit, jotka kokeilevat tekoälyn tehokkuustyökaluja, syöttävät toisinaan todellisia asiakasvuoropuheluja ja tukipyyntöjä. He haluavat tekoälyn tiivistämän vuorovaikutuksia tai ehdottavan parempia vastauksia. Kun nämä syötteet sisältävät asiakasnimiä, yhteystietoja, tilinumeroita tai ostohistoriaa, yritys on mahdollisesti rikkonut tietosuojalakeja, kuten GDPR:ää tai CCPA:ta.

Tuotekehitystiimit, jotka pohtivat uusia ominaisuuksia, voivat kuvata julkaisemattomia kykyjä ChatGPT:lle toivoen, että tekoäly auttaa jalostamaan ideoita tai tunnistamaan potentiaalisia ongelmia. Nämä kuvaukset voivat paljastaa kilpailuetuja, teknologisia innovaatioita tai markkinointistrategioita, joita yritys aikoi pitää luottamuksellisina julkaisuun asti.

Kaikki tämä tieto voisi olla tallennettu suurten kielen mallien avulla ja vaikuttaa tekoälyn vastauksiin muille käyttäjille tulevaisuudessa.

Esimerkiksi kun tuotekehitystiimi on kuvannut tulevaa tuotettaan ChatGPT:lle, kilpailija tai journalisti voi kysyä tekoälytyökalulta kyseisen yrityksen tulevista julkaisuista. ChatGPT voi viitata luottamukselliseen tietoon, joka on jaettu, ja paljastaa uuden tuotteen tai teknologian, johon yritys on käyttänyt merkittäviä resursseja kehittämiseen.

Miten tämä kehittyy julkisuuskriisiksi

Kun nämä tapahtumat tulevat julki, ne harvoin pysyvät rajattuina IT-ongelmina. Tässä on yleensä mitä tapahtuu:

Rikkoutuminen havaitaan usein sattumalta tai kolmannen osapuolen hälytyksen kautta. IT tutkii ja yrittää arvioida vaikutuksen laajuutta. Samaan aikaan, jos tapahtuma koskee asiakastietoja tai säänneltyjä tietoja, oikeudelliset velvoitteet edellyttävät ilmoittamista. Kun ilmoitus on tehty, medialähetys alkaa. Sosiaalinen media vahvistaa tarinaa. Asiakkaat alkavat soittaa huolestuneina. Työntekijät huolehtivat työnsä turvallisuudesta ja oman vastuunsa.

24–48 tunnin kuluessa siitä, kun tekninen ongelma alkoi, se on kehittynyt täysimittaiseksi maineeseen liittyväksi kriisiksi. Yrityksen on selitettävä useille yleisöille, miten tämä tapahtui, miksi valvontamekanismit epäonnistuivat ja mitä tehdään estämään toistumista. Jos yritys ei ole valmistautunut tähän skenaarioon, vastaus on usein hidasta, epäjohdonmukaista tai puolustavaista. Jokainen virhe pidentää kriisiä ja syventää vahinkoa.

Luomalla kriisivastauskehys tekoälytapauksille

CIO:iden on yhteistyössä viestintä- ja lakitiimien kanssa luotava kriisivastausprotokollia erityisesti tekoälytapauksille. Tekninen valvonta ja politiikat ovat tärkeitä, mutta ne eivät ole riittäviä ilman suunnitelmaa medialle aiheutuvan vahingon hallitsemiseksi, kun jotain menee pieleen.

Tässä on kuusi toimintaaskelta aloittaa tämä prosessi:

1. Aseta selkeät eskalaatioreitit. Kun tekoälyyn liittyvä tietojen paljastuminen havaitaan, kuka ilmoitetaan välittömästi? IT, lakitiimi, viestintätiimi ja johto tulee kaikki olla mukana nopeasti. Luo päätöspuu, joka määrittää, milloin kriisiprotokollia on aktivoitava tietojen luokan ja herkkyysasteen perusteella.
2. Laadi vastausmallineita. Valmista etukäteen pidätyslauselmia ja kysymys- ja vastausdokumentteja yleisille tekoälyvirheille. Nämä tulee käsittää työntekijöiden väärinkäyttö, toimittajien turvallisuusongelmat ja tahaton tietojen paljastuminen. Vastausmallien valmius mahdollistaa nopeammat ja johdonmukaisemmat vastaukset, kun aika on kriittistä.
3. Kouluta puhujia. Johtajien ja viestintähenkilöstön on osallistuttava median koulutukseen, joka on keskittynyt siihen, miten keskustella tekoälytapauksista. Teknologia on monimutkainen ja täynnä jargonia, mikä voi olla haasteellista selittää sidosryhmille.
4. Seuraa varhaisia varoitusmerkkejä. Sosiaalisen median seuranta tulee sisältää avainsanoja, jotka liittyvät organisaatioosi ja tekoälytyökaluihin. Joskus ensimmäinen osoitus ongelmasta tulee työntekijän LinkedIn-julkaisusta tai asiakkaan Twitter-valituksesta tekoälyvastauksesta.
5. Suorita kriisisimulaatioita. Pöytäharjoitukset, jotka käyvät läpi tekoälyyn liittyvän tietojen paljastumisskenaariota, auttavat tiimejä ymmärtämään roolejaan ja tunnistamaan aukkoja vastaus-suunnitelmassa. Nämä simulaatiot tulee sisältää IT, lakitiimi, viestintä, HR ja johto.
6. Rakenna suhteita ennen kuin niitä tarvitset. Luo yhteydet kriisiviestintäyrityksiin, kyberTurvallisuuden asiantuntijoihin, jotka voivat tarjota kolmannen osapuolen vahvistusta, ja lakineuvonantajiin, jotka ovat kokeneita tekoälyyn liittyvissä asioissa. Kun kriisi iskee, haluat luotettavia neuvonantajia, jotka voivat mobilisoida välittömästi.

Tie eteenpäin

Tekoälyn omaksumisen ja tekoälyhallinnan välinen aukko jatkuu kasvamistaan. Työntekijöillä on helppo pääsy voimakkaisiin työkaluihin, jotka voivat aiheuttaa merkittäviä maineeseen liittyviä riskejä. CIO:t ovat perinteisesti keskittyneet tekoälyriskien tekniseen puoleen. Tekoälytapauksien maineeseen liittyvä ulottuvuus vaatii kuitenkin yhtä lailla huomiota ja valmistautumista.

Kysymys ei ole siinä, kohtaaanko tekoälyyn liittyvä kriisi. Ottaen huomioon nykyiset omaksumisnopeudet ja Varjo-tekkoälyn yleisyyden, kysymys on milloin. Yritykset, jotka valmistautuvat nyt, joilla on politiikat, jotka käsittelevät sekä teknisiä että maineeseen liittyviä riskejä, selviävät näistä tapahtumista paljon paremmin kuin ne, jotka jäävät valmistautumatta.