Miksi AI:n kieltäminen lisää turvallisuusriskejä ja miten instituutiot tulisi vastata

Ympäri Yhdysvaltoja, koulupiirit ja julkisen sektorin organisaatiot rajoittavat tai estävät pääsyn generatiiviseen tekoälyyn (GenAI) tai tiettyihin työkaluihin. Coloradossa Boulder Valley School District kielsi äskettäin ChatGPT:n käytön koulun verkoissa, vedoten huolehdintaan väärinkäytöstä, turvallisuudesta ja akateemisesta eheystyöstä.

Instinkti vähentää altistumista turvallisuusuhille tai tietojen väärinkäytölle on ymmärrettävää. Alustat, joilla on heikot suojavarustukset tai epäselvät yksityisyyssitoumukset, kuten DeepSeek, ansaitsevat rajoituksia ja tarkastelua. Mutta GenAI-työkalujen käytön kieltäminen ei vähennä merkittävästi riskiä; se siirtää usein riskin ympäristöihin, joissa valvonta katoaa.

College Board -tutkimus osoitti, että 84 % lukiolaisista ilmoitti käyttävänsä GenAI:a koulutyössään, vaikka 45 % rehtoreista ilmoitti, että koulussa on rajoituksia AI-pääsyyn. Samoin IBM-raportti osoitti, että 80 % toimistotyöntekijöistä käyttää AI:ta, mutta vain 22 % luottaa yksinomaan työnantajan tarjoamiin työkaluihin.

Pääsypolitiikat eivät määrää ainoastaan käyttäytymistä. Oppilaat voivat ottaa esiin puhelimensa ja käyttää mitä tahansa AI-työkalua matkapuhelinverkossa tai kotona tai julkisella wifi:llä. He voivat myös käyttää VPN:itä, etätyöpöytiä ja laajennuksia pääsyrajoitusten ohittamiseen. Työntekijät voivat tehdä samoin työpaikan valvontaa välttääkseen.

Organisaatioiden tulisi olettaa, että kun on tahto käyttää AI:ta, on keino. Kun teknologiaa rajoitetaan tavalla, joka ajaa käytön institutionaalisen näkyvyyden ulkopuolelle, varjo-AI:n riski kasvaa. Valvontaa ei ole siitä, mitä tietoa syötetään ääniksi tai mitä tietoja malli tallentaa. Minkäänlainen valvonta turvallisuudesta katoaa välittömästi.

Varjo-AI:n riskin lisäksi kiellot luovat lukutaidon aukon, jättäen oppilaat täysin valmistelemattomiksi käyttämään teknologiaa, josta tulee suuri osa heidän tulevaisuudestaan. Nämä työkalut ovat yhä enenevissä määrin upotettuina hakukoneisiin, liiketoimintaplattoformeihin, tuottavuuspaketteihin ja henkilökohtaisiin laitteisiin. Pew Research -tutkimus osoitti, että 62 % Yhdysvaltain aikuisista sanoo vuorovaikuttavansa AI:n kanssa vähintään useita kertoja viikossa. On melkein varmaa, että oppilaat ja työntekijät kohtaavat GenAI-järjestelmiä riippumatta institutionaalisisista käytäntöistä.

Tässä ympäristössä koulutus on luotettavin turvallisuuden take, jotta varmistetaan, että oppilaat ja työntekijät ovat hyvin valmistautuneita käyttämään työkalua, josta tulee olennainen osa heidän uraaan. Vastuullisen ja eettisen käytön opettaminen varustaa käyttäjiä tunnistamaan tietoriskit ja tekemään perusteltuja päätöksiä, missä tahansa he kohtaavat nämä järjestelmät.

Koulutusohjelmat tulisi keskittyä siihen, miten suuret kielimallit (LLM) prosessoivat ja tallentavat tietoja, miten tunnistaa harhat, miten vahvistaa AI:n tuottamia tuloksia ja miten tunnistaa huijausyritykset ja AI:n tuottamat kuvat, vain muutamia esimerkkejä. Opettaminen käyttäjille epäilyä. AI:n tuottamat tulokset esitetään usein itsevarmasti ja kiillotettuna kielellä, mikä voi luoda illuusion auktoriteetista. Ilman koulutusta käyttäjät saattavat olettaa, että hyvin muotoiltu vastaus on aina tarkka.

Digitaalisen sisällön kyseenalaistamisen kyky on eturintamapuolustus, kun deepfake- ja AI-tehostetut huijausyritykset tulevat yhä monimutkaisemmiksi. Gartnerin tutkimus osoitti, että 62 % organisaatioista koki deepfake-hyökkäyksen viime vuonna, ja 32 % kohtasi hyökkäyksen AI-sovelluksiin. Tällaisten tapausten määrä ja laajuus odotetaan vain kasvavan.

Julkisen sektorin instituutiot, kuten koulut ja paikallishallinnot, ovat erityisen alttiita deepfake-mahdollistamalle sosiaaliselle insinöörityölle, koska heidän toimintansa on suurelta osin tallennettu ja julkisesti saatavilla. Julkisten kokousten ääni osia voidaan muokata ja käyttää äänikutsujen luomiseen. Olemme nähneet uhka-aktoreiden käyttävän tätä petoksessa, kuten varojen uudelleenohjauksessa herkillä transaktioilla. Vaikka tämä tapahtuu useimmiten kohdennetuissa tapauksissa, käyttäjät, jotka eivät ole koskaan saaneet koulutusta tunnistamaan nämä tekniikat tai edes tienneet, että ne ovat mahdollisia, ovat alusta alkaen huonoissa olosuhteissa.

Koulutuksen jälkeen organisaatioiden tulisi olla selkeät kommunikoituja käytäntöjä AI:n käytöstä ja hallinnosta. Nämä määrittelevät hyväksyttyjä työkaluja, hyväksyttäviä käyttötarkoituksia ja mitä tietoja voidaan syöttää mihinkin malliin. Käytäntöjä on sovellettava johdonmukaisesti eri osastojen välillä eikä niiden tulisi vaihdella luokasta toiseen tai toimistosta toiseen. Selkeät odotukset vähentävät epäselvyyttä ja vahvistavat vastuuta.

Sen sijaan, että olisi laaja rajoituksia, organisaatioiden tulisi tarkastella, miten teknologiaa käytetään käytännössä. Kun organisaatio hyväksyy työkalun, joka on saatavilla, turvallinen ja toimii hyvin, se tulee useimpien käyttäjien oletusarvoiseksi. Vapaan varjo-AI:n käytön määrä vähenee, koska on suoraviivainen vaihtoehto, joka ei vaadi VPN:n lataamista sen käyttämiseen.

Organisaatiot ja instituutiot pyrkivät tarjoamaan turvallisen pääsyn LLM:ien käyttöön siten, että heidän tietonsa on turvattu eikä jaeta tai käytetä koulutukseen. Kasvava määrä AI-käyttöönoton ja turvallisuustyökaluja on kehittymässä tämän saavuttamiseksi. Ne voivat tarjota pääsyn useisiin LLM:ihin samalla, kun institutionaalinen tieto on turvallisesti eristetty. Nolla-tietojen säilytys sopimukset tarjoavat oikeudellisen kehyksen varmistamaan, että organisaation tieto pysyy yrityksen tai institution omistuksessa, eikä LLM voida kouluttaa siitä. Lisäksi, jos työntekijä jättää institution, kaikki AI-käyttö, työvirrat ja tieto pysyvät organisaation omistuksessa.

Teknisiä suojavarustuksia voidaan soveltaa myös ominaisuustasolla. Instituutio voi sallia oppilaiden tai työntekijöiden esittää yleisiä kysymyksiä hyväksytyn LLM:n sisällä samalla, kun tiedostojen lataus, asiakirjojen jakaminen tai muut korkean riskin ominaisuudet on poistettu. Nämä konfiguraatiot säilyttävät tuottavuuden hyödyt ilman, että avataan oven unohdettuun tietojen altistumiseen.

Lisäksi edistyneemmät työkalut voivat automaattisesti anonymisoida arkaluontoisia tietoja ennen kuin ne edes saavuttavat mallin. Esimerkiksi korvaamalla potilaiden nimet tai tunnistetiedot puolueettomilla vaihtoehtoilla, jotta lääkärit ja sairaanhoitajat voivat edelleen käyttää GenAI:ta ilman, että altistavat suojattuja tietoja. Toiset integroivat tietojen menetysEsto-ohjaimet, jotka havaitsevat ja estävät sosiaaliturvatunnukset, taloudelliset tilitiedot tai muut säädellyt tiedot pääsemästä syötteisiin.

Selkeät käytäntöjä teknisen suojavarustuksen kanssa, rakennettu koulutuksen perustalle, luo parhaimman puolustuksen, erityisesti koska teknologia kehittyy nopeammin kuin useimmat julkisen sektorin organisaatiot – ja heidän budjetit – voivat sopeutua. Yritys estää jokaista uutta mallia, kun se ilmestyy, on kestämätöntä, koska kun yksi alusta on rajoitettu, toinen on jo saavuttanut suosiota. Käyttäjät, jotka ovat oppineet ymmärtämään perustavanlaatuiset riskit, voivat sopeutua eri työkaluihin ja versioihin.

Turvallisuus AI:ta käyttävässä ympäristössä riippuu todellisuuden tunnustamisesta, että GenAI on nyt upotettu päivittäiseen elämään. Ei ole mahdollista palauttaa geniä pulloon. Laajat kiellot saattavat merkitä varovaisuutta, mutta ne usein vaihtavat näkyvän, hallitun riskin näkymättömään, hallitsemattomaan altistumiseen. Opettaa henkilöä käyttämään AI:ta vastuullisesti, ja he ovat valmiit mitä tahansa tulevaa.