AI-keskustelurobottien vaarat – ja miten niitä vastaan voidaan toimia

Aikaisemmin vain automaattisina puhuvina ohjelmina pidetyt AI-keskustelurobotit voivat nyt oppia ja pitää keskustelua, joka on lähes erottamaton ihmisistä. AI-keskustelurobottien vaarat ovat kuitenkin yhtä moninaiset.

Nämä vaarat voivat vaihdella ihmisten väärinkäytöstä aitoihin kyberuhkiin. Koska ihmiset riippuvat yhä enemmän AI-teknologiasta, on tärkeää tietää mahdolliset seuraukset näiden ohjelmien käytöstä. Mutta ovatko robotit vaarallisia?

1. Harha ja Syrjintä

Yksi suurimmista AI-keskustelurobottien vaaroista on niiden taipumus haitallisiin harhauksiin. Koska AI havaitsee yhteyksiä tietopisteiden välillä, joita ihmiset usein ohittavat, se voi oppia tunnistamaan implicitejä, epäsuoria harhauksia koulutusaineistosta ja opettaa itselleen syrjintää. Tämän seurauksena keskustelurobotit voivat nopeasti oppia tuottamaan rasistista, seksististä tai muuta syrjintää sisältävää sisältöä, vaikka sellaista ei ollut koulutusaineistossa.

Esimerkki tästä on Amazonin hylätty rekrytointirobotti. Vuonna 2018 paljastui, että Amazon hylkäsi AI-hankkeen, jonka tarkoituksena oli ennakkoarvioida hakijoiden ansioluetteloita, koska se rankaisi naisten hakemuksia. Koska useimmat koulutusaineistossa olleet ansioluettelot olivat miesten, robotti opetti itselleen, että mieshakijat olivat mieluummin valittavissa, vaikka koulutusaineisto ei sanonut sitä selvästi.

Keskustelurobotit, jotka käyttävät internetin sisältöä opetettaessaan itseään kommunikoimaan luonnollisesti, ovat taipuvaisia näyttämään vielä äärimmäisempiä harhauksia. Vuonna 2016 Microsoft julkaisi keskustelurobotin nimeltä Tay, joka oppi jäljittelemään sosiaalisen median viestejä. Muutamassa tunnissa se alkoi twiitata hyvin loukkaavaa sisältöä, minkä jälkeen Microsoft keskeytti tilin.

Jos yritykset eivät ole varovaisia keskustelurobottien rakentamisessa ja käyttöönotossa, ne voivat vahingossa johtaa samankaltaisiin tilanteisiin. Keskustelurobotit voivat kohteliaasti käsitellä asiakkaita tai levittää haitallista, syrjintää sisältävää sisältöä, jonka ne pitäisi estää.

2. Kyberuhkat

AI-keskustelurobottien vaarat voivat myös muodostaa suoran kyberuhkan ihmisille ja yrityksille. Yksi yleisimmistä kyberhyökkäyksistä on phishaus- ja vishaus-huijaukset. Nämä käsittävät kyberhyökkääjien matkinnan luotettavia organisaatioita, kuten pankkeja tai viranomaisia.

Phishaus-huijaukset toimivat yleensä sähköpostin ja tekstiviestien kautta – linkin klikkaaminen sallii haittaohjelmat päästä tietokonejärjestelmään. Kun virus on sisällä, se voi tehdä mitä tahansa henkilökohtaisten tietojen varastamisesta järjestelmän panttivangiksi pitämiseen.

Phishaus-hyökkäysten määrä on lisääntynyt jatkuvasti COVID-19-pandemian aikana ja jälkeen. Cybersecurity & Infrastructure Security Agency löysi 84%:n yksilöistä, jotka vastasivat phishaus-viesteihin tietojen kanssa tai klikkasivat linkkiä.

Phishaus-hyökkääjät käyttävät AI-keskustelurobottiteknologiaa etsimään automaattisesti uhreja, vakuuttamaan heitä klikkaamaan linkejä ja antamaan henkilökohtaisia tietoja. Keskustelurobotteja käytetään useissa rahoituslaitoksissa, kuten pankeissa, asiakaspalvelun sujuvoittamiseksi.

Phishaus-keskustelurobotit voivat matkia samoja automaattisia kehotteita, joita pankit käyttävät huijata uhreja. Ne voivat myös automaattisesti soittaa puhelinnumeroita tai ottaa yhteyttä uhriin interaktiivisilla chat-alustoilla.

3. Datamyrkytys

Datamyrkytys on uusi kyberhyökkäys, joka kohdistuu suoraan tekoälyyn. Tekoäly oppii tietopohjista ja käyttää tietoa tehtävien suorittamiseen. Tämä on totta kaikista tekoälyohjelmista, riippumatta niiden tarkoituksesta tai toiminnasta.

Keskustelurobotti-tekolyille tämä tarkoittaa useiden mahdollisten kysymysten vastaamista, joita käyttäjät voivat antaa. Tämä on kuitenkin yksi tekoälyn vaaroista.

Nämä tietopohjat ovat usein avoimia työkaluja ja resursseja, jotka ovat kaikkien saatavilla. Vaikka tekoälyyritykset yleensä pitävät tietopohjansa salassa, kyberhyökkääjät voivat selvittää, mitä tietopohjia käytetään, ja manipuloida tietoa.

Kyberhyökkääjät voivat manipuloida tekoälyjen koulutukseen käytettyjä tietopohjia, mikä mahdollistaa heidän vaikuttamisensa tekoälyn päätöksiin ja vastauksiin. Tekoäly käyttää muutetun tiedon ja suorittaa hyökkääjien haluamat toimet.

Esimerkiksi yksi yleisimmistä tietopohjista on Wiki-resursseja, kuten Wikipediaa. Vaikka tieto ei tule suoraan Wikipedian artikkelista, se tulee tietopohjan otoksista, jotka on otettu tiettyyn aikaan. Hackaajat voivat löytää tavan muuttaa tietoa hyödykseen.

Keskustelurobottien tapauksessa hackaajat voivat korruptoida tietopohjia, joita käytetään keskustelurobottien koulutukseen, jotka toimivat lääketieteellisissä tai rahoituslaitoksissa. He voivat manipuloida keskustelurobotteja antamaan asiakkaille virheellistä tietoa, joka voi johtaa linkin klikkaukseen, joka sisältää haittaohjelmia tai huijausverkkosivun. Kun tekoäly alkaa käyttää myrkytettyä tietoa, on vaikea havaita ja voi johtaa merkittävään kyberuhkaan, joka jää huomaamatta pitkäksi aikaa.

Miten vastata AI-keskustelurobottien vaaroihin

Nämä riskit ovat huolestuttavia, mutta ne eivät tarkoita, että robotit ovat luonnostaan vaarallisia. Sen sijaan tulee lähestyä niitä varovasti ja ottaa nämä vaarat huomioon keskustelurobottien rakentamisessa ja käytössä.

Avain tekoälyn harhaan estämiseen on etsiä sitä koulutuksen aikana. Varmista, että koulutat sen monipuolisilla tietopohjilla ja ohjelmoi sen välttämään tekijöiden, kuten rodun, sukupuolen tai seksuaalisen suuntautumisen, huomioon ottamista päätöksenteossa. On myös parasta, että sinulla on monipuolinen joukko tietojenkäsittelytieteilijöitä, jotka tarkastavat keskustelurobottien sisäisiä toimintoja ja varmistavat, ettei niissä ole harhauksia, olkoon niitä kuinka pieniä.

Paras puolustus phishaus-hyökkäyksiä vastaan on koulutus. Kouluta kaikki työntekijät tunnistamaan yleiset phishaus-hyökkäyksen merkit, jotta he eivät joudu näiden hyökkäysten uhriksi. Kuluttajien tietoisuuden lisääminen asiasta auttaa myös.

Voit estää datamyrkytyksen rajoittamalla pääsyn keskustelurobottien koulutustietoihin. Vain ne, jotka tarvitsevat pääsyä tietoihin työnsä suorittamiseksi, pitäisi saada valtuudet – tämä on vähimmän etuoikeuksien periaate. Sen jälkeen, kun olet asettanut nämä rajoitukset, käytä vahvoja verifioimistapoja, kuten monivaiheista tunnistautumista tai biometriikkaa, estämään kyberhyökkääjien murtautumista valtuutettuun tiliin.

Pysy valppaana AI-riippuvuuden vaaroja vastaan

Tekoäly on todella upea teknologia, jolla on lähes rajattomat sovellukset. Tekoälyn vaarat voivat kuitenkin olla epäselviä. Ovathan robotit vaarallisia? Eivät luonnostaan, mutta kyberhyökkääjät voivat käyttää niitä eri tavoin. On käyttäjien vastuulla päättää, mitä sovelluksia tätä uutta teknologiaa käytetään.