Kuvittele tämä: Olet työssä, keskittyneenä tiukkaan määräaikaan, kun vastaanotat puhelun, joka näyttää tulevan äidisi puhelinnumerosta. Puhelussa oleva ääni on epäilyksettävästi hänen, rauhallinen ja rakastava, mutta epätavallisen hätäisen sävyn kanssa. Hän kertoo joutuneensa vakaviin ongelmiin Pariisissa lomaillessaan ja tarvitsee rahallista apua välittömästi järjestääkseen asiat. Tiedät hänen olevan Pariisissa, ja hän antamat yksityiskohdat, aina hotellin nimeen asti, tekevät puhelun vielä vakuuttavammaksi. Ilman toista ajatteluasi siirrät rahaa, vain löytääksesi myöhemmin, että äitisi ei koskaan soittanut; se oli edistynyt AI-järjestelmä, joka jäljittelee täydellisesti hänen ääntään ja keksii yksityiskohtaisen tilanteen. Värisyttää, kun tajuat, mitä juuri tapahtui.

Tämä skenaario, joka aiemmin oli puhtaasti tieteiskirjallisuutta, on nyt uusi todellisuus. AI-teknologioiden, kuten suurten kielioppimallien (LLM), aamunkoitto on tuonut mukanaan uskomattomia edistysaskelia. On kuitenkin merkittävä uhka: AI-välitteiset huijauskeinot. Näiden edistyneiden huijausten mahdollisuus, jotka perustuvat tekoälyyn, on uusi uhka teknologisen edistysaskeleen horisontissa. Vaikka puhelinhuijaus on ollut huolenaihe puhelimen keksimisestä lähtien, suurten kielioppimallien (LLM) laaja integrointi jokaiseen digitaalisen viestinnän ulottuvuuteen on korottanut panokset dramaattisesti. Koska otamme AI:n mahdollisuudet vastaan, on tärkeää, että myös vahvistamme puolustuksiamme näitä yhä monimutkaisempia uhkia vastaan.

Puhelinhuijausten nykyinen tilanne

Rikolliset ovat yrittäneet petkuttaa tietämättömiä yksilöitä vuosien ajan, saaden heidät siirtämään rahaa tai paljastamaan arkaluontoisia tietoja, mutta vaikka puhelinhuijaus on yleinen, monet näistä huijauksista ovat suhteellisen yksinkertaisia, riippuen ihmisten lukemista käsikirjoituksista. Kuitenkin, vaikka tämä rajoitus on olemassa, puhelinhuijaus jatkuu edelleen tuottavana rikollisena yrityksenä.

Yhdysvaltain kuluttajansuojeluviraston mukaan vuonna 2022 yksin amerikkalaiset menettivät yli 8,8 miljardia dollaria huijauksiin, ja merkittävä osa tästä sumasta voidaan liittää puhelinhuijauksiin, mikä tarkoittaa, että nämä taktiikat toimivat edelleen useiden haavoittuvien yksilöiden kohdalla, vaikka ne ovat nykyisessä, vähemmän kehittyneessä muodossaan. Mitä tapahtuu, kun ne kehittyvät?

AI-välitteisen huijauskeinon tulevaisuus

Puhelinhuijausten maisema on valmis dramaattiseen muutokseen useiden avainTeknologioiden myötä:

Large Language Models (LLMs)

Nämä tekoälyjärjestelmät voivat tuottaa ihmismäistä tekstiä ja osallistua luonnollisiin keskusteluihin. Kun sovellettuja huijauksiin, LLM:t voivat luoda erittäin vakuuttavia ja sopeutuvia käsikirjoituksia, mikä tekee siitä paljon vaikeampaa potentiaalisille uhreille tunnistaa huijaus.

Retrieval-Augmented Generation (RAG)

Tämä teknologia sallii LLM-järjestelmien pääsyn ja käytön laajoihin tietomääriin reaaliajassa. Huijarit voivat luoda profiilin henkilöstä perustuen heidän julkisesti saatavilla oleviin tietoihin, kuten heidän sosiaalisen median tileihin. He voivat myös käyttää sosiaalisen insinöörityön tekniikoita heidän ystävilleen ja perheenjäsenilleen kerätäkseen syvemmän tietoa. Tämä antaa heille pääsyn tietoihin, kuten kohteen identiteettiin, työntekijän tiedoihin tai jopa viimeaikaisiin toimiin. He voivat sitten käyttää RAG:ia antaakseen LLM:lle tarvittavan kontekstin, tehdäkseen heidän lähestymisensä näyttää uskomattoman henkilökohtaiselta ja legitiimiltä.

Synteettinen ääneneritys

Alustat kuten Resemble AI ja Lyrebird ovat johtavia synteettisten, ihmismäisten äänien tuottamisessa. Nämä teknologiat ovat kykeneviä tuottamaan mukautettuja, ihmismäisiä ääniä, joita voidaan käyttää erilaisissa sovelluksissa, aina virtuaaliavustajista automaattiseen asiakaspalveluun ja sisällönluontiin. Yritykset kuten ElevenLabs vievät rajoja eteenpäin sallimalla käyttäjien luoda synteettisiä ääniä, jotka voivat jäljitellä heidän omaa ääntään, mahdollistaen uuden tason mukautuvuutta ja sitoutumista digitaalisissa vuorovaikutuksissa.

Synteettinen videoiden tuottaminen

Yritykset kuten Synthesia ovat jo osoittaneet mahdollisuuksia luoda realistista video sisältöä tekoälyllä luoduilla avatareilla. Tulevina vuosina tämä teknologia voisi sallia huijareiden esittää ystäviä tai perheenjäseniä tai luoda täysin kuvitteellisia henkilöhahmoja videopuheluihin, tuoden aikaisemmin mahdottoman fyysisen realismin huijauksiin.

AI-läppäsynkronointi

Start-up-yritykset kuten Sync Labs kehittävät edistynyttä läppäsynkronointiteknologiaa, joka voi sovittaa generoituja ääniä videomateriaaliin. Tätä voidaan käyttää luomaan erittäin vakuuttavia deep fake -videoita historiallisista hahmoista, poliitikoista, julkkiksista ja lähes kuka tahansa muu, edelleen hämärtäen rajaa todellisuuden ja petoksen välillä.

Näiden teknologioiden yhdistelmä piirtää melko huolestuttavan kuvan. Kuvittele puhelua, jossa AI voi sopeuttaa keskusteluaan reaaliajassa, varustettuna henkilökohtaisilla tiedoilla kohteesta, ja jopa siirtyä videopuheluun, jossa näyttää olevan todellinen henkilö, jonka huulet liikkuvat täydellisessä synkrossa generoidun äänen kanssa. Petoksen mahdollisuus on todella valtava.

Tarve parannetuille turvallisuusjärjestelyille

Kun nämä AI-välitteiset huijauskeinot kehittyvät monimutkaisemmiksi, tunnistamisen ja aitouden varmistamisen menetelmien on vastattava AI-kehityksiin. On oltava sekä sääntely- että teknologisia edistysaskelia, jotta online-maailma voidaan pitää turvallisena.

Sääntelyparannukset

Tiukemmat tietosuojalait: Tiukempien tietosuojalakien toteuttaminen rajoittaisi henkilökohtaisten tietojen määrää, joita huijarit voivat hyödyntää. Nämä lait voivat sisältää tiukemmat vaatimukset tietojen keruulle, vahvistetut käyttäjän suostumusprotokollat ja ankarat rangaistukset tietoturvaloukkauksista.

Yksityinen pilvi infrastruktuuri tehokkaimmille AI-malleille: Sääntely voisi vaatia, että tehokkaimmat AI-mallit isännöidään yksityisillä, turvallisilla pilvi-infrastruktuureilla, eikä niitä tehdä avoimesti saataville. Tämä rajoittaisi pääsyn edistyneimpiin teknologioihin, tehdäkseen huijareiden käytön näille teknologioille vaikeammaksi. (esim. https://security.apple.com/blog/private-cloud-compute/)

Kansainvälinen yhteistyö AI-sääntelyjen osalla: Ottaen huomioon AI-teknologian globaalin luonteen, kansainvälinen yhteistyö sääntelystandardien osalla voisi olla hyödyllistä. Kansainvälisen sääntelyelimen perustaminen, joka vastaa kansainvälisten AI-sääntelyjen luomisesta ja täytäntöönpanosta, voisi auttaa torjumaan rajat ylittäviä AI-aiheisia rikoksia.

Julkinen tietoisuuskampanja: Hallitukset ja sääntelyelimet tulisi investoida julkisiin tietoisuuskampanjoihin, jotta kansalaiset opitaan tietämään AI-huijausten potentiaalisista vaaroista ja siitä, miten he voivat suojella itseään. Tietoisuus on kriittinen ensimmäinen askel valtuuttaa yksilöitä ja organisaatioita toteuttamaan tarvittavat turvallisuusjärjestelyt.

Nykyiset AI-sääntelyt eivät ole riittäviä estämään huijauksia, ja tulevaisuuden sääntelyhaasteita lisää monien voimakkaiden teknologioiden avoimen lähdekoodin luonne. Tämä avoimuus sallii kenen tahansa pääsyn ja muokkaamisen näitä teknologioita omiin tarkoituksiinsa. Tuloksena, vahvempien sääntelyjen ohella tarvitaan edistysaskelia turvallisuusteknologioissa.

Synteettisen datan havaitseminen

Synteettisen äänen havaitseminen: Kun huijarit käyttävät AI:ta, meidänkin on käytettävä sitä. Yritykset kuten Pindrop kehittävät AI-pohjaisia järjestelmiä, jotka voivat havaita synteettisen äänen reaaliajassa puheluiden aikana. Heidän teknologiansa analysoi yli 1 300 ominaisuutta puhelun äänestä määrittääkseen, onko se peräisin aidosta henkilöstä vai kehittyneestä AI-järjestelmästä.

Synteettisen videon havaitseminen: Synteettisen videon havaitseminen: Kuten ääni voidaan manipuloida AI:lla, voidaan myös video, mikä aiheuttaa merkittäviä uhkia deep fake – ja muiden synteettisten video sisältöjen muodossa. Yritykset kuten Deepware johtavat synteettisen videon havaitsemisen kehitystä. Deepwaren alusta käyttää edistynyttä koneoppimisalgoritmeja analysoimaan video datan pieniä epäjohdonmukaisuuksia, kuten epäluonnollisia liikkeitä, epäsäännöllistä valaistusta ja pikselien poikkeamia, jotka ovat usein läsnä AI-generoituissa sisällöissä. Tunnistamalla nämä ristiriidat, Deepwaren teknologia voi määrittää, onko video aito vai onko se manipuloitu, auttaen yksilöitä ja organisaatioita suojelemaan itsensä huijauksilta ja virheellisiltä tietoilta.

Tunnistamisen edistäminen

On kehitteillä useita tapoja vahvistaa käyttäjän identiteetin vahvistamiseksi, ja yksi tai useampi näistä tulee yleistyväksi tulevina vuosina, tehdäkseen internetistä turvallisemman.

Kaksivaiheinen todennus etäkeskusteluissa: Kaksivaiheinen todennus (2FA) on edelleen perustavanlaatuinen osa turvallista viestintää. Tässä menetelmässä jokainen puhelu tai sähköposti laukaisee tekstiviestin, jossa on yksilöllinen vahvistuskoodi, samalla tavoin kuin nykyiset sähköpostin rekisteröintitilanteet. Vaikka 2FA on tehokas perustodennuksessa, sen rajoitukset tarkoittavat, ettei sitä voida luottaa kaikissa konteksteissa, mikä edellyttää edistyneempien menetelmien kehittämistä, jotta voidaan varmistaa kattava internet-turva, joka toimii taustalla.

Käyttäytymiseen perustuva monivaiheinen todennus: Käyttäytymiseen perustuva monivaiheinen todennus: Menetelmiä, jotka analysoivat käyttäjän käyttäytymistä koko vuorovaikutuksen ajan, voidaan kehittää tulevaisuudessa. Yritykset kuten BioCatch käyttävät käyttäytymiseen perustuvaa biometriikkaa luomaan käyttäjäprofiileja, jotka perustuvat siihen, miten yksilöt vuorovaikuttavat laitteidensa kanssa. Tämä teknologia voi havaita poikkeamia käyttäytymisessä, jotka saattavat osoittaa, että huijari käyttää varastettua tietoa, vaikka he olisivat läpäisseet alkuperäiset todennustarkistukset.

Biometrisen todennuksen perusteella: Yritykset kuten Onfido ovat edelläkävijöitä biometrisessä todennus teknologiassa, tarjoten tekoälypohjaisia identiteetin vahvistamisen työkaluja, jotka havaitsevat monimutkaiset deep fake -huijaukset ja muut identiteettivarkauden muodot. Heidän järjestelmänsä käyttää asiakirjojen vahvistusta ja biometrisen analyysin yhdistelmää varmistaakseen, että henkilö toisessa päässä puhelua tai videoneuvottelua on todella se, jonka he väittävät olevansa.

Edistynyt tietämykseen perustuva todennus: Tulevaisuuden todennusjärjestelmissä voidaan käyttää dynaamisia, AI-generoituja kysymyksiä, jotka perustuvat käyttäjän digitaaliseen jäljittämiseen ja viimeaikaisiin toimiin. Esimerkiksi Prove, yritys, joka on erikoistunut puhelin keskeiseen identiteettiin, kehittää ratkaisuja, jotka hyödyntävät puhelin tiedustelua ja käyttäytymisanalytiikkaa identiteetin vahvistamiseen. Heidän teknologiansa voi analyysin puhelimen käytöstä luoda yksilöllisen “identiteetin allekirjoituksen”, joka on huomattavasti vaikeampi huijareille jäljitellä.

Blockchain-pohjainen identiteetin vahvistus: Blockchain-tekniikka tarjoaa hajautetun ja muuttamattoman tavan identiteetin vahvistamiseen. Yritykset kuten Civic ovat edelläkävijöitä blockchain-pohjaisissa identiteetin vahvistusjärjestelmissä, jotka sallivat käyttäjien hallita henkilökohtaisia tietojaan samalla, kun tarjoavat turvallisen todennuksen. Nämä järjestelmät luovat vahvistetun, muuttamattoman rekisterin henkilön identiteetistä, joka on erinomainen hallitsemassa korkean riskin transaktioita.

Johtopäätös

Suurten kielioppimallien, RAG:n, synteettisen äänenerityksen, synteettisen videoiden tuottamisen ja läppäsynkronoinnin yhdistyminen on jonkinlainen kaksiteräinen miekka. Vaikka nämä edistysaskeleet tarjoavat valtavan potentiaalin myönteisiin sovelluksiin, ne myös asettavat merkittäviä riskejä, kun ne hyödytetään huijareiden toimesta.

Tämä jatkuva asekilpailu turvallisuusasiantuntijoiden ja kyberrikollisten välillä korostaa jatkuvan innovaation ja valppauden tarvetta digitaalisen turvallisuuden alalla. Voimme työskennellä hyödyntääksemme näiden voimakkaiden työkalujen hyödyt samalla, kun lievennämme niiden potentiaalista vahinkoa, vain tunnustamalla ja valmistautumalla näihin riskeihin.

Kattava sääntely, koulutus näistä uusista huijausmuodoista, investointi viimeisimmän turvallisuusjärjestelyjen kehittämiseen ja ehkä ennen kaikkea terve skeptisismi jokaiselta meistä, kun vuorovaikutamme tuntemattomien tahojen kanssa verkossa tai puhelimitse, on olennaisen tärkeää navigoidessa uudessa maisemassa.