Uusi aikakausi johtajan impersonoinnissa ei liity johtajiin lainkaan

Vuosien ajan suurin digitaalinen uhka brändeille oli johtajan impersonointi, usein toteutettu väärennetyillä sähköpostiositteilla tai huijauksellisilla sosiaalisen median tileillä. Tänään kohtaamme monimutkaisemman ja vakuuttavamman vihollisen: tekoälyagentit.

Automaattisten agenttien nousu, jotka on suunniteltu toimimaan vähän tai ei ollenkaan ihmisen välikädellä, on avaanut uusia mahdollisuuksia, jotka muistuttavat innostusta, jota nähtiin varhaisessa web2- ja mobiiliosoittimen aikakaudella.

Vaikka todella autonomiset agentit eivät ole vielä tehneet loikkaa visiosta todellisuuteen, asiantuntijat varoittavat, että ne voivat päästä liikkumaan yritysverkoissa jo ensi vuonna. Seurauksena oleva innostus ja omaksuminen tulevat väistämättä päätyämään jatkuvasti mukautuvien kyberrikollisten radarille, jotka näkevät autonomiset agentit uutena rintamana digitaalisen petoksen vuoksi. Mitä tapahtuu, kun nämä agentit jäljitellään? Tai pahemminkin, kun he ovat itse jäljittelijät?

Samaan tapaan kuin mobiilisoittimet kohtasivat aallon väärennettyjä versioita, jotka oli suunniteltu keräämään kirjautumistietoja tai asentamaan haittaohjelmia, tekoälyagentit ovat nyt valmiit kohtaamaan samanlaisen aallon kopioita. Tällä kertaa kuitenkin riski on vaikeampi havaita, ja vahingot voivat olla laajempia.

Johtajan impersonoinnista agentin väärentämiseen

Tekoäly on jo avaanut uusia petos- ja harhan reittejä, joille on ominaista äänen kloonausskandaalit, jotka voivat jäljitellä johtajan puhetapoja vain muutamassa sekunnissa ääntä, ja viime aikoina on raportoitu todisteita reaaliaikaisista deepfake-videosta ja äänipohjaisista impersonoinneista. Nyt kuvittele autonomisen agentin, joka edustaa yritystäsi, vuorovaikutusasiakkaiden, sijoittajien tai kumppaneiden kanssa. Tämä agentti voisi olla upotettu verkkosivustolle, integroitu chatbottiin tai jopa vuorovaikuttaa sähköpostin kautta, tarjoten uskottavia, ammattimaisia ja täysin väärennettyjä vuorovaikutuksia.

Kopioagenttien edeltäjä saattaa olla ” vankilamurto ” -malleissa, joissa uhka-aktöörit manipuloivat LLM: iä usein käyttämällä ohjelmointipistettä tai monivaiheisia tekniikoita tuottamaan haitallisia tai muuten vääriä tuloksia. Mutta tämä on vain alku.

PitchBookin mukaan tekoälyyritykset keräsivät 131,5 miljardia dollaria vuonna 2024, mikä vastasi yli kolmannesta maailmanlaajuisista riskisijoitussopimuksista. Tekoälykilpailu, jota ajavat urheilijat, nälkäiset sijoittajat ja innokkaat hallitukset, kiihdyttää nopeasti tämän uuden teknologian kykyjä, jonka lailliset käyttötarkoitukset jatkavat olemassa olevien pahantahtoisten tarkoitusten hyväksikäytön vuoksi.

Generatiivinen tekoäly on ja tulee jatkamaan tällaisten agenttien luomisen demokratisoimista. Kun alustat kilpailevat niiden integroimisesta, harvat varmistusmenetelmät ovat olemassa todistamaan heidän aitouttaan. Tämä avaa oven uudenlaiselle impersonoinnille: ei vain ihmisten, vaan myös ohjelmistojen.

Herätyskutsu innostuneille brändeille ja uteliaille kuluttajille

Kuluttajat ja brändit ovat vasta aloittamassa ymmärtämään, mitä se tarkoittaa luottaa agenttiin. Mutta luottamus on jokaisen digitaalisen vuorovaikutuksen avain, ja kun se rikkoontuu, seuraukset voivat olla tuhoisia.

Kuten on havaittu deepfake-videoiden ja äänen kloonaamisen kohdalla, väärennettyjä agentteja voidaan käyttää:

• Keräämään maksuja tai arkaluontoisia tietoja vakiintuneen tai muuten luotettavan brändin nimissä
• Ohjaamaan käyttäjiä haittaohjelmilla täytetyille verkkosivuille sosiaalisen median yksityisviestien tai maksullisten mainosten kautta
• Heikentämään asiakastiedon luottamusta ja laukaisemalla maineen vahinkoa laajassa mittakaavassa

Viimeaikaisen Federal Trade Commission raportin mukaan impersonointiskandaalit olivat vastuussa lähes 3 miljardista dollarista ilmoitetuista tappioista Yhdysvalloissa – luku, joka odotetaan nousevan terävästi, kun tekoälyimpersonointi tulee entistä sulavammaksi ja skaalautuvammaksi.

Väärennettyjen agenttien leviäminen: mainokset, hakukoneet ja sosiaalinen media

Mitä on erityisen vaarallista, on se, miten kopioagentit tulevat levittämään. He eivät tarvitse omia verkkosivuja tai verkkotunnuksia saadakseen jalansijaa. Pahantahtoiset toimijat voivat ja käyttävät maksullisia hakutuloksia ja sosiaalisen median alustoja edistääkseen vahingollisia brändien, johtajien tai tuotteiden kopioita. Esimerkiksi Googlella oleva maksullinen linkki tai Instagramissa oleva mainos on riittävä ohjatakseen epäiltyjä käyttäjiä väärennettyyn agenttiin tai tukipalveluun.

Tämä ekosysteemitasoisen riskin, jossa pahantahtoiset toimijat kaappaavat laillisen digitaalisen kiinteistön edistääkseen skandaaleja, vaatii uudenlaisen ajattelutavan kyberTurvallisuuden vuoksi. Se ei ole enää riittävää suojella verkkoverkkoa, pilviä tai turvata työntekijöiden tunnistetietoja. Brändin uhka-alue käsittää nyt jokaisen mainosverkon, hakupalvelun ja kolmannen osapuolen työkalun, jonka kanssa asiakkaasi vuorovaikuttavat.

Toimiminen ennen kuin on liian myöhäistä

Menemme maailmaan, jossa rajat ihmisien ja agenttien välillä hämärtyvät yhä enemmän. Uhka ei ole enää vain ihmisten impersonointi, joka on tällä hetkellä eksponentiaalisen kasvun aiheuttama johtuen saatavilla olevista tekoälytyökaluista, vaan digitaalisten hahmojen impersonointi.

Mitä voivat yritykset tehdä valmistautuakseen?

1. Kartuta brändin digitaalinen läsnäolo: Tiedä, missä asiakkaasi vuorovaikuttavat yrityksesi ja agenttienne kanssa – olipa se verkkosivustolla, API: n kautta tai kolmannen osapuolen kautta – ja seuraa aktiivisesti näitä pääsykohtia väärentämisen yrityksistä.
2. Seuraa uusia agenttien ekosysteemejä: Kun avoimet agenttien markkinat ja alustat (kuten Hugging Face Spaces) saavat suosiota, ole valppaana kopioista tai haaroista työkaluistasi, jotka ilmestyvät muualla.
3. Lyhennä havaitsemisaikaa (TTD) ja korjaamisaikaa (TTR): Käytä ratkaisuja, jotka mahdollistavat nopeasti tunnistaa ja poistaa impersonaattoreita, erityisesti niitä, jotka hyödyntävät maksullisia mainoksia tai sosiaalisen median alustoja, on keskeistä vahinkojen rajoittamiseksi.
4. Kouluta käyttäjiäsi: Rakenna avoimuutta agenttien kokemuksiisi. Käyttäjiesi tulee ymmärtää, missä ja miten heidän odottaa vuorovaikuttavan työkalujen kanssa, ja miten havaita punaisia lippuja.
5. Perusta agenttien aitouden protokollat: Työskentele salaus- tai metatietopohjaisen vahvistuksen parissa, joka voi vahvistaa agentin alkuperän ja laillisuuden.

Ratkaisu piilee tekoälyagenttien ekosysteemin turvaamisessa, ei välttämisessä. Samaan tapaan kuin olemme oppineet vahvistamaan verkkotunnuksia, todentamaan sähköposteja ja tarkastamaan mobiilisoittimia vuosikymmeninä, meidän on nyt laajennettava samaa tarkkaavaisuutta tekoälyagenttien maailmaan. Jos emme pääse eteenpäin agenttien impersonoinnista nyt, saattaisimme pian löytää itsellemme puhuvan tutun näköisen avustajan, joka työskentelee toisella puolella.