Deepfakes i AI: Uvidi iz Pindropovog izvješća o glasovnoj inteligenciji i sigurnosti za 2024.

Brzi napredak umjetne inteligencije (AI) donio je značajne prednosti i transformativne promjene u raznim industrijama. Međutim, donio je i nove rizike i izazove, posebice kada je riječ o prevara i sigurnosti. Deepfakes, proizvod od generativni AI, postaju sve sofisticiraniji i predstavljaju značajnu prijetnju integritetu glasovni sigurnosni sustavi.

Nalazi iz Pindropovo izvješće o glasovnoj inteligenciji i sigurnosti za 2024, ističu utjecaj deepfakeova na različite sektore, tehnološki napredak koji pokreće te prijetnje i inovativna rješenja koja se razvijaju za borbu protiv njih.

Uspon Deepfakesa: dvosjekli mač

Deepfakes koriste napredne algoritmi strojnog učenja za stvaranje vrlo realističnog sintetički audio i video sadržaj. Iako ove tehnologije imaju uzbudljivu primjenu u zabavi i medijima, one također predstavljaju ozbiljne sigurnosne izazove. Prema Pindropovom izvješću, potrošači u SAD-u najviše su zabrinuti zbog rizika od deepfakeova i glasovnih klonova u bankarskom i financijskom sektoru, pri čemu ih je 67.5% izrazilo značajnu zabrinutost.

Utjecaj na financijske institucije

Financijske institucije posebno su osjetljive na deepfake napade. Prevaranti koriste glasove generirane umjetnom inteligencijom kako bi se predstavljali kao pojedinci, dobili neovlašteni pristup računima i manipulirali financijskim transakcijama. Izvješće otkriva da je 2023. godine došlo do rekordnog broja ugroženih podataka, ukupno 3,205 incidenata — povećanje od 78% u odnosu na prethodnu godinu. Prosječna cijena povrede podataka u Sjedinjenim Državama sada iznosi 9.5 milijuna dolara, a kontaktni centri snose najveći teret sigurnosnih posljedica.

Jedan značajan slučaj uključivao je korištenje a deepfake voice kako bi prevario tvrtku sa sjedištem u Hong Kongu da prebaci 25 milijuna dolara, ističući razoran potencijal ovih tehnologija kada se koriste zlonamjerno.

Šire prijetnje medijima i politici

Osim financijskih usluga, deepfake također predstavlja značajan rizik za medije i političke institucije. Sposobnost stvaranja uvjerljivog lažnog audio i video sadržaja može se koristiti za širenje dezinformacija, manipuliranje javnim mnijenjem i potkopavanje povjerenja u demokratske procese. U izvješću se navodi da je 54.9% potrošača zabrinuto zbog prijetnje deepfakea političkim institucijama, dok se 54.5% brine o njihovom utjecaju na medije.

Godine 2023. tehnologija deepfake bila je umiješana u nekoliko incidenata visokog profila, uključujući napad robocall koji je koristio sintetički glas predsjednika Bidena. Takvi incidenti naglašavaju hitnost razvoja snažnih mehanizama otkrivanja i prevencije.

Tehnološki napredak pokreće Deepfake

Proliferacija generativnih AI alata, kao što su OpenAI-jev ChatGPT, Googleov Bard i Microsoftov Bing AI, značajno je smanjio prepreke stvaranju deepfakeova. Danas se više od 350 generativnih AI sustava koristi za različite aplikacije, uključujući Eleven Labs, Descript, Podcastle, PlayHT i Speechify. Microsoftov VALL-E model, na primjer, može klonirati glas iz samo tri sekunde audio zapisa.

Ova tehnološka poboljšanja učinila su deepfake jeftinijim i lakšim za proizvodnju, povećavajući njihovu dostupnost dobroćudnim korisnicima i zlonamjernim akterima. Do 2025. Gartner predviđa da će 80% konverzacijskih AI ponuda uključivati ​​generativnu AI, u odnosu na 20% u 2023..

Borba protiv Deepfakea: Pindropove inovacije

Kako bi se uhvatio u koštac s rastućom prijetnjom deepfakeova, Pindrop je predstavio nekoliko vrhunskih rješenja. Jedan od najznačajnijih je Pulse Deepfake jamstvo, prvo jamstvo te vrste koje nadoknađuje kvalificiranim kupcima ako Pindropov Product Suite ne uspije otkriti deepfake ili drugu sintetičku glasovnu prijevaru. Ova inicijativa ima za cilj pružiti bezbrižnost klijentima dok pomiče granice u mogućnostima otkrivanja prijevara.

Tehnološka rješenja za povećanje sigurnosti

Pindropovo izvješće ističe učinkovitost njegove tehnologije otkrivanja živosti, koja analizira telefonske pozive uživo za spektro-vremenske značajke koje pokazuju je li glas u pozivu "živ" ili sintetički. U internom testiranju, Pindropovo rješenje za detekciju živosti pokazalo se 12% preciznije od sustava za prepoznavanje glasa i 64% preciznije od ljudi u prepoznavanju sintetičkih glasova.

Dodatno, Pindrop koristi integriranu multifaktorsku prevenciju prijevare i autentifikaciju, koristeći glas, uređaj, ponašanje, metapodatke operatera i signale živosti za poboljšanje sigurnosti. Ovaj višeslojni pristup značajno podiže ljestvicu za prevarante, čineći im sve težim uspjeh.

Budući trendovi i pripravnost

Gledajući unaprijed, izvješće o prognozama da će deepfake prijevare nastaviti rasti, predstavljajući rizik od 5 milijardi dolara samo za kontakt centre u SAD-u. Sve veća sofisticiranost sustava za pretvaranje teksta u govor, u kombinaciji s jeftinom tehnologijom sintetičkog govora, predstavlja stalne izazove.

Kako bi ostao ispred ovih prijetnji, Pindrop preporučuje tehnike ranog otkrivanja rizika, kao što je otkrivanje lažiranja ID-a pozivatelja i kontinuirano otkrivanje prijevara, za praćenje i ublažavanje prijevarnih aktivnosti u stvarnom vremenu. Implementacijom ovih naprednih sigurnosnih mjera, organizacije se mogu bolje zaštititi od rastućeg krajolika prijevara potaknutih umjetnom inteligencijom.

Zaključak

Pojava deepfakeova i generativne umjetne inteligencije predstavlja značajan izazov u području prijevara i sigurnosti. Pindropovo izvješće o glasovnoj inteligenciji i sigurnosti za 2024. naglašava hitnu potrebu za inovativnim rješenjima za borbu protiv ovih prijetnji. S napretkom u detekciji živosti, autentifikaciji s više faktora i sveobuhvatnim strategijama za sprječavanje prijevara, Pindrop je na čelu napora da osigura budućnost glasovnih interakcija. Kako se tehnološki krajolik nastavlja razvijati, tako se moraju razvijati i naši pristupi osiguravanju sigurnosti i povjerenja u digitalnom dobu.