Deepfakes un AI: ieskats no Pindrop 2024. gada balss izlūkošanas un drošības ziņojuma

Mākslīgā intelekta (AI) straujā attīstība ir devusi ievērojamus ieguvumus un pārveidojošas izmaiņas dažādās nozarēs. Tomēr tas ir radījis arī jaunus riskus un izaicinājumus, jo īpaši, ja runa ir par krāpšana un drošība. Deepfakes, produkts no ģeneratīvais AI, kļūst arvien sarežģītākas un rada būtiskus draudus integritātei balss drošības sistēmas.

Secinājumi no Pindrop 2024. gada balss izlūkošanas un drošības ziņojums, izceļ dziļo viltojumu ietekmi uz dažādām nozarēm, tehnoloģiskos sasniegumus, kas rada šos draudus, un novatoriskus risinājumus, kas tiek izstrādāti to apkarošanai.

Dziļo viltojumu pieaugums: abpusgriezīgs zobens

Deepfakes izmanto uzlabotas mašīnmācīšanās algoritmi izveidot ļoti reālistisku sintētiskais audio un video saturs. Lai gan šīm tehnoloģijām ir aizraujoši pielietojumi izklaidē un plašsaziņas līdzekļos, tās rada arī nopietnas drošības problēmas. Saskaņā ar Pindrop ziņojumu ASV patērētājus visvairāk satrauc dziļo viltojumu un balss klonu risks banku un finanšu sektorā, un 67.5% pauž nopietnas bažas.

Ietekme uz finanšu iestādēm

Finanšu iestādes ir īpaši neaizsargātas pret viltotiem uzbrukumiem. Krāpnieki izmanto mākslīgā intelekta radītas balsis, lai uzdotos par personām, iegūtu nesankcionētu piekļuvi kontiem un manipulētu ar finanšu darījumiem. Ziņojums atklāj, ka 2023. gadā bija rekordliels datu kompromitēšanas gadījumu skaits, kopā 3,205 incidenti, kas ir par 78% vairāk nekā iepriekšējā gadā. Datu pārkāpuma vidējās izmaksas Amerikas Savienotajās Valstīs tagad sasniedz 9.5 miljonus USD, un kontaktu centri uzņemas lielāko daļu drošības problēmu.

Viens ievērojams gadījums bija saistīts ar a deepfake voice, lai maldinātu Honkongā bāzētu firmu pārskaitīt 25 miljonus dolāru, uzsverot šo tehnoloģiju postošo potenciālu, ja tās tiek izmantotas ļaunprātīgi.

Plašāki draudi medijiem un politikai

Papildus finanšu pakalpojumiem, dziļi viltojumi rada arī ievērojamus riskus medijiem un politiskajām institūcijām. Spēju izveidot pārliecinošu viltotu audio un video saturu var izmantot, lai izplatītu dezinformāciju, manipulētu ar sabiedrisko domu un grautu uzticību demokrātiskajiem procesiem. Ziņojumā norādīts, ka 54.9% patērētāju ir nobažījušies par dziļo viltojumu draudiem politiskajām institūcijām, bet 54.5% uztraucas par to ietekmi uz plašsaziņas līdzekļiem.

2023. gadā dziļās viltošanas tehnoloģija tika iesaistīta vairākos skaļos incidentos, tostarp a Robocall uzbrukums, kurā tika izmantota prezidenta Baidena sintētiskā balss. Šādi incidenti uzsver, ka steidzami jāizstrādā stabili atklāšanas un novēršanas mehānismi.

Tehnoloģiskie sasniegumi dziļo viltojumu vadīšanā

Ģeneratīvo AI rīku, piemēram, OpenAI ChatGPT, Google Bard un Microsoft Bing AI, izplatība ir ievērojami samazinājusi šķēršļus dziļo viltojumu izveidei. Mūsdienās vairāk nekā 350 ģeneratīvas AI sistēmas tiek izmantotas dažādām lietojumprogrammām, tostarp Eleven Labs, Descript, Podcastle, PlayHT un Speechify. Piemēram, Microsoft VALL-E modelis var klonēt balsi tikai no trīs sekunžu audio klipa.

Šie tehnoloģiskie sasniegumi ir padarījuši dziļos viltojumus lētākus un vieglāk ražojamus, palielinot to pieejamību gan labdabīgiem lietotājiem, gan ļaunprātīgiem dalībniekiem. Līdz 2025. Gartner prognozē, ka 80% sarunvalodas AI piedāvājuma ietvers ģeneratīvo AI, salīdzinot ar 20% 2023. gadā..

Cīņa ar dziļo viltojumu: Pindrop jauninājumi

Lai novērstu pieaugošos dziļo viltojumu draudus, Pindrop ir ieviesis vairākus progresīvus risinājumus. Viens no ievērojamākajiem ir Pulse Deepfake garantija, pirmā šāda veida garantija, kas atlīdzina tiesīgajiem klientiem, ja Pindrop's Product Suite neizdodas atklāt dziļu viltojumu vai citu sintētisku balss krāpšanu. Šīs iniciatīvas mērķis ir nodrošināt klientiem sirdsmieru, vienlaikus uzlabojot krāpšanas atklāšanas iespējas.

Tehnoloģiskie risinājumi drošības uzlabošanai

Pindrop ziņojumā ir uzsvērta tā dzīvīguma noteikšanas tehnoloģijas efektivitāte, kas analizē tiešraides tālruņa zvanus, lai noteiktu spektrolaika pazīmes, kas norāda, vai zvana balss ir “tiešraide” vai sintētiska. Iekšējā pārbaudē tika konstatēts, ka Pindrop dzīvīguma noteikšanas risinājums ir par 12% precīzāks nekā balss atpazīšanas sistēmas un par 64% precīzāks nekā cilvēkiem, nosakot sintētiskās balsis.

Turklāt Pindrop izmanto integrētu daudzfaktoru krāpšanas novēršanu un autentifikāciju, izmantojot balss, ierīces, uzvedības, operatora metadatus un dzīvības signālus, lai uzlabotu drošību. Šī daudzslāņu pieeja ievērojami paaugstina krāpnieku latiņu, padarot viņiem arvien grūtāku panākumus.

Nākotnes tendences un gatavība

Skatoties uz priekšu, ziņojumu prognozes ka dziļi viltota krāpšana turpinās pieaugt, radot 5 miljardu dolāru risku kontaktu centriem ASV vien. Teksta pārvēršanas runā sistēmu pieaugošā sarežģītība apvienojumā ar zemu izmaksu sintētiskās runas tehnoloģiju rada pastāvīgas problēmas.

Lai izvairītos no šiem draudiem, Pindrop iesaka agrīnas riska noteikšanas paņēmienus, piemēram, zvanītāja ID viltošanas atklāšanu un nepārtrauktu krāpšanas atklāšanu, lai uzraudzītu un mazinātu krāpnieciskas darbības reāllaikā. Ieviešot šos uzlabotos drošības pasākumus, organizācijas var labāk aizsargāties pret mākslīgā intelekta izraisītas krāpšanas ainavas attīstību.

Secinājumi

Deepfake un ģeneratīvā AI parādīšanās ir nozīmīgs izaicinājums krāpšanas un drošības jomā. Pindrop 2024. gada balss izlūkošanas un drošības pārskatā uzsvērta steidzama nepieciešamība pēc inovatīviem risinājumiem, lai cīnītos pret šiem draudiem. Pateicoties uzlabojumiem dzīvīguma noteikšanā, daudzfaktoru autentifikācijā un visaptverošām krāpšanas novēršanas stratēģijām, Pindrop ir centienu priekšgalā, lai nodrošinātu balss mijiedarbības nākotni. Tā kā tehnoloģiju ainava turpina attīstīties, arī mūsu pieejai, lai nodrošinātu drošību un uzticēšanos digitālajā laikmetā, ir jāattīstās.