Mélyhamisítások és mesterséges intelligencia: Betekintések a Pindrop 2024-es hangintelligencia- és biztonsági jelentéséből

A mesterséges intelligencia (AI) gyors fejlődése jelentős előnyöket és átalakuló változásokat hozott a különböző iparágakban. Ugyanakkor új kockázatokat és kihívásokat is felvett, különösen, amiről van szó csalás és a biztonság. Deepfakes, terméke generatív AI, egyre kifinomultabbak, és jelentős veszélyt jelentenek az integritásra nézve hangalapú biztonsági rendszerek.

A leletek a A Pindrop 2024-es hangintelligencia- és biztonsági jelentése, kiemeli a mélyhamisítások hatását a különböző szektorokra, az ezeket a fenyegetéseket előidéző ​​technológiai fejlesztéseket, valamint a leküzdésükre kifejlesztett innovatív megoldásokat.

A mélyhamisítások felemelkedése: Kétélű kard

A mélyhamisítások fejlettet használnak gépi tanulási algoritmusok hogy rendkívül realisztikus szintetikus audio- és videotartalom. Noha ezeknek a technológiáknak izgalmas alkalmazásai vannak a szórakoztatásban és a médiában, komoly biztonsági kihívásokat is jelentenek. A Pindrop jelentése szerint az amerikai fogyasztókat leginkább a mélyhamisítások és a hangklónok kockázata aggasztja a banki és pénzügyi szektorban, 67.5%-uk pedig jelentős aggodalmat fejez ki.

A pénzügyi intézményekre gyakorolt ​​hatás

A pénzintézetek különösen ki vannak téve a mélyhamisított támadásoknak. A csalók mesterséges intelligencia által generált hangokat használnak egyének megszemélyesítésére, számlákhoz való jogosulatlan hozzáférésre és pénzügyi tranzakciók manipulálására. A jelentésből kiderül, hogy 2023-ban rekordszámú adatkompromittálódás történt, összesen 3,205 incidens, ami 78%-os növekedés az előző évhez képest. Egy adatszivárgás átlagos költsége az Egyesült Államokban jelenleg 9.5 millió dollár, és a kapcsolattartó központok viselik a biztonsági károk legnagyobb részét.

Az egyik figyelemre méltó eset az a mély hamis hang, hogy megtévesszen egy hongkongi székhelyű céget 25 millió dollár átutalásával, kiemelve e technológiákban rejlő pusztító potenciált, ha rosszindulatúan használják őket.

Szélesebb körű veszélyek a médiára és a politikára

A pénzügyi szolgáltatásokon túl a mélyhamisítások jelentős kockázatot jelentenek a médiára és a politikai intézményekre nézve is. A meggyőző hamis hang- és videótartalom létrehozásának képessége felhasználható téves információk terjesztésére, a közvélemény manipulálására és a demokratikus folyamatokba vetett bizalom aláásására. A jelentés megjegyzi, hogy a fogyasztók 54.9%-a aggódik a mélyhamisítások politikai intézményeket fenyegető veszélye miatt, míg 54.5%-a a médiára gyakorolt ​​hatása miatt.

2023-ban a mélyhamisítási technológia több nagy horderejű incidensben is szerepet játszott, köztük a robocal támadás, amely Biden elnök szintetikus hangját használta. Az ilyen incidensek rávilágítanak arra, hogy sürgősen szükség van robusztus észlelési és megelőzési mechanizmusok kidolgozására.

Technológiai fejlesztések a mélyhamisítások vezetésében

Az olyan generatív mesterséges intelligencia eszközök elterjedése, mint az OpenAI ChatGPT, a Google Bard és a Microsoft Bing AI, jelentősen csökkentette a mélyhamisítások létrehozásának akadályait. Manapság több mint 350 generatív AI-rendszert használnak különféle alkalmazásokhoz, beleértve az Eleven Labs-t, a Descript-et, a Podcastle-t, a PlayHT-t és a Speechify-t. A Microsoft VALL-E modellje például csak egy három másodperces hangfelvételből képes hangot klónozni.

Ezek a technológiai fejlesztések olcsóbbá és könnyebben gyárthatóvá tették a mélyhamisításokat, növelve azok hozzáférhetőségét mind a jóindulatú felhasználók, mind a rosszindulatú szereplők számára. 2025-ig A Gartner előrejelzése szerint a társalgási AI-ajánlatok 80%-a tartalmaz majd generatív MI-t, szemben a 20-as 2023%-kal..

Küzdelem a mélyhamisításokkal: Pindrop's Innovations

A mélyhamisítások növekvő veszélyének kezelésére a Pindrop számos élvonalbeli megoldást vezetett be. Az egyik legfigyelemreméltóbb a Pulse Deepfake garancia, a maga nemében elsőrangú garancia, amely megtéríti a jogosult ügyfeleknek, ha a Pindrop termékcsomagja nem észlel egy mélyhamisítást vagy más szintetikus hangcsalást. Ennek a kezdeményezésnek az a célja, hogy nyugalmat biztosítson az ügyfeleknek, miközben megnöveli a csalásfelderítési lehetőségeket.

Technológiai megoldások a biztonság fokozására

A Pindrop jelentése kiemeli az élességérzékelő technológiájának hatékonyságát, amely elemzi az élő telefonhívásokat spektro-időbeli jellemzők után, amelyek jelzik, hogy a hívás hangja „élő” vagy szintetikus. A belső tesztelés során a Pindrop életerő-érzékelő megoldása 12%-kal pontosabbnak bizonyult, mint a hangfelismerő rendszerek, és 64%-kal pontosabb, mint az embereké a szintetikus hangok azonosításában.

Ezenkívül a Pindrop integrált, többtényezős csalásmegelőzést és hitelesítést alkalmaz, a hang-, eszköz-, viselkedés-, szolgáltatói metaadatokat és élénkítő jeleket felhasználva a biztonság fokozása érdekében. Ez a többrétegű megközelítés jelentősen megemeli a lécet a csalók előtt, így egyre nehezebbé válik a sikerük.

Jövőbeli trendek és felkészültség

A jövőre nézve a jelentés előrejelzéseket hogy a mélyhamisítás tovább fog növekedni, ami 5 milliárd dolláros kockázatot jelent csak az Egyesült Államokban működő kapcsolattartó központokra nézve. A szövegfelolvasó rendszerek növekvő kifinomultsága az alacsony költségű szintetikus beszédtechnológiával kombinálva folyamatos kihívásokat jelent.

E fenyegetések megelőzésére a Pindrop korai kockázatészlelési technikákat ajánl, mint például a hívóazonosító-hamisítás észlelése és a folyamatos csalásészlelés a csaló tevékenységek valós időben történő nyomon követésére és mérséklésére. Ezeknek a fejlett biztonsági intézkedéseknek a végrehajtásával a szervezetek jobban megvédhetik magukat a mesterséges intelligencia által vezérelt csalások változó környezetével szemben.

Következtetés

A mélyhamisítások és a generatív mesterséges intelligencia megjelenése jelentős kihívást jelent a csalás és a biztonság területén. A Pindrop 2024-es hangintelligencia és -biztonsági jelentése kiemeli, hogy sürgősen szükség van innovatív megoldásokra e fenyegetések leküzdésére. Az élénkség-felismerés, a többtényezős hitelesítés és az átfogó csalásmegelőzési stratégiák fejlődésével a Pindrop a hangalapú interakciók jövőjének biztosítására irányuló erőfeszítések élvonalába tartozik. Ahogy a technológiai környezet folyamatosan fejlődik, a digitális korban a biztonságot és a bizalmat biztosító megközelítéseinknek is ki kell terjedniük.