Głębokie fałszywki i sztuczna inteligencja: Wnioski z raportu Pindrop o wywiadownictwie głosowym i bezpieczeństwie z 2024 roku

Szybki postęp sztucznej inteligencji (AI) przyniósł znaczne korzyści i przemiany w różnych branżach. Jednak również wprowadził nowe ryzyka i wyzwania, szczególnie w odniesieniu do oszustw i bezpieczeństwa. Głębokie fałszywki, produkt generatywnej sztucznej inteligencji, stają się coraz bardziej zaawansowane i stanowią znaczne zagrożenie dla integralności systemów bezpieczeństwa opartych na głosie.

Wyniki raportu Pindrop o wywiadownictwie głosowym i bezpieczeństwie z 2024 roku podkreślają wpływ głębokich fałszywek na różne sektory, postępy technologiczne napędzające te zagrożenia oraz innowacyjne rozwiązania opracowywane w celu ich zwalczania.

Wzrost głębokich fałszywek: miecz obosieczny

Głębokie fałszywki wykorzystują zaawansowane algorytmy uczenia maszynowego do tworzenia wysokiej jakości syntetycznych treści audio i wideo. Chociaż te technologie mają interesujące zastosowania w rozrywce i mediach, stanowią również poważne wyzwania bezpieczeństwa. Według raportu Pindrop, amerykańscy konsumenci są najbardziej zaniepokojeni ryzykiem głębokich fałszywek i klonów głosowych w sektorze bankowym i finansowym, z 67,5% wyrażającym znaczne zaniepokojenie.

Wpływ na instytucje finansowe

Instytucje finansowe są szczególnie narażone na ataki głębokich fałszywek. Oszuści wykorzystują AI-generowane głosy do podszywania się pod osoby, uzyskiwania nieautoryzowanego dostępu do kont i manipulowania transakcjami finansowymi. Raport ujawnia, że w 2023 roku odnotowano rekordową liczbę przypadków naruszeń danych, wynoszącą 3205 incydentów – wzrost o 78% w porównaniu z poprzednim rokiem. Średni koszt naruszenia danych w Stanach Zjednoczonych wynosi obecnie 9,5 miliona dolarów, a centra kontaktowe ponoszą największe konsekwencje bezpieczeństwa.

Jeden z przypadków dotyczył użycia głębokiej fałszywki do oszukania firmy z siedzibą w Hongkongu i przekonania jej do przekazania 25 milionów dolarów, co podkreśla dewastujący potencjał tych technologii, gdy są wykorzystywane w złych intencjach.

Szerokie zagrożenia dla mediów i polityki

Poza sektorem finansowym głębokie fałszywki stanowią również znaczne ryzyko dla instytucji medialnych i politycznych. Możliwość tworzenia przekonywujących fałszywych treści audio i wideo może być wykorzystywana do rozpowszechniania dezinformacji, manipulowania opinią publiczną i podważania zaufania do procesów demokratycznych. Raport wskazuje, że 54,9% konsumentów jest zaniepokojonych zagrożeniem głębokich fałszywek dla instytucji politycznych, podczas gdy 54,5% obawia się o ich wpływ na media.

W 2023 roku technologia głębokich fałszywek była zaangażowana w kilka wysokoprofilowych incydentów, w tym atak robocall, który wykorzystywał syntetyczny głos prezydenta Bidena. Takie incydenty podkreślają pilną potrzebę opracowania skutecznych mechanizmów wykrywania i zapobiegania.

Postępy technologiczne napędzające głębokie fałszywki

Rozprzestrzenianie się narzędzi generatywnej sztucznej inteligencji, takich jak OpenAI ChatGPT, Google Bard i Microsoft Bing AI, znacznie obniżyło bariery tworzenia głębokich fałszywek. Dziś ponad 350 systemów generatywnej sztucznej inteligencji jest wykorzystywanych do różnych aplikacji, w tym Eleven Labs, Descript, Podcastle, PlayHT i Speechify. Model VALL-E firmy Microsoft może na przykład sklonować głos z zaledwie trzyletniego klipu audio.

Te postępy technologiczne sprawiły, że głębokie fałszywki stały się tańsze i łatwiejsze do wyprodukowania, zwiększając ich dostępność zarówno dla użytkowników o dobrych, jak i złych intencjach. Do 2025 roku Gartner przewiduje, że 80% ofert konwersacyjnej sztucznej inteligencji będzie zawierać generatywną sztuczną inteligencję, w porównaniu z 20% w 2023 roku.

Zwalczanie głębokich fałszywek: innowacje Pindrop

Aby przeciwdziałać rosnącemu zagrożeniu głębokich fałszywek, Pindrop wprowadził kilka najnowocześniejszych rozwiązań. Jednym z najbardziej godnych uwagi jest Pulse Deepfake Warranty, gwarancja, która zwraca klientom pieniądze, jeśli Produkt Pindrop nie wykryje głębokiej fałszywki lub innej syntetycznej fałszywki głosowej. Ta inicjatywa ma na celu zapewnienie klientom spokoju i jednocześnie przyczynia się do rozwoju możliwości wykrywania oszustw.

Technologiczne rozwiązania w celu zwiększenia bezpieczeństwa

Raport Pindrop podkreśla skuteczność technologii wykrywania żywych głosów, która analizuje połączenia telefoniczne w czasie rzeczywistym w celu wykrycia cech spektro-temporalnych, które wskazują, czy głos w połączeniu jest “żywy” czy syntetyczny. Wewnętrzne testy wykazały, że rozwiązanie Pindrop do wykrywania żywych głosów jest o 12% bardziej dokładne niż systemy rozpoznawania głosu i o 64% bardziej dokładne niż ludzie w identyfikowaniu syntetycznych głosów.

Ponadto Pindrop wykorzystuje zintegrowaną wieloczynnikową prewencję oszustw i uwierzytelnianie, wykorzystując głos, urządzenie, zachowanie, metadane operatora i sygnały żywych głosów, aby zwiększyć bezpieczeństwo. Ten wielowarstwowy podejście znacznie podnosi poprzeczkę dla oszustów, utrudniając im powodzenie.

Przyszłe trendy i przygotowanie

Patrząc w przyszłość, raport przewiduje, że oszustwa głębokich fałszywek będą nadal rosły, stanowiąc 5-miliardowe ryzyko dla centrów kontaktowych w Stanach Zjednoczonych. Rosnąca złożoność systemów text-to-speech, w połączeniu z tanimi syntetycznymi technologiami mowy, stanowi trwałe wyzwania.

Aby pozostać przed tymi zagrożeniami, Pindrop zaleca wczesne techniki wykrywania ryzyka, takie jak wykrywanie fałszywych połączeń i ciągłe wykrywanie oszustw, w celu monitorowania i łagodzenia działań oszustw w czasie rzeczywistym. Wdrożenie tych zaawansowanych środków bezpieczeństwa pozwoli organizacjom lepiej chronić się przed ewoluującym krajobrazem oszustw napędzanych przez sztuczną inteligencję.

Podsumowanie

Pojawienie się głębokich fałszywek i generatywnej sztucznej inteligencji stanowi znaczne wyzwanie w dziedzinie oszustw i bezpieczeństwa. Raport Pindrop o wywiadownictwie głosowym i bezpieczeństwie z 2024 roku podkreśla pilną potrzebę innowacyjnych rozwiązań, aby przeciwdziałać tym zagrożeniom. Z postępami w wykrywaniu żywych głosów, uwierzytelnianiu wieloczynnikowym i kompleksowych strategiach prewencji oszustw Pindrop jest na czele wysiłków, aby zabezpieczyć przyszłość interakcji opartych na głosie. W miarę ewolucji krajobrazu technologicznego, nasze podejścia do zapewnienia bezpieczeństwa i zaufania w erze cyfrowej również muszą ewoluować.