Wyobraź sobie sytuację, w której jesteś w pracy, skupiony na pilnym terminie, kiedy otrzymujesz telefon od numeru, który wydaje się być numerem twojej matki. Głos na drugim końcu linii jest niezwykle podobny do jej głosu, spokojny i kochający, ale z niezwykłym nakładem pilności. Mówi ci, że wpadła w poważne kłopoty podczas wakacji w Paryżu i potrzebuje twojej natychmiastowej pomocy finansowej, aby wszystko rozwiązać. Wiesz, że jest w Paryżu, a szczegóły, które podaje, aż do nazwy jej hotelu, sprawiają, że telefon staje się jeszcze bardziej przekonywujący. Bez wahania przekazujesz pieniądze, by później dowiedzieć się, że twoja matka nigdy nie zrobiła tego telefonu; był to zaawansowany system sztucznej inteligencji, który idealnie naśladuje jej głos i fabrykuje szczegółową sytuację. Czujesz dreszcze, gdy zdajesz sobie sprawę, co się właśnie wydarzyło.

Ten scenariusz, który kiedyś był czystą fikcją naukową, staje się już teraz rzeczywistością. Wraz z pojawieniem się technologii sztucznej inteligencji, takich jak duże modele językowe (LLM), nastąpiły niesamowite postępy. Jednak pojawia się również znaczące zagrożenie: oszustwa wykorzystujące sztuczną inteligencję. Potencjał zaawansowanych oszustw napędzanych przez sztuczną inteligencję jest nowym zagrożeniem na horyzoncie postępu technologicznego. Chociaż oszustwa telefoniczne były problemem od momentu wynalezienia telefonu, szerokie wdrożenie dużych modeli językowych (LLM) we wszystkie aspekty cyfrowej komunikacji znacznie zwiększyło stawkę. Podczas gdy korzystamy z potencjału sztucznej inteligencji, niezwykle ważne jest, abyśmy również wzmocnili nasze obrony przed tymi coraz bardziej zaawansowanymi zagrożeniami.

Obecny Krajobraz Oszustw Telefonicznych

Przestępcy od lat próbowali oszukać niewinnych osób, aby przekazały im pieniądze lub ujawniły wrażliwe informacje, ale pomimo powszechności oszustw telefonicznych, wiele z nich jest dość prymitywnych, opierając się na operatorach czytających scenariusze. Jednak nawet z tym ograniczeniem oszustwa telefoniczne nadal stanowią lukratywny przestępczy proceder.

Według amerykańskiej Komisji Handlu, w 2022 roku Amerykanie stracili ponad 8,8 miliarda dolarów na oszustwa, z których znacząca część przypada na oszustwa telefoniczne, co oznacza, że nawet w ich obecnej, mniej zaawansowanej formie, wiele z tych taktyk nadal działa na wrażliwe osoby. Co się stanie, gdy ewoluują?

Przyszłość Oszustw Napędzanych przez Sztuczną Inteligencję

Krajobraz oszustw telefonicznych jest gotowy do dramatycznej zmiany z pojawieniem się kilku kluczowych technologii:

Duże Modele Językowe (LLM)

Te systemy sztucznej inteligencji mogą generować tekst podobny do ludzkiego i angażować się w naturalne rozmowy. Zastosowane do oszustw, LLM mogą tworzyć bardzo przekonywujące i adaptacyjne scenariusze, co utrudni potencjalnym ofiarom identyfikację oszustwa.

Retrieval-Augmented Generation (RAG)

Ta technologia pozwala systemom LLM na dostęp i wykorzystanie ogromnych ilości informacji w czasie rzeczywistym. Oszuści mogą tworzyć profil osoby na podstawie jej publicznie dostępnych informacji, takich jak konta w mediach społecznościowych. Mogą również wykorzystywać techniki inżynierii społecznej wobec ich przyjaciół i rodziny, aby uzyskać głębsze informacje. To da im dostęp do informacji takich jak tożsamość celu, informacje o pracy lub nawet ostatnie działania. Mogą następnie wykorzystać RAG, aby zapewnić LLM kontekst potrzebny do tego, aby ich podejścia wydawały się niezwykle spersonalizowane i uzasadnione.

Syntetyczna Generacja Audio

Platformy takie jak Resemble AI i Lyrebird są pionierami w tworzeniu wysoko realistycznych głosów generowanych przez sztuczną inteligencję. Te technologie są w stanie produkować personalizowane, ludzkie audio, które można wykorzystać w różnych aplikacjach, od asystentów wirtualnych po automatyczne obsługiwanie klienta i tworzenie treści. Firmy takie jak ElevenLabs są dalej rozwijane, umożliwiając użytkownikom tworzenie syntetycznych głosów, które mogą ściśle naśladować ich własne, pozwalając na nowy poziom personalizacji i zaangażowania w interakcjach cyfrowych.

Syntetyczna Generacja Wideo

Firmy takie jak Synthesia już teraz demonstrują potencjał tworzenia realistycznej treści wideo z wykorzystaniem awatarów generowanych przez sztuczną inteligencję. W nadchodzących latach ta technologia mogłaby umożliwić oszustom podszywanie się pod przyjaciół lub członków rodziny lub tworzenie całkowicie fikcyjnych postaci dla połączeń wideo, wprowadzając wcześniej niewyobrażalny poziom realizmu fizycznego do oszustwa.

Sztuczna Inteligencja Lip-Syncing

Startupy takie jak Sync Labs rozwijają zaawansowaną technologię synchronizacji ust, która może dopasować wygenerowane audio do nagrania wideo. Można ją wykorzystać do tworzenia bardzo przekonywujących deep-fake’ów historycznych postaci, polityków, celebrytów i praktycznie każdego innego, co dalej zacierając granicę między rzeczywistością a oszustwem.

Połączenie tych technologii rysuje dość niepokojący obraz. Wyobraź sobie telefon, w którym sztuczna inteligencja może dostosowywać rozmowę w czasie rzeczywistym, uzbrojona w informacje osobiste o celu, i nawet przejść do połączenia wideo z osobą, której usta poruszają się idealnie w synchronizacji z wygenerowanym głosem. Potencjał oszustwa jest naprawdę ogromny.

Potrzeba Wzmocnienia Środków Bezpieczeństwa

Wraz ze wzrostem złożoności oszustw napędzanych przez sztuczną inteligencję, metody weryfikacji tożsamości i autentyczności będą musiały nadążać za postępem sztucznej inteligencji. Będzie musiało nastąpić zarówno rozwoju regulacyjnego, jak i technologicznego, aby utrzymać bezpieczeństwo w świecie online.

Poprawa Regulacji

Surowsze Prawa Ochrony Danych: Wdrożenie bardziej rygorystycznych praw ochrony danych ograniczyłoby ilość dostępnych informacji osobistych, które oszuści mogliby wykorzystać. Te prawa mogłyby obejmować surowsze wymagania dotyczące zbierania danych, ulepszone protokoły zgody użytkowników i surowsze kary za naruszenia danych.

Chmura Prywatna dla Najpotężniejszych Modeli AI: Regulacje mogą nakazywać, aby najpotężniejsze modele AI były hostowane na prywatnych, bezpiecznych infrastrukturach chmury zamiast być otwarcie dostępne. To ograniczyłoby dostęp do najbardziej zaawansowanych technologii, utrudniając nieuczciwym aktorom ich wykorzystanie do oszustw. (np. https://security.apple.com/blog/private-cloud-compute/)

Międzynarodowa Współpraca w Regulacjach AI: Biorąc pod uwagę globalny charakter technologii AI, międzynarodowa współpraca w zakresie standardów regulacyjnych mogłaby być korzystna. Utworzenie globalnego organu odpowiedzialnego za tworzenie i egzekwowanie międzynarodowych regulacji AI mogłoby pomóc w zwalczaniu przestępstw związanych z AI na skalę międzynarodową.

Kampanie Świadomości Publicznej: Rządy i organy regulacyjne powinny inwestować w kampanie świadomości publicznej, aby edukować obywateli o potencjalnych ryzykach oszustw AI i o tym, jak się przed nimi chronić. Świadomość jest kluczowym pierwszym krokiem w umożliwieniu jednostkom i organizacjom wdrożenia niezbędnych środków bezpieczeństwa.

Obecne regulacje AI są niewystarczające, aby zapobiec oszustwom, a wyzwanie przyszłych regulacji jest skomplikowane przez otwarty charakter wielu potężnych technologii. Ten otwarty charakter pozwala każdemu na dostęp i modyfikację tych technologii do własnych celów. W związku z tym, oprócz surowszych regulacji, potrzebne są również postępy w technologiach bezpieczeństwa.

Wykrywanie Syntetycznych Danych

Wykrywanie syntetycznego audio: Podobnie jak oszuści wykorzystują sztuczną inteligencję, tak i nasze obrony muszą. Firmy takie jak Pindrop rozwijają systemy napędzane przez sztuczną inteligencję, które mogą wykryć syntetyczne audio w czasie rzeczywistym podczas połączeń telefonicznych. Ich technologia analizuje ponad 1300 cech audio połączenia, aby określić, czy pochodzi od prawdziwej osoby czy zaawansowanego systemu AI.

Wykrywanie syntetycznego wideo: Wykrywanie syntetycznego wideo: Podobnie jak audio, także wideo może być manipulowane przez AI, stanowiąc znaczące zagrożenie w postaci deep-fake’ów i innych syntetycznych treści wideo. Firmy takie jak Deepware są pionierami w rozwoju technologii do wykrywania syntetycznego wideo. Platforma Deepware wykorzystuje zaawansowane algorytmy uczenia maszynowego do analizy subtelnych niekonsekwencji w danych wideo, takich jak nienaturalne ruchy, nieregularne oświetlenie i anomalie pikseli, które często występują w treściach generowanych przez AI. Poprzez identyfikację tych niekonsekwencji, technologia Deepware może określić, czy wideo jest autentyczne czy zostało sfabrykowane, pomagając w ochronie osób i organizacji przed oszustwami i kampaniami dezinformacyjnymi opartymi na wideo.

Postępy w Autentykacji Tożsamości

Istnieją różne sposoby rozwijane w celu potwierdzenia tożsamości użytkownika, z których jeden lub więcej stanie się powszechny w nadchodzących latach, aby uczynić internet bezpieczniejszym.

Dwuetapowa autentykacja dla Odległych Rozmów: Dwustopniowa autentykacja (2FA) pozostaje podstawowym składnikiem bezpiecznej komunikacji. W ramach tej metody każde połączenie telefoniczne lub e-mail wyzwala wiadomość tekstową z unikalnym kodem weryfikacyjnym, podobnie jak w przypadku obecnych rejestracji e-mail. Chociaż 2FA jest skuteczna w podstawowej autentykacji, jej ograniczenia oznaczają, że nie można na niej polegać we wszystkich kontekstach, co wymaga rozwoju bardziej zaawansowanych metod, aby zapewnić kompleksowe bezpieczeństwo internetu, które mogą działać w tle.

Autentykacja oparta na zachowaniu wielostopniowej: Poza weryfikacją tożsamości na początku połączenia, przyszłe systemy bezpieczeństwa mogą ciągle analizować zachowania w trakcie interakcji. Firmy takie jak BioCatch wykorzystują biometryczne dane behawioralne do tworzenia profili użytkowników na podstawie ich interakcji z urządzeniami. Ta technologia może wykryć anomalie w zachowaniu, które mogą wskazywać na to, że oszust wykorzystuje skradzione informacje, nawet jeśli przeszedł pomyślnie wstępne kontrole autentykacji.

Autentykacja oparta na Biometrii: Firmy takie jak Onfido są na czele technologii weryfikacji tożsamości, oferując narzędzia weryfikacji tożsamości napędzane przez sztuczną inteligencję, które potrafią rozpoznać zaawansowane deep-fake’i i inne formy oszustw tożsamości. Ich system wykorzystuje połączenie weryfikacji dokumentów i analizy biometrycznej, aby upewnić się, że osoba na drugim końcu połączenia lub wideorozmowy jest tym, kim twierdzi, że jest.

Autentykacja oparta na Zaawansowanej Wiedzy: Przechodząc poza proste pytania bezpieczeństwa, przyszłe systemy autentykacji mogą wykorzystywać dynamiczne, generowane przez AI pytania oparte na cyfrowym śladzie użytkownika i ostatnich działaniach. Na przykład, Prove, firma specjalizująca się w identyfikacji opartej na telefonie, rozwija rozwiązania, które wykorzystują inteligencję telefonu i analizy behawioralne do weryfikacji tożsamości. Ich technologia może analizować wzorce, w jakich osoba używa swojego urządzenia, tworząc unikalny „sygnaturę tożsamości”, która jest znacznie trudniejsza do sfałszowania przez oszustów.

Autentykacja oparta na Blockchain: Technologia blockchain oferuje zdecentralizowany i niezmienny sposób weryfikacji tożsamości. Firmy takie jak Civic są pionierami w systemach weryfikacji tożsamości opartych na blockchain, które pozwalają użytkownikom kontrolować swoje informacje osobiste, jednocześnie zapewniając bezpieczną autentykację. Te systemy tworzą weryfikowalny, niezmienny zapis tożsamości, idealny do zarządzania transakcjami wysokiego ryzyka.

Podsumowanie

Konwergencja LLM, RAG, syntetycznej generacji audio, syntetycznej generacji wideo i technologii lip-syncing jest rodzajem podwójnego miecza. Chociaż te postępy mają ogromny potencjał pozytywnych zastosowań, stanowią również znaczące ryzyko, gdy są wykorzystywane przez oszustów.

Trwająca walka między ekspertami ds. bezpieczeństwa a cyberprzestępcami podkreśla potrzebę ciągłej innowacji i czujności w dziedzinie bezpieczeństwa cyfrowego. Możemy pracować nad wykorzystaniem korzyści z tych potężnych narzędzi, jednocześnie ograniczając ich potencjał szkodzenia, tylko poprzez uznanie i przygotowanie się do tych ryzyk.

Kompleksowa regulacja, edukacja o tych nowych formach oszustw, inwestycje w najnowocześniejsze środki bezpieczeństwa oraz, być może najważniejsze, zdrowa dawka sceptycyzmu każdego z nas podczas interakcji z nieznanymi podmiotami w sieci lub przez telefon będzie niezbędna w nawigowaniu przez ten nowy krajobraz.