Co.uk £9,4 mld straty z powodu oszustw z użyciem deepfake sygnalizują coś dla USA

Nowe dane pochodzące z Wielkiej Brytanii wskazują, że oszustwa z użyciem deepfake przekroczyły fazę sporadycznych eksperymentów i wkroczyły w fazę zorganizowanej, przemysłowej działalności przestępczej. Zgodnie z raportem Global Anti-Scam Alliance i The Guardian, szacuje się, że konsumenci w Wielkiej Brytanii stracili 9,4 miliarda funtów na oszustwa z użyciem sztucznej inteligencji w ciągu dziewięciu miesięcy do listopada 2025 roku, co oznacza dramatyczne przyspieszenie zarówno w skali, jak i w złożoności oszustw cyfrowych.

Chociaż nagłówki często koncentrują się na dezinformacji politycznej lub syntetycznych filmach wideo, bardziej znacząca zmiana zachodzi w usługach finansowych, systemach identyfikacji cyfrowej i platformach online. Technologia deepfake, która wcześniej była głównie ograniczona do laboratoriów badawczych i społeczności internetowych, jest teraz wbudowana w rosnący ekosystem narzędzi oszustw. Grupy przestępcze łączą oprogramowanie do zamiany twarzy, klonowanie głosu generowane przez sztuczną inteligencję, syntetyczne konstruowanie tożsamości, a także fałszerstwo dokumentów, aby stworzyć przekonywujące, skalowalne ataki, które mogą ominąć tradycyjne kontrolki weryfikacji.

Implikacje sięgają daleko poza jeden rynek. Straty Wielkiej Brytanii przyciągają uwagę po drugiej stronie Atlantyku, szczególnie w Stanach Zjednoczonych, gdzie zdalna rejestracja, bankowość cyfrowa i systemy decyzji automatycznych stały się podstawą handlu.

Finansowy wpływ oszustw z użyciem sztucznej inteligencji

Wielkość strat w Wielkiej Brytanii w wysokości 9,4 miliarda funtów jest wyraźnym wskaźnikiem tempa, w jakim oszustwa z użyciem sztucznej inteligencji ewoluują. Szersze dane globalne potwierdzają tę tendencję, a Federalna Komisja Handlu (FTC) podaje, że konsumenci w Stanach Zjednoczonych stracili ponad $10 miliardów na oszustwa w 2023 roku, co oznacza pierwszy raz, kiedy zgłoszone straty przekroczyły ten poziom, a oszustwa naśladowcze i oszustwa tożsamości były wśród wiodących kategorii. Dane sieci Consumer Sentinel Network FTC pokazują stały wzrost w schematach oszustw z użyciem syntetycznej identyfikacji, z których wiele jest coraz częściej wspieranych przez narzędzia manipulacji oparte na sztucznej inteligencji.

Instytucje finansowe już odczuwają wpływ. W 2023 roku Federalne Biuro Śledcze Internetowego Centrum Skarg o przestępstwach podało, że straty z tytułu cyberprzestępczości wyniosły 12,5 miliarda dolarów, a oszustwa z wykorzystaniem poczty elektronicznej i oszustwa inwestycyjne stanowiły znaczną część strat ogółem. W miarę jak sztuczna inteligencja obniża barierę wejścia do tworzenia fałszywych tożsamości, te kategorie będą się coraz częściej nakładać na techniki mediów syntetycznych.

Krajobraz oszustw na świecie również odzwierciedla rosnące zagrożenie. Nasdaq opublikował swój raport o przestępstwach finansowych na świecie, szacując, że oszustwa i oszustwa bankowe wygenerowały ponad $485 miliardów strat na świecie w 2023 roku. Chociaż nie wszystkie te działania obejmują deepfake, analitycy coraz częściej wskazują na sztuczną inteligencję jako siłę, która zwiększa wydajność i przekonywującość operacji przestępczych.

Zakres oszustw z użyciem tożsamości w Wielkiej Brytanii jest wynikiem zbiegu wysokiej adopcji cyfrowej, otwartych ram bankowości i powszechnego stosowania zdalnych kontroli tożsamości, co stworzyło żyzną glebę dla wykorzystania. Te same warunki strukturalne istnieją w Stanach Zjednoczonych, gdzie firmy finansowe, platformy gospodarki współdzielenia i platformy handlu online w dużej mierze polegają na zautomatyzowanej weryfikacji tożsamości i zdalnej rejestracji.

Jak izolowana impersonacja stała się operacjami na dużą skalę

Odkąd termin ten został po raz pierwszy użyty w 2017 roku, oszustwa z użyciem deepfake ewoluowały w fazach. Wczesne przypadki często obejmowały jednorazowe próby impersonacji, takie jak fałszywe głosy wykonawców w oszustwach z użyciem poczty elektronicznej. W 2019 roku przestępcy użyli klonowania głosu generowanego przez sztuczną inteligencję, aby podszyć się pod CEO i przekazać 220 000 euro z brytyjskiej firmy energetycznej, zgodnie z doniesieniami The Wall Street Journal.

Obecna fala jest bardziej systematyczna. Sieci przestępcze pakują teraz syntetyczne zestawy tożsamości, które obejmują generowane przez sztuczną inteligencję prawa jazdy, manipulowane biometryczne zdjęcia portretowe i pasujące do nich rekordy danych. Otwarte sieci przeciwstawnych generatywnych i konsumenckich narzędzi do zamiany twarzy zmniejszyły bariery techniczne. To, co wcześniej wymagało specjalistycznej wiedzy, może teraz być zestawione za pomocą platform handlowych i szyfrowanych platform komunikacyjnych.

Badania Europol ostrzegają, że sztuczna inteligencja przyspiesza modele oszustw jako usługi, umożliwiając zorganizowanym grupom przestępczym zautomatyzowanie phishingu, tworzenie wielojęzycznych skryptów oszustw i fałszowanie poświadczeń tożsamości na dużą skalę. Ocena zagrożeń z 2023 roku podkreśla, jak narzędzia mediów syntetycznych obniżają koszty, zwiększając jednocześnie zasięg i realizm.

Ta zmiana ma znaczenie, ponieważ systemy weryfikacji tożsamości zostały zaprojektowane w celu potwierdzenia statycznych punktów danych. Tradycyjne kontrole często koncentrują się na autentyczności dokumentów, walidacji bazy danych lub prostym dopasowaniu rozpoznawania twarzy. Oszustwa z użyciem deepfake wykorzystują luki między tymi systemami, gdzie generowane przez sztuczną inteligencję twarze mogą przejść podstawową detekcję żywych osób, a syntetyczne identyfikatory mogą łączyć rzeczywiste i fałszywe elementy danych, aby uniknąć skrzyżowania. Oznacza to, że oszuści mogą ćwiczyć ataki wielokrotnie, doskonaląc wyniki, aż progi wykrywania zostaną spełnione.

Wynikiem jest cykl, w którym systemy obronne muszą ewoluować ciągle, podczas gdy atakujący korzystają z zautomatyzowanej skali.

Krajobraz ryzyka w USA

Stany Zjednoczone dzielą wiele tych samych cech, które przyczyniły się do wzrostu oszustw z użyciem sztucznej inteligencji w Wielkiej Brytanii. Otwarcie konta na odległość stało się standardową praktyką w bankowości i fintech, gdzie platformy cyfrowe zajmują się wszystkim, od wynajmu samochodów po rezerwacje hotelowe i gry, bez kontroli tożsamości na miejscu.

Wzrost uwierzytelniania biometrycznego dodał kolejny wymiar, gdzie narzędzia rozpoznawania twarzy i weryfikacji opartej na zdjęciach portretowych są powszechnie wdrażane w celu usprawnienia procesu otwierania kont. Kiedy deepfake może symulować ruchy twarzy w czasie rzeczywistym, te systemy są coraz bardziej narażone na presję.

Tak, te narzędzia automatyzacji wygenerowały korzyści pod względem wydajności i poprawiły doświadczenie użytkownika, umożliwiając platformom handlowym i rynkom peer-to-peer przetwarzanie milionów transakcji dziennie z minimalnymi oporami, ale otworzyły organizacje na szereg nowych słabości.

Instytucje finansowe muszą balansować między wygodą klienta a solidną prewencją oszustw. Nadmiernie agresywne kontrolki ryzykują alienacją użytkowników, podczas gdy niewystarczające zabezpieczenia pozostawiają firmy narażone na rosnące straty.

Eksponowanie platform poza sektorem finansowym

Usługi finansowe często otrzymują najwięcej uwagi w dyskusjach na temat oszustw, ale są daleko od jedynego sektora narażonego na ryzyko. Branża hotelarska, gry, motoryzacja i platformy handlu online wszystkie polegają na weryfikacji tożsamości, aby zapobiec nadużyciom, naruszeniom dostępu do wieku i oszustwom płatniczym.

Skompromitowany system tożsamości może umożliwić szerszą działalność przestępczą, w tym pranie brudnych pieniędzy i dostęp do usług regulowanych, ze względu na współzależność ekosystemów cyfrowych, co oznacza, że słabości w jednym sektorze mogą szybko się rozprzestrzenić. Syntetyczna tożsamość stworzona w celu otwarcia konta bankowego może później być użyta do zarejestrowania się na wielu platformach, zwiększając potencjalną szkodę.

Chmury usług weryfikacji i integracje oparte na API ułatwiły firmom spełnianie wymogów, jednocześnie centralizacja tworzy skoncentrowane cele. Atakujący mogą studiować typowe przepływy weryfikacji i dostosowywać dane wyjściowe deepfake odpowiednio.

Budowanie odporności na oszustwa z użyciem deepfake

Poleganie na jednym rozwiązaniu lub punkcie ochrony nie może całkowicie wyeliminować ryzyka i jest quindi nieskutecznym sposobem radzenia sobie z oszustwami z użyciem deepfake. Eksperci podkreślają znaczenie łączenia uwierzytelniania dokumentów, analizy biometrycznej, analizy behawioralnej i wykrywania anomalii w ramach adaptacyjnych ram ryzyka.

Sztuczna inteligencja ewoluuje nieustannie, więc ciągłe szkolenie modeli jest niezbędne, aby nadążyć za postępami sztucznej inteligencji. Progi statyczne i strategie wdrożenia jednorazowego nie są odpowiednie do celu. Współpraca między branżami i z agencjami ścigania jest również kluczowa, biorąc pod uwagę transgraniczny charakter sieci oszustw cyfrowych.

Świadomość konsumentów również odgrywa rolę, koncepcja, która może być wspierana przez publiczne raportowanie i przejrzystość wokół taktyk oszustw, pomaga zmniejszyć wskaźniki ofiar. Wzrost strat w Wielkiej Brytanii służy jako sygnał ostrzegawczy, a nie izolowany incydent. W miarę jak możliwości generatywne sztucznej inteligencji się rozwijają, a koszty maleją, taktyki oszustw będą nadal ewoluować. Organizacje, które polegają na systemach weryfikacji na odległość, muszą ocenić, jak odpornymi są ich kontrolki na manipulację mediami syntetycznymi.

Dla firm działających w Stanach Zjednoczonych pytanie brzmi, jak szybko systemy obronne mogą dojrzać, gdy oszustwa z użyciem deepfake rosną w złożoności i prędkości, jak to miało miejsce w przypadku doświadczenia Wielkiej Brytanii, jak szybko oszustwa z użyciem sztucznej inteligencji mogą przekształcić się w straty na miliardy funtów.

W miarę jak usługi finansowe, platformy online i dostawcy tożsamości ponownie oceniają swoje narażenie, uwaga przesuwa się z izolowanych przypadków oszustw na odporność systemową. Oszustwa z użyciem deepfake wkroczyły w fazę charakteryzującą się automatyzacją, skalą i wpływem międzysektorowym. Odpowiedź musi być odpowiednia.