Budowanie zaufania w AI z weryfikacją tożsamości

Generatywny AI wywołał zainteresowanie wśród firm na całym świecie. W rzeczywistości, ​​60% organizacji, które zgłosiły przyjęcie AI, teraz używa generatywnego AI. Dzisiejsi liderzy rywalizują, aby określić, jak włączyć narzędzia AI do swoich stosów technologicznych, aby pozostać konkurencyjnymi i istotnymi – a deweloperzy AI tworzą więcej narzędzi niż kiedykolwiek wcześniej. Ale z szybkim przyjęciem i naturą techniki, wiele problemów związanych z bezpieczeństwem i etyką nie jest w pełni branych pod uwagę, gdy firmy spieszą się, aby włączyć najnowszą i najlepszą technologię. W wyniku tego, zaufanie maleje.

Niedawne badanie wykazało, że tylko 48% Amerykanów uważa, że AI jest bezpieczne i zabezpieczone, podczas gdy 78% twierdzi, że są bardzo lub raczej zaniepokojeni, że AI może być używane do złych celów. Chociaż AI okazało się poprawiać codzienne procesy pracy, konsumenci są zaniepokojeni złymi aktorami i ich możliwością manipulowania AI. Możliwości deepfake stają się coraz większym zagrożeniem, ponieważ dostępność tej technologii do mas się zwiększa.

Posiadanie narzędzia AI nie jest już wystarczające. Aby AI osiągnęło swoje prawdziwe, korzystne potencjał, firmy muszą włączyć AI do rozwiązań, które demonstrują odpowiedzialne i wiarygodne użycie tej technologii, aby przynieść większe zaufanie konsumentom, zwłaszcza w cyberbezpieczeństwie, gdzie zaufanie jest kluczem.

Wyzwania cyberbezpieczeństwa AI

Technologia generatywnego AI rozwija się w szybkim tempie, a deweloperzy dopiero teraz zaczynają rozumieć znaczenie wprowadzenia tej technologii do przedsiębiorstw, jak to widać w niedawnym uruchomieniu ChatGPT Enterprise.

Obecna technologia AI jest w stanie osiągnąć rzeczy, o których mówiło się tylko w dziedzinie science fiction mniej niż dekadę temu. To, jak działa, jest imponujące, ale relatywnie szybkie tempo, w jakim to się dzieje, jest jeszcze bardziej imponujące. To sprawia, że technologia AI jest tak skalowalna i dostępna dla firm, osób i, oczywiście, oszustów. Chociaż możliwości technologii AI przewodziły innowacjom, ich powszechne użycie również doprowadziło do rozwoju niebezpiecznych technologii, takich jak deepfake-as-a-service. Termin “deepfake” pochodzi od technologii tworzącej ten konkretny styl manipulowanego contenu (lub “fałszywego”), który wymaga użycia głębokich technik uczenia.

Oszuści zawsze będą śledzić pieniądze, które dają im największy zwrot – więc każda firma z wysokim potencjałem zwrotu będzie ich celem. Oznacza to fintech, firmy płacące faktury, usługi rządowe i detaliści towarów o wysokiej wartości zawsze będą na szczycie ich listy.

Jesteśmy w miejscu, gdzie zaufanie jest na linii, a konsumenci są coraz mniej godni zaufania, dając amatorskim oszustom więcej możliwości niż kiedykolwiek wcześniej, aby zaatakować. Z nowo odkrytą dostępnością narzędzi AI i coraz niższymi kosztami, jest teraz łatwiej dla złych aktorów każdego poziomu umiejętności, aby manipulować obrazami i tożsamościami innych osób. Możliwości deepfake stają się coraz bardziej dostępne dla mas za pośrednictwem aplikacji i stron internetowych deepfake, a tworzenie zaawansowanych deepfake wymaga bardzo niewielkiego czasu i relatywnie niskiego poziomu umiejętności.

Z użyciem AI, widzieliśmy również wzrost przejęć kont. AI-generowane deepfake sprawiają, że każdy może łatwo stworzyć naśladownictwa lub syntetyczne tożsamości, czy to celebrytów, czy nawet Twojego szefa. ​​

AI i aplikacje językowe Large Language Model (LLM) mogą być używane do tworzenia bardziej zaawansowanych i wybiegających oszustw, które są trudne do wykrycia i usunięcia. LLM-y w szczególności spowodowały powszechne użycie ataków phishingowych, które mogą mówić Twoim językiem ojczystym idealnie. Te również tworzą ryzyko “romance fraud” w skali, kiedy osoba nawiązuje kontakt z kimś przez stronę randkową lub aplikację, ale osoba, z którą się komunikuje, jest oszustem używającym fałszywego profilu. To powoduje, że wiele platform społecznościowych rozważa wdrożenie “dowodów ludzkości”, aby pozostać wiarygodnymi w skali.

Jednakże, obecne rozwiązania bezpieczeństwa, które używają analizy metadanych, nie mogą powstrzymać złych aktorów. Wykrywanie deepfake opiera się na klasyfikatorach, które szukają różnic między prawdziwymi a fałszywymi. Jednakże, to wykrywanie nie jest już wystarczająco silne, ponieważ te zaawansowane zagrożenia wymagają więcej punktów danych, aby je wykryć.

AI i weryfikacja tożsamości: współpraca

Deweloperzy AI muszą skoncentrować się na używaniu tej technologii do zapewnienia lepszych zabezpieczeń dla sprawdzonych środków cyberbezpieczeństwa. Nie tylko to zapewni bardziej niezawodne przypadki użycia AI, ale także bardziej odpowiedzialne użycie – zachęcając do lepszych praktyk cyberbezpieczeństwa, jednocześnie rozwijając możliwości istniejących rozwiązań.

Głównym przypadkiem użycia tej technologii jest weryfikacja tożsamości. Krajobraz zagrożeń AI jest w ciągłej ewolucji, a zespoły muszą być wyposażone w technologię, która może szybko i łatwo dostosować się do nowych technik.

Niektóre możliwości korzystania z AI z technologią weryfikacji tożsamości obejmują:

• Badanie kluczowych atrybutów urządzenia
• Użycie przeciwnego AI do identyfikacji manipulacji: Aby uniknąć oszustw i ochrony ważnych danych, przeciwny AI może identyfikować manipulację przychodzących obrazów.
• Traktowanie “braku danych” jako czynnika ryzyka w określonych okolicznościach
• Aktywne szukanie wzorców w wielu sesjach i klientach

Te warstwowe obrony zapewnione przez AI i technologię weryfikacji tożsamości badają osobę, jej oświadczone dokumenty tożsamości, sieć i urządzenie, minimalizując ryzyko manipulacji w wyniku deepfake i zapewniając, że tylko zaufane, prawdziwe osoby uzyskują dostęp do usług.

AI i weryfikacja tożsamości muszą nadal współpracować. Im bardziej kompletny i pełny jest zestaw danych szkoleniowych, tym lepszy model jest i im więcej danych punktów mamy, tym bardziej dokładna weryfikacja tożsamości i AI mogą być.

Przyszłość AI i weryfikacji tożsamości

Trudno ufać czemuś online, chyba że potwierdzone przez wiarygodne źródło. Dziś, rdzeń zaufania online leży w udowodnionej tożsamości. Dostępność do modeli językowych i narzędzi deepfake stanowi rosnące ryzyko oszustw online. Zorganizowane grupy przestępcze są dobrze finansowane i teraz mogą wykorzystywać najnowszą technologię w większej skali.

Firmy muszą rozszerzyć swój krajobraz obrony, i nie mogą bać się inwestować w technologię, nawet jeśli dodaje to nieco tarcia. Nie może być już tylko jednego punktu obrony – muszą spojrzeć na wszystkie punkty danych związane z osobą, która próbuje uzyskać dostęp do systemów, towarów lub usług i weryfikować na całej ich drodze.

Deepfake będą nadal ewoluować i stawać się bardziej zaawansowane, a liderzy biznesu muszą ciągle przeglądać dane z wdrożeń rozwiązań, aby zidentyfikować nowe wzorce oszustw i pracować nad ewolucją swoich strategii cyberbezpieczeństwa wraz z zagrożeniami.

oods, lub usług i kontynuować weryfikację na całej ich drodze. Deepfake będą nadal ewoluować i stawać się bardziej zaawansowane, a liderzy biznesu muszą ciągle przeglądać dane z wdrożeń rozwiązań, aby zidentyfikować nowe wzorce oszustw i pracować nad ewolucją swoich strategii cyberbezpieczeństwa wraz z zagrożeniami.