Aarti Samani, Założyciel i Prezes Shreem Growth Partners – Wywiad

Aarti Samani, Założyciel i Prezes Shreem Growth Partners, jest liderem technologicznym i strategiem AI z ponad dwudziestoletnim doświadczeniem w prowadzeniu wzrostu w dziedzinie sztucznej inteligencji, tożsamości cyfrowej i bezpieczeństwa biometrycznego. Pełniła stanowiska kierownicze w iProov i Digital Surgery (nabytej przez Medtronic), gdzie kierowała globalnymi strategiami produktowymi i marketingowymi oraz zabezpieczała znaczące rundy finansowania. Często komentuje dla BBC i jest mówcą na globalnych wydarzeniach, w tym Money 20/20 i CogX Festival, gdzie doradza zarządom i menedżerom w kwestiach etyki AI, zarządzania i ryzyka, pomagając organizacjom budować zaufanie i odporność w erze sztucznej inteligencji.

Shreem Growth Partners pomaga organizacjom chronić się przed oszustwami z użyciem deepfake i manipulacjami opartymi na AI, koncentrując się na ludzkim aspekcie obrony. Poprzez dostosowane szkolenia, briefings dla kadry zarządzającej, oceny podatności i konsultacje strategiczne, firma wyposaża zespoły i liderów w umiejętność rozpoznawania, reagowania i zapobiegania próbom manipulacji. Poprzez rozwijanie świadomości, przygotowania i kulturowej odporności, Shreem umożliwia organizacjom zabezpieczenie ich tożsamości, reputacji i siły roboczej przed ewoluującymi zagrożeniami związanymi z AI.

Założyłaś Shreem Growth Partners po pełnieniu stanowisk kierowniczych w iProov, Medtronic Digital Surgery i innych firmach związanych z AI. Co skłoniło Cię do założenia firmy poświęconej specjalnie odporności na oszustwa z użyciem deepfake?

Po wydaniu ChatGPT pod koniec 2022 roku, byliśmy świadkami eksplozji narzędzi medialnych opartych na AI, które mogły klonować głosy i twarze w ciągu kilku minut. Większość organizacji widziała je jako przyspieszające kreatywność w projektowaniu i marketingu. Ale przestępcy zobaczyli nową okazję do bardziej skutecznych ataków socjotechnicznych.

Deepfakes szybko stały się ulubionym narzędziem oszustów do manipulowania ludźmi. Zespoły bezpieczeństwa odpowiedziały, inwestując w technologie wykrywania, ale sam wykrywania nie może rozwiązać problemu, który ma korzenie w zaufaniu ludzi. Psychologia była punktem ślepej strony branży.

To spostrzeżenie skłoniło mnie do założenia Shreem Growth Partners, firmy poświęconej budowaniu odporności na oszustwa z użyciem deepfake poprzez świadomość, symulację i odporność kognitywną. Wzmacnianie ludzkiej zdolności do myślenia krytycznego i oporu wobec manipulacji jest kluczem do łagodzenia tego rodzaju oszustw.

W iProov pracowałaś na froncie biometrii twarzy i weryfikacji tożsamości. Jak to doświadczenie ujawniło rosnące zagrożenie, jakie deepfakes stanowią dla systemów uwierzytelniania?

Jako Dyrektor Produktu i Marketingu w iProov, pomogłam wprowadzić weryfikację twarzy biometrycznej do organizacji wrażliwych na bezpieczeństwo w sektorach publicznych i prywatnych. Te instytucje są stałymi celami zorganizowanej przestępczości cybernetycznej. Ich przeciwnicy są inteligentni, dobrze finansowani i wyposażeni w najnowszą technologię.

Zaczęliśmy obserwować próby obejścia systemów biometrycznych z użyciem deepfake utworzonych z skradzionych tożsamości. Ponieważ iProov działała jako usługa zarządzana w chmurze, mogliśmy obserwować te ataki w czasie rzeczywistym i analizować, jak każda iteracja ewoluowała. Stało się jasne, że przestępcy uczą się szybciej niż rynek dostosowuje się.

To doświadczenie dało mi wgląd w ewolucję oszustw z użyciem deepfake i głębokie zrozumienie tego, jak kreatywność i psychologia napędzają przestępczość cybernetyczną. To samo zrozumienie umysłu przestępczego informuje moją pracę w dziedzinie odporności na oszustwa z użyciem deepfake.

Deepfakes są coraz częściej używane do podszywania się pod wyższe kierownictwo, klonowania głosów i ataków socjotechnicznych. Jakie scenariusze najczęściej obserwujesz obecnie w terenie?

Zawsze jest łatwiej uzyskać dostęp przez socjotechnikę niż przez łamanie systemów bezpieczeństwa. Gdy ludzie stają się bardziej świadomi tradycyjnych oszustw, przestępcy zwracają się ku nowym sposobom manipulowania zaufaniem.

Technologia deepfake stała się najpotężniejszym narzędziem socjotechnicznym, jakie kiedykolwiek widzieliśmy. Umożliwia sprawcom generowanie sygnałów zaufania o wysokiej wierności: realistyczne twarze, głosy i narracje, które omijają ludzkie osądy.

Przewaga przestępcza nie ogranicza się do podszywania się pod wyższe kierownictwo lub płatności. Coraz częściej celem są własność intelektualna, wrażliwe dane i poświadczenia dostępu. Dzięki szkoleniu agentów AI i nadawaniu im sklonowanych głosów, oszustwa mogą być obecnie wykonywane na dużą skalę, z prędkością i precyzją, której żaden atakujący człowiek nie mógłby dorównać.

Co odróżnia program odporności na oszustwa z użyciem deepfake od tradycyjnego szkolenia z cyberbezpieczeństwa lub przeciwdziałania phishingowi?

Szkolenia z cyberbezpieczeństwa, jakie znamy, zostały stworzone na początku lat 2000, gdy internet i komputery komercyjne jeszcze się rozwijały. Od tego czasu treści ewoluowały, aby spełniać potrzeby zgodności, z naciskiem na platformy LMS i gamifikację dla zaangażowania. Ale pejzaż zagrożeń poszedł dalej.

Dzisiejsze oszustwa są inteligentne, kreatywne i psychologicznie zaprojektowane. Przestępcy używają AI z taką samą finezją jak akademicy lub przedsiębiorstwa. Szkolenia muszą więc wykraczać poza zgodność i dotykać kognitywy.

Odporność na oszustwa z użyciem deepfake nie może być sprowadzona do tego, czy ktoś kliknie link. Musi nauczyć ludzi myśleć krytycznie, kwestionować autentyczność twarzy i głosów, z którymi wchodzą w interakcje, i rozpoznawać, jak łatwo percepcja może być manipulowana.

Równy nacisk musi być położony na odporność kognitywną. Podwyższone emocje, rozproszone umysły i ciągłe wielozadaniowość wszystkie osłabiają myślenie krytyczne. Budowanie odporności kognitywnej szkoli pracowników, aby utrzymać równowagę emocjonalną, pozostać analitycznymi i czujnymi. To jest dokładnie taki stan umysłu, który jest potrzebny do oporu wobec manipulacji.

Twoja firma oferuje oceny podatności na deepfake i ćwiczenia na stole. Możesz nas zaprowadzić przez jedną z tych symulacji i powiedzieć, jakie spostrzeżenia klienci zwykle zyskują?

W naszych ocenach podatności i ćwiczeniach na stole replikujemy najnowsze wektory ataków z użyciem deepfake, pochodzące z prawdziwych incydentów. Typowe scenariusze obejmują fałszywego kandydata do pracy używającego sklonowanej tożsamości, kompromitowanego helpdesku IT w celu zresetowania poświadczeń uwierzytelniania wieloskładnikowego lub wideorozmowy z osobą wygenerowaną przez AI, która przekonuje personel do pobrania oprogramowania złośliwego.

Te symulacje ujawniają, jak ludzie reagują pod presją, i pokazują słabości w komunikacji, procesach i procedurach reagowania na incydenty. Wyżsi menedżerowie często odkrywają brakującą ekspertyzę i niejasne właścicielstwo decyzji. Wyniki zwykle prowadzą do programu odporności, który wzmacnia literaturę na temat oszustw, zmiany procesów i kultury oraz gotowości do kryzysu w całej organizacji.

Często mówisz o zarządzaniu ryzykiem ukierunkowanym na ludzi. Jak firmy mogą umożliwić swoim pracownikom wykrywanie i opór wobec manipulacji z użyciem deepfake, zamiast polegać wyłącznie na narzędziach technicznych?

Deepfakes wykorzystują te same obwody neuronalne, które pomagają nam oceniać zaufanie i emocje. Nasze mózgi są zaprogramowane, aby priorytetowo traktować wizualne i słuchowe sygnały, ponieważ są to pierwsze zmysły, które rozwijamy. Ale jeszcze nie ewoluowaliśmy, aby instynktownie kwestionować te sygnały, więc musimy się tego nauczyć i ciągle umacniać tę umiejętność.

Firmy mogą umożliwić swoim pracownikom szkolenie, aby traktowali interakcje cyfrowe z ostrożnością i ciekawością. Gdy jesteśmy w rozmowie głosowej lub wideorozmowie, wchodzimy w interakcję z artefaktem. Ten artefakt może być prawdziwą osobą wyświetlaną na ekranie lub może to być artefakt sztuczny. Nie możemy tego określić wizualnie.

Jedyną obroną jest aktywna weryfikacja: zadawanie odpowiednich pytań, sprawdzanie szczegółów i zauważanie nieścisłości w narracji. Nowe hasło musi być proste — zero zaufania, zawsze weryfikuj.

Deepfakes zacierają granicę między dezinformacją a oszustwem. Jak wyżsi menedżerowie mogą przygotować się do kryzysów reputacyjnych i operacyjnych spowodowanych incydentami związanymi z mediami syntetycznymi?

Zespoły kierownicze muszą teraz traktować incydenty związane z deepfake jako podstawowe ryzyko biznesowe, a nie hipotetyczne. Każdy menedżer wokół stołu powinien wiedzieć, jaka jest jego rola, gdy kryzys się rozwinie.

Podobnie jak zarządy przeglądają rejestry ryzyka, powinny również przeglądać plany reagowania na incydenty, a te nie mogą być statyczne. Pejzaż zagrożeń ewoluuje zbyt szybko. Plany muszą być testowane i aktualizowane co najmniej dwa razy w roku, najlepiej po ćwiczeniach na stole, które symulują prawdziwe zdarzenie.

Kryzysy związane z deepfake rzadko mieszczą się ładnie w jednej funkcji. Wymagają koordynacji między komunikacją, prawnikami, bezpieczeństwem i HR. Organizacje, które reagują najlepiej, są tymi, których liderzy ćwiczą tę współpracę przed wystąpieniem prawdziwego incydentu.

Istnieje również koszt psychologiczny, gdy pracownicy lub menedżerowie stają się celem przekonywujących deepfake. Jakie wsparcie lub protokoły powinny mieć organizacje, aby rozwiązać ten wpływ na ludzi?

“Wstyd z oszustwa” musi być unikany za wszelką cenę. Organizacje powinny budować kulturę bezpieczeństwa psychologicznego długo przed wystąpieniem incydentu. Gdy pracownicy lub menedżerowie stają się celem deepfake, doświadczenie może wyglądać jak atak. Utrata kontroli nad własnym wizerunkiem, głosem i cyfrową tożsamością.

Odpowiedź musi być zarówno proceduralna, jak i ludzka. Jasne protokoły raportowania powinny współistnieć z wsparciem zdrowia psychicznego, poufnymi debriefami i dostępem do cyfrowej kryminalistyki, aby osoby zrozumiały, co się wydarzyło.

Liderzy ustawiają ton. Gdy menedżerowie mówią otwarcie o próbach manipulacji i odzyskaniu, usuwają stygmatyzację i zachęcają do przejrzystości. Ta otwartość jest tym, co zmienia indywidualną wrażliwość w zbiorową odporność.

Jako założyciel firmy w tej dziedzinie, jakie są Twoje największe obawy dotyczące tempa, w jakim rozwija się sztuczna inteligencja generatywna — i gdzie widzisz następną falę możliwości deepfake?

Sztuczna inteligencja generatywna rozwija się w nadzwyczajnym tempie. To samo w sobie nie jest powodem do obaw. Prawdziwe ryzyko leży w jej szybkiej adopcji i trwałości w codziennych operacjach biznesowych. Tempo zarządzania zagrożeniami i świadomości po prostu nie dotrzymuje kroku. To rozdarcie między zagrożeniem a odpornością jest dokładnie tym, gdzie oszustwa kwitną, a deepfakes są ich najskuteczniejszym narzędziem.

Każda nowa innowacja staje się kolejną powierzchnią do wykorzystania. Obecnie agenci AI stanowią rosnące ryzyko. Po połączeniu z technologią deepfake mogą wykonywać oszustwa na skalę, prędkości i precyzji, której żaden atakujący człowiek nie mógłby dorównać.

Odwrotnie, jakie technologie lub współpracy dają Ci optymizm, że możemy pozostać przed oszustwami z użyciem deepfake i dezinformacją?

Fakt, że ta rozmowa ma miejsce w szanowanym wydaniu, jest sam w sobie znakiem postępu. Pokazuje, że innowatorzy, regulatorzy, media i przedsiębiorstwa są wszystkie dotknięte dezinformacją.

To, co daje mi optymizm, jest rosnącą gotowością do współpracy. Odporność na deepfake nie przyjdzie z jednego narzędzia lub jednej organizacji, ale ze współdzielonej inteligencji. Uczymy się wymieniać informacje i edukować społeczność tak efektywnie, jak to robią przestępcy.

Nadal musimy udoskonalić, jak ta współpraca się odbywa, ale intencja jest tam. I to zbiorowa intencja jest tym, co ostatecznie przywróci zaufanie.

Dziękuję za wspaniały wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Aarti Samani.