Kaarel Kotkas, CEO i założyciel Veriff – seria wywiadów

Kaarel Kotkas jest CEO i założycielem Veriff i pełni funkcję strategicznego myśliciela i wizjonera założyciela firmy. Prowadzi zespół Veriff w utrzymaniu przewagi nad oszustwami i konkurencją w szybko zmieniającym się obszarze identyfikacji online. Znany ze swojej energii i entuzjazmu, Kotkas zachęca zespół do utrzymania integralności w świecie cyfrowym. W 2023 roku został uznany w EU Forbes 30 Under 30, a w 2020 roku został nazwany EY Przedsiębiorcą Roku w Estonii. Nordic Business Report również umieścił go wśród 25 najbardziej wpływowych młodych przedsiębiorców w Europie Północnej.

Veriff to globalna firma weryfikacji tożsamości, która pomaga firmom online redukować oszustwa i przestrzegać przepisów. Wykorzystując AI, Veriff automatycznie weryfikuje tożsamość, analizując różne wskaźniki technologiczne i behawioralne, w tym rozpoznawanie twarzy.

Czym skłoniło Cię do założenia Veriff, i jakie wyzwania spotkałeś przy budowaniu platformy zapobiegania oszustwom opartej na AI?

Moja motywacja do założenia Veriff pojawiła się po tym, jak na własne oczy zobaczyłem, jak łatwo jest dla ludzi online udawać kogoś innego. Gdy kupiłem biodegradowalną linkę na eBay dla mojej rodzinnej farmy w wieku 14 lat, łatwo ominąłem ograniczenia wiekowe PayPal, zmieniając rok urodzenia na kopii dokumentu tożsamości za pomocą Photoshop.

Nadal widziałem problem osób udających swoją tożsamość w sieci, aby ominąć kontrole wiekowe i inne środki bezpieczeństwa. To doświadczenie skłoniło mnie do pomysłu założenia Veriff.

Jeśli chodzi o wyzwania, rok po założeniu firmy, daliśmy naszemu zespołowi weekend wolny. Tego samego dnia wprowadziliśmy poprawkę błędu, która spowodowała pełną przerwę w możliwościach monitorowania. Nie zauważyliśmy, że nasza usługa wyłącza się, aż do sobotniego ranka. W poniedziałek rano musiałem spotkać się twarzą w twarz z naszym największym klientem, który stracił tysiące dolarów przychodu. Byłem transparentny w tym spotkaniu, wyjaśniając błędy po naszej stronie. Uściskaliśmy się i wróciliśmy do pracy. To, czego nauczyłem się z tego, to to, że jako założyciel i lider biznesu, musimy spodziewać się i przygotować na wyzwania. Ponadto, transparentność jest kluczem do budowania zaufania. Na koniec, udowodnienie historii pokonywania wyzwań może okazać się bardziej wartościowe, ponieważ pokazuje, że możesz pomyślnie rozwiązać problemy i jesteś wytrwały.

Czy uważasz, że deepfakes stanowią większe zagrożenie dla wyborów i demokracji, szczególnie w kontekście wyborów?

W tym sezonie wyborczym, integralność procesu głosowania jest zagrożona. AI może analizować ogromne ilości danych, aby zidentyfikować preferencje wyborcze i trendy, umożliwiając kampaniom dostosowanie wiadomości i ukierunkowanie wyborców na wiadomości, które ich najbardziej interesują. Źli aktorzy są dobrze wyposażeni w tworzenie fałszywych narracji o kandydatach, wykonujących czynności, których nigdy nie wykonali, lub wypowiadających się w sprawach, o których nigdy nie mówili, narażając ich reputację i myląc wyborców.

Do tej pory widzieliśmy deepfakes sławnych osób popierających kandydatów na prezydenta i fałszywy robocall Bidena. Chociaż istnieją technologie, które mogą pomóc odróżnić treści generowane przez AI od prawdziwych, nie jest to możliwe do wdrożenia na dużą skalę. Z uwagi na wysokie stawki i wiarygodność wyborów, coś musi być zrobione, aby zachować zaufanie publiczne. Przyszły wzrost gospodarki cyfrowej i walka z oszustwami cyfrowymi koncentrują się wokół udowodnionych tożsamości i autentycznych, zweryfikowanych kont online.

Czy uważasz, że jeden ze środków przekazu jest bardziej niebezpieczny niż inny w oszukiwaniu wyborców?

Ogólnie, szczególnie w kontekście amerykańskich wyborów, oba powinny być traktowane równie jako zagrożenia dla demokracji. Nasz najnowszy raport Veriff Fraud Index 2024: Part 2 wykazał, że 74% respondentów w USA obawia się, że AI i deepfakes wpłyną na wybory.

Ewolucja AI przyspieszyła zagrożenie dla bezpieczeństwa, nie tylko w USA, ale na całym świecie, podczas tegorocznych wyborów. Niezależnie od tego, czy są to deepfakes, AI-generowane głosy w robocallach próbujących zmanipulować opinie wyborcze, czy sfałszowane filmy kandydatów, wszystkie budzą uzasadnioną troskę.

Spójrzmy na szerszy obraz. Gdy dostępnych jest wiele punktów danych, łatwiej ocenić „poziom zagrożenia”. Jedno zdjęcie może nie być wystarczające, aby stwierdzić, czy jest fałszywe, ale film dostarcza więcej wskazówek, szczególnie jeśli ma dźwięk. Dodanie szczegółów, takich jak urządzenie użyte, lokalizacja lub osoba, która nagrała film, zwiększa pewność jego autentyczności. Oszuści zawsze starają się ograniczyć zakres informacji, ponieważ ułatwia im to manipulację. Uważam, że robocalls są bardziej niebezpieczne niż deepfakes, ponieważ tworzenie fałszywego audio jest łatwiejsze niż generowanie wysokiej jakości fałszywych filmów. Ponadto, korzystanie z LLM umożliwia dostosowanie fałszywego audio podczas połączeń, co sprawia, że staje się ono jeszcze bardziej przekonywające.

W związku z nadchodzącymi wyborami, co powinny być największymi troskami rządów i komisji wyborczych w odniesieniu do sztucznie generowanych dezinformacji?

Rządy i komisje wyborcze muszą zrozumieć potencjalny zakres możliwości deepfakes, w tym to, jak zaawansowane i przekonywające są te przypadki oszustw. Deepfakes są szczególnie skuteczne, gdy są wdrażane przeciwko przedsiębiorstwom o rozdrobnionych i niekonsekwentnych procesach zarządzania tożsamością i słabym bezpieczeństwie, co sprawia, że jest to jeszcze bardziej krytyczne dzisiaj, aby wdrożyć solidne środki bezpieczeństwa lub mieć warstwowy podejście do bezpieczeństwa.

Jednak nie ma rozwiązania pasującego do wszystkich, więc skoordynowane, wieloaspektowe podejście jest kluczem. Może to obejmować solidne i kompleksowe kontrole dokumentów tożsamości, przeciwdziałanie AI w celu identyfikacji manipulacji przychodzących obrazów, szczególnie w odniesieniu do głosowania na odległość, oraz, co najważniejsze, identyfikację twórców deepfakes i fałszywych treści w źródle. Odpowiedzialność za weryfikację głosów spoczywa na rządach i komisjach wyborczych, a także na dostawcach technologii i tożsamości.

Jaką rolę może odegrać AI i technologie weryfikacji tożsamości, takie jak Veriff, w przeciwdziałaniu wpływowi deepfakes na wybory i kampanie polityczne?

AI jest zarówno zagrożeniem, jak i możliwością. Prawie 78% decydentów w USA widziało wzrost wykorzystania AI w atakach oszustw w ciągu ostatniego roku. Z drugiej strony, prawie 79% CEO używa AI i ML w zapobieganiu oszustwom. W czasie, gdy oszustwa są na wzrost, strategie zapobiegania oszustwom muszą być holistyczne – żadne pojedyncze narzędzie nie może zwalczyć tak wieloaspektowego zagrożenia. Jednak AI i weryfikacja tożsamości mogą umożliwić firmom i użytkownikom wielowarstwowy stos, który obejmuje biometrię, weryfikację tożsamości, crosslinking i inne rozwiązania, aby wyprzedzić oszustów.

W Veriff wykorzystujemy własną technologię opartą na AI, aby rozwijać nasze możliwości wykrywania deepfakes. Oznacza to, że nasze narzędzia są ulepszane przez naukę, gdy widzimy deepfake. Przetwarzanie dużych ilości danych i wyszukiwanie wzorców, które pojawiły się wcześniej, w celu określenia przyszłych wyników, opiera się zarówno na zautomatyzowanych technologiach, jak i ludzkiej wiedzy i inteligencji. Ludzie mają lepsze zrozumienie kontekstu, identyfikują anomalie, tworząc pętlę sprzężenia zwrotnego, która może być wykorzystana do ulepszania modeli AI. Połączenie różnych wglądów i ekspertyzy w celu stworzenia kompleksowego podejścia do weryfikacji tożsamości i wykrywania deepfakes pozwoliło Veriff i jego klientom pozostać ahead of the curve.

Jak firmy i osoby mogą lepiej chronić się przed wpływem deepfakes i sztucznie generowanymi dezinformacjami?

Ochrona przed wpływem deepfakes i sztucznie generowanymi dezinformacjami zaczyna się od edukacji i świadomości możliwości AI, połączonej z udowodnionymi tożsamościami i autentycznymi, zweryfikowanymi kontami online. Aby określić, czy można ufać źródłu, należy spojrzeć na przyczynę, a nie objawy. Musimy zmierzyć się z problemem w źródle, gdzie i przez kogo deepfakes i fałszywe zasoby są generowane.

Konsumentom i firmom należy ufać tylko informacjom z zweryfikowanych źródeł, takich jak zweryfikowani użytkownicy platform społecznościowych i renomowane media. Ponadto, korzystanie z witryn fact-checkingowych i szukanie anomalii wizualnych w klipach audio lub wideo – nieprzyrodzone ruchy, dziwne oświetlenie, rozmycie lub niepasujące synchronizowanie ust – to tylko niektóre z sposobów, jakimi firmy mogą chronić się przed wprowadzaniem w błąd przez technologię deepfake.

Czy uważasz, że istnieje wystarczająca świadomość publiczna na temat zagrożeń związanych z deepfakes? Jeśli nie, jakie kroki powinny być podjęte, aby poprawić zrozumienie?

Jeszcze znajdujemy się w fazie rosnącej świadomości na temat AI i edukowania ludzi o jego potencjale.

Według Veriff Fraud Index 2024: Part 2 ponad jedna czwarta (28%) respondentów doświadczyła jakiegoś rodzaju oszustwa wygenerowanego przez AI lub deepfake w ciągu ostatniego roku, co jest imponującym wynikiem dla technologii, która dopiero się rozwija, i wskazuje na rosnącą naturę tego zagrożenia. Co więcej, ta liczba mogłaby być jeszcze wyższa, ponieważ 20% twierdzi, że nie wie, czy zostało zaatakowane, czy nie. Biorąc pod uwagę zaawansowaną naturę oszustw generowanych przez AI, jest bardzo prawdopodobne, że wielu respondentów zostało zaatakowanych bez ich wiedzy.

Osoby powinny być ostrożne, gdy spotykają podejrzane e-maile lub nieoczekiwane połączenia telefoniczne z nieznanych źródeł. Żądania wrażliwych informacji lub pieniędzy powinny zawsze być spotykane z sceptycyzmem, a kluczowe jest ufanie swoim instynktom i szukanie wyjaśnień, jeśli coś wydaje się nie tak.

Jaką rolę widzisz dla organów regulacyjnych w walce z dezinformacjami generowanymi przez AI, i jak mogą one współpracować z firmami takimi jak Veriff?

Biorąc pod uwagę, jak bardzo technologia deepfake została wykorzystana do oszukania publiczności i nasilenia wysiłków dezinformacyjnych, oraz z wyborami w USA w toku, jeszcze nie wiadomo, jaki wpływ ta technologia będzie miała na te wybory, a także na szersze społeczeństwo. Organy regulacyjne podejmują jednak działania, aby złagodzić zagrożenia związane z technologią deepfake.

Duża odpowiedzialność za łagodzenie wpływu dezinformacji spoczywa na właścicielach platform, których najczęściej używamy. Na przykład, czołowe firmy medialne społecznościowe muszą wziąć na siebie więcej odpowiedzialności, podejmując działania i wdrażając skuteczne środki w celu wykrycia i zapobiegania atakom oszustw i ochrony użytkowników przed szkodliwymi fałszywymi informacjami.

Jak widzisz ewolucję technologii Veriff w ciągu najbliższych kilku lat, aby pozostać ahead of the curve w kontekście wyborów?

W naszym szybko rozwijającym się świecie cyfrowym, przyszłość internetu zależy od możliwości użytkowników online, aby udowodnić, kim są, aby firmy i użytkownicy mogli ze sobą bezpiecznie współpracować. W Veriff zaufanie jest synonimem weryfikacji. Naszym celem jest zapewnienie, aby środowiska cyfrowe zapewniały poczucie bezpieczeństwa i bezpieczeństwa dla użytkownika końcowego. To wymaga, aby technologia ewoluowała, aby sprostać wyzwaniom dzisiejszym, i już widzimy to wraz z coraz szerszym akceptowaniem rozpoznawania twarzy i biometrii. Dane pokazują, że konsumenci uważają rozpoznawanie twarzy i biometrię za najbezpieczniejszy sposób logowania się do usługi online.

Patrząc w przyszłość, widzimy ten trend kontynuowany i przyszłość, w której zamiast ciągłego wprowadzania i ponownego wprowadzania poświadczeń podczas wykonywania różnych zadań online, użytkownicy mają „jedną wielokrotnie używaną tożsamość”, która reprezentuje ich osobę w sieci.

Aby przybliżyć nas do tego celu, niedawno zaktualizowaliśmy nasze rozwiązanie Biometric Authentication, aby poprawić dokładność i doświadczenie użytkownika, oraz wzmocnić bezpieczeństwo dla silniejszego zapewnienia tożsamości. Ostatnie postępy w technologii biometrycznej umożliwiły naszej technologii adaptację do indywidualnych zachowań użytkowników, zapewniając uwierzytelnianie użytkownika, a nie tylko podczas jednej sesji. Ten postęp, w szczególności, reprezentuje postęp w naszej podróży ku jednej ponownie używanej cyfrowej tożsamości.

Veriff jest uznany za swoje globalne zasięgi w zapobieganiu oszustwom. Co wyróżnia technologię Veriff na tak konkurencyjnym rynku?

Rozwiązanie Veriff oferuje szybkość i wygodę, jest 30-krotnie bardziej dokładne i 6-krotnie szybsze niż konkurencyjne oferty. Mamy największą bazę danych okazów dokumentów tożsamości w branży IDV/Know Your Customer (KYC). Możemy zweryfikować osoby przeciwko 11 500 dokumentom tożsamości wydawanym przez rządy z ponad 230 krajów i terytoriów, w 48 różnych językach. Dodatkowo, ta wygoda i zmniejszona frakcja umożliwiają organizacjom konwertowanie większej liczby użytkowników, łagodzenie oszustw i przestrzeganie przepisów. Mamy również 91% wskaźnik automatyzacji, a 95% prawdziwych użytkowników jest weryfikowanych pomyślnie przy pierwszej próbie.

Veriff był jedną z pierwszych firm IDV, która uzyskała certyfikat Cyber Essentials. Cyber Essentials to skuteczny, wspierany przez rząd standard, który chroni przed najczęstszymi atakami cybernetycznymi. Uzyskanie tego certyfikatu dowodzi, że Veriff traktuje bezpieczeństwo cybernetyczne poważnie i podjął kroki w celu ochrony swoich danych i systemów. To osiągnięcie jest świadectwem niezachwianej wierności firmy wobec bezpieczeństwa cybernetycznego i naszego zaangażowania w ochronę danych naszych klientów. Ostatnio ukończyliśmy ocenę zgodności ISO/IEC 30107-3 iBeta Level 2 dla biometrycznego wykrywania bierności, niezależną, zewnętrzną weryfikację, która potwierdza, że rozwiązanie Veriff spełnia najwyższe standardy bezpieczeństwa biometrycznego.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Veriff.