Kaarel Kotkas, CEO i założyciel Veriff – seria wywiadów

Kaarel Kotkas jest CEO i założycielem Veriff i pełni funkcję strategicznego myśliciela i wizjonera założyciela firmy. Prowadzi zespół Veriff w utrzymaniu przewagi nad oszustwami i konkurencją w szybko zmieniającym się obszarze identyfikacji online. Znany ze swojej energii i entuzjazmu, Kotkas zachęca zespół do utrzymania integralności w świecie cyfrowym. W 2023 roku został uznany za jednego z 30 najbardziej perspektywicznych młodych przedsiębiorców w Unii Europejskiej, a w 2020 roku został nazwany Przedsiębiorcą Roku w Estonii przez EY. Nordic Business Report również umieścił go na liście 25 najbardziej wpływowych młodych przedsiębiorców w Europie Północnej.

Veriff to globalna firma weryfikacji tożsamości, która pomaga firmom online zmniejszyć oszustwa i dostosować się do przepisów. Wykorzystując sztuczną inteligencję, Veriff automatycznie weryfikuje tożsamości, analizując różne wskaźniki technologiczne i behawioralne, w tym rozpoznawanie twarzy.

Czym skłoniło Cię do założenia Veriff, i jakie wyzwania spotkałeś przy budowaniu platformy zapobiegania oszustwom opartej na sztucznej inteligencji?

Moja motywacja do założenia Veriff pojawiła się po tym, jak na własne oczy zobaczyłem, jak łatwo jest dla ludzi online udawać kogoś innego. Kiedy kupiłem biodegradowalną sznurkę na eBay dla mojej rodzinnej farmy w wieku 14 lat, bezproblemowo ominąłem ograniczenia wiekowe PayPal (PYPL ), zmieniając rok urodzenia na kopii dokumentu tożsamości za pomocą programu Photoshop.

Dalej widziałem, jak problem fałszywej tożsamości utrzymywał się wśród użytkowników online, którzy fałszowali swoją tożsamość, aby ominąć kontrole wiekowe i inne środki bezpieczeństwa. To doświadczenie skłoniło mnie do pomysłu założenia Veriff.

Jeśli chodzi o wyzwania, rok po założeniu firmy daliśmy zespołowi weekend wolny. Tego samego dnia wprowadziliśmy poprawkę, która spowodowała pełną przerwę w monitorowaniu. Nie zauważyliśmy, że nasza usługa wyłączyła się, aż do sobotniego poranka. W poniedziałek rano musiałem spotkać się twarzą w twarz z naszym największym klientem, który stracił tysiące dolarów przychodu. Byłem transparentny w tym spotkaniu, wyjaśniając błędy po naszej stronie. Uścisnęliśmy sobie ręce i wróciliśmy do pracy. Nauczyłem się z tego, że jako założyciel i lider biznesu musimy spodziewać się i przygotować na wyzwania. Ponadto, transparentność jest kluczem do budowania zaufania. Na koniec, udowodnienie, że możemy skutecznie rozwiązywać problemy, jest bardziej wartościowe, ponieważ pokazuje, że potrafimy sobie radzić z trudnościami i jesteśmy wytrwali.

Jakie największe ryzyko niosą deepfakes, szczególnie w kontekście wyborów i demokracji?

W tym sezonie wyborczym, integralność procesu wyborczego jest zagrożona. Sztuczna inteligencja może analizować ogromne ilości danych, aby zidentyfikować preferencje wyborcze i trendy, umożliwiając kampaniom dostosowanie wiadomości i celowanie w wyborców z wiadomościami, które najbardziej ich dotyczą. Źli aktorzy są dobrze wyposażeni w tworzenie fałszywych narracji o kandydatach, wykonujących czynności, których nigdy nie wykonali, lub wypowiadających oświadczenia, których nigdy nie wypowiadali, narażając ich reputację i myląc wyborców.

Do tej pory widzieliśmy deepfakes sław, popierających kandydatów na prezydenta oraz fałszywy robocall Bidena. Chociaż istnieją technologie, które mogą pomóc odróżnić treści generowane przez sztuczną inteligencję od prawdziwych, nie jest to wykonalne, aby wdrożyć je na dużą skalę. Z uwagi na wysokie stawki i wiarygodność wyborów, coś musi być zrobione, aby zachować zaufanie publiczne. Przyszły wzrost gospodarki cyfrowej i walka z oszustwami cyfrowymi koncentrują się wokół udowodnionych tożsamości i autentycznych, zweryfikowanych kont online.

Czy uważasz, że jeden medium jest bardziej niebezpieczne niż inne, jeśli chodzi o oszukiwanie wyborców?

W ogóle, szczególnie w kontekście amerykańskich wyborów, oba powinny być traktowane równie jako zagrożenia dla demokracji. Nasz najnowszy raport Veriff Fraud Index 2024: Część 2 wykazał, że 74% respondentów w Stanach Zjednoczonych obawia się, że sztuczna inteligencja i deepfakes wpłyną na wybory.

Ewolucja sztucznej inteligencji nasiliła zagrożenie dla bezpieczeństwa, nie tylko w Stanach Zjednoczonych, ale na całym świecie, podczas tegorocznych wyborów. Niezależnie od tego, czy chodzi o deepfakes, sztucznie generowane głosy w robocallach, które próbują zmanipulować opinie wyborców, czy fałszywe filmy z kandydatami, oba powodują uzasadnioną troskę.

Spójrzmy na większy obraz. Kiedy dostępnych jest wiele punktów danych, łatwiej ocenić „poziom zagrożenia”. Jedno zdjęcie może nie być wystarczające, aby stwierdzić, czy jest fałszywe, ale film dostarcza więcej wskazówek, szczególnie jeśli ma dźwięk. Dodanie szczegółów, takich jak urządzenie użyte, lokalizacja lub osoba, która nagrała film, zwiększa zaufanie do jego autentyczności. Oszuści zawsze próbują ograniczyć zakres informacji, ponieważ ułatwia im to manipulację. Uważam, że robo-calls są bardziej niebezpieczne niż deepfakes, ponieważ tworzenie fałszywego dźwięku jest łatwiejsze niż generowanie wysokiej jakości fałszywych filmów. Ponadto, dzięki modelom językowym, możliwe jest dostosowanie fałszywego dźwięku podczas połączeń, co czyni je jeszcze bardziej przekonywującymi.

Co powinny być największymi troskami rządów i komisji wyborczych w odniesieniu do sztucznie generowanych dezinformacji?

Rządy i komisje wyborcze muszą zrozumieć potencjalny zakres możliwości deepfakes, w tym to, jak wyrafinowane i przekonywające są te przypadki oszustw. Deepfakes są szczególnie skuteczne, gdy są wdrożone przeciwko przedsiębiorstwom o rozproszonych i niespójnych procesach zarządzania tożsamością oraz słabym bezpieczeństwie, co czyni jeszcze bardziej krytycznym wdrożenie solidnych środków bezpieczeństwa lub zastosowanie warstwowych podejść do bezpieczeństwa.

Jednak nie ma uniwersalnego rozwiązania, więc koordynowane, wieloaspektowe podejście jest kluczem. Może to obejmować solidne i kompleksowe sprawdzenia oświadczonych dokumentów tożsamości, przeciwsztuczną inteligencję w celu identyfikacji manipulacji przychodzących obrazów, szczególnie w odniesieniu do głosowania na odległość, oraz, co najważniejsze, identyfikację twórców deepfakes i fałszywych treści w źródle. Odpowiedzialność za weryfikację głosów spoczywa na rządach i komisjach wyborczych, a także na dostawcach technologii i tożsamości.

Jaką rolę mogą odegrać sztuczna inteligencja i technologie weryfikacji tożsamości, takie jak Veriff, w przeciwdziałaniu wpływowi deepfakes na wybory i kampanie polityczne?

Sztuczna inteligencja jest zarówno zagrożeniem, jak i możliwością. Blisko 78% decydentów w Stanach Zjednoczonych doświadczyło wzrostu wykorzystania sztucznej inteligencji w atakach oszustw w ciągu ostatniego roku. Z drugiej strony, blisko 79% CEO używa sztucznej inteligencji i maszynowego uczenia w zapobieganiu oszustwom. W czasie, gdy oszustwa są na wzroście, strategie zapobiegania oszustwom muszą być holistyczne – żadne pojedyncze narzędzie nie może pokonać tak wieloaspektowego zagrożenia. Jednak sztuczna inteligencja i weryfikacja tożsamości mogą umożliwić firmom i użytkownikom wielowarstwowy stos, który łączy biometrię, weryfikację tożsamości, połączenia i inne rozwiązania, aby wyprzedzić oszustów.

W Veriff wykorzystujemy własną technologię opartą na sztucznej inteligencji, aby rozwijać nasze możliwości wykrywania deepfakes. Oznacza to, że nasze narzędzia są ulepszane dzięki doświadczeniom, gdy widzimy deepfake. Przetwarzanie dużych ilości danych i wyszukiwanie wzorców, które pojawiły się wcześniej, aby określić przyszłe wyniki, opiera się zarówno na automatycznych technologiach, jak i na ludzkiej wiedzy i inteligencji. Ludzie mają lepsze zrozumienie kontekstu, identyfikując anomalie, tworząc pętlę sprzężenia, która może być wykorzystana do ulepszania modeli sztucznej inteligencji. Połączenie różnych spostrzeżeń i ekspertyzy w celu stworzenia kompleksowego podejścia do weryfikacji tożsamości i wykrywania deepfakes pozwoliło Veriff i jego klientom pozostać ahead of the curve.

Jak mogą firmy i osoby chronić się przed wpływem deepfakes i sztucznie generowanych dezinformacji?

Ochrona przed wpływem deepfakes i sztucznie generowanych dezinformacji zaczyna się od edukacji i świadomości możliwości sztucznej inteligencji, połączonej z udowodnionymi tożsamościami i autentycznymi, zweryfikowanymi kontami online. Aby określić, czy można ufać źródłu, należy spojrzeć na przyczynę, a nie objawy. Musimy rozwiązać problem w źródle, gdzie i przez kogo tworzone są deepfakes i fałszywe treści.

Konsumenci i firmy muszą ufać tylko informacjom z zweryfikowanych źródeł, takich jak zweryfikowani użytkownicy platform społecznościowych i renomowane media. Ponadto, korzystanie ze stron faktograficznych i poszukiwanie anomalii wizualnych w klipach audio lub wideo – nieprzyrodzone ruchy, dziwne oświetlenie, rozmycie lub niepasujące synchronizowanie ust – to tylko niektóre z sposobów, jakimi firmy mogą chronić się przed dezinformacją generowaną przez deepfakes.

Czy uważasz, że jest wystarczająca świadomość społeczna na temat niebezpieczeństw związanych z deepfakes? Jeśli nie, jakie kroki powinny zostać podjęte, aby poprawić zrozumienie?

Jeszcze jesteśmy w fazie rosnącej świadomości na temat sztucznej inteligencji i edukacji ludzi o jej potencjale.

Zgodnie z Veriff Fraud Index 2024: Część 2, ponad jedna czwarta (28%) respondentów doświadczyła jakiejś formy oszustwa generowanego przez sztuczną inteligencję lub deepfakes w ciągu ostatniego roku, co jest imponującym wynikiem dla tej technologii i wskazuje na rosnące zagrożenie. Co więcej, 20% respondentów nie wie, czy zostali zaatakowani, czy nie. Biorąc pod uwagę wyrafinowaną naturę ataków oszustw generowanych przez sztuczną inteligencję, jest bardzo prawdopodobne, że wielu respondentów zostało zaatakowanych bez swojej wiedzy.

Osoby powinny być ostrożne, gdy spotykają podejrzane e-maile lub nieoczekiwane połączenia telefoniczne z nieznanych źródeł. Żądania wrażliwych informacji lub pieniędzy powinny zawsze być spotykane z sceptycyzmem, a ważne jest, aby ufać swoim instynktom i szukać wyjaśnień, jeśli coś wydaje się nie tak.

Jaką rolę odgrywają organy regulacyjne w walce z dezinformacją generowaną przez sztuczną inteligencję, i jak mogą one współpracować z firmami takimi jak Veriff?

Biorąc pod uwagę, jak bardzo technologia deepfakes została wykorzystana do oszukania społeczeństwa i nasilenia wysiłków dezinformacyjnych, a także z uwagi na trwające wybory w Stanach Zjednoczonych, jeszcze nie wiadomo, jaki wpływ ta technologia będzie miała na te wybory i szersze społeczeństwo. Organy regulacyjne podejmują jednak działania, aby złagodzić zagrożenia związane z technologią deepfakes.

Spory odsetek odpowiedzialności za łagodzenie wpływu dezinformacji spada na właścicieli platform, których używamy najczęściej. Przykładowo, czołowe firmy medialne społecznościowe muszą wziąć na siebie więcej odpowiedzialności, podejmując działania i wdrażając skuteczne środki w celu wykrycia i zapobiegania atakom oszustw i ochrony użytkowników przed szkodliwymi dezinformacjami.

Jak widzisz ewolucję technologii Veriff w ciągu najbliższych kilku lat, aby pozostać ahead of the curve w kontekście oszustw, szczególnie w kontekście wyborów?

W naszym szybko zmieniającym się świecie cyfrowym, przyszłość internetu zależy od możliwości użytkowników, aby udowodnić, kim są, aby firmy i użytkownicy mogli z ufnością współpracować. W Veriff ufność jest synonimem weryfikacji. Naszym celem jest zapewnienie, aby środowiska cyfrowe zapewniały poczucie bezpieczeństwa dla użytkowników końcowych. Cel ten wymaga, aby technologia ewoluowała, aby sprostać wyzwaniom dzisiejszego dnia, i już widzimy to w coraz szerszym akceptowaniu rozpoznawania twarzy i biometrii. Dane pokazują, że konsumenci uważają rozpoznawanie twarzy i biometrię za najbezpieczniejszy sposób logowania do usługi online.

Spójrzmy w przyszłość. Widzimy tendencję, która będzie kontynuowana, i przyszłość, w której zamiast ciągłego wprowadzania i ponownego wprowadzania poświadczeń podczas wykonywania różnych zadań online, użytkownicy będą mieli „jedną wielokrotnie używaną tożsamość”, która reprezentuje ich osobę w sieci.

Aby przybliżyć nas do tego celu, niedawno zaktualizowaliśmy nasze rozwiązanie uwierzytelniania biometrycznego, aby poprawić dokładność i doświadczenie użytkownika, oraz wzmocnić bezpieczeństwo dla silniejszych gwarancji tożsamości. Ostatnie postępy w technologii biometrycznej umożliwiły naszej technologii adaptację do indywidualnych zachowań użytkowników, zapewniając uwierzytelnianie użytkownika, a nie tylko podczas jednej sesji. Ten postęp reprezentuje postęp na naszej drodze do jednej wielokrotnie używanej cyfrowej tożsamości.

Veriff jest rozpoznawany za swoje globalne zasięgi w zapobieganiu oszustwom. Co wyróżnia technologię Veriff na tak konkurencyjnym rynku?

Rozwiązanie Veriff oferuje szybkość i wygodę, jest 30-krotnie bardziej dokładne i 6-krotnie szybsze niż oferty konkurencyjne. Posiadamy największą bazę danych okazów dokumentów tożsamości w branży weryfikacji tożsamości i znanych klientów. Możemy zweryfikować ludzi przeciwko 11 500 dokumentom tożsamości wydanym przez rządy z ponad 230 krajów i terytoriów, w 48 różnych językach. Dodatkowo, ta wygoda i zmniejszona frakcja umożliwiają organizacjom konwersję większej liczby użytkowników, łagodzenie oszustw i dostosowanie do przepisów. Mamy również wskaźnik automatyzacji na poziomie 91%, a 95% prawdziwych użytkowników jest weryfikowanych pomyślnie przy pierwszej próbie.

Veriff było jedną z pierwszych firm weryfikacji tożsamości, które uzyskały certyfikat Cyber Essentials. Cyber Essentials to skuteczny standard wspierany przez rząd, który chroni przed najczęstszymi atakami cybernetycznymi. Uzyskanie tego certyfikatu dowodzi, że Veriff traktuje poważnie bezpieczeństwo cybernetyczne i podjął kroki w celu ochrony swoich danych i systemów. To osiągnięcie jest świadectwem niezachwianej deklaracji firmy w kierunku bezpieczeństwa cybernetycznego i naszego zaangażowania w ochronę danych naszych klientów. Ostatnio ukończyliśmy ocenę zgodności z normą ISO/IEC 30107-3 iBetę na poziomie 2 dla biometrycznej detekcji żywych, co jest niezależnym, zewnętrznym potwierdzeniem, że rozwiązanie Veriff spełnia najwyższe standardy bezpieczeństwa biometrycznego.

Dziękujemy za wspaniały wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Veriff.