Kaarel Kotkas, CEO a zakladatel Veriff – rozhovor

Kaarel Kotkas je CEO a zakladatel Veriff a působí jako strategický myslitel a vizionář společnosti. Vedie tým Veriff v úsilí zůstat před podvody a konkurencí v rychle se měnícím poli online identifikace. Je známý svou energií a entuziasmem, Kotkas povzbuzuje tým, aby dodržoval integritu v digitálním světě. V roce 2023 byl uznán v EU Forbes 30 pod 30 a v roce 2020 byl jmenován EY Entrepreneur of the Year v Estonsku. Nordic Business Report ho také zařadil mezi 25 nejvlivnějších mladých podnikatelů v severní Evropě.

Veriff je globální společnost pro ověření identity, která pomáhá online podnikům snižovat podvody a dodržovat předpisy. Používá umělou inteligenci, Veriff automaticky ověřuje identity analýzou různých technických a behaviorálních indikátorů, včetně rozpoznávání obličeje.

Co vás inspirovalo k založení Veriff a jaké výzvy jste čelili při budování platformy pro prevenci podvodů s umělou inteligencí?

Má motivace pro Veriff přišla po tom, co jsem osobně zažil, jak snadno lze online předstírat, že jste někdo jiný. Když jsem kupoval biologicky odbouratelnou šňůru na eBay pro farmu své rodiny ve věku 14 let, snadno jsem obešel omezení PayPalu pro osoby starší 18 let pomocí Photoshopu k úpravě roku narození na kopii svého dokladu totožnosti.

Dále jsem viděl, jak online uživatelé předstírají svou identitu, aby prošli věkovými kontrolami a jinými bezpečnostními opatřeními. Právě tyto zkušenosti mě vedly k myšlence na Veriff.

Co se týče výzev, rok po založení společnosti jsme dali týmu víkend volno. Tentýž den jsme provedli opravu chyby, která způsobila úplné přerušení našich monitorovacích schopností. Nevšimli jsme si, že naše služba se sama vypíná, až do sobotního rána. V pondělí ráno jsem se musel setkat s naším největším zákazníkem, který ztratil tisíce dolarů na příjmech. Byl jsem transparentní a vysvětlil chyby na naší straně. Potřásli jsme si rukama a vrátili se k práci. Z toho jsem se naučil, že jako zakladatel a lídr podniku musíme očekávat a připravovat se na výzvy. Kromě toho je transparentnost klíčová pro budování důvěry. Nakonec prokázání schopnosti překonat výzvy může být více cenné, protože ukazuje, že můžete úspěšně řešit problémy a jste odolní.

Jaké jsou podle vás největší rizika, která deepfakes představují pro volby a demokracii, zejména s ohledem na jejich rostoucí sofistikovanost, zvláště v politickém kontextu?

V tomto volebním období je integrita volebního procesu ohrožena. Umělá inteligence může analyzovat velké množství dat, aby identifikovala preference voličů a trendy, a tím umožnit kampaním přizpůsobit zprávy a cílit na voliče s zprávami, které jim nejvíce záleží. Špatní aktéři jsou dobře vybaveni k vytváření falešných narativů o kandidátech, kteří provádějí akce, které nikdy neudělali, nebo prohlašují věci, které nikdy neřekli, a tím poškozují jejich reputaci a klamou voliče.

Dosud jsme viděli deepfakes slavných osobností, které podporují prezidentské kandidáty a falešné Bidenovy robokoly. Ačkoli existuje technologie, která může pomoci rozlišit mezi umělou inteligencí generovaným obsahem a skutečností, není možné ji široce implementovat. S vysokými ставkami a kredibilitou voleb na hraní, musí se něco udělat, aby se zachovala veřejná důvěra. Budoucí růst digitální ekonomiky a boj proti digitálním podvodům se točí kolem prokázaných identit a autentických a ověřených online účtů.

Myslíte, že jeden z deepfakes (obrázky nebo hlasy) je nebezpečnější než druhý, pokud jde o oklamání voličů?

Obecně, zvláště v kontextu amerických voleb, měly by být oba považovány za stejně závažné hrozby pro demokracii. Naše nejnovější zpráva Veriff Fraud Index 2024: Part 2 zjistila, že 74 % respondentů v USA se obává o vliv umělých inteligencí a deepfakes na volby.

Evolution umělých inteligencí dramaticky zvýšila hrozbu pro bezpečnost, nejen ve Spojených státech, ale po celém světě, během letošních voleb. Bez ohledu na to, zda se jedná o deepfakes obrázků, umělými inteligencemi generované hlasy v robokolech, které se snaží ovlivnit názory voličů, nebo falešné videa kandidátů, obě varianty vyvolávají oprávněné obavy.

Co by měly vlády a volební komise dělat, aby se chránily proti AI poháněným dezinformacím, zejména s ohledem na nadcházející volby?

Vládám a volebním komisím je třeba porozumět potenciálnímu rozsahu schopností deepfakes, včetně toho, jak sofistikované a přesvědčivé tyto případy podvodů jsou. Deepfakes jsou zvláště účinné, když jsou nasazeny proti podnikům s nesourodými a nekonzistentními procesy správy identit a špatnou kybernetickou bezpečností, což z nich činí ještě kritičtější implementaci robustních bezpečnostních opatření nebo vrstveného přístupu k bezpečnosti.

Stále neexistuje univerzální řešení, a proto je klíčový koordinovaný a multifaceted přístup. To by mohlo zahrnovat robustní a komplexní kontroly deklarovaných dokladů totožnosti, protiumělé umělých inteligencí k identifikaci manipulace příchozích obrázků, zvláště pokud jde o vzdálené hlasování, a nej重要něji, identifikaci tvůrců deepfakes a podvodného obsahu v jeho zdroji. Odpovědnost za ověření hlasů leží na vládách a volebních komisích, stejně jako na technologických a identifikačních poskytovatelích.

Jakou roli mohou sehrát umělá inteligence a technologie ověření identity, jako je Veriff, v boji proti dopadům deepfakes na volby a politické kampaně?

Umělá inteligence je hrozbou i příležitostí. Téměř 78 % amerických rozhodovatelů vidělo zvýšení používání umělých inteligencí v podvodných útocích za poslední rok. Na druhou stranu téměř 79 % CEO používá umělou inteligenci a strojové učení v prevenci podvodů. V době, kdy se zvyšuje počet podvodů, musí být strategie prevence podvodů holistické – žádný jediný nástroj nemůže bojovat proti takové mnohotvárné hrozbě. Přesto umělá inteligence a ověření identity mohou poskytnout podnikům a uživatelům multilayered stack, který zahrnuje biometrii, ověření identity, propojení a další řešení, aby zůstali před podvodníky.

Ve Veriff používáme svou vlastní technologii s umělou inteligencí k budování našich schopností detekce deepfakes. To znamená, že naše nástroje se zlepšují z učení, když vidíme deepfake. Používání velkých množství dat a hledání vzorců, které se objevily dříve, aby se určily budoucí výsledky, závisí na automatizovaných technologiích a lidském poznání a inteligenci. Lidé mají lepší pochopení kontextu, identifikaci anomálií, aby vytvořili zpětnou vazbu, která může být použita k vylepšení modelů umělých inteligencí. Kombinace různých poznatků a odborných znalostí k vytvoření komplexního přístupu k ověření identity a detekci deepfakes umožnila Veriff a jeho zákazníkům zůstat před křivkou.

Jak mohou podniky a jednotlivci lépe chránit sebe před vlivem deepfakes a AI poháněnými dezinformacemi?

Chránit se před vlivem deepfakes a AI poháněnými dezinformacemi začíná vzděláním a povědomím o rozsáhlých schopnostech umělých inteligencí, spojených s prokázanými identitami a autentickými, ověřenými online účty. Abyste určili, zda můžete důvěřovat zdroji, musíte se podívat na příčinu, nikoli na symptomy. Musíme konfrontovat problém v jeho zdroji, kde a kým jsou tyto deepfakes a podvodné zdroje generovány.

Spotřebitelé a podniky musí důvěřovat pouze informacím z ověřených zdrojů, jako jsou ověřené uživatele sociálních médií a dobře uznávaná zpravodajská média. Kromě toho použití faktografických webů a hledání vizuálních anomálií v audio nebo video klipech – nepřirozené pohyby, divné osvětlení, rozmazání nebo nesoulad mezi synchronizací rtů – jsou jen některé z způsobů, jak podniky mohou chránit sebe před tím, aby byly oklamané technologií deepfakes.

Myslíte, že je dostatečná veřejná osvěta o nebezpečích deepfakes? Pokud ne, jaké kroky by měly být podniknuty ke zlepšení porozumění?

Jsme stále ve fázi rostoucího povědomí o umělých inteligencích a vzdělávání lidí o jejich potenciálu.

Podle Veriff Fraud Index 2024: Part 2 více než čtvrtina (28 %) respondentů zažila nějaký druh AI nebo deepfake generovaného podvodu za poslední rok, což je překvapivý výsledek pro vznikající technologii a indikace rostoucího charakteru této hrozby. Co je důležitější, je, že toto číslo by mohlo být ve skutečnosti ještě vyšší, protože 20 % uvádí, že neví, zda byli cíleni nebo ne. Vzhledem k sofistikovanému charakteru AI generovaných pokusů o podvod je vysoce pravděpodobné, že mnoho respondentů bylo cíleno bez vědomí.

Jednotlivci by měli být opatrní, když narazí na podezřelé e-maily nebo nečekané telefonáty z neznámých zdrojů. Žádosti o citlivé informace nebo peníze by měly být vždy přijaty se skepsí, a je důležité důvěřovat svým instinktům a hledat vyjasnění, pokud něco feels špatně.

Jakou roli podle vás sehrávají regulační orgány v boji proti AI generovaným dezinformacím, a jak mohou spolupracovat s společnostmi, jako je Veriff?

Vzhledem k rozsahu, v jakém byla technologie deepfakes použita k oklamání veřejnosti a zesílení úsilí o dezinformace, a s tím, že americké volby jsou stále probíhající, je ještě třeba vidět, jak velký dopad bude tato technologie mít na volby i na širší společnost. Regulační orgány však činí kroky k zmírnění hrozeb technologie deepfakes.

Velká část odpovědnosti za zmírnění dopadů dezinformací leží na vlastnících platforem, které používáme nejčastěji. Například vedoucí sociální média musí převzít více odpovědnosti tím, že budou jednat a implementovat robustní opatření k detekci a prevenci podvodných útoků a ochraně uživatelů před škodlivou dezinformací.

Jak vidíte budoucí vývoj technologie Veriff v příštích letech, aby zůstala před podvodníky, zejména v kontextu voleb?

V našem rychle se měnícím digitálním světě závisí budoucnost internetu na schopnosti online uživatelů prokázat, kdo jsou; tím mohou podniky a uživatelé s jistotou interagovat. Ve Veriff je důvěra synonymem pro ověření. Naším cílem je zajistit, aby digitální prostředí podporovala pocit bezpečí a bezpečnosti pro koncového uživatele. Tento cíl bude vyžadovat, aby se technologie vyvíjela, aby řešila výzvy dneška, a již vidíme, že se to děje se širším přijetím rozpoznávání obličeje a biometrie. Data ukazují, že spotřebitelé považují rozpoznávání obličeje a biometrii za nejbezpečnější metodu pro přihlášení k online službě.

Pohledem do budoucnosti vidíme, že tento trend bude pokračovat a budoucnost, ve které uživatelé místo neustálého zadávání a opětovného zadávání svých přihlašovacích údajů při různých online aktivitách budou mít „jednu opakovaně použitelnou identitu“, která reprezentuje jejich osobu na webu.

Abychom se přiblížili našemu cíli, nedávno jsme aktualizovali naši biometrickou autentizační řešení, aby se zlepšila přesnost a uživatelský zážitek a aby se zvýšila bezpečnost pro silnější zajištění identity. Tyto nejnovější pokroky v biometrické technologii umožnily naší technologii přizpůsobit se individuálnímu chování uživatelů, zajišťující autentizaci uživatelů, a not only během jedné relace. Tento pokrok, zvláště, představuje pokrok na naší cestě k jedné opakovaně použitelné digitální identitě.

Co činí technologii Veriff výjimečnou v tak конкурентním prostoru?

Řešení Veriff nabízí rychlost a pohodlí, jelikož je 30x více přesné a 6x rychlejší než konkurenční nabídky. Máme největší databázi vzorků dokladů totožnosti v oblasti ověření identity a známe svého zákazníka. Můžeme ověřit lidi proti 11 500 vládním dokladům totožnosti z více než 230 zemí a území, v 48 různých jazycích. Kromě toho tato pohodlí a snížená tření umožňují organizacím převést více uživatelů, zmírnit podvody a dodržovat předpisy. Máme také 91% míru automatizace a 95 % skutečných uživatelů je ověřeno úspěšně při jejich prvním pokusu.

Veriff byla jednou z prvních společností pro ověření identity, která získala certifikaci Cyber Essentials. Cyber Essentials je efektivní standard podporovaný vládou, který chrání proti nejčastějším kybernetickým útokům. Získání této certifikace demonstruje, že Veriff bere kybernetickou bezpečnost vážně a podnikla kroky k ochraně svých dat a systémů. Tento úspěch je svědectvím neochvějného závazku společnosti k kybernetické bezpečnosti a naší oddanosti ochraně dat našich zákazníků. Nedávno jsme dokončili hodnocení shody ISO/IEC 30107-3 iBeta Level 2 pro biometrickou pasivní detekci liveness, nezávislé externí ověření, které upevňuje, že řešení Veriff splňuje nejvyšší standard biometrické bezpečnosti.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Veriff.