Kaarel Kotkas, administrerende direktør og grundlægger af Veriff – Intervju-serie

Kaarel Kotkas er administrerende direktør og grundlægger af Veriff og fungerer som den strategiske tænker og visionær bag virksomheden. Han leder Veriffs team i at holde sig foran svig og konkurrence i det hurtigt skiftende felt for online-identifikation. Kendt for sin energi og entusiasme, opmuntrer Kotkas teamet til at opretholde integritet i den digitale verden. I 2023 blev han anerkendt i EU Forbes 30 Under 30, og i 2020 blev han navngivet som EY Entrepreneur of the Year i Estland. Nordic Business Report har også inkluderet ham blandt de 25 mest indflydelsesrige unge iværksættere i Nordeuropa.

Veriff er et globalt identitetsverifikationsfirma, der hjælper online-forretninger med at reducere svig og overholde reglerne. Ved hjælp af AI verificerer Veriff automatisk identiteter ved at analysere forskellige teknologiske og adfærdsmæssige indikatorer, herunder ansigtsgenkendelse.

Hvad inspirerede dig til at grundlægge Veriff, og hvilke udfordringer mødte du under opbygningen af en AI-dreven svigforebyggelsesplatform?

Min motivation for Veriff kom efter at have oplevet førstehånds, hvor let det var for mennesker online at forestille sig at være nogen andre. Da jeg købte biologisk nedbrydelig snor fra eBay til min families farm i en alder af 14, bypassede jeg let PayPals 18+ aldersbegrænsninger med et touch af Photoshop for at ændre min fødselsår på kopi af mit identitetsdokument.

Jeg fortsatte med at se problemet med online-brugere, der misrepræsenterer deres identitet for at passere alderskontroller og andre sikkerhedsforanstaltninger. Det var på grund af disse oplevelser, at jeg fik ideen til Veriff.

Som for udfordringer, et år efter at have grundlagt virksomheden, gav vi vores team weekenden fri. Dette var samme dag, vi udførte en fejlrettelse, der resulterede i en fuld afbrydelse af overvågningskapaciteten. Vi lagde ikke mærke til, at vores tjeneste lukkede sig selv ned, før lørdag morgen. Om mandag morgen skulle jeg møde ansigt til ansigt med vores største kunde, der havde tabt tusinder af dollars i omsætning. Jeg var transparent i den møde, hvor jeg forklarede fejlene på vores side. Vi rystede hænder og gik tilbage til arbejde. Det, jeg lærte af dette, er, at som grundlægger og forretningsleder, må vi forvente og forberede os på udfordringer. Derudover er transparens nøgle til at opbygge tillid. Endelig kan en historie om at overvinde udfordringer være mere værdifuld, fordi det viser, at du kan løse problemerne og er robust.

Med deepfakes, der bliver mere avancerede, især i politiske sammenhænge, hvad mener du er de største risici, de udgør for valg og demokrati?

I denne valgperiode er integriteten af valgprocessen i fare. AI kan analysere store mængder data for at identificere vælgerpræferencer og tendenser, hvilket giver mulighed for kampagner til at tilpasse beskeder og målrette vælgere med beskeder, de bedst kan lide. Dårlige aktører er godt udstyret til at skabe falske narrativer om kandidater, der udfører handlinger, de aldrig har gjort, eller siger udtalelser, de aldrig har sagt, og således skade deres rygte og mislede vælgerne.

Indtil nu har vi set deepfakes af kendisser, der støtter præsidentkandidater og en falsk Biden-robocall. Selv om teknologi findes til at hjælpe med at skelne mellem AI-genereret indhold og den virkelige vare, er det ikke muligt at implementere bredt i stor skala. Med de høje indsats og valgkredibilitet på spil, skal noget gøres for at bevare offentlig tillid. Fremtiden for den digitale økonomi og dens kamp mod digital svig centerer sig om bevisede identiteter og autentiske og verificerede online-konti.

Deepfakes kan manipulere ikke kun billeder, men også stemmer. Mener du, at en af medierne er farligere end den anden, når det kommer til at bedrage vælgere?

Generelt, især i den amerikanske kontekst af valg, skal begge behandles lige så meget som trusler mod demokrati. Vores seneste rapport Veriff Fraud Index 2024: Part 2, fandt, at 74% af respondenterne i USA er bekymrede over AI og deepfakes’ indvirkning på valg.

Udviklingen af AI har accelereret truslen mod sikkerheden, ikke kun i USA, men over hele verden, under dette års valg. Uanset om det er deepfake-billeder, AI-genererede stemmer i robocalls, der forsøger at påvirke vælgermeninger, eller fabrikerede videoer af kandidater, så vækker de begge berettiget bekymring.

Lad os se på det større billede her. Når der er mange data punkter til rådighed, er det lettere at vurdere “trusleniveauet”. Et enkelt billede kan ikke være nok til at afgøre, om det er svindel, men en video giver flere hints, især hvis den har lyd. Tilføjelse af detaljer som enheden brugt, placering eller hvem optog videoen øger tilliden til dens ægthed. Svimlere forsøger altid at begrænse omfanget af information, da det gør det lettere at manipulere. Jeg betragter robocalls som farligere end deepfakes, fordi det er lettere at generere falsk lyd end højkvalitetsfalske videoer. Desuden gør det muligt at justere falsk lyd under opkald med LLM’er, hvilket gør det endnu mere overbevisende.

Hvad skal regeringer og valgkommissioner være mest bekymrede for, når det kommer til AI-drevet desinformation i forbindelse med de forestående valg?

Regeringer og valgkommissioner skal forstå omfanget af deepfake-kapaciteter, herunder, hvor avancerede og overbevisende disse svindeltilfælde er blevet. Deepfakes er særligt effektive, når de anvendes mod virksomheder med splittede og inkonsistente identitetsstyringsprocesser og dårlig cybersikkerhed, hvilket gør det endnu mere kritisk i dag at implementere robuste sikkerhedsforanstaltninger eller have en lagdelt tilgang til sikkerhed.

Der er dog ingen en-size-fits-all-løsning, så en koordineret, multifacetteret tilgang er nøgle. Dette kan inkludere robuste og omfattende kontroller af påståede identitetsdokumenter, mod-AI til at identificere manipulation af indgående billeder, især i forbindelse med fjernvalg, og, mest vigtigt, identificering af skaberen af deepfakes og svindelindhold på kilde. Ansvarlig for verificering af stemmer ligger hos regeringer og valgkommissioner samt teknologi- og identitetsudbydere.

Hvad rolle kan AI og identitetsverifikationsteknologier som Veriff spille i at modvirke deepfakes’ indvirkning på valg og politiske kampagner?

AI er en trussel og en mulighed. Næsten 78% af amerikanske beslutningstagere har set en stigning i brugen af AI i svindelangreb over det seneste år. På den anden side bruger næsten 79% af CEO’er AI og ML i svindelforbyggelse. I en tid, hvor svig er på vej op, skal svindelforbyggelsesstrategier være holistiske – ingen enkelt værktøj kan bekæmpe en så mangfoldig trussel. Alligevel kan AI og identitetsverifikation give virksomheder og brugere en multifacetteret stak, der bringer biometri, identitetsverifikation, krydslinking og andre løsninger til at komme foran svimlere.

Ved Veriff bruger vi vores egen AI-drevne teknologi til at bygge vores deepfake-detektionskapaciteter. Dette betyder, at vores værktøjer forbedres fra læringen, når vi ser en deepfake. At tage store mængder data og søge efter mønstre, der er set før, for at bestemme fremtidige resultater, afhænger af både automatiserede teknologier og menneskelig viden og intelligens. Mennesker har en bedre forståelse af kontekst, identificering af anomalier for at skabe en feedback-løkke, der kan bruges til at forbedre AI-modeller. Kombination af forskellige indsigt og ekspertise for at skabe en omfattende tilgang til identitetsverifikation og deepfakedetektion har tilladt Veriff og vores kunder at holde sig foran kurven.

Hvordan kan virksomheder og enkeltpersoner bedre beskytte sig selv mod at blive påvirket af deepfakes og AI-drevet desinformation?

Beskyttelse af sig selv mod at blive påvirket af deepfakes og AI-drevet desinformation starter med uddannelse og bevidsthed om AI’s omfattende kapaciteter, kombineret med bevisede identiteter og autentiske, verificerede online-konti. For at afgøre, om man kan stole på en kilde, skal man se på årsagen og ikke symptomerne. Vi må konfrontere problemet ved kilde, hvor og af hvem disse deepfakes og svindelressourcer genereres.

Forbrugere og virksomheder skal kun stole på information fra verificerede kilder, såsom verificerede brugere på sociale medieplatforme og velkrediterede nyhedsmedier. Derudover kan brugen af faktatjek-websider og søgning efter visuelle anomalier i lyd- eller video-klip – unaturlige bevægelser, underlige lysforhold, uklarhed eller mislignende lip-syncing – blot være nogle af måderne, virksomheder kan beskytte sig selv mod at blive ført bag lyset af deepfake-teknologi.

Mener du, at der er nok offentlig bevidsthed om farerne ved deepfakes? Hvis ikke, hvilke skridt skal tages for at forbedre forståelsen?

Vi er stadig i den voksende bevidsthedsfase omkring AI og uddannelse af mennesker om dets potentiale.

Ifølge Veriff Fraud Index 2024: Part 2 har mere end en fjerdedel (28%) af respondenterne oplevet en form for AI- eller deepfake-genereret svig over det seneste år, et slående resultat for en opkommende teknologi og en indikation af den voksende natur af denne trussel. Det vigtigste er, at dette tal kunne være endnu højere, da 20% siger, de ikke ved, om de er blevet målrettet eller ej. Givet den avancerede natur af AI-genererede svindelforsøg er det sandsynligt, at mange respondenter er blevet målrettet uden at vide det.

Enkeltpersoner skal være forsigtige, når de møder mistænkelige e-mails eller uventede telefonopkald fra ukendte kilder. Anmodninger om følsomme oplysninger eller penge skal altid mødes med skepsis, og det er afgørende at stole på sine instinkter og søge klarhed, hvis noget føles forkert.

Hvad rolle ser du for reguleringer i kampen mod AI-genereret desinformation, og hvordan kan de samarbejde med virksomheder som Veriff?

Givet omfanget af, hvilken udstrækning deepfake-teknologi er blevet brugt til at bedrage offentligheden og forstærke desinformationsbestræbelser, og med det amerikanske valg stadig i gang, er det endnu ikke set, hvor stor en indvirkning denne teknologi vil have på valget såvel som på det bredere samfund. Alligevel tager reguleringer skridt for at mindske truslen fra deepfake-teknologi.

En stor del af ansvaret for at mindske desinformationsindvirkningen falder på ejerne af de platforme, vi bruger mest. For eksempel skal førende sociale medievirksomheder tage mere ansvar ved at handle og implementere robuste foranstaltninger til at opdage og forhindre svindelangreb og beskytte brugere mod skadelig desinformation.

Hvordan ser du Veriffs teknologi udvikle sig de næste par år for at holde sig foran svimlere, især i konteksten af valg?

I vores hurtigt digitaliserede verden afhænger internettets fremtid af online-brugernes evne til at bevise, hvem de er, så virksomheder og brugere kan have tillid til at interagere med hinanden. Hos Veriff er tillid synonymt med verificering. Vi sigter mod at sikre, at digitale miljøer fremmer en følelse af sikkerhed og tryghed for slutbrugeren. Dette mål kræver, at teknologien udvikler sig for at imødegå udfordringerne i dag, og vi ser allerede dette med en bredere accept af ansigtsgenkendelse og biometri. Data viser, at forbrugere betragter ansigtsgenkendelse og biometri som den mest sikre metode til at logge ind på en online-tjeneste.

Set fremad ser vi denne trend fortsætte og en fremtid, hvor brugere ikke konstant skal indtaste og genindtaste deres legitimationsoplysninger, mens de udfører forskellige opgaver online, men i stedet har “én genbrugelig identitet”, der repræsenterer deres persona på nettet.

For at bringe os et skridt nærmere vores mål har vi nylig opdateret vores Biometriske Autentificeringsløsning for at forbedre nøjagtigheden og brugeroplevelsen samt styrke sikkerheden for en stærkere identitetsgaranti. Disse seneste fremskridt i biometriteknologi har gjort det muligt for vores teknologi at tilpasse sig enkeltbrugeradfærd, hvilket sikrer brugerautentificering ikke kun under en enkelt session, men også over tid. Dette fremskridt repræsenterer fremgang på vores rejse mod én genbrugelig digital identitet.

Veriff er anerkendt for sin globale rækkevidde i svindelforbyggelse. Hvad gør Veriffs teknologi så unik i et så konkurrencedygtigt marked?

Veriffs løsning tilbyder hastighed og fleksibilitet, da den er 30 gange mere præcis og 6 gange hurtigere end konkurrerende tilbud. Vi har den største specimendatabase for identitetsdokumenter i IDV/KYC-industrien. Vi kan verificere personer mod 11.500 officielle ID-dokumenter fra mere end 230 lande og territorier på 48 forskellige sprog. Derudover giver denne fleksibilitet og reduceret friktion virksomheder mulighed for at konvertere flere brugere, mindske svig og overholde reglerne. Vi har også en automatiseringsrate på 91%, og 95% af ægte brugere bliver verificeret med succes på deres første forsøg.

Veriff var en af de første IDV-virksomheder, der opnåede Cyber Essentials-certificeringen. Cyber Essentials er en effektiv, regeringsstøttet standard, der beskytter mod de mest almindelige cyberangreb. At opnå denne certificering demonstrerer, at Veriff tager cybersikkerhed alvorligt og har taget skridt for at beskytte vores data og systemer. Dette er en bekræftelse på virksomhedens urokkelige engagement i cybersikkerhed og vores tilstedeværelse for at beskytte kundernes data. Mest nylig har vi gennemført ISO/IEC 30107-3 iBeta Level 2 Compliance-evaluering for biometrisk passiv livsdetektion, en uafhængig ekstern validering for at fastslå, at Veriffs løsning opfylder den højeste standard for biometrisk sikkerhed.

Tak for det gode interview. Læsere, der ønsker at lære mere, skal besøge Veriff.