Kaarel Kotkas, administrerende direktør og grundlægger af Veriff – Intervieuserie

Kaarel Kotkas er administrerende direktør og grundlægger af Veriff og fungerer som den strategiske tænker og visionær bag virksomheden. Han leder Veriffs team i at føre an i kampen mod svindel og konkurrence i det hurtigt skiftende felt af online-identifikation. Kendt for sin energi og entusiasme, opmuntrer Kotkas teamet til at opretholde integritet i den digitale verden. I 2023 blev han anerkendt i EU Forbes 30 Under 30, og i 2020 blev han navngivet som EY Entrepreneur of the Year i Estland. Nordic Business Report har også inkluderet ham blandt de 25 mest indflydelsesrige unge iværksættere i Nordeuropa.

Veriff er et globalt identitetsverifikationsfirma, der hjælper online-forretninger med at reducere svindel og overholde reglerne. Ved hjælp af AI verificerer Veriff automatisk identiteter ved at analysere forskellige teknologiske og adfærdsmæssige tegn, herunder ansigtsgenkendelse.

Hvad inspirerede dig til at grundlægge Veriff, og hvilke udfordringer mødte du i opbygningen af en AI-dreven svindelforhindrelsesplatform?

Min motivation for Veriff kom efter, at jeg havde oplevet, hvor let det var for mennesker online at forestille sig for at være nogen anden. Da jeg købte biologisk nedbrydelig snor fra eBay til min families gård i en alder af 14, kunne jeg let omgå PayPals aldersbegrænsninger på 18+ ved at ændre mit fødselsår på en kopi af mit identitetsdokument med hjælp af Photoshop.

Jeg fortsatte med at se problemet med, at online-brugere misrepræsenterede deres identitet for at bestå alderskontroller og andre sikkerhedsforanstaltninger. Det var på grund af disse oplevelser, at jeg fik ideen til Veriff.

Sådan ser det ud med udfordringerne. Et år efter, at jeg havde grundlagt virksomheden, gav vi vores team weekenden fri. Det var samme dag, vi udførte en fejlretning, der resulterede i en fuldstændig afbrydelse af overvågningsfunktionerne. Vi opdagede ikke, at vores tjeneste lukkede sig selv ned, før lørdag morgen. Om mandagen mødte jeg ansigt til ansigt med vores største kunde, der havde tabt tusinder af dollars i omsætning. Jeg var åben om fejlene på vores side. Vi gav hånd og gik tilbage til arbejdet. Det, jeg lærte af denne oplevelse, er, at som grundlægger og forretningsleder, må vi forvente og forberede os på udfordringer. Derudover er åbenhed afgørende for at opbygge tillid. Endelig kan det at demonstrere en historie om at overvinde udfordringer vise sig at være mere værdifuldt, fordi det viser, at man kan løse problemer og er robust.

Hvad mener du er de største risici, som deepfakes udgør for valg og demokrati, især med tanke på, at de bliver mere avancerede, særligt i politiske sammenhænge?

I denne valgperiode er integriteten af valgprocessen i fare. AI kan analysere store mængder data for at identificere vælgerpræferencer og tendenser, hvilket giver mulighed for, at kampagner kan tilpasse beskeder og målrette vælgere med beskeder, de bedst kan lide. Forkerte aktører er godt udstyret til at skabe falske narrativer om kandidater, der udfører handlinger, de aldrig har udført, eller gør udtalelser, de aldrig har sagt, og dermed skade deres rygte og mislede vælgerne.

Indtil nu har vi set deepfakes af kendisser, der støtter præsidentkandidater og en falsk Biden-robocall. Selv om teknologi findes til at hjælpe med at skelne mellem AI-genereret indhold og den virkelige vare, er det ikke muligt at implementere bredt i stor skala. Med de høje indsats og valgkredibilitet på spil, skal noget gøres for at bevare offentlig tillid. Fremtidens vækst af den digitale økonomi og dens kamp mod digitalt svindel handler om beviselige identiteter og ægte og verificerede online-konti.

Kan du se, om en medium er mere farligt end det andet, når det kommer til at bedrage vælgere?

Generelt, især i den amerikanske kontekst af valg, skal begge behandles lige som trusler mod demokrati. Vores seneste rapport Veriff Fraud Index 2024: Part 2, fandt, at 74% af respondenterne i USA er bekymrede for, at AI og deepfakes påvirker valg.

Udviklingen af AI har øget truslen mod sikkerheden, ikke kun i USA, men over hele verden, under dette års valg. Uanset om det er deepfake-billeder, AI-genererede stemmer i robocalls, der forsøger at påvirke vælgermeninger, eller fabrikerede videoer af kandidater, så vækker de begge berettiget bekymring.

Lad os se på det større billede her. Når der er mange datapunkter til rådighed, er det lettere at vurdere “trusselsniveauet”. Et enkelt billede kan ikke være nok til at afgøre, om det er svindel, men en video giver flere hints, især hvis den har lyd. Tilføjelse af detaljer som den enhed, der blev brugt, placering eller hvem der optog videoen, øger tilliden til dens ægthed. Svindlere prøver altid at begrænse omfanget af information, fordi det gør det lettere at manipulere. Jeg ser robocalls som mere farlige end deepfakes, fordi det er lettere at skabe falsk lyd end at generere højkvalitetsfalske videoer. Desuden gør det muligt at justere falsk lyd under opkald med LLM’er, hvilket gør det endnu mere overbevisende.

Hvad skal regeringer og valgkommissioner være mest bekymrede for, når det kommer til AI-dreven desinformation?

Regeringer og valgkommissioner skal forstå den potentielle omfang af deepfake-kapaciteter, herunder, hvor sofistikerede og overbevisende disse svindeltilfælde er blevet. Deepfakes er særligt effektive, når de anvendes mod virksomheder med splittede og inkonsistente identitetsstyringsprocesser og dårlig cybersikkerhed, hvilket gør det endnu mere kritisk i dag at implementere robuste sikkerhedsforanstaltninger eller have en lagdelt tilgang til sikkerhed.

Der er dog ikke en løsning, der passer alle. En koordineret, multifacetteret tilgang er nøglen. Dette kan inkludere robuste og omfattende kontroller af påståede identitetsdokumenter, mod-AI til at identificere manipulation af indgående billeder, især i forbindelse med fjernvalg, og, vigtigst, identificering af skaberen af deepfakes og svindelindhold på kildestedet. Ansvaret for at verificere stemmer ligger hos regeringer og valgkommissioner samt teknologi- og identitetsudbydere.

Hvad kan AI og identitetsverifikationsteknologier som Veriff spille en rolle i at imødegå virkningen af deepfakes på valg og politiske kampagner?

AI er en trussel og en mulighed. Næsten 78% af amerikanske beslutningstagere har set en stigning i brugen af AI i svindelangreb over det sidste år. På den anden side har næsten 79% af direktører brugt AI og ML i svindelforhindrelse. I en tid, hvor svindel er på vej op, skal svindelforhindrelsesstrategier være holistiske – ingen enkelt værktøj kan bekæmpe en så mangfoldig trussel. AI og identitetsverifikation kan dog give forretninger og brugere en multilagdelle, der inkluderer biometri, identitetsverifikation, krydslinking og andre løsninger til at komme foran svindlere.

Hos Veriff bruger vi vores egen AI-drevne teknologi til at bygge vores deepfake-detektionskapaciteter. Dette betyder, at vores værktøjer forbedres af erfaringerne, når vi ser en deepfake. Ved at tage store mængder data og søge efter mønstre, der er set før, for at bestemme fremtidige resultater, afhænger det både af automatiserede teknologier og menneskelig viden og intelligens. Mennesker har en bedre forståelse af kontekst, identificering af anomalier for at skabe en feedback-løkke, der kan bruges til at forbedre AI-modeller. Kombinationen af forskellige indsigt og ekspertise for at skabe en omfattende tilgang til identitetsverifikation og deepfakedetektion har tilladt Veriff og vores kunder at føre an.

Hvordan kan forretninger og enkeltpersoner bedre beskytte sig selv mod at blive påvirket af deepfakes og AI-dreven desinformation?

Beskyttelse mod at blive påvirket af deepfakes og AI-dreven desinformation starter med uddannelse og bevidsthed om AI’s omfattende kapaciteter, kombineret med beviselige identiteter og ægte, verificerede online-konti. For at afgøre, om man kan stole på en kilde, skal man se på årsagen og ikke symptomerne. Vi må konfrontere problemet ved kilde, hvor og af hvem disse deepfakes og svindelressourcer genereres.

Forbrugere og forretninger skal kun stole på information fra verificerede kilder, såsom verificerede brugere af sociale medieplatforme og velkrediterede nyhedsmedier. Derudover kan brugen af faktatjek-websider og søgning efter visuelle anomalier i lyd- eller videooptagelser – unaturlige bevægelser, underligt lys, uklarhed eller mislignende lip-syncing – blot være nogle af måderne, hvorpå forretninger kan beskytte sig selv mod at blive misledt af deepfake-teknologi.

Mener du, at der er nok offentlig bevidsthed om farerne ved deepfakes? Hvis ikke, hvilke skridt skal tages for at forbedre forståelsen?

Vi er stadig i den voksende bevidsthedsfase om AI og uddannelse af mennesker om dets potentiale.

Ifølge Veriff Fraud Index 2024: Part 2 har mere end en kvart (28%) af respondenterne oplevet en form for AI- eller deepfake-genereret svindel i løbet af det sidste år, et slående resultat for en opkomment teknologi og en indikation af, at truslen vokser. Det vigtigste er, at dette tal kan være endnu højere, da 20% siger, de ikke ved, om de er blevet mål for det eller ej. Givet den sofistikerede natur af AI-genereret svindelforsøg er det sandsynligt, at mange respondenter er blevet mål uden at vide det.

Enkeltpersoner skal være forsigtige, når de møder mistænkelige e-mails eller uventede telefonopkald fra ukendte kilder. Anmodninger om følsomme oplysninger eller penge skal altid mødes med skepsis, og det er afgørende at stole på sin intuition og søge klaring, hvis noget føles forkert.

Hvad rolle ser du for reguleringsmyndighederne i kampen mod AI-genereret desinformation, og hvordan kan de samarbejde med virksomheder som Veriff?

Givet omfanget af, hvilken udstrækning deepfake-teknologi er blevet brugt til at bedrage offentligheden og forstærke desinformationsbestræbelser, og med det amerikanske valg stadig i gang, er det endnu ikke set, hvor stor en indvirkning denne teknologi vil have på valget såvel som på det bredere samfund. Alligevel tager reguleringsmyndighederne skridt for at mindske truslen fra deepfake-teknologi.

En stor del af ansvaret for at mindske indvirkningen af desinformation falder på ejerne af de platforme, vi bruger mest. For eksempel skal førende sociale medievirksomheder tage mere ansvar ved at handle og implementere robuste foranstaltninger til at opdage og forhindre svindelangreb og beskytte brugere mod skadelig misinformation.

Hvordan ser du, at Veriffs teknologi udvikler sig i de næste par år for at føre an i kampen mod svindel, særligt i valgsammenhæng?

I vores hurtigt digitaliserede verden afhænger internettets fremtid af online-brugernes evne til at bevise, hvem de er, så både forretninger og brugere kan samarbejde med tillid. Hos Veriff er tillid synonymt med verifikation. Vores mål er at sikre, at digitale miljøer giver en følelse af sikkerhed for slutbrugeren. Dette mål kræver, at teknologien udvikler sig for at imødegå udfordringerne i dag, og vi ser allerede dette med en bredere accept af ansigtsgenkendelse og biometri. Data viser, at forbrugere ser ansigtsgenkendelse og biometri som den mest sikre metode til at logge ind på en online-tjeneste.

Set fremad ser vi, at denne trend fortsætter, og en fremtid, hvor brugere ikke konstant skal indtaste og genindtaste deres legitimationsoplysninger, mens de udfører forskellige opgaver online, men i stedet har “én genbrugelig identitet”, der repræsenterer deres persona på nettet.

For at bringe os et skridt nærmere vores mål har vi nyligt opdateret vores biometriske autentificeringsløsning for at forbedre nøjagtigheden og brugeroplevelsen samt styrke sikkerheden for en stærkere identitetsgaranti. Disse seneste fremskridt i biometriteknologi har gjort det muligt for vores teknologi at tilpasse sig enkeltbrugernes adfærd, hvilket sikrer brugerautentificering og ikke kun under en enkelt session. Dette fremskridt repræsenterer fremgang på vores rejse mod en genbrugelig digital identitet.

Hvad er det, der gør Veriffs teknologi særlig i et så konkurrencedygtigt marked?

Veriffs løsning tilbyder hastighed og fleksibilitet, da den er 30 gange mere præcis og 6 gange hurtigere end konkurrerende tilbud. Vi har den største database med identitetsdokumenter i IDV/KYC-industrien. Vi kan verificere personer mod 11.500 officielle identitetsdokumenter fra mere end 230 lande og territorier på 48 forskellige sprog. Dette giver os en unik position i markedet og giver os mulighed for at levere en høj niveau af sikkerhed og pålidelighed til vores kunder.

Veriff var en af de første IDV-virksomheder, der opnåede Cyber Essentials-certificeringen. Cyber Essentials er en effektiv, regeringsstøttet standard, der beskytter mod de mest almindelige cyberangreb. At opnå denne certificering viser, at Veriff tager cybersikkerhed alvorligt og har taget skridt til at beskytte vores data og systemer. Dette er en bekræftelse på vores urokkelige engagement i cybersikkerhed og vores tilstedeværelse for at beskytte vores kunders data. For nylig har vi også gennemført ISO/IEC 30107-3 iBeta Level 2 Compliance-evaluering for biometrisk passiv livsdetektion, en uafhængig ekstern validering, der fastslår, at Veriffs løsning opfylder den højeste standard for biometrisk sikkerhed.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Veriff.