Kaarel Kotkas, CEO og grunnlegger av Veriff – Intervju-serie

Kaarel Kotkas er CEO og grunnlegger av Veriff og fungerer som den strategiske tenkeren og visjonæren bak selskapet. Han leder Veriffs team i å holde seg foran svindel og konkurranse i det raskt endrende feltet for online-identifisering. Kendt for sin energi og entusiasme, oppmuntret Kotkas teamet til å opprettholde integritet i den digitale verden. I 2023 ble han anerkjent i EU Forbes 30 Under 30, og i 2020 ble han kåret til EY Entrepreneur of the Year i Estland. Nordic Business Report har også inkludert ham blant de 25 mest innflytelsesrike unge entreprenører i Nord-Europa.

Veriff er et globalt identitetsverifiserings-selskap som hjelper online-bedrifter med å redusere svindel og overholde regler. Ved å bruke AI, verifiserer Veriff automatisk identiteter ved å analysere ulike tekniske og atferdsmessige indikatorer, inkludert ansikts-gjenkjennelse.

Hva inspirerte deg til å grunnlegge Veriff, og hvilke utfordringer møtte du i å bygge en AI-drevet svindel-forebyggingsplattform?

Min motivasjon for Veriff kom etter å ha vært vitne til hvordan enkelt personer kunne late som om de var noen andre på nettet. Da jeg kjøpte biologisk nedbrytbart snor fra eBay til min familes gård i en alder av 14, gikk jeg lett forbi PayPals 18+ aldersbegrensninger med et klikk på Photoshop for å endre fødselsåret mitt på en kopi av mitt identitetsdokument.

Jeg fortsatte å se problemet med at nettbrukere misrepresenterte sin identitet for å passere alderskontroller og andre sikkerhetstiltak. Det var på grunn av disse erfaringene at jeg kom opp med ideen til Veriff.

Som for utfordringer, ett år etter å ha grunnlagt selskapet, ga vi teamet helgen fri. Dette var samme dag vi gjorde en feilretting, som resulterte i en fullstendig avbrudd i overvåkingskapasiteten. Vi merket ikke at vår tjeneste stengte seg selv ned før lørdag morgen. Kom mandag morgen, måtte jeg møte ansikt til ansikt med vår største kunde, som hadde tapt tusenvis av dollar i inntekter. Jeg var åpen i møtet, og forklarte feilene på vår side. Vi rakte hverandre hånden og gikk tilbake til arbeidet. Hva jeg lærte av dette, er at som grunnlegger og forretningsleder, må vi forvente og forberede oss på utfordringer. Dessuten er åpenhet nøkkel til å bygge tillit. Til slutt kan en historie om å overvinne utfordringer være mer verdifull, fordi den viser at du kan løse problemer og er motstandsdyktig.

Med deepfakes som blir mer sofistikerte, spesielt i politiske sammenhenger, hva mener du er de største risikoene de utgjør for valg og demokrati?

Denne valg-sesongen, er integriteten til valgprosessen i fare. AI kan analysere store mengder data for å identifisere velgerpreferanser og trender, og gjøre det mulig for kampanjer å tilpasse meldinger og målrette velgere med meldinger de bryr seg mest om. Uærlige aktører er godt utrustet til å skape falske narrativer om kandidater som utfører handlinger de aldri har gjort, eller som uttaler seg på måter de aldri har sagt, og dermed skade deres rykte og mislede velgere.

Hittil har vi sett deepfakes av kjendiser som støtter presidentkandidater og en falsk Biden-robocall. Selv om teknologi finnes for å hjelpe med å skille mellom AI-generert innhold og den virkelige varen, er det ikke mulig å implementere dette i stor skala. Med høye innsatser og valg-kredibilitet på spill, må noe gjøres for å bevare offentlig tillit. Fremtiden for den digitale økonomien og dens kamp mot digital svindel handler om beviste identiteter og autentiske og verifiserte nett-kontoer.

Deepfakes kan manipulere ikke bare bilder, men også stemmer. Tror du at en medium er farligere enn den andre når det gjelder å bedra velgere?

Generelt, spesielt i den amerikanske konteksten av valg, bør begge behandles like som trusler mot demokrati. Vår siste rapport Veriff Fraud Index 2024: Part 2, fant at 74% av respondentene i USA er bekymret for AI og deepfakes som påvirker valg.

Utviklingen av AI har akselerert trusselen mot sikkerhet, ikke bare i USA, men over hele verden, under dette årets valg. Uansett om det er deepfake-bilder, AI-genererte stemmer i robocall som prøver å påvirke velgermeninger, eller fabrikkerte videoer av kandidater, begge utløser berettiget bekymring.

La oss se på det større bildet her. Når det er mange datapunkter tilgjengelige, er det lettere å vurdere “trusselnivået”. Et enkelt bilde kan ikke være nok til å si om det er bedrageri, men en video gir flere hint, spesielt hvis den har lyd. Å legge til detaljer som enheten som ble brukt, lokasjon eller hvem som tok videoen, øker tilliten til dens autentisitet. Bedragere prøver alltid å begrense omfanget av informasjon, fordi det gjør det lettere å manipulere. Jeg ser på robocall som farligere enn deepfakes, fordi å lage falsk lyd er enklere enn å generere høykvalitetsfalske videoer. Pluss, å bruke LLM gjør det mulig å justere falsk lyd under samtaler, og gjør det enda mer overbevisende.

Hva bør regjeringer og valgkommisjoner være mest bekymret for når det gjelder AI-drevet desinformasjon?

Regjeringer og valgkommisjoner må forstå omfanget av deepfake-egenskaper, inkludert hvor sofistikerte og overbevisende disse svindel-eksemplene er blitt. Deepfakes er spesielt effektive når de brukes mot bedrifter med ukoordinerte og inkonsistente identitetsbehandlingsprosesser og dårlig sikkerhet, og gjør det enda viktigere i dag å implementere robuste sikkerhetstiltak eller ha en lagd tilnærming til sikkerhet.

Likevel, finnes det ingen en-size-fits-all-løsning, så en koordinert, multifaset tilnærming er nøkkel. Dette kan inkludere robuste og omfattende sjekker av påståtte identitetsdokumenter, mot-AI for å identifisere manipulering av innkommende bilder, spesielt i forhold til fjernvalg, og, viktigst av alt, å identifisere skaperne av deepfakes og bedragerisk innhold på kilde-nivå. Ansvar for å verifisere stemmer ligger hos regjeringer og valgkommisjoner, samt teknologi- og identitetsleverandører.

Hva rolle kan AI og identitetsverifiserings-teknologier som Veriff spille i å motvirke effekten av deepfakes på valg og politiske kampanjer?

AI er en trussel og en mulighet. Nesten 78% av USAs beslutningstakere har sett en økning i bruken av AI i bedrageriske angrep over det siste året. På den andre siden, bruker nesten 79% av CEO-er AI og ML i svindel-forebygging. I en tid når svindel er på økning, må svindel-forebyggings-strategier være holistiske – ingen enkelt verktøy kan bekjempe en så mangfoldig trussel. Likevel, kan AI og identitetsverifisering gi bedrifter og brukere en multilagert stak som bringer inn biometri, identitetsverifisering, krysslenking og andre løsninger for å komme foran svindlere.

Ved Veriff, bruker vi vår egen AI-drevne teknologi til å bygge våre deepfake-deteksjons-kapabiliteter. Dette betyr at våre verktøy forbedres fra læringene når vi ser en deepfake. Å ta store mengder data og søke etter mønster som har dukket opp tidligere for å bestemme fremtidige resultater, avhenger av både automatiserte teknologier og menneskelig kunnskap og intelligens. Mennesker har en bedre forståelse av kontekst, identifisering av anomalier for å skape en tilbakemeldings-løkke som kan brukes til å forbedre AI-modeller. Å kombinere ulike innsikter og ekspertise for å skape en omfattende tilnærming til identitetsverifisering og deepfake-deteksjon, har gjort det mulig for Veriff og våre kunder å holde oss foran kurven.

Hvordan kan bedrifter og enkelt-personer bedre beskytte seg mot å bli påvirket av deepfakes og AI-drevet desinformasjon?

Beskyttelse mot å bli påvirket av deepfakes og AI-drevet desinformasjon starter med utdannelse og bevissthet om AI-s muligheter, kombinert med beviste identiteter og autentiske, verifiserte nett-kontoer. For å bestemme om du kan stole på en kilde, må du se på årsaken i stedet for symptomene. Vi må konfrontere problemet ved kilde-nivå, der og av hvem disse deepfakes og bedrageriske ressurser genereres.

Forbrukere og bedrifter må bare stole på informasjon fra verifiserte kilder, som verifiserte sosiale medie-brukere og godt-akkrediterte nyhetskanaler. I tillegg, å bruke faktasjekks-nettsteder og å se etter visuelle anomalier i lyd- eller video-klipp – uvanlige bevegelser, merkelige lysforhold, uskarpe eller feilaktige lip-sync – er bare noen av måtene bedrifter kan beskytte seg mot å bli lurt av deepfake-teknologi.

Tror du det er nok offentlig bevissthet om farene med deepfakes? Hvis ikke, hva bør gjøres for å forbedre forståelsen?

Vi er fortsatt i en vekst-fase når det gjelder å øke bevisstheten om AI og utdanne folk om dens potensiale.

Ifølge Veriff Fraud Index 2024: Part 2, har over en fjerdedel (28%) av respondentene erfart en eller annen type AI- eller deepfake-generert svindel over det siste året, et slående resultat for en ny teknologi og en indikasjon på den voksende naturen til denne trusselen. Hva som er viktigere, er at dette tallet kan faktisk være mye høyere, fordi 20% sier de ikke vet om de har blitt mål for det eller ikke. Gitt den sofistikerte naturen til AI-generert svindel, er det sannsynlig at mange respondenter har blitt mål uten å vite det.

Enkelt-personer bør være forsiktige når de møter mistenkelige e-poster eller uventede telefon-samtaler fra ukjente kilder. Forespørsler om følsom informasjon eller penger bør alltid møtes med skepsis, og det er viktig å stole på dine instinkter og søke klarhet hvis noe føles galt.

Hva rolle ser du for reguleringer i kampen mot AI-generert desinformasjon, og hvordan kan de samarbeide med selskaper som Veriff?

Gitt omfanget av deepfake-teknologi som har blitt brukt til å bedra offentligheten og forsterke desinformasjons-anslag, og med det amerikanske valget fortsatt underveis, er det ennå å se hvor stor innvirkning denne teknologien vil ha på valget og det bredere samfunnet. Likevel, tar reguleringer tiltak for å mildne truslene fra deepfake-teknologi.

Mye ansvar for å mildne innvirkningen av desinformasjon faller på eierne av plattformene vi bruker mest. For eksempel, må ledende sosiale medie-selskaper ta mer ansvar ved å handle og implementere robuste tiltak for å oppdage og forhindre bedrageriske angrep og beskytte brukere mot skadelig desinformasjon.

Hvordan ser du for deg at Veriffs teknologi vil utvikle seg de neste årene for å holde seg foran svindlere, spesielt i konteksten av valg?

I vår raskt digitaliserte verden, henger internettets fremtid på nett-brukernes evne til å bevise hvem de er, slik at bedrifter og brukere kan samhandle trygt med hverandre. Hos Veriff, er tillit synonymt med verifisering. Vi må sikre at digitale miljøer fremmer en følelse av trygghet og sikkerhet for slutt-brukeren. Dette målet vil kreve at teknologien utvikler seg for å møte dagens utfordringer, og vi ser allerede på dette med en økning i aksept av ansikts-gjenkjennelse og biometri. Data viser at forbrukere ser på ansikts-gjenkjennelse og biometri som den mest sikre metoden for å logge inn på en nett-tjeneste.

Ser fremover, ser vi på denne trenden som fortsetter, og en fremtid hvor brukere ikke lengre må angi og angi sine legitimasjons-data når de utfører ulike oppgaver på nettet, men i stedet har “en gjenbrukbar identitet” som representerer deres persona over hele nettet.

For å bringe oss et skritt nærmere vårt mål, har vi nylig oppdatert vår Biometriske Autentisering-løsning for å forbedre nøyaktigheten og bruker-erfaringen, og for å styrke sikkerheten for en sterkere identitets-garanti. Disse siste fremsteg i biometri-teknologi har gjort det mulig for vår teknologi å tilpasse seg enkelt-bruker-atferd, og sikre bruker-autentisering, ikke bare under en enkelt sesjon, men også over tid.

Veriff er kjent for sin globale rekkevidde i svindel-forebygging. Hva gjør Veriffs teknologi spesiell i et så konkurransedypt marked?

Veriffs løsning tilbyr hastighet og enkelhet, og er 30 ganger mer nøyaktig og 6 ganger raskere enn konkurrerende tilbud. Vi har den største identitets-dokument-specimen-databasen i IDV/Kun-Your-Customer (KYC)-bransjen. Vi kan verifisere personer mot 11 500 offentlige utstedte ID-dokumenter fra over 230 land og territorier, på 48 forskjellige språk. I tillegg, gjør denne enkelheten og reduserte friksjon det mulig for organisasjoner å konvertere flere brukere, forebygge svindel og overholde regler. Vi har også en automasjons-rate på 91%, og 95% av ekte brukere blir verifisert med en gang på første forsøk.

Veriff var ett av de første IDV-selskapene som fikk Cyber Essentials-sertifiseringen. Cyber Essentials er en effektiv, regjering-godkjent standard som beskytter mot de mest vanlige cyber-angrep. Å få denne sertifiseringen, viser at Veriff tar sikkerhet på alvor og har tatt skritt for å beskytte våre data og systemer. Dette er et bevis på selskapets urokkelige engasjement for sikkerhet og vår dedikasjon til å beskytte våre kunders data. Nylig fullførte vi også ISO/IEC 30107-3 iBeta Level 2 Compliance-evaluering for biometrisk passiv livslengde-oppdaging, en uavhengig ekstern validering som bekrefter at Veriffs løsning møter de høyeste standardene for biometrisk sikkerhet.