Kaarel Kotkas, CEO og grunnlegger av Veriff – Intervju-serie

Kaarel Kotkas er CEO og grunnlegger av Veriff og fungerer som den strategiske tenkeren og visjonæren bak selskapet. Han leder Veriffs team i å holde seg foran svindel og konkurranse i det raskt endrende feltet online-identifikasjon. Kotkas er kjent for sin energi og entusiasme, og oppmuntrer teamet til å opprettholde integritet i den digitale verden. I 2023 ble han anerkjent i EU Forbes 30 Under 30, og i 2020 ble han kåret til EY Entrepreneur of the Year i Estland. Nordic Business Report har også inkludert ham blant de 25 mest innflytelsesrike unge entreprenørene i Nord-Europa.

Veriff er et globalt selskap for identitetsverifisering som hjelper online-bedrifter med å redusere svindel og overholde reguleringskrav. Ved å bruke AI, verifiserer Veriff automatisk identiteter ved å analysere ulike tekniske og atferdsmessige indikatorer, inkludert ansiktsgjenkjenning.

Hva inspirerte deg til å grunnlegge Veriff, og hvilke utfordringer møtte du i å bygge en AI-drevet plattform for svindelforebygging?

Min motivasjon for Veriff kom etter å ha vært vitne til hvor enkelt det var for mennesker online å utgi seg for å være noen andre. Da jeg kjøpte biologisk nedbrytbart snor fra eBay til min familes gård i en alder av 14, gikk jeg lett forbi PayPals 18+ aldersbegrensning med et touch av Photoshop for å endre fødselsåret mitt på en kopi av mitt identitetsdokument.

Jeg fortsatte å se problemet med at nettbrukere misrepresenterte sin identitet for å passere alderskontroller og andre sikkerhetstiltak. Det var på grunn av disse erfaringene at jeg kom opp med ideen til Veriff.

Som for utfordringer, ett år etter å ha grunnlagt selskapet, gav vi teamet helgen fri. Dette var samme dag vi gjorde en feilretting, som resulterte i en fullstendig avbrudd i overvåkingskapasiteten vår. Vi merket ikke at vår tjeneste stengte seg selv ned før lørdag morgen. Kom mandag morgen, måtte jeg møte ansikt til ansikt med vår største kunde, som hadde tapt tusenvis av dollar i inntekter. Jeg var åpen i møtet, og forklarte feilene på vår side. Vi rakte hverandre hånden og gikk tilbake til arbeidet. Det jeg lærte av dette er at som grunnlegger og forretningsleder, må vi forvente og forberede oss på utfordringer. I tillegg er åpenhet nøkkel til å bygge tillit. Til slutt kan det å demonstrere en historie av å overvinne utfordringer være mer verdifullt, fordi det viser at du kan løse problemer og er motstandsdyktig.

Med deepfakes som blir mer sofistikerte, spesielt i politiske sammenhenger, hva mener du er de største risikoene de utgjør for valg og demokrati?

I denne valgperioden er integriteten til valgprosessen i fare. AI kan analysere store mengder data for å identifisere velgerpreferanser og trender, og gjøre det mulig for kampanjer å tilpasse meldinger og målrette velgere med meldinger de bryr seg mest om. Uærlige aktører er godt utstyrt til å skape falske narrativer om kandidater som utfører handlinger de aldri har gjort, eller som uttaler seg på måter de aldri har sagt, og dermed skade deres rykte og mislede velgere.

Vi har allerede sett deepfakes av kjendiser som støtter presidentkandidater og en falsk Biden-robokall. Mens teknologi finnes for å hjelpe med å skille mellom AI-generert innhold og det ekte, er det ikke mulig å implementere dette i stor skala. Med høye innsatser og valgintegritet på spill, må noe gjøres for å bevare offentlig tillit. Fremtiden for den digitale økonomien og dens kamp mot digital svindel handler om beviste identiteter og autentiske og verifiserte nett-kontoer.

Deepfakes kan manipulere ikke bare bilder, men også stemmer. Mener du at en medium er farligere enn den andre når det gjelder å bedra velgere?

I generell, spesielt i den amerikanske konteksten av valg, bør begge behandles like som trusler mot demokrati. Vår nyeste rapport Veriff Fraud Index 2024: Del 2, fant at 74% av respondentene i USA er bekymret for AI og deepfakes som påvirker valg.

Utviklingen av AI har akselerert trusselen mot sikkerhet, ikke bare i USA, men over hele verden, under dette årets valg. Uansett om det er deepfake-bilder, AI-genererte stemmer i robokaller som prøver å påvirke velgermeninger, eller fabrikkerte videoer av kandidater, begge provoserer berettiget bekymring.

La oss se på det større bildet her. Når det er mange datapunkter tilgjengelige, er det enklere å vurdere “trusselnivået”. Et enkelt bilde kan ikke være nok til å avgjøre om det er bedrageri, men en video gir flere ledetråder, spesielt hvis den har lyd. Å legge til detaljer som enheten som ble brukt, lokasjon eller hvem som spilte inn videoen, øker tilliten til dens autentisitet. Svindlere prøver alltid å begrense omfanget av informasjon, fordi det gjør det enklere å manipulere. Jeg ser på robokaller som mer farlige enn deepfakes, fordi å lage falsk lyd er enklere enn å generere høykvalitetsfalske videoer. I tillegg gjør det mulig å justere falsk lyd under samtaler, noe som gjør det enda mer overbevisende.

Gitt de kommende valgene, hva bør regjeringer og valgkommisjoner være mest bekymret for når det gjelder AI-drevet desinformasjon?

Regjeringer og valgkommisjoner må forstå omfanget av deepfake-kapasiteter, inkludert hvor sofistikerte og overbevisende disse eksemplene på svindel har blitt. Deepfakes er spesielt effektive når de deployeres mot bedrifter med ukoordinerte og inkonsistente identitetsbehandlingsprosesser og dårlig sikkerhet, noe som gjør det enda viktigere i dag å implementere robuste sikkerhetstiltak eller ha en lagdelt tilnærming til sikkerhet.

Likevel finnes det ingen universell løsning, så en koordinert, multifaset tilnærming er nøkkel. Dette kan inkludere robuste og omfattende sjekker av hevdete identitetsdokumenter, mot-AI for å identifisere manipulering av innkommende bilder, spesielt i forhold til fjernvalg, og, viktigst av alt, identifisere skaperne av deepfakes og bedragerisk innhold på kildepunktet. Ansvaret for å verifisere stemmer ligger hos regjeringer og valgkommisjoner, samt teknologi- og identitetsleverandører.

Hva rolle kan AI og identitetsverifiserings-teknologier som Veriff spille i å motvirke effekten av deepfakes på valg og politiske kampanjer?

AI er en trussel og en mulighet. Nesten 78% av USAs beslutningstakere har sett en økning i bruken av AI i svindelangrep de siste årene. På den andre siden har nesten 79% av CEO-er brukt AI og ML i svindelforebygging. I en tid hvor svindel er på fremmarsj, må svindelforebyggingsstrategier være holistiske – ingen enkelt verktøy kan bekjempe en så mangfoldig trussel. Likevel kan AI og identitetsverifisering gi bedrifter og brukere en multilagert stakke som bringer inn biometri, identitetsverifisering, krysskoplinger og andre løsninger for å komme foran svindlere.

Vi bruker vår egen AI-drevne teknologi til å bygge våre deepfake-oppdagingsevner. Dette betyr at våre verktøy blir bedre når vi ser en deepfake. Å ta store mengder data og søke etter mønster som har dukket opp tidligere for å bestemme fremtidige resultater, avhenger både av automatiserte teknologier og menneskelig kunnskap og intelligens. Mennesker har en bedre forståelse av kontekst, og kan identifisere anomalier for å skape en tilbakemeldingsloop som kan brukes til å forbedre AI-modeller. Å kombinere ulike innsikter og ekspertise for å skape en omfattende tilnærming til identitetsverifisering og deepfake-oppdaging, har gjort det mulig for Veriff og våre kunder å holde seg foran kurven.

Hvordan kan bedrifter og enkeltpersoner bedre beskytte seg mot å bli påvirket av deepfakes og AI-drevet desinformasjon?

Beskytte deg mot å bli påvirket av deepfakes og AI-drevet desinformasjon starter med utdanning og bevissthet om AI-s kapasiteter, kombinert med beviste identiteter og autentiske, verifiserte nett-kontoer. For å bestemme om du kan stole på en kilde, må du se på årsaken og ikke symptomene. Vi må konfrontere problemet ved kildepunktet, der og av hvem disse deepfakes og bedrageriske ressursene genereres.

Forbrukere og bedrifter må bare stole på informasjon fra verifiserte kilder, som verifiserte brukere på sosiale medier og godt anerkjente nyhetskanaler. I tillegg kan bruk av faktasjekksider og å se etter visuelle anomalier i lyd- eller video-klipp – uvanlige bevegelser, merkelige lysforhold, uskarphed eller feilaktig lip-syncing – er bare noen av måtene bedrifter kan beskytte seg mot å bli lurt av deepfake-teknologi.

Mener du det er nok offentlig bevissthet om farene med deepfakes? Hvis ikke, hva bør gjøres for å forbedre forståelsen?

Vi er fortsatt i en vekstfase når det gjelder bevissthet om AI og utdanning av folk om dens potensiale.

Ifølge Veriff Fraud Index 2024: Del 2, har over en fjerdedel (28%) av respondentene opplevd noen form for AI- eller deepfake-generert svindel de siste årene, et slående resultat for en ny teknologi og en indikasjon på den voksende naturen til denne trusselen. Det viktigste er at dette tallet kunne faktisk være mye høyere, ettersom 20% sier de ikke vet om de har blitt mål for eller ikke. Gitt den sofistikerte naturen til AI-generert svindelforsøk, er det sannsynlig at mange respondenter har blitt mål uten å vite det.

Enkeltpersoner bør være forsiktige når de møter mistenkelige e-poster eller uventede telefonoppringninger fra ukjente kilder. Forespørsler om følsom informasjon eller penger bør alltid møtes med skepsis, og det er viktig å stole på dine instinkter og søke klarhet hvis noe føles galt.

Hva rolle ser du for reguleringssammenheng i kampen mot AI-generert desinformasjon, og hvordan kan de samarbeide med selskaper som Veriff?

Gitt omfanget av deepfake-teknologi som har blitt brukt til å bedra offentligheten og forsterke desinformasjonsinnsats, og med det amerikanske valget fortsatt i gang, er det ennå ikke sett hvor stor innvirkning denne teknologien vil ha på valget og det bredere samfunnet. Likevel tar reguleringssammenheng tiltak for å mildne truslene fra deepfake-teknologi.

Mye ansvar for å mildne innvirkningen av desinformasjon ligger på eierne av plattformene vi bruker oftest. For eksempel må ledende sosiale medie-selskaper ta mer ansvar ved å implementere robuste tiltak for å oppdage og forhindre svindelangrep og beskytte brukere mot skadelig desinformasjon.

Hvordan ser du for deg at Veriffs teknologi vil utvikle seg de neste årene for å holde seg foran svindlere, spesielt i valgsammenheng?

I vår raskt digitaliserte verden, henger internettets fremtid på nettbrukernes evne til å bevise hvem de er, slik at bedrifter og brukere kan samhandle trygt med hverandre. Hos Veriff er tillit synonymt med verifisering. Vi sikter mot å sikre at digitale miljøer fremmer en følelse av trygghet og sikkerhet for sluttbrukeren. Dette målet vil kreve at teknologien utvikler seg for å møte dagens utfordringer, og vi ser allerede på dette med en økende aksept av ansiktsgjenkjenning og biometri. Data viser at forbrukere ser på ansiktsgjenkjenning og biometri som den sikreste metoden for å logge inn på en nett-tjeneste.

I fremtiden ser vi for oss en fremtid hvor brukerne ikke trenger å angi og angi sine legitimasjoner hver gang de utfører ulike oppgaver online, men i stedet har en “én gjenbrukbar identitet” som representerer deres persona på nettet.

For å bringe oss et skritt nærmere vårt mål, har vi nylig oppdatert vår biometriske autentiseringsløsning for å forbedre nøyaktigheten og brukeropplevelsen, og styrke sikkerheten for en sterkere identitetssikring. Disse nyeste fremsteg i biometri-teknologi har gjort det mulig for vår teknologi å tilpasse seg enkeltbrukerens atferd, og sikre brukerautentisering ikke bare under en enkelt sesjon, men også over tid. Dette fremsteget representerer fremgang på vår reise mot én gjenbrukbar digital identitet.

Veriff er anerkjent for sin globale rekkevidde i svindelforebygging. Hva gjør Veriffs teknologi spesiell i et så konkurransedypt marked?

Veriffs løsning tilbyr hastighet og enkelhet, og er 30 ganger mer nøyaktig og 6 ganger raskere enn konkurranse-tilbud. Vi har den største databasen for identitetsdokumenter i IDV/KYC-bransjen. Vi kan verifisere personer mot 11 500 offentlige identitetsdokumenter fra over 230 land og territorier, på 48 forskjellige språk. I tillegg muliggjør denne enkelheten og reduserte friksjon at organisasjoner kan konvertere flere brukere, mildne svindel og overholde reguleringskrav. Vi har også en automasjonsrate på 91%, og 95% av ekte brukere blir verifisert med hell på første forsøk.

Veriff var ett av de første IDV-selskapene som oppnådde Cyber Essentials-sertifiseringen. Cyber Essentials er en effektiv, statlig støttet standard som beskytter mot de vanligste cyber-angrep. Å oppnå denne sertifiseringen viser at Veriff tar sikkerhet på alvor og har tatt skritt for å beskytte våre data og systemer. Dette er en testament til selskapets urokkelige forpliktelse til sikkerhet og vår dedikasjon til å beskytte våre kunders data. For nylig fullførte vi også ISO/IEC 30107-3 iBeta Level 2 Compliance-evaluering for biometrisk passiv livsdeteksjon, en uavhengig ekstern validering som styrker at Veriffs løsning møter de høyeste standarder for biometrisk sikkerhet.

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke Veriff.