Kaarel Kotkas, VD och grundare av Veriff – Intervju-serien

Kaarel Kotkas är VD och grundare av Veriff och fungerar som den strategiska tänkaren och visionären bakom företaget. Han leder Veriffs team i att ligga före bedrägeri och konkurrens i den snabbt föränderliga världen av online-identifiering. Känd för sin energi och entusiasm, uppmuntrar Kotkas teamet att upprätthålla integritet i den digitala världen. År 2023 erkändes han i EU Forbes 30 Under 30, och 2020 utsågs han till EY Entrepreneur of the Year i Estland. Nordic Business Report har också inkluderat honom bland de 25 mest inflytelserika unga entreprenörerna i Nordeuropa.

Veriff är ett globalt företag för identitetsverifiering som hjälper onlineföretag att minska bedrägeri och följa regler. Med hjälp av AI verifierar Veriff automatiskt identiteter genom att analysera olika tekniska och beteendemässiga indikatorer, inklusive ansiktsigenkänning.

Vad inspirerade dig att grundade Veriff, och vilka utmaningar mötte du när du byggde en AI-driven plattform för bedrägeriförebyggande?

Min motivation för Veriff kom efter att jag personligen sett hur lätt det var för människor online att utge sig för att vara någon annan. När jag köpte biologiskt nedbrytbar tråd från eBay till min familjs gård när jag var 14 år, kunde jag enkelt kringgå PayPals åldersgräns på 18 år med hjälp av Photoshop för att ändra födelseåret på min identitetshandling.

Jag fortsatte att se problemet med att människor online utgav sig för att vara någon annan för att klara ålderskontroller och andra säkerhetsåtgärder. Det var på grund av dessa upplevelser som jag kom på idén till Veriff.

När det gäller utmaningar, ett år efter att jag grundat företaget, gav vi teamet ledigt över helgen. Det var samma dag som vi gjorde en felsökning, vilket resulterade i en fullständig avbrott i övervakningsförmåga. Vi märkte inte att vår tjänst stängdes av förrän på lördagsmorgonen. På måndagsmorgonen var jag tvungen att träffa vår största kund ansikte mot ansikte, som hade förlorat tusentals dollar i intäkter. Jag var öppen i mötet och förklarade misstagen på vår sida. Vi skakade hand och gick tillbaka till arbetet. Vad jag lärde mig av detta är att som grundare och företagsledare måste vi förvänta oss och förbereda oss på utmaningar. Dessutom är transparens nyckeln till att bygga förtroende. Slutligen visar det sig att man kan övervinna utmaningar och visa sig vara motståndskraftig.

Med tanke på att deepfakes blir alltmer avancerade, särskilt i politiska sammanhang, vad tror du är de största riskerna de utgör för val och demokrati?

I denna valperiod är integriteten i valprocessen hotad. AI kan analysera stora mängder data för att identifiera väljarnas preferenser och trender, vilket möjliggör för kampanjer att anpassa budskap och rikta sig till väljare med budskap som de bryr sig mest om. Onda aktörer är välutrustade för att skapa falska berättelser om kandidater som utför handlingar de aldrig gjort eller gör uttalanden de aldrig sagt, vilket skadar deras rykte och vilseleder väljare.

Hittills har vi sett deepfakes av kändisar som stöder presidentkandidater och en falsk Biden-robosamtal. Medan det finns teknologi som kan hjälpa till att skilja på AI-genererat innehåll och äkta innehåll, är det inte möjligt att implementera detta i stor skala. Med de höga insatserna och valens trovärdighet på spel, måste något göras för att bevara allmänhetens förtroende. Den digitala ekonomin och kampen mot digitalt bedrägeri kretsar kring bevisade identiteter och autentiska och verifierade online-konton.

Deepfakes kan manipulera inte bara bilder utan också röster. Tror du att en medium är farligare än den andra när det gäller att bedra väljare?

Generellt, särskilt i den amerikanska kontexten av val, bör båda behandlas som lika stora hot mot demokratin. Vår senaste rapport Veriff Fraud Index 2024: Del 2, fann att 74% av respondenterna i USA är oroliga för att AI och deepfakes påverkar val.

Utvecklingen av AI har ökat hotet mot säkerheten, inte bara i USA utan över hela världen, under detta års val. Oavsett om det är deepfakes-bilder, AI-genererade röster i robosamtal som försöker påverka väljarnas åsikter eller fabricerade videor av kandidater, båda väcker berättigad oro.

Låt oss titta på det större perspektivet här. När det finns många datapunkter tillgängliga, är det lättare att bedöma “hotnivån”. En enskild bild kanske inte är tillräcklig för att avgöra om den är bedräglig, men en video ger fler ledtrådar, särskilt om den har ljud. Att lägga till detaljer som enheten som användes, platsen eller vem som spelade in videon ökar förtroendet för dess äkthet. Bedragare försöker alltid att begränsa informationsomfånget, eftersom det gör det lättare att manipulera. Jag ser robosamtal som farligare än deepfakes, eftersom det är lättare att skapa falskt ljud än att generera högkvalitativa falska videor. Dessutom gör det möjligt att justera falskt ljud under samtal med hjälp av LLM, vilket gör det ännu mer övertygande.

Med tanke på de kommande valen, vad bör regeringar och valkommissioner vara mest oroliga för när det gäller AI-driven desinformation?

Regeringar och valkommissioner måste förstå den potentiella omfattningen av deepfakes-kapacitet, inklusive hur sofistikerade och övertygande dessa former av bedrägeri har blivit. Deepfakes är särskilt effektiva när de används mot företag med ojämnt och inkonsekvent identitetshantering och dålig cybersäkerhet, vilket gör det ännu viktigare att implementera robusta säkerhetsåtgärder eller ha ett lager av säkerhet.

Det finns dock ingen universallösning, så en samordnad, multifacetterad approach är nyckeln. Detta kan inkludera robusta och omfattande kontroller av påstådda identitetshandlingar, mot-AI för att identifiera manipulation av inkommande bilder, särskilt i fråga om distansröstning, och, framför allt, identifiera skaparna av deepfakes och bedrägligt innehåll i källan. Ansvaret för att verifiera röster ligger hos regeringar och valkommissioner, samt teknologi- och identitetsleverantörer.

Vilken roll kan AI och identitetsverifieringsteknologier som Veriff spela för att motverka effekterna av deepfakes på val och politiska kampanjer?

AI är ett hot och en möjlighet. Nästan 78% av beslutsfattare i USA har sett en ökning av användningen av AI i bedrägeriattacker under det senaste året. På andra sidan har nästan 79% av VD:ar använt AI och ML i bedrägeriförebyggande. I en tid när bedrägeri ökar, måste bedrägeriförebyggande strategier vara holistiska – inget enskilt verktyg kan bekämpa ett sådant multitudinärt hot. Ändå kan AI och identitetsverifiering ge företag och användare en multilagerad stack som inkluderar biometri, identitetsverifiering, korssamtal och andra lösningar för att ligga före bedragare.

På Veriff använder vi vår egen AI-drivna teknik för att bygga vår deepfakedetekteringsförmåga. Detta innebär att våra verktyg förbättras av lärandet när vi ser en deepfake. Att ta stora mängder data och söka efter mönster som har dykt upp tidigare för att bestämma framtida resultat beror på både automatiserad teknik och mänsklig kunskap och intelligens. Människor har en bättre förståelse för sammanhang, identifierar avvikelser för att skapa en återkopplingsloop som kan användas för att förbättra AI-modeller. Att kombinera olika insikter och expertis för att skapa en omfattande approach till identitetsverifiering och deepfakedetektering har möjliggjort för Veriff och dess kunder att ligga före kurvan.

Hur kan företag och individer bättre skydda sig från att påverkas av deepfakes och AI-driven desinformation?

Skydda dig från att påverkas av deepfakes och AI-driven desinformation börjar med utbildning och medvetenhet om AI:s omfattande förmågor, i kombination med bevisade identiteter och autentiska, verifierade online-konton. För att avgöra om du kan lita på en källa, måste du titta på orsaken snarare än symtomen. Vi måste konfrontera problemet vid källan, där och av vem dessa deepfakes och bedrägliga resurser genereras.

Konsumenter och företag måste endast lita på information från verifierade källor, såsom verifierade sociala medieanvändare och välkrediterade nyhetskällor. Dessutom kan man använda faktakontrollwebbplatser och leta efter visuella avvikelser i ljud- eller videoklipp – onaturliga rörelser, konstig belysning, oskärpa eller felaktig lip-sync – är bara några av sätten som företag kan skydda sig från att bli vilseledda av deepfake-teknik.

Tror du att det finns tillräcklig allmän medvetenhet om farorna med deepfakes? Om inte, vad bör göras för att förbättra förståelsen?

Vi är fortfarande i den växande medvetenhetsfasen om AI och utbildar människor om dess potential.

Enligt Veriff Fraud Index 2024: Del 2 har över en kvart (28%) av respondenterna upplevt någon form av AI- eller deepfake-genererat bedrägeri under det senaste året, ett slående resultat för en ny teknik och en indikation på hotets tillväxt. Vad som är viktigare är att denna siffra kan vara ännu högre, eftersom 20% säger att de inte vet om de har blivit måltavlor eller inte. Med tanke på den sofistikerade naturen hos AI-genererade bedrägeriförsök, är det troligt att många respondenter har blivit måltavlor utan att veta om det.

Individer bör vara försiktiga när de möter misstänkta e-postmeddelanden eller oväntade telefonsamtal från okända källor. Förfrågningar om känslig information eller pengar bör alltid mötas med skepsis, och det är viktigt att lita på sin intuition och söka klarhet om något känns fel.

Vilken roll ser du att tillsynsmyndigheter spelar i kampen mot AI-genererad desinformation, och hur kan de samarbeta med företag som Veriff?

Med tanke på den omfattning i vilken deepfake-teknik har använts för att bedra allmänheten och förstärka desinformationsinsatser, och med den amerikanska valet fortfarande pågående, är det fortfarande oklart hur stor inverkan denna teknik kommer att ha på valet och det bredare samhället. Ändå tar tillsynsmyndigheter åtgärder för att mildra hotet från deepfake-teknik.

Mycket ansvar för att mildra effekterna av desinformation faller på ägarna av de plattformar vi använder mest. Till exempel måste ledande sociala medieföretag ta mer ansvar genom att vidta åtgärder och implementera robusta åtgärder för att upptäcka och förhindra bedrägeriattacker och skydda användare från skadlig desinformation.

Hur ser du att Veriffs teknologi utvecklas under de närmaste åren för att ligga före bedragare, särskilt i valets sammanhang?

I vår snabbt föränderliga digitala värld hänger internetens framtid på onlineanvändarnas förmåga att bevisa vem de är, så att företag och användare kan interagera med varandra med förtroende. På Veriff är förtroende synonymt med verifiering. Vi syftar till att säkerställa att digitala miljöer skapar en känsla av säkerhet och trygghet för slutanvändaren. Detta mål kommer att kräva att tekniken utvecklas för att möta dagens utmaningar, och vi ser redan detta med den bredare acceptansen av ansiktsigenkänning och biometri. Data visar att konsumenter ser ansiktsigenkänning och biometri som den säkraste metoden för att logga in på en online-tjänst.

I framtiden ser vi att denna trend kommer att fortsätta och en framtid där användare inte behöver ange och återange sina autentiseringsuppgifter när de utför olika uppgifter online, utan har en “återanvändbar identitet” som representerar deras persona över hela webben.

För att ta oss ett steg närmare vårt mål har vi nyligen uppdaterat vår biometriska autentiseringsteknik för att förbättra noggrannheten och användarupplevelsen, och för att stärka säkerheten för starkare identitetsgaranti. Dessa senaste framstegen inom biometriteknik har möjliggjort för vår teknik att anpassa sig till individuella användarbeteenden, vilket säkerställer användarautentisering snarare än bara under en session. Denna utveckling representerar framsteg på vår resa mot en återanvändbar digital identitet.

Veriff är erkänt för sin globala räckvidd inom bedrägeriförebyggande. Vad gör Veriffs teknologi unik i en sådan konkurrensutsatt bransch?

Veriffs lösning erbjuder hastighet och bekvämlighet, eftersom den är 30 gånger mer exakt och 6 gånger snabbare än konkurrerande erbjudanden. Vi har den största databasen med identitetshandlingar i branschen för identitetsverifiering/KYC. Vi kan verifiera personer mot 11 500 statliga identitetshandlingar från mer än 230 länder och territorier, på 48 olika språk. Dessutom möjliggör denna bekvämlighet och minskad friktion att organisationer kan omvandla fler användare, mildra bedrägeri och följa regler. Vi har också en automatiseringsgrad på 91% och 95% av äkta användare verifieras framgångsrikt på sitt första försök.

Veriff var ett av de första företagen inom identitetsverifiering som erhöll certifieringen Cyber Essentials. Cyber Essentials är en effektiv standard som skyddar mot de vanligaste cyberattacker. Att erhålla denna certifiering visar att Veriff tar cybersäkerhet på allvar och har vidtagit åtgärder för att skydda sin data och system. Detta är ett bevis på företagets outtröttliga engagemang för cybersäkerhet och vår dedikation till att skydda våra kunders data. Nyligen avslutade vi utvärderingen av ISO/IEC 30107-3 iBeta Level 2 för biometrisk passiv livsdetektering, en oberoende extern validering som styrker att Veriffs lösning uppfyller den högsta standarden för biometrisk säkerhet.

Tack för den utmärkta intervjun, läsare som vill lära sig mer kan besöka Veriff.