Kris Nagel, CEO af Sift – Interviewserie

Kris er administrerende direktør i Sift. Han bringer mere end 30 års erfaring i seniort ledelsesstillinger i venture-backed og offentlige SaaS-virksomheder, herunder Ping Identity. Sift tilbyder en måde for virksomheder at stoppe betalingsbedrageri på, bygget med en enkelt, intuitiv console, Sifts end-to-end-løsning eliminerer behovet for afkoblede værktøjer, enkeltpurpose-software og ufuldstændige indsigt, der dræner operationelle ressourcer.

I din tidligere stilling var du Chief Operating Officer i identitetssikkerhedsplatform Ping Identity, hvor du spillede en afgørende rolle i at tage virksomheden offentligt i 2019, hvad var nogle af dine vigtigste erfaringer fra denne oplevelse?

At tage en virksomhed offentligt er en stor opgave, og jeg lærte meget gennem processen. Udvikling af produkter og skaleringsvirksomheder både før og efter denne milepæl lærte mig, hvad der kræves for at løse komplekse organisatoriske udfordringer, for at fortsætte med at innovere og genopfinde brugeroplevelsen og for at udvikle hold og give dem mulighed for at udføre deres bedste arbejde. Jeg har lært gennem min karriere, at enhver succes i enhver rolle skal starte med en dyb forståelse af kunder, partnere og personer på dit hold.

Du tiltrådte Sift som CEO i januar 2023. Hvad tiltrak dig til denne nye udfordring?

Bedrageri er et stadigt voksende og udviklende problem, og indsatsen er klar. Den globale e-handelsbedrageritab er estimeret til at nå $48 milliarder ved udgangen af 2023 (en stigning på 16% i forhold til 2022), og virksomheder verden over brugte i gennemsnit 10% af deres omsætning på at håndtere bedrageri. Men hvis en virksomhed ikke kan håndtere bedrageri effektivt, kan den miste omsætning ved at udelukke eller “krænke” legitime kunder.

Sift har first-mover-fordele i at løse dette problem med maskinlæring, og dens kerne-teknologi og globale datanetværk har sat det fra andre i bedrageribekæmpelsesrummet. Over 34.000 websteder og apps, herunder Twitter, DoorDash, Poshmark og Uphold, afhænger af Sift. Denne differentiering samt den stærke fokus på langsigtede kunde-partnerskaber gjorde, at min beslutning om at tiltræde var let.

Hvorfor er generativ AI så stor en sikkerhedsrisiko for virksomheder og forbrugere?

Generativ AI viser tidlige tegn på at være en game-changer for bedragere. Svindel var tidligere fuld af grammatiske og stavefejl, så de var nemmere at skelne. Med generativ AI kan dårlige aktører mere effektivt efterligne legitime virksomheder og narre forbrugere til at give følsomme login- eller finansielle oplysninger gennem phishing-forsøg.

Generative AI-platforme kan endda foreslå tekstvarianter, der giver en bedrager mulighed for at oprette multiple distinkte konti på en enkelt platform. For eksempel kan de oprette 100 nye falske dating-profiler til at begå kryptofonds-svindel, hvor hver har et unikt AI-genereret ansigt og bio. På den måde gør generativ AI det muligt for enhver, uanset teknisk dygtighed, at snyde nogen ved hjælp af stjålne legitimationsoplysninger eller betalingsinformation.

Sift offentliggjorde nyligt en rapport med titlen: “Midt i AI-renæssance, forbrugere og virksomheder oversvømmes af bedrageri”, hvad var nogle af de største overraskelser for dig i denne rapport?

Vi vidste, at AI og automation ville ændre bedragerilandskabet, men hastigheden og omfanget af denne ændring er virkelig bemærkelsesværdig. Over to tredjedele (68%) af de amerikanske forbrugere har rapporteret en stigning i spam og svindel siden november, lige omkring den tid, hvor generative AI-værktøjer begyndte at vinde anerkendelse, og vi tror, disse to tendenser er stærkt korrelerede. Ligeledes har vi observeret en stigning i antallet af angreb på kontoadgang (ATO), hvor raten af ATO er steget med 427% i første kvartal af 2023 i forhold til hele 2022. Det er tydeligt, at disse begivenheder er relaterede, da generativ AI giver bedragere mulighed for at oprette mere overbevisende og skalerbare svindel, hvilket fører til en bølge af ATO-angreb.

Rapporten viser også nogle af de måder, hvorpå “bedrageri-som-en-service” udvikler sig. Åbent tilgængelige fora som dem på Telegram sænker barrieren for enhver, der ønsker at begå forskellige former for misbrug – det kalder vi demokratiseringen af bedrageri. Vores team har set en udvikling af bedragerigrupper, der nu tilbyder bot-angreb som en service, og vi har fremhævet, hvordan et værktøj bruges til at narre forbrugere til at give en-gangs-adgangskoder for deres finansielle konti. Og bedragere gør disse værktøjer let tilgængelige og til rådighed for andre for en relativt lille pris.

Kunne du diskutere, hvad “Sift Digital Trust & Safety Platform” er?

Med Sift kan virksomheder bygge og udvikle med tillid, når de ved, at de har værktøjerne til at beskytte deres forretninger mod bedrageri. Det handler om at holde de dårlige aktører ude, mens kunderne stadig får en problemfri oplevelse – reducere friktion og øge omsætning.

Vores mission er at hjælpe alle med at stole på internettet, og vores platform bruger maskinlæring og et massivt datanetværk til at beskytte virksomheder mod alle slags bedrageri og misbrug. Vi var en af de første virksomheder, der anvendte maskinlæring på online-bedrageri, så vi har samlet en utrolig mængde indsigt, der afspejles i vores globale maskinlæringsmodeller, der behandler over 1 billion begivenheder om året. Skønheden ved platformen er, at jo flere kunder, vi har, jo smartere bliver vores modeller, så vi kan altid optimere for at stoppe bedrageri, mens vi reducerer friktion for rigtige brugere og kunder.

Inden for platformen har vi Payment Protection, der beskytter mod betalingsbedrageri; Account Defense, der forhindrer angreb på kontoadgang; Content Integrity, der blokerer spam og svindel fra at blive postet i bruger-genereret indhold; og Dispute Management, der beskytter mod tilbagesalg og venlig bedrageri.

Hvordan adskiller denne platform sig fra konkurrerende bedrageriværktøjer?

Der er ingen mangel på bedrageribekæmpelses-virksomheder på markedet, men de fleste falder inden for to kategorier: punkt-løsninger eller beslutning-som-en-service. Punkt-løsninger har tendens til at have en snæver scope og er designet til at løse ét enkelt brugstilfælde, såsom bot-detektion. Beslutning-som-en-service-løsninger er mere omfattende, men mangler mange bedrageri-styringsfunktioner og fungerer som en “sort boks” omkring deres beslutningslogik.

En af Sifts mest karakteristiske egenskaber er, at vi tilbyder en løsning til at bekæmpe mange slags bedrageri på tværs af alle brancher. Bedrageri er en branche-agnostisk udfordring, og vi har en unik indsigt i, hvordan et branche-bedrageriproblem bliver et andet. På tværs af alle vores funktioner – beslutningsmotorer, sagstyring, orkestrering, rapportering og simulation – prioriterer vi også at give kontrol til vores kunder. Hver virksomhed er unik, og denne mulighed for tilpasning betyder, at logik kan ændres med brugerdefinerede regler, og at simulationer kan justeres inden for platformen. Vi tror også, at den bedste måde at forhindre bedrageri på er at være åben omkring det. Vores beslutningsmotor giver forklaringer til analytikere, så de forstår, hvorfor en transaktion blev godkendt, udfordret eller afvist. Vi tilbyder også rapporter, så du kan måle modellens præstation for at forstå, om den skal justeres.

Kan du diskutere, hvad “Sift Score” er, og hvordan det muliggør kontinuerlig selvforbedring af den maskinlæring, der bruges?

Sift-kunder bruger vores maskinlæring-algoritmer til at opdage bedrageri-mønstre og forhindre angreb på et websted eller en app. Sift Score er et tal, fra 0-100, givet af algoritmen til hver begivenhed (eller aktivitet) for at angive sandsynligheden for, at adfærden er bedragerisk.

Selvom hver af vores produkter er understøttet af sin egen samling af maskinlæringsmodeller, tilbyder vi også brugerdefinerede algoritmer, der er tilpasset til Sifts kunder. Bedrageri-signalerne for hver branche kan være forskellige, hvis du sælger forsikring, fødevarer eller tøj, for eksempel. Sift kører tusindvis af signaler, der trækker på vores enorme globale netværk, gennem hver tilpasset model, og analyserer detaljer som tid på dagen, egenskaber ved e-mail-adresser og antallet af forsøg på at logge ind. Disse signaler kombineret danner en score for en bestemt begivenhed som en login eller transaktion. Sift Scores deles aldrig på tværs af kunder, fordi hver kundes maskinlæringsmodel er forskellig.

En interessant produkt, der er udviklet i Sift til at bekæmpe svindel og spam, kaldes Text Clustering, hvad er dette specifikt?

Spam-tekst plager online-platforme, og spammere poster ofte den samme eller meget lignende indhold gentagne gange. Vi byggede vores Text Clustering-funktion som en del af Content Integrity for at gøre det lettere at identificere denne type tekst og gruppere den sammen, så en analytiker kan beslutte, om han skal tage kollektiv handling. Udfordringen er, at ikke al gentaget tekst er spam. For eksempel kan en e-handels-sælger liste den samme vare og beskrivelse på multiple websteder.

For at løse denne udfordring effektivt havde vi brug for en måde at mærke de nye typer af indhold-bedrageri, som vi ville opdage, mens vi samtidig gav analytikerne den endelige kontrol til at tage handling. Gennem en kombination af neurale netværk og maskinlæring kan Text Clustering nu gruppere lignende tekst, selv hvis der er små variationer. Denne markerede indhold er mærket sammen, og hvis det faktisk er spam, kan en analytiker tage kollektiv handling for at fjerne det.

Hvordan kan virksomheder bedst forsvare sig selv mod modstander-angreb eller andre typer af ondsindet angreb, der udføres af generativ AI?

Over halvdelen af forbrugerne (54%) mener, at de ikke burde holdes ansvarlige, hvis de utilsigtet giver deres betalingsinformation til en svindler, der senere bruger den til at foretage en ulovlig køb. Næsten en fjerdedel (24%) mener, at virksomheden, hvor købet blev foretaget, burde holdes ansvarlig. Det betyder, at ansvaret for at stoppe bedrageri ligger hos de platforme og tjenester, som forbrugerne dagligt er afhængige af.

Vi er stadig i de meget tidlige dage af generativ AI, og truslerne i dag vil ikke være de samme trusler, vi ser om seks måneder. Med det sagt må virksomheder bekæmpe ild med ild ved at bruge AI-teknologier som maskinlæring til at bekæmpe og stoppe bedrageri, før det sker. Real-time-maskinlæring er afgørende for at holde trit med skalaen, hastigheden og sofistikationen af bedrageri. Købmænd, der ikke flytter sig væk fra forældede eller manuelle processer, vil blive overhalet af bedragere, der allerede automatiserer. Virksomheder, der adopterer denne slut-til-slut, real-time-tilgang, forbedrer bedrageri-identifikationsnøjagtigheden med 40%. Dette betyder bedre identificering af bedragere og stopning af dem i handlingen, før de kan skade din virksomhed eller kunder.

Er der noget andet, du gerne vil dele om Sift?

En initiativ, vi nyligt implementerede for at fremme denne mission, er vores kunde-samfund, Sifters. Det er åbent for alle Sift-brugere, og det fungerer som en bro mellem vores kunder, interne eksperter og digitalt netværk af købmænd og data. Det har været en værdifuld hub for at samle branchens indsigt og løse tværs-markeds-udfordringer i bedrageri-bekæmpelse. Og det ser en enorm adoption. At skabe et samfund for bedrageri-kæmpere er absolut afgørende, fordi bedragere har deres egne samfund, hvor de samarbejder om at skade virksomheder og forbrugere. Som vi siger, kræver det et netværk at bekæmpe et netværk.