Kris Nagel, generální ředitel Sift – Interview Series

Kris je generální ředitel ve společnosti Sift. Má více než 30 let zkušeností ve vedoucích pozicích ve společnostech s venture-backingem a veřejně obchodovaných společnostech SaaS, včetně Ping Identity. Sift nabízí způsob, jak podnikům ukončit platby podvodů, postavený s jedinou, intuitivní konzolí, řešení Siftu od začátku do konce eliminuje potřebu nespojených nástrojů, softwaru s jediným účelem a neúplných poznatků, které vyčerpávají operační zdroje.

V předchozí roli jste byl generálním ředitelem pro identitu zabezpečení platformy Ping Identity, kde jste sehrál kritickou roli při přechodu společnosti na veřejnost v roce 2019, co byly některé z vašich hlavních poznatků z této zkušenosti?

Převzetí společnosti na veřejnost je velkým úkolem a mnoho jsem se naučil během tohoto procesu. Vývoj produktů a škálování společnosti před a po tomto milníku mě naučil, co je potřeba k řešení složitých organizačních výzev, k pokračování inovací a představování uživatelského prostředí a k růstu týmů a jejich osvobození, aby mohli dělat svou nejlepší práci. Během své kariéry jsem se naučil, že jakýkoli úspěch v jakékoli roli musí začínat hlubokým porozuměním zákazníků, partnerů a lidí ve vašem týmu.

Připojil jste se k Siftu jako generální ředitel v lednu 2023. Co vás přitáhlo k této nové výzvě?

Podvod je neustále rostoucí a se vyvíjející problém a sázky jsou jasné. Globální ztráty z e-commerce podvodů se odhadují na $48 miliard do konce roku 2023 (16% meziroční nárůst oproti roku 2022) a podniky celosvětově vynakládají v průměru 10 % svých příjmů na řízení podvodů. Ale pokud společnost nedokáže efektivně řídit podvody, může ztratit příjmy vyloučením nebo „insultováním“ legitimních zákazníků.

Sift má první pohybovou výhodu při řešení tohoto problému pomocí strojového učení a jeho jádrové technologie a globální datové sítě jej odlišují v oblasti prevence podvodů. Více než 34 000 webů a aplikací, včetně Twitteru, DoorDash (DASH ), Poshmark a Uphold, spoléhá na Sift. Tato diferenciace spolu se silným zaměřením na dlouhodobé partnerství se zákazníky učinila mé rozhodnutí připojit se snadným.

Proč je generativní AI tak velkou bezpečnostní hrozbou pro podniky a spotřebitele?

Generativní AI ukazuje rané známky jako změna hry pro podvody. Podvody byly dříve plné gramatických a pravopisných chyb, takže je bylo snazší rozlišit. S generativním AI mohou špatní aktéři lépe napodobovat legitimní společnosti a oklamat spotřebitele, aby poskytli citlivé přihlašovací nebo finanční údaje prostřednictvím pokusů o phishing.

Platformy generativního AI mohou dokonce navrhnout textové variace, které umožňují podvodníkovi vytvořit několik různých účtů na jediné platformě. Například mohou vytvořit 100 nových falešných profilů na seznamování, aby spáchali kryptoměnové romance podvody, s každým mít jedinečnou AI-generovanou tvář a biografii. Tímto způsobem je generativní AI umožňující demokratizaci podvodů, protože je snazší pro kohokoli, bez ohledu na technickou zdatnost, oklamat někoho pomocí ukradených přihlašovacích údajů nebo platebních informací.

Sift nedávno vydal zprávu s názvem: „Uprostřed AI renesance, spotřebitelé a podniky jsou zahlceny podvody“, co byly některé z největších překvapení pro vás v této zprávě?

Věděli jsme, že AI a automatizace změní krajinu podvodů, ale rychlost a objem tohoto posunu jsou skutečně pozoruhodné. Více než dvě třetiny (68 %) spotřebitelů v USA uvádějí nárůst spamu a podvodů od listopadu, krátce po začátku přijetí nástrojů generativního AI, a věříme, že tyto dvě trendy jsou silně korelovány. Podobně jsme pozorovali prudký nárůst útoků na převzetí účtů (ATO), s tempem ATO se zvyšujícím o 427 % během prvního čtvrtletí roku 2023 ve srovnání se všemi lety 2022. Zjevně jsou tyto události spojeny, protože generativní AI umožňuje podvodníkům vytvářet více přesvědčivé a škálovatelné podvody, což vede k vlně útoků na převzetí účtů.

Zpráva také ukazuje některé způsoby, jak „podvod jako služba“ postupuje. Otevřené fóra, jako jsou ty na Telegramu, snižují bariéru pro každého, kdo chce spáchat různé typy zneužití – je to to, co nazýváme demokratizací podvodů. Naši tým viděl proliferaci skupin podvodníků, které nyní nabízejí botové útoky jako službu, a ukázali jsme, jak je jeden nástroj použit k oklamání spotřebitelů, aby poskytli jednorázové ověřovací kódy pro své finanční účty. A podvodníci činí tyto nástroje snadno dostupnými a dostupnými ostatním za relativně nízkou cenu.

Můžete diskutovat, co je „Sift Digitální důvěra a bezpečnostní platforma“?

S pomocí Siftu mohou společnosti budovat a nasazovat s jistotou, že mají nástroje, aby chránily své podniky před podvody. Je to vyloučení špatných aktérů, zatímco zákazníkům je poskytována bezproblémová zkušenost – snižuje tření a zvyšuje příjmy.

Náš cíl je pomoci každému důvěřovat internetu a naše platforma používá strojové učení a obrovskou datovou síť, aby chránila podniky před všemi typy podvodů a zneužití. Byli jsme jednou z prvních společností, které aplikovaly strojové učení na online podvody, takže jsme získali neuvěřitelné množství poznatků, které jsou zobrazeny v našich globálních modelech strojového učení, které zpracovávají více než 1 bilion událostí ročně. Krása platformy spočívá v tom, že čím více zákazníků máme, tím chytřejší jsou naše modely, takže můžeme vždy optimalizovat pro zastavení podvodů, zatímco snižujeme tření pro skutečné uživatele a zákazníky.

V rámci platformy máme Payment Protection, který chrání proti platebním podvodům; Account Defense, který zabraňuje útokům na převzetí účtů; Content Integrity, který blokuje spam a podvody z being zveřejněny v uživatelsky generovaném obsahu; a Dispute Management, který chrání proti chargebackům a přátelským podvodům.

Jak se tato platforma liší od konkurenčních nástrojů proti podvodům?

Na trhu není nedostatek prodejců proti podvodům, ale většina z nich spadá do dvou kategorií: bodové řešení nebo rozhodnutí jako služba. Bodová řešení mají úzký rozsah a jsou navržena pro řešení jednoho případu použití, jako je detekce botů. Rozhodnutí jako služba jsou komplexnější, ale postrádají mnoho funkcí pro správu podvodů a jednají jako „černá skříňka“ o své logice rozhodnutí.

Jedna z nejvýraznějších charakteristik Siftu je, že nabízíme řešení pro boj proti různým typům podvodů napříč všemi průmyslovými odvětvími. Podvod je výzvou, která je nezávislá na odvětví, a máme jedinečné poznatky o tom, jak problémy s podvody v jednom odvětví se stávají problémy jiného. Napříč všemi našimi schopnostmi – rozhodovacími motory, správou případů, orchestrací, reportováním a simulací – také dáváme přednost umístění kontroly do rukou našich zákazníků. Každá společnost je jedinečná a tato schopnost přizpůsobit znamená, že logika může být upravena pomocí vlastních pravidel a že simulace mohou být upraveny v rámci platformy. Věříme také, že nejlepší způsob, jak zabránit podvodům, je být transparentní ohledně nich. Naše rozhodovací motor poskytuje vysvětlení pro analytiky, aby pochopili, proč byla transakce schválena, zpochybněna nebo zamítnuta. Nabízíme také zprávy, aby bylo možné měřit výkon modelu a pochopit, zda je třeba jej upravit.

Můžete diskutovat, co je „Sift Skóre“, a jak umožňuje kontinuální sebezdokonalování strojového učení, které se používá?

Zákazníci Siftu používají naše algoritmy strojového učení k detekci podvodných vzorců a prevenci útoků na webu nebo aplikaci. Sift Skóre je číslo od 0 do 100, které je přiřazeno algoritmem ke každé události (nebo činnosti), aby označilo pravděpodobnost, že se jedná o podvodné chování.

Zatímco každý z našich produktů je podporován vlastním sadou modelů strojového učení, nabízíme také vlastní algoritmy, které jsou přizpůsobeny pro zákazníky Siftu. Signály podvodů pro každé odvětví se mohou lišit, pokud prodáváte pojištění, potravinářské výrobky nebo oblečení, například. Sift běží tisíce signálů, čerpajících z naší obrovské globální sítě, prostřednictvím každého přizpůsobeného modelu, analyzujících podrobnosti, jako je čas dne, charakteristiky e-mailových adres a počet pokusů o přihlášení. Tyto signály kombinované tvoří skóre pro konkrétní událost, jako je přihlášení nebo transakce. Sift Skóre nejsou nikdy sdíleny napříč zákazníky, protože každý zákaznický model strojového učení je jiný.

Jedním z zajímavých produktů, který je vyvinut v Siftu pro boj proti podvodům a spamu, je Text Clustering, co je to konkrétně?

Spamový text sužuje online platformy a spammeři často zveřejňují stejný nebo velmi podobný obsah opakovaně. Vyvinuli jsme funkci Text Clustering jako součást Content Integrity, aby bylo snazší identifikovat tento typ textu a seskupit ho dohromady, aby analytik mohl rozhodnout, zda nebo ne vzít hromadné akce. Výzvou je, že ne všechny opakující se texty jsou spam.

Abychom účinně vyřešili tuto výzvu, potřebovali jsme způsob, jak označit nové typy obsahu podvodů, které jsme chtěli detekovat, a zároveň dát analytikovi konečnou kontrolu nad akcemi. Pomocí kombinace neuronových sítí a strojového učení může Text Clustering seskupit podobné texty, i když existují malé variace. Tento označený obsah je označen společně a pokud je to skutečně spam, analytik může vzít hromadné akce k jeho odstranění.

Jak mohou podniky nejlépe bránit se proti útokům nebo jiným typům útoků, které jsou spáchány generativním AI?

Více než půl spotřebitelů (54 %) věří, že by neměli být zodpovědní v případě, že neúmyslně poskytli své platební informace podvodníkovi, který je později použil k provedení podvodné transakce. Téměř čtvrtina (24 %) věří, že by podnik, kde byla transakce provedena, měl být zodpovědný. To znamená, že odpovědnost za zastavení podvodů leží na platformách a službách, na které se spotřebitelé denně spoléhají.

Jsme stále v raných dnech generativního AI a hrozby dnes nebudou stejné, jako budoucí hrozby, které uvidíme za šest měsíců. S tím řečeno, podniky potřebují bojovat ohněm pomocí AI technologií, jako je strojové učení, aby bojovaly a zastavily podvody, než k nim dojde. Skutečné strojové učení je zásadní pro udržení tempa, rozsahu a sofistikovanosti podvodů. Obchodníci, kteří se nebudou vzdalovat od zastaralých nebo manuálních procesů, zůstanou pozadu za podvodníky, kteří již automatizují. Společnosti, které přijmou tento komplexní, reálný přístup, zlepšují přesnost detekce podvodů o 40 %. To znamená lepší identifikaci podvodníků a zastavení jich v akci, než mohou poškodit váš podnik nebo zákazníky.

Je něco jiného, co byste rádi sdíleli o Siftu?

Jedna iniciativa, kterou jsme nedávno implementovali, aby dále posunuli naši misi, je naše komunita zákazníků, Sifters. Je otevřena všem uživatelům Siftu a funguje jako most mezi našimi zákazníky, interními odborníky a digitální sítí obchodníků a dat. Stala se cenným centrem pro shromažďování poznatků z odvětví a řešení meziodvětvových výzev v prevenci podvodů. A vidíme enormní přijetí. Vytvoření komunity pro bojovníky proti podvodům je absolutně nezbytné, protože podvodníci mají své vlastní komunity, kde spolupracují, aby poškodili podniky a spotřebitele. Jako jsme rádi říkají, že to vyžaduje síť, aby bojovala proti sítí.