Kris Nagel, CEO of Sift – Інтерв’ю Серія

Kris є виконавчим директором у Sift. Він має понад 30 років досвіду роботи на керівних посадах у компаніях, що фінансуються风险 капіталом, та публічних компаніях SaaS, включаючи Ping Identity. Sift пропонує можливість підприємствам припинити шахрайство з платежами, створену з однієї інтуїтивної консолі, рішення Sift з кінця в кінець усуває необхідність у відокремлених інструментах, програмному забезпеченні з однією метою та неповних відомостях, які виснажують операційні ресурси.

У вашій попередній ролі ви були операційним директором на платформі безпеки ідентифікації Ping Identity, де ви відігравали критичну роль у виході компанії на біржу в 2019 році, які були деякими з ваших ключових висновків з цього досвіду?

Вихід компанії на біржу – це велике завдання, і я багато чого навчився через цей процес. Розробка продуктів та масштабування компанії як до, так і після цього етапу навчили мене про те, що потрібно для вирішення складних організаційних проблем, для подальшого інноваційного та переосмислення досвіду користувача, а також для зростання команд та надання їм можливості робити свою найкращу роботу. Я навчився протягом своєї кар’єри, що будь-який успіх у будь-якій ролі повинен починатися з глибокого розуміння клієнтів, партнерів та людей у вашій команді.

Ви приєдналися до Sift як CEO у січні 2023 року. Що привабило вас до цього нового завдання?

Шахрайство – це проблема, яка постійно зростає та еволюціонує, і ставки ясні. Глобальні втрати від шахрайства в електронній комерції мають складатися $48 млрд до кінця 2023 року (зростання на 16% у порівнянні з 2022 роком), а підприємства по всьому світу витрачають у середньому 10% свого доходу на управління шахрайством. Але якщо компанія не зможе ефективно управляти шахрайством, вона може втратити доходи, виключаючи або “інсультуючи” легітимних клієнтів.

Sift має перевагу першопрохідця у вирішенні цієї проблеми за допомогою машинного навчання, а її ядро технологій та глобальна мережа даних відрізняють її у сфері запобігання шахрайству. Більше 34 000 сайтів та додатків, включаючи Twitter, DoorDash, Poshmark та Uphold, покладаються на Sift. Ця відмінність, разом з сильним акцентом на довгострокові партнерські відносини з клієнтами, зробила мою рішення про приєднання до компанії легким.

Чому генеративне штучне інтелект є величезною загрозою безпеки для підприємств та споживачів?

Генеративне штучне інтелект показує перші ознаки того, що воно є революційним для шахраїв. Шахрайства раніше були повні граматичних та орфографічних помилок, тому їх було легше відрізнити. З генеративним штучним інтелектом зловмисники можуть більш ефективно імітувати легітимні компанії та обманювати споживачів, щоб вони надали конфіденційну інформацію про входження або фінансові дані через фішингові спроби.

Платформи генеративного штучного інтелекту навіть можуть пропонувати варіанти тексту, які дозволяють шахраям створювати кілька різних фейкових профілів на одному платформі. Наприклад, вони можуть створити 100 нових фейкових профілів для шахрайства з романтикою, з кожним з унікальним AI-генерованим обличчям та біографією. Таким чином, генеративне штучне інтелект забезпечує демократизацію шахрайства, оскільки тепер легше будь-кому, незалежно від технічної грамотності, обманути когось, використовуючи вкрадену інформацію про платежі.

Sift недавно опублікував звіт під назвою: “Під час AI-ренесансу споживачі та підприємства зазнають навали шахрайства”, які були деякими з найбільших сюрпризів для вас у цьому звіті?

Ми знали, що AI та автоматизація змінять ландшафт шахрайства, але швидкість та обсяг цього зсуву є справді вражаючими. Більше двох третин (68%) споживачів у США повідомили про збільшення кількості спаму та шахрайств з листопада, саме тоді, коли інструменти генеративного штучного інтелекту почали набувати популярності, і ми вважаємо, що ці дві тенденції сильно корельовані. Аналогічно, ми спостерігаємо зростання атак на захоплення облікових записів (ATO), з темпом ATO, який збільшився на 427% у першому кварталі 2023 року порівняно з усім 2022 роком. Чітко, що ці події пов’язані, оскільки генеративне штучне інтелект дозволяє шахраям створювати більш переконливі та масштабовані шахрайства, що призводить до хвилі атак на захоплення облікових записів.

Звіт також показує деякі зі способів, як “шахрайство як сервіс” розвивається. Відкриті форуми, такі як ті, що знаходяться на Telegram, знижують бар’єр для входу для будь-кого, хто хоче вчинити різні види зловживань – це те, що ми називаємо демократизацією шахрайства. Наша команда бачила поширення шахрайських груп, які тепер пропонують бот-атаки як сервіс, і ми підкреслили, як один інструмент використовується для обману споживачів, щоб вони надали одноразові паролі для своїх фінансових рахунків. І шахраї роблять ці інструменти легко доступними та доступними для інших за відносно низьку плату.

Чи можете ви обговорити, що таке “Платформа Sift Digital Trust & Safety”?

З Sift компанії можуть будувати та розгортати з впевненістю, знаючи, що вони мають інструменти для захисту своїх підприємств від шахрайства. Це виключення шахраїв, одночасно надаючи клієнтам безперебійний досвід – зменшення тертя та збільшення доходу.

Наша місія полягає в тому, щоб допомогти кожному довіряти інтернету, а наша платформа використовує машинне навчання та величезну мережу даних для захисту підприємств від різних видів шахрайства та зловживань. Ми були однією з перших компаній, які застосували машинне навчання до онлайн-шахрайства, тому ми накопили величезну кількість інформації, яка відображається в наших глобальних моделях машинного навчання, які обробляють понад 1 трильйон подій на рік. Краса платформи полягає в тому, що чим більше клієнтів ми маємо, тим розумніші наші моделі стають, щоб завжди оптимізувати зупинку шахрайства, одночасно зменшуючи тертя для реальних користувачів та клієнтів.

У рамках платформи ми маємо Захист платежів, який захищає від шахрайства з платежами; Захист облікових записів, який запобігає атакам на захоплення облікових записів; Інтегритет контенту, який блокує спам та шахрайства з публікацією в користувальницькому контенті; та Управління спорами, яке захищає від спорів та дружнього шахрайства.

Як ця платформа відрізняється від конкуруючих інструментів запобігання шахрайству?

Немає нестачі постачальників запобігання шахрайства на ринку, але більшість з них належать до двох категорій: рішення для окремих випадків або рішення для прийняття рішень. Рішення для окремих випадків мають вузький обсяг та призначені для вирішення одного випадку використання, такого як виявлення ботів. Рішення для прийняття рішень є більш комплексними, але їм бракує багатьох можливостей управління шахрайством, і вони діють як “чорна скринька” щодо їхньої логіки прийняття рішень.

Однією з найбільш відмінних характеристик Sift є те, що ми пропонуємо рішення для боротьби з різними видами шахрайства у всіх галузях. Шахрайство – це галузева проблема, і ми маємо унікальний погляд на те, як одна галузь шахрайства стає іншою. По всім нашим можливостям – двигунам прийняття рішень, управлінню справами, оркестрації, звітності та симуляції – ми також ставимо на перше місце надання контролю клієнтам. Кожна компанія унікальна, і ця можливість налаштування означає, що логіка може бути змінена з допомогою налаштованих правил, а симуляції можуть бути змінені всередині платформи. Ми також вважаємо, що найкращий спосіб запобігання шахрайству полягає в тому, щоб бути прозорим щодо нього. Наш двигун прийняття рішень надає пояснення для аналітиків, щоб вони зрозуміли, чому транзакція була затверджена, оскаржена або відхилена. Ми також пропонуємо звіти, щоб ви могли виміряти продуктивність моделі, щоб зрозуміти, чи потрібно її调整.

Чи можете ви обговорити, що таке “Sift Score”, і як воно забезпечує безперервне самоз удосконалення машинного навчання, яке використовується?

Клієнти Sift використовують наші алгоритми машинного навчання для виявлення шахрайських моделей та запобігання атакам на веб-сайт або додаток. Sift Score – це число від 0 до 100, яке надається алгоритмом кожній події (або діяльності), щоб вказати ймовірність того, що поведінка є шахрайською.

Хоча кожен з наших продуктів підтримується自己的 набором моделей машинного навчання, ми також пропонуємо налаштовані алгоритми, які підходять для клієнтів Sift. Сигнали шахрайства для кожної галузі можуть відрізнятися, якщо ви продаєте страхування, скоромірні продукти або одяг, наприклад. Sift запускає тисячі сигналів, використовуючи нашу величезну глобальну мережу, через кожну налаштовану модель, аналізуючи деталі, такі як час доби, характеристики адрес електронної пошти та кількість спроб входу. Ці сигнали в поєднанні складають рейтинг для певної події, chẳng hạn як входження або транзакція. Sift Score ніколи не передається клієнтам, оскільки кожна клієнтська модель машинного навчання унікальна.

Є цікавий продукт, розроблений у Sift для боротьби зі шахрайством та спамом, називається Text Clustering, що це конкретно?

Спам-текст переслідує онлайн-платформи, а спамери часто публікують той самий або дуже схожий контент повторно. Ми створили нашу функцію Text Clustering як частину Інтегритету контенту, щоб зробити його легше ідентифікувати цей тип тексту та згрупувати його разом, щоб аналітик міг вирішити, чи варто вживати масові дії.

Визов полягає в тому, що не весь повторюваний текст є спамом. Наприклад, продавець електронної комерції може розмістити той самий продукт та опис на кількох веб-сайтах.

Щоб ефективно вирішити цю проблему, нам потрібно було знайти спосіб позначити нові види шахрайства, які ми хотіли виявити, а також надати аналітикам остаточний контроль над прийняттям рішень. За допомогою поєднання нейронних мереж та машинного навчання Text Clustering тепер може згрупувати схожий текст, навіть якщо є незначні відмінності. Цей текст позначається разом, і якщо це справді спам, аналітик може вирішити про масові дії щодо його видалення.

Як підприємства можуть найкраще захистити себе від зловмисних атак або інших видів шкідливих атак, які здійснюються генеративним штучним інтелектом?

Більше половини споживачів (54%) вважають, що вони не повинні нести відповідальність у разі, якщо вони ненавмисно надали свою інформацію про платежі шахраю, який пізніше використав її для здійснення шахрайської покупки. Практично чверть (24%) вважають, що підприємство, де була зроблена покупка, повинно нести відповідальність. Це означає, що обов’язок зупинки шахрайства лежить на платформах та сервісах, на які покладаються споживачі щодня.

Ми все ще на початку генерації штучного інтелекту та загроз сьогодні не будуть тими самими загрозами, які ми побачимо за шість місяців. Однак підприємства повинні боротися з вогнем вогнем, використовуючи технології штучного інтелекту, такі як машинне навчання, для боротьби та зупинки шахрайства до того, як воно трапиться. Машинне навчання в реальному часі є важливим для того, щоб跟ати за масштабом, швидкістю та складністю шахрайства. Торговці, які не відмовляються від застарілих або ручних процесів, відстануть від шахраїв, які вже автоматизують. Компанії, які приймають цей підхід від початку до кінця в реальному часі, покращують точність виявлення шахрайства на 40%. Це означає краще ідентифікування шахраїв та зупинку їх у дії до того, як вони зможуть нашкодити вашому підприємству чи клієнтам.

Чи є щось ще, що ви хотіли б поділитися про Sift?

Одна з ініціатив, яку ми недавно реалізували для подальшого розвитку цієї місії, – це наша спільнота клієнтів, Sifters. Вона відкрита для всіх клієнтів Sift, і вона діє як міст між нашими клієнтами, внутрішніми експертами та цифровою мережею торговців та даних. Це було цінним центром для збору промислових відомостей та вирішення міжгалузевих проблем запобігання шахрайству. І воно бачить величезне прийняття. Створення спільноти для борців із шахрайством є абсолютно необхідним, оскільки шахраї мають свої спільноти, де вони співпрацюють для шкоди підприємствам та споживачам. Як ми кажемо, для боротьби з мережею потрібно мати мережу.