Крис Нагель, генеральный директор Sift – Интервью

Крис является генеральным директором компании Sift. Он имеет более 30 лет опыта работы на руководящих должностях в компаниях, финансируемых венчурным капиталом, и публичных компаниях SaaS, включая Ping Identity. Sift предлагает способ для предприятий прекратить платежную фальсификацию, построенный с помощью единой, интуитивно понятной консоли, решение Sift устраняет необходимость в отключенных инструментах, программном обеспечении с единственной целью и неполных знаниях, которые истощают операционные ресурсы.

В вашей предыдущей роли вы были операционным директором платформы безопасности идентификации Ping Identity, где вы сыграли решающую роль в выводе компании на биржу в 2019 году, какие были некоторые из ваших ключевых выводов из этого опыта?

Вывод компании на биржу – это большое дело, и я многое узнал через этот процесс. Разработка продуктов и масштабирование компании до и после этого этапа научили меня тому, что необходимо для решения сложных организационных проблем, продолжения инноваций и переосмысления пользовательского опыта, а также роста команд и предоставления им возможности делать свою лучшую работу. Я понял на протяжении всей своей карьеры, что любой успех в любой роли должен начинаться с глубокого понимания клиентов, партнеров и людей в вашей команде.

Вы присоединились к Sift в качестве генерального директора в январе 2023 года. Что привлекло вас к этому новому вызову?

Мошенничество – это постоянно растущая и эволюционирующая проблема, и ставки ясны. Глобальные потери от фальсификации электронной коммерции оцениваются в $48 миллиардов к концу 2023 года (увеличение на 16% по сравнению с 2022 годом), и компании во всем мире тратят в среднем 10% своей выручки на борьбу с фальсификацией. Но если компания не сможет эффективно бороться с фальсификацией, она может потерять доход, исключив или “оскорбив” законных клиентов.

Sift имеет первоначальное преимущество в решении этой проблемы с помощью машинного обучения, и его основная технология и глобальная сеть данных выделяют его в области предотвращения фальсификации. Более 34 000 сайтов и приложений, включая Twitter, DoorDash (DASH ), Poshmark и Uphold, полагаются на Sift. Это различие, а также сильный акцент на долгосрочных партнерских отношениях с клиентами, сделали мое решение присоединиться к компании легким.

Почему генеративное ИИ представляет собой такую большую угрозу безопасности для бизнеса и потребителей?

Генеративное ИИ показывает ранние признаки того, что оно может стать игроком в области фальсификации. Мошенничества раньше были полны ошибок в грамматике и орфографии, поэтому их было легче различать. С генеративным ИИ злоумышленники могут более эффективно имитировать законные компании и обмануть потребителей, заставив их предоставить конфиденциальную информацию для входа или финансовые данные через фишинговые попытки.

Платформы генеративного ИИ даже могут предложить варианты текста, которые позволяют мошеннику создать несколько разных учетных записей на одной платформе. Например, они могут создать 100 новых фальшивых профилей в приложении для знакомств, чтобы совершить криптовалютные романтические мошенничества, каждая из которых имеет уникальное лицо и биографию, сгенерированную ИИ. Таким образом, генеративное ИИ способствует демократизации фальсификации, поскольку теперь любой человек, независимо от его технической грамотности, может обмануть кого-то, используя украденные учетные данные или информацию о платежах.

Sift недавно выпустил отчет под названием: «В условиях возрождения ИИ потребители и бизнес сталкиваются с фальсификацией», какие были некоторые из самых больших сюрпризов для вас в этом отчете?

Мы знали, что ИИ и автоматизация изменят ландшафт фальсификации, но скорость и объем этого сдвига действительно замечательны. Более двух третей (68%) потребителей в США сообщили об увеличении спама и мошенничеств с ноября, примерно в то время, когда инструменты генеративного ИИ начали набирать популярность, и мы считаем, что эти две тенденции сильно коррелируют. Аналогично, мы наблюдали всплеск атак на учетные записи (ATO), при этом темп ATO увеличился на 427% в первом квартале 2023 года по сравнению со всем 2022 годом. Очевидно, что эти события связаны, поскольку генеративное ИИ позволяет мошенникам создавать более убедительные и масштабируемые мошенничества, что приводит к волне атак ATO.

Отчет также показывает некоторые из способов, которыми “фальсификация как услуга” продвигается. Открытые форумы, такие как те, что есть на Telegram, снижают барьер для входа для любого, кто хочет совершить различные виды злоупотреблений – это то, что мы называем демократизацией фальсификации. Наша команда увидела распространение групп фальсификации, которые теперь предлагают атаки ботов как услугу, и мы подчеркнули, как один инструмент используется для обмана потребителей, заставляя их предоставить одноразовые коды для своих финансовых учетных записей. И мошенники делают эти инструменты легко доступными и доступными для других за относительно небольшую плату.

Можете ли вы обсудить, что такое “Платформа цифрового доверия и безопасности Sift”?

С помощью Sift компании могут строить и развертывать с уверенностью, зная, что у них есть инструменты для защиты своего бизнеса от фальсификации. Это исключение злоумышленников, сохраняя при этом бесперебойный опыт для клиентов – снижение трения и увеличение дохода.

Наша миссия – помочь всем доверять интернету, и наша платформа использует машинное обучение и огромную сеть данных для защиты бизнеса от различных видов фальсификации и злоупотреблений. Мы были одной из первых компаний, которые применили машинное обучение к онлайн-фальсификации, поэтому мы накопили огромное количество информации, которое отражено в наших глобальных моделях машинного обучения, которые обрабатывают более 1 триллиона событий в год. Красота платформы заключается в том, что чем больше клиентов у нас есть, тем умнее становятся наши модели, поэтому мы всегда можем оптимизировать их для остановки фальсификации, снижая трение для реальных пользователей и клиентов.

В рамках платформы у нас есть защита платежей, которая защищает от фальсификации платежей; Защита учетных записей, которая предотвращает атаки на учетные записи; Интегритет контента, который блокирует спам и мошенничества в пользовательском контенте; и Управление спорами, которое защищает от оспариваний и дружественной фальсификации.

Как эта платформа отличается от конкурирующих инструментов против фальсификации?

На рынке нет недостатка в поставщиках предотвращения фальсификации, но большинство из них попадают в две категории: решения с узким спектром применения или решения “решение как услуга”. Решения с узким спектром применения обычно имеют ограниченный объем и предназначены для решения одной задачи, такой как обнаружение ботов. Решения “решение как услуга” более комплексны, но лишены многих возможностей по управлению фальсификацией и действуют как “черный ящик” в отношении своей логике принятия решений.

Одной из наиболее отличительных характеристик Sift является то, что мы предлагаем решение для борьбы с различными видами фальсификации во всех отраслях. Фальсификация – это проблема, не зависящая от отрасли, и у нас есть уникальное понимание того, как проблемы фальсификации в одной отрасли становятся проблемами другой. Во всех наших возможностях – двигателях принятия решений, управлении делами, оркестровке, отчетности и симуляции – мы также отдаем приоритет предоставлению контроля нашим клиентам. Каждая компания уникальна, и эта возможность настройки означает, что логика может быть изменена с помощью пользовательских правил, и что симуляции могут быть скорректированы внутри платформы. Мы также считаем, что лучший способ предотвратить фальсификацию – это быть прозрачным в отношении нее. Наш двигатель принятия решений предоставляет объяснения для аналитиков, чтобы они понимали, почему транзакция была одобрена, оспорена или отклонена. Мы также предлагаем отчеты, чтобы вы могли измерить производительность модели и понять, нужно ли ее скорректировать.

Можете ли вы обсудить, что такое “Оценка Sift”, и как она позволяет непрерывное самоулучшение машинного обучения, используемого?

Клиенты Sift используют наши алгоритмы машинного обучения для обнаружения фальсификации и предотвращения атак на сайте или в приложении. Оценка Sift – это число от 0 до 100, присвоенное алгоритмом каждому событию (или действию), чтобы указать вероятность того, что поведение является фальсификацией.

Хотя каждая из наших продуктов поддерживается своей собственной моделью машинного обучения, мы также предлагаем пользовательские алгоритмы, адаптированные для клиентов Sift. Сигналы фальсификации для каждой отрасли могут различаться, если вы продаете страховые полисы, скоропортящиеся продукты или одежду, например. Sift запускает тысячи сигналов, используя нашу огромную глобальную сеть, через каждую индивидуальную модель, анализируя такие детали, как время суток, характеристики электронных адресов и количество попыток входа. Эти сигналы в совокупности составляют оценку для конкретного события, такого как вход или транзакция. Оценки Sift никогда не делятся между клиентами, поскольку каждая модель машинного обучения клиента уникальна.

Одним из интересных продуктов, разработанных в Sift для борьбы со спамом и фальсификацией, является функция “Кластеризация текста”, что это конкретно?

Спам-текст преследует онлайн-платформы, и спамеры часто публикуют один и тот же или очень похожий контент повторно. Мы создали функцию кластеризации текста в рамках целостности контента, чтобы сделать его проще выявить этот тип текста и сгруппировать его вместе, чтобы аналитик мог решить, принимать ли массовые меры. Вызов заключается в том, что не все повторяющиеся тексты являются спамом. Например, продавец на электронной коммерческой платформе может перечислить один и тот же продукт и описание на нескольких сайтах.

Чтобы эффективно решить эту проблему, нам нужно было найти способ пометить новые виды фальсификации контента, которую мы хотели обнаружить, а также дать аналитикам окончательный контроль над принятием мер. С помощью комбинации нейронных сетей и машинного обучения функция кластеризации текста может теперь группировать похожий текст, даже если есть небольшие вариации. Этот помеченный контент помечается вместе, и если это действительно спам, аналитик может принять массовые меры для его удаления.

Как предприятия могут лучше всего защитить себя от враждебных атак или других видов злонамеренных атак, совершаемых с помощью генеративного ИИ?

Более половины потребителей (54%) считают, что они не должны нести ответственность, если они непреднамеренно предоставили свою информацию о платежах мошеннику, который позже использовал ее для совершения фальсификации. Почти четверть (24%) считают, что бизнес, где была совершена покупка, должен нести ответственность. Это означает, что бремя ответственности за остановку фальсификации лежит на платформах и сервисах, которые потребители используют каждый день.

Мы все еще находимся на ранней стадии генеративного ИИ, и угрозы сегодня не будут теми же угрозами, которые мы увидим через шесть месяцев. Однако бизнесу необходимо бороться с огнем, используя технологии ИИ, такие как машинное обучение, для борьбы и остановки фальсификации, прежде чем она произойдет. Машинное обучение в реальном времени имеет решающее значение для поддержания масштаба, скорости и сложности фальсификации. Торговцы, которые не отказываются от устаревших или ручных процессов, отстанут от мошенников, которые уже автоматизируют. Компании, которые принимают этот комплексный, реальный подход, улучшают точность обнаружения фальсификации на 40%. Это означает лучшее выявление мошенников и остановку их до того, как они смогут нанести вред вашему бизнесу или клиентам.

Есть ли что-то еще, что вы хотели бы поделиться о Sift?

Одной из инициатив, которую мы недавно реализовали для продвижения этой миссии, является наше сообщество клиентов, Sifters. Оно открыто для всех пользователей Sift и служит мостом между нашими клиентами, внутренними экспертами и цифровой сетью торговцев и данных. Это было ценным центром для сбора информации о отрасли и решения проблем фальсификации на рынке. И оно увидело огромный прием. Создание сообщества для борцов с фальсификацией абсолютно необходимо, потому что у мошенников есть свои собственные сообщества, где они сотрудничают, чтобы нанести вред бизнесу и потребителям. Как мы любим говорить, для борьбы с сетью нужно иметь сеть.