Один оператор — тысячи фальшивых романов: новая экономика мошенничества с ИИ

Когда технологические компании говорят о безопасности, они обычно сосредоточиваются на внешних угрозах, таких как утечки данных, уязвимая инфраструктура или кража учётных данных. Но для компаний, деятельность которых строится на взаимодействии между людьми, одна из самых серьёзных угроз может исходить изнутри самого продукта — от аккаунтов, которые пользователи считают принадлежащими реальным людям. Это особенно актуально для онлайн-знакомств: люди делятся личной информацией, тратят время на переписку и сближаются с незнакомцами. Последствия мошенничества выходят за рамки эмоциональных связей с незнакомцами. Оно подрывает готовность пользователей доверять платформе и людям, с которыми они знакомятся через неё.

Согласно исследованию, опубликованному Sumsub в 2026 году, 84% опрошенных пользователей приложений для знакомств в Великобритании считали, что контент, созданный ИИ, затруднил поиск подходящих партнёров или успешные знакомства; в 2025 году так считали 64%. Ещё 61% сами сталкивались с обманом через фальшивые профили или знали кого-то, кто с ним столкнулся. Эти данные отражают восприятие ситуации потребителями, а не фактическую распространённость мошеннических аккаунтов. Тем не менее они указывают на проблему для отрасли, успех которой зависит от готовности людей общаться с незнакомцами. ИИ удешевляет создание фальшивой активности, что создаёт принципиальную проблему для компаний, чья работа строится на подлинном человеческом общении.

Как ИИ изменил экономику мошенничества

Мошеннические схемы с романтической подоплёкой появились не вчера. Мошенники десятилетиями использовали украденные фотографии, вымышленные личности и заготовленные сценарии переписки. Изменились затраты и сложность масштабирования таких схем. Раньше для поддержания тысяч убедительных профилей требовались значительные человеческие ресурсы: мошенникам приходилось вести переписки, запоминать личные подробности, сохранять последовательность образа и отвечать пользователям на протяжении длительного времени. Генеративный ИИ значительно снизил эту операционную нагрузку.

В сентябре 2026 года Anthropic опубликовала расследование о сети, насчитывавшей более 20 мошеннических приложений для знакомств, которыми управляла студия из Китая. За две недели исследователи выявили более 4 700 взаимодействий ИИ-персонажей как минимум с 25 000 человек и обнаружили, что было создано около 2,36 миллиона сообщений. В этой схеме сочетались переписки, созданные ИИ, и работа сотрудников, которые подключались к общению, когда требовалось участие реального человека, в том числе во время видеозвонков в реальном времени. Приложения скрывали автоматизированный характер сервиса, предлагая пользователям то, что выглядело как настоящие возможности для знакомств. Это были приложения, созданные для обмана, а не фальшивые профили внутри уже существующих платформ для знакомств. Однако этот случай показывает, насколько сильно ИИ может снизить ресурсы, необходимые для создания убедительного человеческого общения.

Для легальных платформ знакомств аналогичные технологии становятся всё более серьёзной проблемой. Сгенерированные фотографии, автоматизированные сообщения, украденные личности и инструменты для обхода систем проверки могут использоваться для создания и поддержки мошеннических аккаунтов. Теперь проблема не сводится к выявлению подозрительных профилей. Платформам приходится противостоять всё более изощрённым атакам, тогда как затраты на их проведение продолжают снижаться. Это также меняет экономику бизнеса в сфере знакомств. Доверие — одновременно проблема продукта и бизнеса.

Мошенничество влечёт за собой издержки для бизнеса, выходящие за рамки модерации. Фальшивые аккаунты создают регистрации, отметки «Нравится» и переписки, которые в продуктовой аналитике выглядят легитимно и могут искажать данные, на которых основаны рекомендательные алгоритмы и A/B-тесты. Есть и коммерческие последствия: пользователи, которые продолжают сталкиваться с фальшивыми профилями, могут реже начинать переписки, проявлять меньшую активность или меньше платить, хотя масштаб этого эффекта зависит от платформы и его нужно измерять, а не предполагать заранее. Поэтому в сфере знакомств борьба с мошенничеством — часть экономики продукта, а не просто функция безопасности. По мере того как ИИ удешевляет создание искусственной активности, различение подлинного и искусственного взаимодействия становится ключевым продуктовыми решением.

Дилемма руководства: безопасность или рост

Усиление проверки кажется очевидным ответом на всё более изощрённое мошенничество. На практике решение сложнее: каждый дополнительный этап регистрации создаёт трение. Запрос документов, биометрическая проверка или повторные проверки могут предотвратить некоторые виды злоупотреблений, но также способны отпугнуть добросовестных пользователей и помешать им завершить регистрацию. Это напрямую влияет на экономику привлечения пользователей. Если при том же маркетинговом бюджете удаётся зарегистрировать и активировать меньше пользователей, стоимость привлечения в расчёте на завершённую регистрацию растёт.

Для приложений знакомств последствия могут выходить за рамки воронки регистрации. В отличие от многих других потребительских продуктов, платформы знакомств зависят от плотности локальной сети: для эффективного подбора партнёров пользователям необходимо достаточное число подходящих активных потенциальных партнёров в конкретном регионе. Поэтому процесс проверки, который без необходимости ограничивает число добросовестных регистраций, может замедлить развитие локальной сети, сократить возможности для знакомств и снизить удержание пользователей. В то же время активность мошеннических аккаунтов влечёт другие издержки: потребление ресурсов инфраструктуры, нагрузку на модерацию, искажение рекомендаций и снижение доверия пользователей. Чрезмерные меры безопасности могут сделать продукт неудобным. Недостаточные меры безопасности могут лишить пользователей возможности ему доверять.

Предотвращение мошенничества следует рассматривать как продуктовую и бизнес-задачу, а не как отдельную техническую функцию. Подход, основанный на оценке рисков, сочетает базовые меры защиты при регистрации с анализом поведения, сигналами устройств, мониторингом контента и усиленной проверкой при появлении подозрительной активности. И всё же успешное прохождение проверки не означает, что пользователю можно доверять: подтверждение его присутствия не доказывает его намерений. Эффективность следует оценивать сразу по нескольким показателям, в том числе по качеству выявления нарушений, количеству ложных срабатываний, скорости принятия мер, затратам на проверку, конверсии и удержанию пользователей. Более точное выявление нарушений, из-за которого ошибочно ограничивают многих добросовестных пользователей, не улучшает бизнес-результаты. Важно учитывать и вопросы конфиденциальности: анализ переписки или сбор дополнительных идентификационных данных требуют прозрачности, минимизации объёма собираемых данных и строгого контроля доступа. Вопрос не в том, сколько мошеннических аккаунтов может заблокировать платформа, а в том, насколько хорошо она снижает риски, сохраняя при этом удобство для добросовестных пользователей.

Не только проверка: роль сообщества

По мере того как диалоги, созданные ИИ, становятся всё убедительнее, возникает вопрос о развитии продукта. Следует ли платформам для знакомств сосредоточиться только на цифровом общении или также создавать больше возможностей для встреч в реальной жизни? В Fledge мы изучаем модель, которая объединяет подбор пар на основе совместимости с офлайн-мероприятиями и общественными инициативами, чтобы переход от знакомства с помощью алгоритма к личной встрече проходил естественно. Мероприятие не доказывает, что человеку можно доверять, и не заменяет проверку, но создаёт социальный контекст, который невозможно воссоздать с помощью анкет и переписки. Мы считаем это перспективным направлением, но не самостоятельным решением проблемы мошенничества с использованием ИИ.

ИИ должен помогать людям находить подходящих партнёров, поддерживать модерацию и выявлять подозрительное поведение, а не создавать видимость отношений. Поэтому успех следует оценивать не только по числу активных пользователей, совпадений и конверсии, но и по качеству общения, его подлинности и результатам, которых пользователи действительно хотят добиться. Платформа с высокой вовлечённостью, но малым числом подлинных связей рискует стремиться не к тому результату.

Доверие как конкурентное преимущество

ИИ продолжит усиливать и мошенников, и платформы, которые им противостоят, и вряд ли существует какое-то одно техническое решение. Для защиты потребуются постоянная адаптация, несколько уровней выявления нарушений, а также ответственная и взвешенная оценка компромиссов в бизнесе. Но эта задача выходит за рамки кибербезопасности. Доверие влияет на качество продукта, рост сети, поведение пользователей и долгосрочную выручку, а по мере того как искусственная активность становится дешевле, подлинное общение приобретает всё большую ценность. В сфере знакомств доверие — это не функция безопасности; повторим: доверие и есть продукт. Платформы следующего поколения, возможно, будут добиваться успеха не столько за счёт увеличения числа взаимодействий, сколько благодаря созданию среды, в которой пользователи могут быть уверены, что общаются с реальными людьми.