ИИ может помочь нам находить реальных людей, а не заменять их

Поддельное изображение обманывает даже самые проницательные глаза, но поддельное поведение, которое видит платформа, не должно.

За последние двадцать лет индустрия онлайн-знакомств обучала пользователей безопасности в виде простого чек‑листа. Мы советовали пользователям тщательно проверять фотографию, проверять согласованность истории человека или настаивать на видеозвонке перед тем, как согласиться встретиться. Эти рекомендации, когда‑то являвшиеся золотым стандартом цифровой безопасности, сегодня полностью устарели.Окончательное доказательство пришло в исследование февраля 2025 года от iProov, ведущий поставщик биометрических решений. Исследователи попросили 2 000 участников из Великобритании и США классифицировать различные объекты — используя как изображения, так и видео — как реальные или синтетические. Результаты были поразительными: только два участника не сделали ни одной ошибки. Это всего лишь 0,1 % протестированных людей, что означает, что остальные 1 998 сделали как минимум одну ошибку. Высокая уверенность в сочетании с высоким уровнем ошибок представляет опасную смесь для потребителей. И мошенники более чем готовы воспользоваться этим.Согласно Отчет Entrust 2026 о мошенничестве с идентификацией, дипфейки теперь составляют одну пятую попыток биометрического мошенничества. Самоснимки с дипфейками выросли на 58 % в 2025 году, а инъекционные атаки увеличились на 40 % год к году. Ожидать, что обычный пользователь превзойдёт высокоразвитую генеративную модель ИИ в визуальном восприятии, значит отрекаться от ответственности; это переносит риск напрямую от платформы к клиенту.

Мошенничество больше не связано с поиском поддельных фотографий

Реальность такова, что текущие инструменты обнаружения не справляются, потому что они проводят тесты на уровне отдельного объекта по одному объекту за раз. Один тест проверяет, было ли конкретное изображение сгенерировано ИИ. Другой проверяет, подделан ли документ, а третий — был ли текст в сообщении написан машиной. Проблема в том, что каждый из этих тестов быстро теряет актуальность. По мере того как прогресс генеративных моделей постоянно повышает качество вывода, прежние ответы и методы обнаружения устаревают почти мгновенно.

Гораздо более эффективный подход заменяет оценку отдельного сигнала на совместный анализ множества сигналов. Наш метод оценивает взаимосвязи между различными измерениями присутствия пользователя. Одно измерение сигнала — это внешний вид устройства для нашей системы. Другое — откуда поступает сессия пользователя. Третье — как действительно ведёт себя аккаунт. Всё это приводит к человеческому обзору, когда система помечает индикаторы возможного мошенничества.

Управление ООН по наркотикам и преступности, в своем Оценка угроз транснациональной организованной преступности для Юго‑Восточной Азии 2026, оценил потери от онлайн‑мошенничества в 2025 году в диапазоне от US$88.3 billion до US$114.1 billion только в указанных регионах. Промышленное мошенничество в таком масштабе опирается на скорость и объём. Любую отдельную часть информации можно легко подделать, но подделкавсе всего этого последовательно — на множестве аккаунтов, которые постоянно отключаются платформой — становится слишком обременительным для поддержания. Каждый слой трения, который мы вводим, повышает стоимость мошенничества на один аккаунт, пока их маржа прибыли не достигнет нуля.

Здесь ИИ действительно оправдывает себя. Хотя обнаружение подделок улучшилось благодаря новым технологиям, повышенная способность выявлять совпадающие факторы, указывающие на мошенничество, — и приводящая к более раннему вмешательству — значительно лучше для наших пользователей. Когда индикаторы пользователя расходятся, их истинные намерения раскрываются. Честный участник, мошенник и посетитель с иной целью могут иметь одинаковые фотографии и почти идентичные вступительные строки. Однако их совокупные индикаторы будут различаться и расскажут совершенно другую историю. То, как люди отвечают, насколько быстро реагируют, как они развивают разговор, о чём спрашивают и какие беседы оставляют без ответа, формирует полную картину. Идентичность может быть безупречно сгенерированной ложью, но поведение всегда выдаст плохие намерения.

Информационная асимметрия: платформы знают то, чего пользователи не знают

Федеральная торговая комиссия сообщила в 2026 году, что потери от романтического мошенничества в 2025 году выросли на 22 % по сравнению с 2024 годом, достигнув примерно $1,5 млрд. Среди тех, кто указал, как с ними связались, около 60 % сказаличто их первоначальный контакт произошёл на платформе социальной сети.

В нашей отрасли существует огромный информационный разрыв. Платформы видят те же категории сигналов, но они, вероятно, также могут видеть страну входа и возраст аккаунта, например. Всё, что видят участники, — это улыбка и тщательно составленный абзац, умело включающий что‑то из их профиля. Платформы обладают возможностью использовать эти скрытые данные для создания более безопасной среды или раскрыть их, чтобы участники могли действовать соответствующим образом. К сожалению, большинство отрасли не делает ни того, ни другого.

Бездействие отрасли часто связано со сложными компромиссами, касающимися конфиденциальности пользователей. Дорогая часть этого уравнения — принятие мер. Существует два пути к установлению доверия: медленный путь — репутация, быстрый путь — верификация. Верификация создаёт трение. Отрасль в подавляющем большинстве стремится к скорости, объёму и низкому трению, что объясняет её хроническую недостаточную верификацию.

Однако решения появляются. Препринт в arXiv от августа 2024 года предложил “учетные данные личности“. 32 автора из таких учреждений, как OpenAI, Microsoft, MIT, Oxford и Harvard, предложили конфиденциальные учетные данные, позволяющие человеку доказать сервису, что он реальный человек, не раскрывая свою истинную личность. Их аргумент состоит в том, что CAPTCHA недостаточны, а обнаружение аномалий быстро теряет эффективность против способного ИИ. Они правы. Знакомства — одно из мест, где последствия этого разрушения ощущаются сильнее всего, потому что основной продукт, который продаётся, — это само доверие.

Создание лучшего стандарта сообщества

Те же сигналы, которые помогают выявлять потенциально преступные действия, могут также помочь определить другие виды плохих поступков. Понимание намерений выходит далеко за пределы простого пресечения мошенничества. Не каждый недобросовестный пользователь на сайте является преступником. Пользователь, который неприятен, может не нарушать закон, а отношения, рассматриваемые как транзакция, могут не быть мошенничеством. Отношение к людям с презрением не приводит к федеральному обвинению. Однако такие поведения сильно разлагают сообщество. К тому же они часто остаются невидимыми для систем, полностью полагающихся на сообщения участников в своих программах обеспечения.

Индустрия традиционно проводит черту на уровне незаконности: проверяет наличие мошенничества и несовершеннолетних, удаляет то, что закон строго требует, а остальное рассматривает как дело между согласными взрослыми. Я не знаю ни одного другого сайта знакомств, использующего ИИ для выявления транзакционного поведения и активного его пресечения. Наш функционал Stop@Send оценивает исходящее сообщение отправителя в момент отправки. Он ищет более глубокий смысл, а не просто сравнивает содержание со статическим списком ключевых слов. В большинстве случаев ответ представляет собой объяснение, отправленное отправителю, в котором точно указывается, почему сообщение неприемлемо для сообщества.

Конечно, это не бесплатно. Прерывание разговоров участников создает трение, что, как и следовало ожидать, является расходом, который мы сознательно берём на себя. Однако наши стандарты лучше всего формируются тем, какое поведение действительно допускается на нашей платформе, а не тем, что опубликовано на неисполняемой странице правил сообщества. Платформа, которая не создаёт неудобств плохому пользователю, не имеет права называть себя сообществом.

Вызов для отрасли

Сейчас рынок мчится к тому, чтобы ИИ заменил людей: мы наблюдаем рост AI‑компаньонов, профилей, созданных ИИ, и агентов‑флиртовщиков. Я твёрдо считаю, что такой путь — тупик. Он оптимизируется исключительно под вовлечённость, но ничего, кроме этого, не даёт. Наш подход принципиально иной. Мы используем ИИ, чтобы избавиться от недобросовестных участников, заставить членов отвечать друг перед другом и помочь им взаимодействовать так, чтобы это более вероятно приводило к значимым, реальным отношениям.

Списки «красных флажков», которых следует избегать, утратили свою ценность. Сигналы, которые раньше выдавали мошенников, теперь являются теми же признаками, которые генеративные модели научились устранять, создавая бесконечную гонку вооружений, в которой мы застряли. Помимо Первого правила — никогда не отправляйте деньги кому‑либо, кого вы не знаете и с кем не встречались лично, — ключевой вопрос уже не в фотографии. Он касается платформы и того, что она делает с тем, что знает, а её пользователи — нет.

Платформа, которая эффективно реагирует на этот вызов, активно работает над доверием. Платформа, которая этого не делает, заставляет своих участников выполнять больше работы с коэффициентом успеха 0,1 % лишь для собственной защиты.

Я бросаю этот вызов каждой платформе, включая свою собственную. Я ожидаю, что ответы будут честными и полными. Технологии, способные устранить этот разрыв, уже существуют. Мошенничество продолжается, потому что его остановка означала бы отказ от огромного роста, который приходит через огромную дверь безпрепятственной регистрации. Это бизнес‑решение, а не техническое ограничение. И платформы, которые примут правильное решение, обладают единственным активом, имеющим значение в этом обсуждении: доверием своих участников.