ШІ може допомогти нам знаходити реальних людей, а не заміняти їх

Підроблене зображення обманює навіть найострішу зору, але підроблена поведінка, яку бачить платформа, не повинна.

Протягом останніх двадцяти років індустрія онлайн‑знайомств навчала безпеці користувачів за допомогою простого чекліста. Ми радили користувачам ретельно перевіряти фото, перевіряти історію людини на узгодженість або наполягати на відеодзвінку перед тим, як погодитися на зустріч. Ці рекомендації, колись золотий стандарт цифрової безпеки, сьогодні повністю застаріли.Остаточне підтвердження прийшло у лютневому 2025 дослідженні від iProov, провідного постачальника біометрії. Дослідники опитали 2 000 учасників у Великій Британії та США, попросивши їх класифікувати різні елементи — використовуючи як зображення, так і відео — як реальні або синтетичні. Результати були приголомшливими: лише двоє учасників не зробили жодної помилки. Це всього лише 0,1 % випробуваних, що означає, що інші 1 998 зробили принаймні одну помилку. Поєднання високої впевненості з високим рівнем помилок є небезпечною сумішшю для споживачів. І шахраї більш ніж готові це використати.Згідно з Звіт Entrust 2026 про шахрайство ідентичності, deepfakes тепер становлять одну з п’яти спроб біометричного шахрайства. Deepfaked селфі зросли на 58 % у 2025 році, а ін’єкційні атаки збільшились на 40 % рік до року. Очікування, що звичайний користувач зможе перемогти надзвичайно просунутий генеративний AI‑модель у візуальному сприйнятті, є відмовою від відповідальності; це переносить ризик безпосередньо з платформи на клієнта.

Шахрайство більше не стосується пошуку підроблених зображень

Реальність полягає в тому, що сучасні інструменти виявлення не справляються, бо вони проводять об’єктно‑рівневі тести по одному об’єкту за раз. Один тест запитує, чи було конкретне зображення створене ШІ. Інший — чи підроблений документ, а третій — чи текст у повідомленні написаний машиною. Проблема в тому, що кожен з цих тестів швидко втрачає актуальність. Оскільки прогрес генеративних моделей безперервно підвищує якість вихідних даних, попередні відповіді та методи виявлення стають застарілими майже за одну ніч.

Набагато кращий підхід замінює аналіз окремих сигналів на спільну оцінку багатьох сигналів. Наш метод оцінює взаємозв’язки між різними вимірами присутності користувача. Один вимір сигналу — це вигляд пристрою для нашої системи. Інший — звідки надходить сесія користувача. Третій — як фактично поводиться обліковий запис. Усе це призводить до ручної перевірки, коли система позначає індикатори можливого шахрайства.

Офіс ООН з питань наркотиків і злочинності, у своєму Оцінці загрози транснаціональної організованої злочинності для Південно‑Східної Азії 2026, оцінив збитки від онлайн‑шахрайств у 2025 році в межах від 88,3 млрд до 114,1 млрд доларів США лише у зазначених регіонах. Промислове шахрайство такого масштабу працює на швидкості та об’ємі. Будь‑яка окрема інформація може бути легко підроблена, але підробка усіх їх послідовно — у багатьох облікових записах, які постійно знищуються платформою — стає надто обтяжливою для підтримки. Кожен шар тертя, який ми вводимо, підвищує вартість шахрайської діяльності на один обліковий запис, доки їхня маржа прибутку не впаде до нуля.

Саме тут ШІ дійсно виправдовує себе. Хоча виявлення підробок покращилося завдяки новим технологіям, підвищена здатність виявляти одночасні фактори, що вказують на шахрайство, і вести до раннього втручання, значно краща для наших користувачів. Коли індикатори користувача не збігаються, його справжні наміри виявляються. Чесний учасник, шахрай і відвідувач з іншим наміром можуть мати однакові фото та майже ідентичні вступні рядки. Однак їхні комбіновані індикатори будуть різними і розкажуть зовсім іншу історію. Те, як люди відповідають, наскільки швидко реагують, як вони ескалують розмову, про що запитують і які розмови залишаються незавершеними, створює повну картину. Ідентичність може бути бездоганною згенерованою брехнею, але поведінка завжди розкриє погані наміри.

Асиметрія інформації: платформи знають те, чого користувачі не знають

Федеральна торгова комісія повідомила у 2026 році, що втрати від романтичних шахрайств у 2025 році зросли на 22 % порівняно з 2024 роком, досягнувши приблизно 1,5 млрд доларів. Серед тих, хто визначив, як їх контактували, близько 60 % сказали, що їхній перший контакт відбувся на платформі соціальних мереж.

У нашій індустрії існує величезний інформаційний розрив. Платформи бачать ті ж категорії сигналів, але вони, ймовірно, також бачать, наприклад, країну входу та вік облікового запису. Для учасників це лише посмішка та ретельно сформований абзац, який майстерно вплітає щось із їхнього профілю. Платформи мають можливість діяти на підставі цих прихованих даних, використовуючи їх для створення безпечнішого середовища, або розкривати їх, щоб учасники могли відповідно реагувати. На жаль, більшість індустрії не робить жодного з цих кроків.

Бездіяльність індустрії часто пов’язана зі складними компромісами, що стосуються конфіденційності користувачів. Дорога половина цього рівняння — це вжиття заходів. Існує два шляхи встановлення довіри: повільний шлях — репутація, а швидкий — верифікація. Верифікація створює тертя. Індустрія переважно прагне швидкості, об’єму та низького тертя, що пояснює її хронічну недоверифікацію.

Проте рішення вже з’являються. У серпні 2024 року на arXiv з’явився препринт, у якому пропонується «особисті посвідчення». 32 автори з інституцій, таких як OpenAI, Microsoft, MIT, Оксфорд і Гарвард, запропонували конфіденційний засіб, який дозволяє людині довести сервісу, що вона є реальною особою, не розкриваючи свою ідентичність. Вони стверджують, що CAPTCHA‑тести недостатні, а виявлення аномалій швидко втрачає ефективність проти потужного ШІ. Вони праві. Знайомства — одне з тих місць, де наслідки цього розмивання найгірше відчуваються, бо основний продукт, який продається, — це саме довіра.

Створення кращого стандарту спільноти

Ті ж сигнали, які допомагають виявляти можливу кримінальну поведінку, можуть також допомогти виявляти інші типи поганих дій. Намір читати виходить далеко за межі лише запобігання шахрайству. Не кожен поганий учасник сайту є злочинцем. Користувач, який неприємний, може не порушувати закон, а стосунки, розглянуті як транзакція, можуть не бути шахрайством. Погане ставлення до людей не призводить до федерального обвинувачення. Але такі поведінки суттєво підривають спільноту. Гірше те, що вони часто залишаються невидимими для систем, які повністю покладаються на скарги учасників у своїх програмах забезпечення.

Індустрія традиційно проводила черту на незаконності: виявляла шахрайство та неповнолітніх, видаляла те, що закон вимагає, і залишала інше як питання між згідними дорослими. Я не знаю жодного іншого сайту знайомств, який використовує ШІ для виявлення транзакційної поведінки та активного її зупинення. Наша функція Stop@Send оцінює вихідне повідомлення відправника під час його надсилання. Вона шукає глибший сенс, а не просто порівнює вміст зі статичним списком ключових слів. У більшості випадків відповіддю є пояснення, яке надсилається відправнику, чітко вказуючи, чому повідомлення є недоречним для спільноти.

Звісно, це не безкоштовно. Переривання розмов учасників створює тертя, що, як і слід очікувати, є витратами, які ми свідомо беремо на себе. Але наші стандарти найкраще встановлюються тим, яку поведінку дійсно дозволено на нашій платформі, а не тим, що опубліковано на неохороненій сторінці правил спільноти. Платформа, яка не готова ускладнити життя поганому учаснику, не має права називати себе спільнотою.

Виклик для індустрії

Ринок зараз мчить, щоб ШІ замінив людей: ми спостерігаємо підйом ШІ‑компаньйонів, ШІ‑згенерованих профілів і фліртових агентів. Я твердо вважаю, що цей напрямок — глухий кут. Він оптимізується виключно для залученості, але нічого, крім цього, не дає. Наш підхід принципово інший. Ми використовуємо ШІ, щоб позбутися поганих акторів, притягнути учасників один до одного до відповідальності та допомогти їм ставитися один до одного так, щоб це більше сприяло змістовним, реальним стосункам у реальному світі.

Списки червоних прапорців, яких слід уникати, втратили свою цінність. Сигнали, які раніше видавали шахраїв, — це саме ті ознаки, які генеративні моделі навчилися усувати, створюючи безперервну гонку озброєнь, у якій ми застрягли. Окрім Першого правила — ніколи не надсилати гроші будь‑кому, кого ви не знаєте і не зустрічали особисто, чого має дотримуватись кожен — ключове питання вже не про фотографію. Воно стосується платформи і того, що вона робить з тим, що знає, а її користувачі не знають.

Платформа, яка добре реагує на цей виклик, активно працює над довірою. Платформа, яка цього не робить, змушує своїх учасників докладати більше зусиль при успішності лише 0,1 відсотка, лише щоб захистити себе.

Я ставлю цей виклик кожній платформі, включаючи свою власну. Я очікую, що відповіді будуть чесними і повними. Технологія, яка закриває цю прогалину, вже існує. Шахрайство продовжується, бо його зупинка означає відмову від масивного зростання, яке приходить через величезні двері легкого реєстрування. Це бізнес‑рішення, а не технічне обмеження. І платформи, які правильно вирішують це питання, володіють єдиним активом, який має значення в цьому обговоренні: довірою своїх учасників.