Jeden operátor, tisíce falešných románků: nová ekonomika podvodů s využitím AI

Když technologické společnosti hovoří o bezpečnosti, obvykle se zaměřují na vnější hrozby, jako jsou úniky dat, zranitelná infrastruktura nebo odcizené přihlašovací údaje. U podniků založených na mezilidské interakci však může jedna z nejzávažnějších hrozeb číhat přímo uvnitř produktu, v účtech, o nichž se uživatelé domnívají, že patří skutečným lidem. To je zvlášť důležité v online seznamování, kde lidé sdílejí osobní údaje, věnují čas konverzacím a navazují citové vztahy s cizími lidmi. Následky podvodů sahají dál než jen k citovým vazbám na neznámé lidi. Ovlivňují ochotu uživatelů důvěřovat platformě i lidem, které jejím prostřednictvím poznávají.

Podle výzkumu, který Sumsub zveřejnila v roce 2026, se 84 % dotázaných britských uživatelů seznamovacích aplikací domnívalo, že obsah vytvořený pomocí AI jim ztížil důvěru v potenciální partnery nebo úspěšné seznamování; v roce 2025 to bylo 64 %. Dalších 61 % se samo setkalo s klamáním prostřednictvím falešných profilů nebo zná někoho, komu se to stalo. Tato zjištění vypovídají o vnímání spotřebitelů, nikoli o skutečném rozšíření podvodných účtů. Přesto odhalují problém odvětví, jehož úspěch závisí na ochotě lidí komunikovat s cizími lidmi. Díky AI je falešná aktivita levnější, což představuje zásadní výzvu pro podniky založené na skutečné mezilidské interakci.

Jak AI změnila ekonomiku podvodů

Romantické podvody nejsou ničím novým. Podvodníci po desetiletí používají odcizené fotografie, vymyšlené identity a předem připravené konverzace. Změnily se náklady a složitost provozování těchto podvodů ve velkém měřítku. Dříve vyžadovalo udržování tisíců přesvědčivých profilů značné lidské zdroje a podvodníci museli řídit konverzace, pamatovat si osobní údaje, udržovat konzistentní identity a po delší dobu odpovídat uživatelům. Generativní AI tuto provozní zátěž z velké části snížila.

V září 2026 Anthropic zveřejnila vyšetřování sítě více než 20 klamavých seznamovacích aplikací, které provozovalo studio sídlící v Číně. Během dvoutýdenního období výzkumníci zaznamenali více než 4 700 interakcí AI person s nejméně 25 000 lidmi a vygenerování přibližně 2,36 milionu zpráv. Provoz kombinoval konverzace generované AI s lidskými pracovníky, kteří zajišťovali interakce vyžadující skutečného člověka, včetně videohovorů v reálném čase. Aplikace zatajovaly automatizovanou povahu služby a uživatelům nabízely něco, co vypadalo jako skutečné příležitosti k seznámení. Šlo o aplikace navržené tak, aby klamaly, nikoli o podvodné profily působící v zavedených seznamovacích platformách. Případ však ukazuje, jak výrazně může AI snížit zdroje potřebné k vytváření přesvědčivých mezilidských interakcí.

Pro legitimní seznamovací platformy představují podobné technologie stále větší výzvu. Generované fotografie, automatizované zprávy, odcizené identity a nástroje určené k obcházení ověřovacích systémů lze využít k vytváření a udržování podvodných účtů. Problém už nespočívá pouze v rozpoznávání podezřelých profilů. Platformy musí reagovat na stále sofistikovanější útoky, jejichž tvorba je přitom čím dál levnější. Mění se tím také ekonomika provozování seznamovací služby. Důvěra je otázkou produktu i podnikání.

Podvody přinášejí náklady na podnikání i mimo oblast moderace. Falešné účty generují registrace, lajky a konverzace, které v produktové analytice vypadají jako legitimní aktivita, a mohou tak zkreslovat signály, z nichž vycházejí doporučovací algoritmy a A/B testy. Podvody mají také obchodní dopad: uživatelé, kteří se opakovaně setkávají s falešnými profily, mohou přestat zahajovat konverzace, být méně aktivní nebo utrácet méně. Rozsah tohoto dopadu se však na jednotlivých platformách liší a je třeba jej měřit, nikoli předpokládat. V seznamování je proto boj proti podvodům součástí ekonomiky produktu, nejen bezpečnostní funkcí. A protože AI zlevňuje vytváření umělé aktivity, rozlišování skutečného zapojení od uměle vytvořeného se stává zásadním rozhodnutím při vývoji produktu.

Dilema vedení: bezpečnost, nebo růst

Přísnější ověřování se jeví jako samozřejmá reakce na stále sofistikovanější podvody. V praxi je však rozhodování složitější: každý další krok při registraci přináší překážku. Požadavek na doklady totožnosti, biometrické ověření nebo opakované kontroly může některým druhům zneužívání zabránit, zároveň však může odradit legitimní uživatele od dokončení registrace. To přímo ovlivňuje ekonomiku získávání uživatelů. Pokud stejný marketingový rozpočet přinese méně registrovaných a aktivovaných uživatelů, náklady na získání každého dokončeného registranta vzrostou.

U seznamovacích aplikací mohou důsledky přesahovat samotný registrační proces. Na rozdíl od mnoha jiných spotřebitelských produktů jsou seznamovací platformy závislé na hustotě místní sítě: v určité geografické oblasti musí být dostatek aktivních potenciálních partnerů, kteří odpovídají potřebám uživatelů, aby seznamování fungovalo. Ověřovací proces, který zbytečně omezuje registrace legitimních uživatelů, proto může zpomalit rozvoj místní sítě, snížit počet příležitostí k seznámení a oslabit udržení uživatelů. Pokud naopak podvodné účty zůstávají aktivní, vznikají další náklady: spotřeba infrastruktury, větší zátěž pro moderaci, zkreslená doporučení a klesající důvěra uživatelů. Přehnané zabezpečení může ztížit používání produktu. Nedostatečné zabezpečení může znemožnit, aby mu lidé důvěřovali.

Prevenci podvodů je třeba chápat jako produktové a obchodní rozhodnutí, nikoli jako izolovanou technickou funkci. Přístup založený na míře rizika kombinuje základní ochranu při registraci s analýzou chování, signály ze zařízení, sledováním obsahu a důkladnějším ověřováním v případě podezřelé aktivity. Ani úspěšné ověření však neznamená, že lze uživateli důvěřovat, protože důkaz, že je někdo skutečně přítomen, není důkazem jeho záměrů. Účinnost je třeba posuzovat souhrnně podle několika hledisek, mimo jiné podle úspěšnosti odhalování, počtu falešně pozitivních výsledků, rychlosti zásahů, nákladů na ověřování, konverze a udržení uživatelů. Lepší odhalování, které neprávem omezuje mnoho skutečných uživatelů, nepředstavuje lepší obchodní výsledek. Další vrstvu představuje ochrana soukromí: analýza komunikace nebo shromažďování dalších identifikačních údajů vyžaduje transparentnost, minimalizaci údajů a přísnou kontrolu přístupu. Otázkou není, kolik podvodných účtů platforma dokáže zablokovat, ale jak dobře dokáže omezit riziko a zároveň zachovat dobrý uživatelský zážitek pro legitimní uživatele.

Ověřování nestačí: úloha komunity

S tím, jak jsou konverzace vytvořené pomocí umělé inteligence stále přesvědčivější, vyvstává otázka týkající se produktu. Měly by se seznamovací platformy zaměřovat pouze na digitální interakce, nebo také vytvářet více příležitostí k tomu, aby se rozvíjely v reálném světě? Ve Fledge zkoumáme model, který propojuje párování na základě kompatibility s offline akcemi a komunitními aktivitami, aby byl přechod od objevování možných partnerů pomocí algoritmu k osobnímu setkání přirozený. Akce sama o sobě nedokazuje, že lze někomu důvěřovat, ani nenahrazuje ověřování, přináší však sociální kontext, který profily a chaty nedokážou nabídnout. Považujeme to za slibný směr, nikoli za samostatné řešení podvodů využívajících umělou inteligenci.

Umělá inteligence by měla lidem pomáhat najít kompatibilní partnery, podporovat moderování a odhalovat podezřelé chování, nikoli vytvářet zdání vztahů. Úspěch by se proto neměl měřit pouze počtem aktivních uživatelů, shod a konverzí, ale také kvalitou interakcí, jejich autenticitou a výsledky, o které uživatelé skutečně usilují. Platforma s vysokou mírou zapojení, ale jen několika skutečnými vztahy riskuje, že bude optimalizovat nesprávný výsledek.

Důvěra jako konkurenční výhoda

Umělá inteligence bude nadále posilovat jak podvodníky, tak platformy, které se jim brání, a pravděpodobně neexistuje jediné technické řešení. Ochrana bude vyžadovat průběžné přizpůsobování, několik vrstev detekce a odpovědné a pečlivé zvažování obchodních kompromisů. Tato výzva však přesahuje oblast kybernetické bezpečnosti. Důvěra ovlivňuje kvalitu produktu, růst sítě, chování uživatelů i dlouhodobé příjmy, a čím levněji lze vytvářet falešné zapojení, tím cennější jsou autentické interakce. V seznamování není důvěra bezpečnostní funkcí; důvěra je samotným produktem. Platformy nové generace mohou uspět méně tím, že budou vytvářet více interakcí, a více tím, že vybudují prostředí, v němž mohou uživatelé věřit, že jsou tyto interakce skutečné.