AI nám může pomoci najít skutečné lidi, ne je nahradit

Falešný obrázek oklame i ty nejbystrější oči, ale falešné chování, které platforma vidí, by nemělo.  

Během posledních dvaceti let online seznamovací průmysl učil uživatele bezpečnosti jako jednoduchý kontrolní seznam. Radili jsme uživatelům, aby pečlivě prověřili fotografii, zkontrolovali soulad příběhu osoby, nebo trvali na videohovoru před tím, než souhlasí se setkáním. Tato rada, kdysi zlatý standard digitální bezpečnosti, je dnes naprosto zastaralá.Definitivní důkaz přišel v studie z února 2025 od iProov, přední dodavatel biometrie. Výzkumníci požádali 2 000 respondentů ve Velké Británii a USA, aby označili různé položky – pomocí obrázků i videí – jako skutečné nebo syntetické. Výsledky byly ohromující: pouze dva respondenti nedělali žádnou chybu. To představuje pouhých 0,1 % testovaných lidí, což znamená, že ostatních 1 998 udělalo alespoň jednu chybu. Vysoká sebedůvěra v kombinaci s vysokou chybovostí je pro spotřebitele nebezpečná směs. A podvodníci jsou více než připraveni ji využít.Podle Zprávy o podvodech identity Entrust 2026, deepfakey nyní představují jeden z pěti pokusů o biometrický podvod. Deepfake selfie vzrostly o 58 % v roce 2025 a injekční útoky se meziročně zvýšily o 40 %. Očekávat, že běžný uživatel překoná vysoce pokročilý generativní model AI ve vizuálním vnímání, je odmítnutí odpovědnosti; přenáší riziko přímo z platformy na zákazníka.

Podvody už nejsou o hledání falešných obrázků

Realita je taková, že současné nástroje pro detekci selhávají, protože provádějí testy na úrovni objektu po jednom. Jeden test se ptá, zda byl konkrétní obrázek vytvořen AI. Další se ptá, zda je dokument padělaný, zatímco třetí se ptá, zda byl text ve zprávě napsán strojem. Problém je, že každý z těchto testů rychle degraduje. Jak generativní modely neustále zvyšují kvalitu výstupu, předchozí odpovědi a detekční metody se během jedné noci zastarávají nebo stávají neplatnými.

Podstatně lepší přístup nahrazuje vzhled jediné signálu spojeným hodnocením mnoha signálů. Naše metoda hodnotí vztahy mezi různými dimenzemi přítomnosti uživatele. Jedna dimenze signálu je, jak vypadá zařízení pro náš systém. Další je, odkud přichází uživatelská relace. Třetí je, jak se účet skutečně chová. Vše to vede k lidskému přezkoumání, když systém označí indikátory možného podvodu.

Úřad OSN pro drogy a zločin, ve svém Hodnocení hrozeb transnárodního organizovaného zločinu pro jihovýchodní Asii 2026 odhadly ztráty z online podvodů v roce 2025 mezi 88,3 mld. USD a 114,1 mld. USD pouze v hlášených oblastech. Průmyslový podvod v takovém měřítku funguje na rychlosti a objemu. Jakýkoli jednotlivý kus informace lze snadno sfabrikovat, ale sfabrikování všeho všech najednou konzistentně — napříč mnoha účty, které platforma neustále odstraňuje — se stává příliš náročné na udržení. Každá vrstva tření, kterou zavádíme, zvyšuje náklady na podvodný účet, dokud jejich zisková marže nedosáhne nuly.

To je místo, kde AI skutečně vydělává na živobytí. Zatímco detekce padělků se díky novým technologiím zlepšila, zlepšená schopnost identifikovat souběžné faktory naznačující podvod — a vedoucí k dřívější intervenci — je pro naše uživatele výrazně lepší. Když se indikátory uživatele neshodují, jejich skutečný úmysl se odhalí. Čestný člen, podvodník a návštěvník s jiným záměrem mohou mít všechny stejné fotografie a téměř stejné úvodní věty. Jejich kombinované indikátory se však liší a vypráví naprosto jiný příběh. Způsob, jakým lidé odpovídají, jak rychle reagují, jak eskalují konverzaci, na co se ptají a které konverzace jsou opuštěny, vše vytváří obraz. Identita může být dokonale vygenerovaná lež, ale chování vždy odhalí špatné úmysly.

Asymetrie informací: platformy vědí věci, které uživatelé neznají

Federální obchodní komise (FTC) v roce 2026 uvedla, že ztráty z romantických podvodů v roce 2025 vzrostly o 22 % oproti roku 2024 a dosáhly přibližně $1,5 miliardy. Mezi těmi, kteří uvedli, jak byli kontaktováni, přibližně 60 % uvedlo že jejich první kontakt přišel na sociální platformě.

V našem odvětví existuje obrovská informační mezera. Platformy vidí stejné kategorie signálů, ale téměř jistě také vidí například zemi přihlášení a stáří účtu. Všichni členové vidí jen úsměv a pečlivě vytvořený odstavec, který chytrým způsobem míchá něco z jejich profilu. Platformy mají moc jednat na základě těchto skrytých dat, využít je k vytvoření bezpečnějšího prostředí, nebo je zveřejnit, aby členové mohli podle toho jednat. Bohužel většina odvětví nedělá ani to, ani ono.

Nečinnost odvětví často souvisí se složitými kompromisy souvisejícími se soukromím uživatelů. Nákladnou polovinou této rovnice je podniknutí kroku. Existují dvě cesty k vybudování důvěry: pomalá cesta je reputace a rychlá cesta je ověření. Ověření vytváří tření. Odvětví převážně požaduje rychlost, objem a nízké tření, což vysvětluje jeho chronický nedostatek ověřování.

Nicméně se objevují řešení. V srpnu 2024 byl na arXiv předložen preprint, který navrhl „osobnostní oprávnění“. 32 autorů z institucí jako OpenAI, Microsoft, MIT, Oxford a Harvard navrhuje soukromí zachovávající oprávnění, které umožní někomu prokázat službě, že je skutečnou osobou, aniž by odhalil svou podkladovou identitu. Argumentují, že CAPTCHA jsou nedostatečné a detekce anomálií rychle selhává proti schopné AI. Mají pravdu. Seznamování je jedním z míst, kde jsou důsledky tohoto úpadku nejvíce patrné, protože hlavním produktem, který se prodává, je samotná důvěra.

Navrhování lepšího komunitního standardu

Stejné signály, které pomáhají identifikovat možnou trestnou činnost, mohou také pomoci odhalit jiné typy špatných činů. Čtení úmyslu sahá daleko za pouhé zastavení podvodu. Ne každý špatný aktér na webu je zločinec. Uživatel, který je nepříjemný, nemusí porušovat zákon, a vztah považovaný za transakci nemusí být podvod. Zacházet s lidmi s pohrdáním nevede k federálnímu obvinění. Tyto chování však komunitu výrazně degradují. Navíc jsou často neviditelné pro systémy, které se při vymáhání spoléhaly výhradně na hlášení členů.

Odvětví tradičně kreslilo čáru na nelegálnosti: kontrola podvodů a nezletilých, odstraňování toho, co zákon přísně vyžaduje, a zbytek ponechává jako záležitost mezi souhlasícími dospělými. Neznám žádný jiný seznamovací portál, který by využíval AI k identifikaci transakčního chování a aktivně jej zastavoval. Naše funkce Stop@Send vyhodnocuje odchozí zprávu odesílatele v reálném čase. Hledá hlubší význam místo pouhého porovnání obsahu se statickým seznamem klíčových slov. Většinou je odpovědí vysvětlení zaslané odesílateli, které mu přesně říká, proč je zpráva pro komunitu nevhodná.

To samozřejmě není zdarma. Přerušení konverzací členů vytváří tření, což je náklad, který aktivně rozhodujeme absorbovat. Naše standardy jsou však nejlépe definovány tím, jaké chování je na naší platformě skutečně povoleno, nikoli tím, co je publikováno na nevymahatelné stránce komunitních pravidel. Platforma, která neobtěžuje špatného aktéra, nemá právo nazývat se komunitou.

Výzva pro odvětví

Trh nyní závodí, aby AI nahradila lidi: vidíme vzestup AI společníků, AI‑generovaných profilů a flirtovacích agentů. Pevně věřím, že tento směr je slepá ulička. Optimalizuje výhradně pro zapojení, ale neposkytuje nic jiného než to. Náš přístup je zásadně odlišný. Používáme AI k odstraňování špatných aktérů, k tomu, aby si členové vzájemně odpovídali, a pomáháme jim jednat tak, aby to vedlo k smysluplným vztahům v reálném světě.

Seznamy červených vlajek, kterým se má vyhnout, ztratily svou hodnotu. Signály, které dříve odhalovaly podvodníky, jsou přesně těmi vlastnostmi, které generativní modely naučily eliminovat, což vytváří zbraňový závod, ve kterém jsme neustále uvězněni. Kromě Prvního pravidla – nikdy neposílat peníze nikomu, koho neznáte a s kým jste se nesetkali osobně, což by měl dodržovat každý – už nejde otázka o fotografii. Jde o platformu a o to, co dělá s informacemi, které její uživatelé neznají.

Platforma, která na tuto výzvu dobře reaguje, aktivně buduje důvěru. Platforma, která tak nečinuje, požaduje od svých členů více práce s úspěšností pouhých 0,1 % jen proto, aby se sami ochránili.

Touto výzvou jsem se zabýval na každé platformě, včetně té své. Očekávám, že odpovědi budou čestné a úplné. Technologie, která tuto mezeru uzavře, existuje již nyní. Podvody přetrvávají, protože jejich zastavení by znamenalo vzdát se masivního růstu, který přichází skrze obrovské dveře bezproblémové registrace. Jedná se o obchodní rozhodnutí, nikoli o technické omezení. Platformy, které se rozhodnou správně, drží jediný aktivum, které v této debatě skutečně záleží: důvěru svých členů.