Inteligența artificială ne poate ajuta să găsim oameni reali, nu să îi înlocuiască

O imagine falsă păcălește chiar și cele mai agere priviri, dar comportamentul fals pe care îl vede platforma nu ar trebui să o facă.  

În ultimii douăzeci de ani, industria de întâlniri online a predat siguranța utilizatorilor ca pe o listă de verificare simplă. Am sfătuit utilizatorii să examineze fotografia, să verifice coerența poveștii persoanei sau să insiste asupra unui apel video înainte de a accepta să se întâlnească. Acea orientare, odată standardul de aur al siguranței digitale, este complet depășită astăzi.Dovada definitivă a sosit într-un studiu din februarie 2025 de la iProov, un furnizor de biometrie de top. Cercetătorii au întrebat 2.000 de subiecți din Marea Britanie și Statele Unite să eticheteze diverse elemente — utilizând atât imagini, cât și videoclipuri — ca reale sau sintetice. Rezultatele au fost uluitoare: doar doi subiecți nu au făcut nicio greșeală. Aceasta reprezintă doar 0,1% din persoanele testate, ceea ce înseamnă că ceilalți 1.998 au făcut cel puțin o eroare. Încrederea ridicată combinată cu o rată mare de erori este un amestec periculos pentru consumatori. Iar infractorii sunt mai mult decât pregătiți să profite de aceasta.Conform Raportul de fraudă a identității Entrust 2026, deepfake-urile reprezintă acum una din fiecare cinci tentative de fraudă biometrică. Selfi-urile deepfake au crescut cu 58% în 2025, iar atacurile prin injecție au crescut cu 40% de la an la an. Așteptarea ca un utilizator obișnuit să depășească un model AI generativ foarte avansat în percepția vizuală este o renunțare la responsabilitate; transferă riscul direct de la platformă la client.

Frauda nu mai este despre găsirea imaginilor false

Realitatea este că instrumentele actuale de detectare eșuează deoarece efectuează teste la nivel de obiect, unul câte unul. Un test întreabă dacă o anumită imagine a fost generată de AI. Altul întreabă dacă un document este falsificat, în timp ce al treilea întreabă dacă textul dintr-un mesaj a fost scris de mașină. Problema este că fiecare dintre aceste teste se degradează rapid. Pe măsură ce progresul modelelor generative ridică continuu calitatea rezultatelor, răspunsurile anterioare și metodele de detectare devin învechite sau depășite aproape peste noapte.

O abordare mult mult mai bună înlocuiește apariția unui singur semnal cu potrivirea combinată a multor semnale. Metoda noastră evaluează relațiile dintre diferitele dimensiuni ale prezenței unui utilizator. O dimensiune a semnalului este aspectul dispozitivului pentru sistemul nostru. Alta este originea sesiunii utilizatorului. A treia este comportamentul efectiv al contului. Toate acestea duc la revizuire umană când sistemul semnalează indicii de posibilă fraudă.

Biroul Națiunilor Unite pentru Droguri și Criminalitate, în Evaluarea amenințărilor criminalității organizate transnaționale pentru Asia de Sud-Est 2026, a estimat pierderile din escrocherii online din 2025 între 88,3 miliarde USD și 114,1 miliarde USD doar în zonele raportate. Frauda industrială la această scară se bazează pe viteză și volum. Orice bucată unică de informație poate fi ușor falsificată, dar falsificarea toate a lor în mod constant — pe parcursul mai multor conturi care sunt în mod continuu înlăturate de platformă — devine mult prea împovărător de menținut. Fiecare strat de fricțiune pe care îl introducem crește costul per cont al afacerii de fraudă până când marja lor de profit ajunge la zero.

Aici este locul unde IA își justifică cu adevărat existența. Deși detectarea falsificărilor s-a îmbunătățit prin noi tehnologii, capacitatea sporită de a identifica factori coincidenți care indică fraudă — și care conduc la intervenții timpurii — este mult mai benefică pentru utilizatorii noștri. Când indicatorii unui utilizator sunt în contradicție, adevărata lor intenție este expusă. Un membru onest, un infractor și un vizitator cu alt scop pot avea toți fotografii identice și linii de început aproape identice. Indicatorii lor combinați, totuși, vor diferi și vor spune o poveste complet diferită. Modul în care oamenii răspund, cât de repede răspund, cum escaladează conversația, despre ce întreabă și care conversații sunt abandonate conturează o imagine. Identitatea poate fi o minciună generată perfect, dar comportamentul va dezvălui întotdeauna intenții rele.

Asimetria informațională: Platformele știu lucruri pe care utilizatorii nu le pot

Comisia Federală pentru Comerț a raportat în 2026 că pierderile din escrocherii romantice în 2025 au crescut cu 22% față de 2024, ajungând la aproximativ 1,5 miliarde USD. În rândul celor care au identificat cum au fost contactați, aproximativ 60% au declarat că primul lor contact a venit pe o platformă de rețele sociale.

Există un decalaj informațional masiv în industria noastră. Platformele văd aceleași categorii de semnal, dar pot, de asemenea, să vadă țara de autentificare și vechimea contului, de exemplu. Tot ce vede un membru este un zâmbet și un paragraf atent elaborat care îmbină inteligent ceva din profilul său. Platformele au puterea să acționeze asupra acestor date ascunse, utilizându-le pentru a crea un mediu mai sigur, sau să le dezvăluie astfel încât membrii să poată reacționa în consecință. Din păcate, majoritatea industriei nu face niciuna dintre acestea.

Inacțiunea industriei este adesea legată de compromisurile complexe legate de confidențialitatea utilizatorilor. Partea costisitoare a acestei ecuații este luarea de măsuri. Există două căi pentru a stabili încrederea: calea lentă este reputația, iar calea rapidă este verificarea. Verificarea creează fricțiune. Industria dorește în mod copleșitor viteză, volum și fricțiune redusă, ceea ce explică subverificarea cronică.

Totuși, soluții încep să apară. Un preprint din august 2024 pe arXiv a propus “credentialele de persoană“. Cei 32 de autori de la instituții precum OpenAI, Microsoft, MIT, Oxford și Harvard au propus un credential ce păstrează confidențialitatea și permite cuiva să demonstreze unui serviciu că este o persoană reală fără a-și dezvălui identitatea de bază. Argumentul lor este că CAPTCHA-urile sunt inadecvate și detectarea anomaliilor se erodează rapid în fața unei AI capabile. Au dreptate. Întâlnirile online sunt unul dintre domeniile în care consecințele acestei erodări se resimt cel mai puternic, deoarece produsul de bază vândut este încrederea însăși.

Construirea unui standard comunitar mai bun

Aceleși semnale care ajută la identificarea unui comportament posibil criminal pot, de asemenea, să identifice alte tipuri de acte rele. Interpretarea intenției depășește cu mult simpla oprire a fraudei. Nu fiecare actor rău de pe un site este un criminal. Un utilizator neplăcut poate să nu încalce legea, iar o relație tratată ca o tranzacție poate să nu fie fraudă. A trata oamenii cu dispreț nu duce la o inculpare federală. Dar aceste comportamente degradează profund comunitatea. Mai rău, ele sunt prea adesea invizibile pentru sistemele care se bazează exclusiv pe rapoartele membrilor pentru programele lor de aplicare.

Industria a tras în mod tradițional linia la ilegalitate: filtrează pentru fraudă și minori, elimină ceea ce legea cere strict și tratează restul ca o chestiune între adulți consimțitori. Nu cunosc niciun alt site de dating care să folosească AI pentru a identifica comportamentul tranzacțional și să îl oprească activ. Funcția noastră Stop@Send evaluează mesajul de ieșire al expeditorului în timp ce este trimis. Caută un sens mai profund în loc să compare simplu conținutul cu o listă statică de cuvinte cheie. De cele mai multe ori, răspunsul este o explicație livrată expeditorului, indicându-i precis de ce mesajul este inadecvat pentru comunitate.

Desigur, nu este gratuit. Interzicerea conversațiilor membrilor creează fricțiune, ceea ce, fără surpriză, este un cost pe care alegem să îl suportăm activ. Însă standardele noastre sunt cel mai bine stabilite de comportamentul care este cu adevărat permis pe platforma noastră, nu de ceea ce este publicat pe o pagină de ghiduri comunitare neaplicate. O platformă care nu deranjează un actor rău nu are dreptul să se autointituleze comunitate.

Provocarea pentru industrie

Piața în prezent se grăbește să facă AI să înlocuiască oamenii: observăm apariția companionilor AI, a profilurilor generate de AI și a agenților de flirt. Cred cu tărie că această direcție este un capăt de moară. Optimizează exclusiv pentru implicare, dar nu oferă nimic altceva. Abordarea noastră este fundamental diferită. Folosim AI pentru a elimina actorii rău, pentru a face membrii responsabili unii față de alții și pentru a-i ajuta să se trateze reciproc în moduri care au mai multe șanse să conducă la relații semnificative, în viața reală.

Listele de semnale de avertizare de evitat și-au pierdut valoarea. Semnalele care odinioară dezvăluiau escrocii sunt exact acele caracteristici pe care modelele generative le-au învățat să le elimine, creând o cursă a înarmării în care suntem permanent blocați. În afară de Prima regulă — să nu trimiți niciodată bani cuiva pe care nu îl cunoști și nu l-ai întâlnit personal, pe care toată lumea ar trebui să o urmeze — întrebarea cheie nu mai este despre fotografie. Este despre platformă și despre ce fac cu informațiile pe care le dețin și pe care utilizatorii lor nu le știu.

O platformă care răspunde bine la această provocare proiectează activ încrederea. O platformă care nu o face solicită membrilor să depună mai mult efort, cu un grad de succes de 0,1 % doar pentru a se proteja.

Pun această provocare în fața fiecărei platforme, inclusiv a celei mele. Aștept ca răspunsurile să fie oneste și complete. Tehnologia necesară pentru a închide această prăpastie există deja. Frauda persistă deoarece oprirea ei înseamnă renunțarea la creșterea masivă care vine prin ușa imensă a înscrierii fără efort. Este o decizie de afaceri, nu o limitare tehnică. Iar platformele care decid corect dețin singurul activ care contează în această discuție: încrederea membrilor lor.