AI kan hjælpe os med at finde ægte mennesker, ikke erstatte dem

Et falsk billede narre selv de skarpeste øjne, men falsk adfærd som platformen ser, bør ikke.  

I de sidste tyve år har online dating‑branchen undervist i brugersikkerhed som en simpel tjekliste. Vi har rådet brugerne til at undersøge billedet, tjekke personens historie for konsistens eller insistere på et videoopkald, før de accepterer at mødes. Den vejledning, som engang var guldstandarden for digital sikkerhed, er i dag fuldstændig forældet.Det afgørende bevis kom i en februar 2025 study from iProov, en førende leverandør af biometrik. Forskerne bad 2,000 deltagere i Storbritannien og USA om at klassificere forskellige elementer – både billeder og videoer – som enten ægte eller syntetiske. Resultaterne var forbløffende: kun to deltagere lavede ingen fejl. Det svarer til kun 0.1 percent af de testede, hvilket betyder, at de øvrige 1,998 begik mindst én fejl. Høj selvtillid kombineret med en høj fejlrate er en farlig blanding for forbrugerne. Og svindlerne er mere end klar til at udnytte den.Ifølge Entrust 2026 Identity Fraud Report, udgør deepfakes nu én ud af fem biometriske svindelforsøg. Deepfakede selfies steg med 58 percent i 2025, og injektionsangreb steg med 40 percent år for år. At forvente, at en almindelig bruger kan overgå en højt avanceret generativ AI‑model i visuel opfattelse, er en ansvarspådragelse; det overfører risikoen direkte fra platformen til kunden.

Svindel handler ikke længere om at finde falske billeder

Realiteten er, at de nuværende detektionsværktøjer fejler, fordi de udfører objekt‑niveau tests på ét objekt ad gangen. En test spørger, om et specifikt billede er genereret af AI. En anden spørger, om et dokument er forfalsket, mens en tredje spørger, om teksten i en besked er maskinskrevet. Problemet er, at hver af disse tests hurtigt mister deres gyldighed. Efterhånden som generative modeller løbende forbedrer outputkvaliteten, bliver tidligere svar og detektionsmetoder forældede eller forældet næsten natten over.

En langt bedre tilgang erstatter enkelt‑signal‑udseende med den samlede pasform af mange signaler. Vores metode vurderer forholdene mellem forskellige dimensioner af en brugers tilstedeværelse. En signal‑dimension er, hvordan en enhed fremstår for vores system. En anden er, hvor en brugers session kommer fra. En tredje er, hvordan kontoen faktisk opfører sig. Alt dette fører til menneskelig gennemgang, når systemet flagger indikatorer på mulig svindel.

FN’s Kontor for Narkotika og Kriminalitet, i sin Vurdering af truslen fra grænseoverskridende organiseret kriminalitet for Sydøstasien 2026 anslog online‑svindel‑tab i 2025 til mellem US$88,3 milliard og US$114,1 milliard kun i de rapporterede områder. Industriel svindel i denne skala drives af hastighed og volumen. Enhver enkelt information kan let forfalskes, men at forfalske alt af dem konsekvent — på tværs af flere konti, som løbende nedlægges af platformen — bliver alt for byrdefuldt at opretholde. Hvert lag af friktion, vi indfører, hæver omkostningerne pr. konto for svindelvirksomheden, indtil deres profitmargin når nul.

Det er her, AI virkelig viser sit værd. Selvom forfalskningsdetektion er blevet bedre med ny teknologi, er den forbedrede evne til at identificere samtidige faktorer, der indikerer svindel — og som fører til tidligere indgriben — enormt bedre for vores brugere. Når en brugers indikatorer er i konflikt, afsløres deres sande intention. Et ærligt medlem, en svindler og en besøgende med et andet formål kan alle dele identiske billeder og næsten identiske indledningslinjer. Deres samlede indikatorer vil dog afvige og fortælle en helt anden historie. Måden folk svarer på, hvor hurtigt de responderer, hvordan de eskalerer samtalen, hvad de spørger om, og hvilke samtaler der opgives, maler alle et billede. Identitet kan være en fejlfri genereret løgn, men adfærd vil altid afsløre dårlige intentioner.

Informationsasymmetrien: Platforme ved, hvad brugere ikke kan

Federal Trade Commission rapporterede i 2026, at tab fra romantik‑svindel i 2025 steg med 22 % over 2024 og nåede cirka $1,5 milliard. Blandt dem, der identificerede, hvordan de blev kontaktet, sagde omkring 60 % sagde at deres første kontakt kom via en social medieplatform.

Der er et enormt informationsgab i vores branche. Platforme ser de samme signal‑kategorier, men de kan næsten helt sikkert også se login‑landet og kontooftenen, for eksempel. Alt medlemmer ser, er et smil og et omhyggeligt udformet afsnit, der snedigt blander noget fra deres profil. Platforme har magten til at handle på disse skjulte data, bruge dem til at skabe et sikrere miljø, eller afsløre dem, så medlemmer kan handle derefter. Desværre gør de fleste i branchen hverken det ene eller det andet.

Brancheens passivitet har ofte at gøre med de komplekse afvejninger i forhold til brugernes privatliv. Den dyre del af denne ligning er at handle. Der er to veje til at opbygge tillid: den langsomme vej er omdømme, og den hurtige vej er verifikation. Verifikation skaber friktion. Branchen ønsker overvældende hastighed, volumen og lav friktion, hvilket forklarer den kroniske under‑verifikation.

Men løsninger dukker op. En preprint fra august 2024 på arXiv foreslog “personhood credentials“. De 32 forfattere fra institutioner som OpenAI, Microsoft, MIT, Oxford og Harvard foreslog et privatlivsbeskyttende legitimationsmiddel, der gør det muligt for nogen at bevise over for en tjeneste, at de er en rigtig person uden at afsløre deres underliggende identitet. Deres argument er, at CAPTCHA’er er utilstrækkelige, og at anomali‑detektion hurtigt bliver overhalet af kapabel AI. De har ret. Dating er et af de områder, hvor konsekvenserne af denne erosion rammer hårdest, fordi kernen i produktet, der sælges, er tillid selv.

Udvikling af en Bedre Fællesskabsstandard

De samme signaler, der hjælper med at identificere mulig kriminel adfærd, kan også hjælpe med at identificere andre former for dårlige handlinger. At læse intention strækker sig langt ud over blot at stoppe svindel. Ikke enhver dårlig aktør på et websted er en kriminel. En bruger, der er ubehagelig, bryder måske ikke loven, og et forhold, der behandles som en transaktion, er måske ikke svindel. At behandle folk med foragt fører ikke til en føderal tiltale. Men disse adfærd nedbryder fællesskabet dybt. Endnu værre er, at de alt for ofte er usynlige for systemer, der udelukkende baserer deres håndhævelsesprogrammer på medlemsrapporter.

Branchen har traditionelt sat grænsen ved ulovlighed: screene for svindel og mindreårige, fjerne det, loven strengt kræver, og behandle resten som en sag mellem samtykkende voksne. Jeg kender ingen anden dating‑site, der bruger AI til at hjælpe med at identificere transaktionsadfærd og aktivt stoppe den. Vores Stop@Send‑funktion evaluerer afsenderens udgående besked, mens den sendes. Den ser efter dybere mening i stedet for blot at sammenligne indholdet med en statisk nøgleords‑liste. For det meste er svaret en forklaring leveret til afsenderen, der præcist fortæller, hvorfor beskeden er upassende for fællesskabet.

Dette er selvfølgelig ikke gratis. At afbryde medlems‑samtaler skaber friktion, hvilket overraskende nok er en omkostning, vi aktivt vælger at absorbere. Men vores standarder fastlægges bedst af, hvilken adfærd der faktisk er tilladt på vores platform, ikke af hvad der er offentliggjort på en udkørt retningslinjeside. En platform, der ikke vil gøre en dårlig aktør til besvær, har ingen ret til at kalde sig et fællesskab.

Udfordringen for Branchen

Markedet i øjeblikket racer for at få AI til at erstatte mennesker: vi ser fremkomsten af AI‑kompagnoner, AI‑genererede profiler og flirt‑agenter. Jeg er fast overbevist om, at den retning er en blindgyde. Den optimerer udelukkende for engagement, men leverer intet andet end det. Vores tilgang er grundlæggende anderledes. Vi bruger AI til at hjælpe med at fjerne de dårlige aktører, holde medlemmer ansvarlige over for hinanden og hjælpe dem med at behandle hinanden på måder, der er mere tilbøjelige til at føre til meningsfulde, virkelige forhold.

Lister over advarselstegn at undgå har mistet deres værdi. De signaler, der førte svindlere i spidsen, er netop de funktioner, som generative modeller har lært at eliminere, hvilket skaber et våbenkapløb, vi er permanent fanget i. Ud over den første regel — send aldrig penge til nogen, du ikke kender og ikke har mødt personligt, som alle bør følge — er det centrale spørgsmål ikke længere fotografiet. Det handler om platformen, og hvad de gør med den viden, deres brugere ikke har.

En platform, der har gode svar på den udfordring, er aktivt i færd med at bygge tillid. En platform, der ikke gør, beder sine medlemmer om at gøre mere arbejde med en succesrate på 0,1 % blot for at beskytte sig selv.

Jeg stiller denne udfordring til enhver platform, inklusive min egen. Jeg forventer, at svarene er ærlige og komplette. Teknologien til at lukke dette hul findes allerede nu. Svindel vedvarer, fordi at stoppe den betyder at opgive den massive vækst, der kommer gennem den enorme frontdør af ubesværet tilmelding. Dette er en forretningsbeslutning snarere end en teknisk begrænsning. Og de platforme, der træffer den rigtige beslutning, har den eneste aktiva, der betyder noget i denne diskussion: deres medlemmers tillid.