Én operatør, tusindvis af falske romancer: AI-svindlens nye økonomi

Når teknologivirksomheder taler om sikkerhed, fokuserer de som regel på eksterne trusler som databrud, sårbar infrastruktur eller stjålne loginoplysninger. Men for virksomheder, der bygger på menneskelig interaktion, kan en af de alvorligste trusler findes i selve produktet, i de konti, som brugerne tror tilhører virkelige mennesker. Det er især relevant for online dating, hvor folk deler personlige oplysninger, bruger tid på samtaler og knytter følelsesmæssige bånd til fremmede. Svindelens konsekvenser rækker ud over de følelsesmæssige bånd til fremmede. Den påvirker brugernes villighed til at stole på platformen og de mennesker, de møder gennem den.

Ifølge en undersøgelse offentliggjort af Sumsub i 2026 mente 84 % af de adspurgte britiske brugere af datingapps, at AI-genereret indhold havde gjort det sværere at stole på potentielle matches eller få succes med dating, sammenlignet med 64 % i 2025. Yderligere 61 % havde selv oplevet at blive bedraget af falske profiler eller kendte nogen, der havde. Resultaterne afspejler forbrugernes opfattelser snarere end den faktiske forekomst af svindelkonti. Ikke desto mindre peger de på et problem for en branche, hvis succes afhænger af, at folk er villige til at interagere med fremmede. AI gør det billigere at skabe falsk engagement, og det skaber en grundlæggende udfordring for virksomheder, der bygger på ægte menneskelig interaktion.

Sådan ændrede AI svindlens økonomi

Romancesvindel er ikke noget nyt. Svindlere har i årtier brugt stjålne fotografier, opdigtede identiteter og manuskriptbaserede samtaler. Det, der har ændret sig, er omkostningerne og kompleksiteten ved at drive disse svindelnumre i stor skala. Tidligere krævede det betydelige menneskelige ressourcer at vedligeholde tusindvis af overbevisende profiler, og svindlerne var nødt til at håndtere samtaler, huske personlige oplysninger, fastholde sammenhængende identiteter og svare brugerne over længere tid. Generativ AI har mindsket en stor del af denne arbejdsbyrde.

I september 2026 offentliggjorde Anthropic en undersøgelse af et netværk af mere end 20 vildledende datingapps, der blev drevet af et studie med base i Kina. I løbet af en periode på to uger identificerede forskerne over 4.700 interaktioner mellem AI-personaer og mindst 25.000 mennesker og genererede cirka 2,36 millioner beskeder. Driften kombinerede AI-genererede samtaler med menneskelige medarbejdere, der håndterede interaktioner, som krævede en rigtig person, herunder direkte videoopkald. Appsene skjulte, at tjenesten var automatiseret, samtidig med at de præsenterede brugerne for det, der så ud til at være ægte datingmuligheder. Der var tale om apps, der var udviklet med henblik på bedrag, snarere end falske profiler, der opererede på etablerede datingplatforme. Sagen illustrerer imidlertid, hvor dramatisk AI kan reducere de ressourcer, der kræves for at fremstille overbevisende menneskelig interaktion.

For legitime datingplatforme udgør lignende teknologier en voksende udfordring. Genererede fotografier, automatiserede beskeder, stjålne identiteter og værktøjer, der er udviklet til at omgå verificeringssystemer, kan bruges til at oprette og vedligeholde svindelkonti. Problemet handler ikke længere kun om at identificere mistænkelige profiler. Platformene skal håndtere stadig mere avancerede angreb, samtidig med at omkostningerne ved at udføre dem fortsat falder. Det ændrer også økonomien i at drive en datingvirksomhed. Tillid er både et produktanliggende og et forretningsproblem.

Svindel medfører forretningsomkostninger, der rækker ud over moderering. Falske konti skaber registreringer, likes og samtaler, der ser legitime ud i produktanalyser, og det kan forvride de signaler, som anbefalingsalgoritmer og A/B-tests bygger på. Der er også en kommerciel side: Brugere, der gentagne gange støder på falske profiler, kan holde op med at indlede samtaler, blive mindre aktive eller betale mindre. Effektens størrelse varierer dog fra platform til platform og skal måles, ikke antages. Inden for dating er bekæmpelse af svindel derfor en del af produktøkonomien, ikke kun en sikkerhedsfunktion, og i takt med at AI gør det billigere at skabe syntetisk aktivitet, bliver det en central produktbeslutning at skelne mellem ægte og kunstigt skabt engagement.

Ledelsens dilemma: sikkerhed eller vækst

Stærkere verificering virker som et oplagt svar på stadig mere avanceret svindel. I praksis er beslutningen mere kompliceret: Hvert ekstra trin i oprettelsesprocessen skaber friktion. Krav om identitetsdokumenter, biometrisk verificering eller gentagne kontroller kan forhindre visse former for misbrug, men kan også afholde legitime brugere fra at gennemføre registreringen. Det påvirker direkte økonomien i brugeranskaffelsen. Hvis det samme marketingbudget fører til færre registrerede og aktiverede brugere, stiger omkostningen pr. gennemført registrering.

For datingapps kan konsekvenserne række ud over oprettelsesforløbet. I modsætning til mange andre forbrugerprodukter er datingplatforme afhængige af lokal netværkstæthed: Der skal være tilstrækkeligt mange relevante, aktive potentielle partnere i et bestemt geografisk område, for at matchoplevelsen fungerer. En verificeringsproces, der unødigt begrænser antallet af legitime registreringer, kan derfor bremse udviklingen af et lokalt netværk, reducere mulighederne for at finde et match og påvirke brugernes fastholdelse. Samtidig medfører svindelkonti, der får lov til at forblive aktive, andre omkostninger: ressourceforbrug i infrastrukturen, større arbejdsbyrde for modereringen, forvrængede anbefalinger og faldende brugertillid. Overdreven sikkerhed kan gøre et produkt svært at bruge. Utilstrækkelig sikkerhed kan gøre det umuligt at have tillid til det.

Forebyggelse af svindel bør håndteres som en produkt- og forretningsmæssig beslutning, ikke som en isoleret teknisk funktion. En risikobaseret tilgang kombinerer grundlæggende beskyttelse ved registrering med adfærdsanalyse, enhedssignaler, indholdsovervågning og skærpet verifikation, når der opstår mistænkelig aktivitet. Alligevel gør det ikke en bruger troværdig at bestå et verifikationstjek, for at bevise sin tilstedeværelse er ikke det samme som at bevise sine hensigter. Effektiviteten bør vurderes ud fra flere dimensioner samlet, herunder detektionsresultater, falske positiver, håndhævelseshastighed, verifikationsomkostninger, konvertering og fastholdelse. Bedre detektion, der fejlagtigt begrænser mange ægte brugere, er ikke et bedre forretningsresultat. Privatliv tilføjer endnu et lag, eftersom analyse af kommunikation eller indsamling af yderligere identitetssignaler kræver gennemsigtighed, dataminimering og streng adgangskontrol. Spørgsmålet er ikke, hvor mange svigagtige konti en platform kan blokere, men hvor godt den reducerer risikoen og samtidig bevarer en god oplevelse for legitime brugere.

Ud over verifikation: Fællesskabets rolle

Efterhånden som AI-genererede samtaler bliver mere overbevisende, opstår der et produktspørgsmål. Bør datingplatforme kun fokusere på digitale interaktioner, eller også skabe flere muligheder for, at de kan udvikle sig i den virkelige verden? Hos Fledge undersøger vi en model, der kombinerer kompatibilitetsbaseret matching med arrangementer og fællesskabsaktiviteter offline, så overgangen fra algoritmisk opdagelse til et personligt møde føles naturlig. Et arrangement beviser ikke, at nogen er troværdig, og erstatter heller ikke verifikation, men det tilføjer en social kontekst, som profiler og chats ikke kan genskabe. Vi ser det som en lovende retning, ikke som et selvstændigt svar på AI-svindel.

AI bør hjælpe folk med at finde passende matches, understøtte moderation og opdage mistænkelig adfærd – ikke skabe et falsk billede af relationer. Succes bør derfor måles ud over antallet af aktive brugere, matches og konverteringer og også omfatte kvaliteten af interaktionerne, autenticitet og de resultater, brugerne faktisk søger. En platform med høj aktivitet, men få ægte forbindelser, risikerer at optimere efter det forkerte resultat.

Tillid som konkurrencefordel

AI vil fortsat styrke både svindlerne og de platforme, der forsvarer sig mod dem, og der findes næppe én enkelt teknisk løsning. Beskyttelsen kræver løbende tilpasning, flere detektionslag samt en ansvarlig og omhyggelig vurdering af forretningsmæssige afvejninger. Men udfordringen rækker ud over cybersikkerhed. Tillid præger produktkvalitet, netværksvækst, brugeradfærd og langsigtede indtægter, og efterhånden som falsk aktivitet bliver billigere at skabe, bliver ægte interaktioner mere værdifulde. Inden for dating er tillid ikke en sikkerhedsfunktion, og tillid er, endnu en gang, selve produktet. Den næste generation af platforme vinder måske mindre ved at skabe flere interaktioner og mere ved at opbygge et miljø, hvor brugerne kan stole på, at interaktionerne er ægte.