En operatör, tusentals falska romanser: AI-bedrägeriernas nya ekonomi

När teknikföretag talar om säkerhet fokuserar de vanligtvis på externa hot som dataintrång, sårbar infrastruktur eller stulna inloggningsuppgifter. Men för företag som bygger på mänsklig interaktion kan ett av de allvarligaste hoten finnas inuti själva produkten, i konton som användarna tror tillhör verkliga människor. Det här är särskilt relevant för nätdejting, där människor delar personlig information, lägger tid på samtal och utvecklar känslomässiga band till främlingar. Bedrägerier får konsekvenser som sträcker sig längre än de känslomässiga banden till främlingar. De påverkar användarnas vilja att lita på plattformen och på människorna de möter där.

Enligt en undersökning som Sumsub publicerade 2026 ansåg 84 % av de tillfrågade brittiska användarna av dejtingappar att AI-genererat innehåll hade gjort det svårare att lita på potentiella matchningar eller lyckas med dejtandet, jämfört med 64 % 2025. Ytterligare 61 % hade själva blivit lurade via falska profiler eller kände någon som hade blivit det. Resultaten speglar konsumenternas uppfattningar, inte den faktiska förekomsten av bedrägliga konton. De visar ändå på ett problem för en bransch vars framgång beror på att människor är villiga att interagera med främlingar. AI gör det billigare att skapa falskt engagemang, vilket innebär en grundläggande utmaning för företag som bygger på genuin mänsklig interaktion.

Så förändrade AI bedrägeriernas ekonomi

Romansbedrägerier är inget nytt. Bedragare har i årtionden använt stulna fotografier, påhittade identiteter och manusbaserade samtal. Det som har förändrats är kostnaden och komplexiteten i att bedriva sådana verksamheter i stor skala. Tidigare krävdes betydande personalresurser för att underhålla tusentals övertygande profiler, och bedragarna behövde hantera samtal, komma ihåg personliga detaljer, upprätthålla konsekventa identiteter och svara användarna under längre perioder. Generativ AI har minskat en stor del av den operativa bördan.

I september 2026 publicerade Anthropic en undersökning av ett nätverk med fler än 20 vilseledande dejtingappar som drevs av en studio baserad i Kina. Under en tvåveckorsperiod identifierade forskare över 4 700 interaktioner mellan AI-personer och minst 25 000 människor och fastställde att omkring 2,36 miljoner meddelanden hade genererats. Verksamheten kombinerade AI-genererade samtal med mänsklig personal som hanterade interaktioner där en verklig person krävdes, bland annat videosamtal i realtid. Apparterna dolde att tjänsten var automatiserad och gav samtidigt användarna vad som verkade vara genuina dejtingmöjligheter. Det handlade om appar som utformats kring bedrägeri, inte om bedrägliga profiler som verkade inom etablerade dejtingplattformar. Fallet visar dock hur dramatiskt AI kan minska de resurser som krävs för att skapa övertygande mänskliga interaktioner.

För seriösa dejtingplattformar innebär liknande tekniker en växande utmaning. Genererade fotografier, automatiserade meddelanden, stulna identiteter och verktyg som är utformade för att kringgå verifieringssystem kan användas för att skapa och underhålla bedrägliga konton. Problemet handlar inte längre bara om att identifiera misstänkta profiler. Plattformarna måste hantera allt mer sofistikerade angrepp samtidigt som kostnaden för att genomföra dem fortsätter att sjunka. Det förändrar också ekonomin i att driva en dejtingverksamhet. Förtroende är både en produktfråga och en affärsfråga.

Bedrägerier medför kostnader för verksamheten som sträcker sig längre än moderering. Falska konton genererar registreringar, gillamarkeringar och samtal som ser legitima ut i produktanalyserna, vilket kan förvränga de signaler som ligger till grund för rekommendationsalgoritmer och A/B-tester. Det finns också en kommersiell sida: användare som fortsätter att stöta på falska profiler kan sluta ta initiativ till samtal, bli mindre aktiva eller betala mindre. Effektens omfattning varierar dock mellan plattformar och måste mätas, inte tas för given. Inom dejting är bedrägeribekämpning därför en del av produktens ekonomi, inte bara en säkerhetsfunktion. När AI samtidigt gör det billigare att skapa syntetisk aktivitet blir det ett centralt produktbeslut att skilja verkligt engagemang från fabricerat engagemang.

Ledningens dilemma: säkerhet eller tillväxt

Skärpt verifiering framstår som ett självklart svar på allt mer sofistikerade bedrägerier. I praktiken är beslutet mer komplicerat: varje ytterligare steg i registreringsprocessen skapar friktion. Krav på identitetshandlingar, biometrisk verifiering eller upprepade kontroller kan förebygga vissa former av missbruk, men kan också avskräcka seriösa användare från att slutföra registreringen. Det påverkar direkt ekonomin för användaranskaffningen. Om samma marknadsföringsbudget leder till färre registrerade och aktiverade användare ökar anskaffningskostnaden per slutförd registrering.

För dejtingappar kan konsekvenserna sträcka sig längre än till registreringsflödet. Till skillnad från många andra konsumentprodukter är dejtingplattformar beroende av täta lokala nätverk: för att matchningsupplevelsen ska fungera behöver användarna ha tillräckligt många relevanta, aktiva potentiella partners inom ett visst geografiskt område. En verifieringsprocess som i onödan begränsar legitima registreringar kan därför bromsa utvecklingen av ett lokalt nätverk, minska möjligheterna till matchning och påverka användarnas benägenhet att stanna kvar. Samtidigt medför det andra kostnader att låta bedrägliga konton förbli aktiva: förbrukning av infrastrukturresurser, ökad arbetsbelastning för moderering, snedvridna rekommendationer och minskat förtroende bland användarna. Överdriven säkerhet kan göra en produkt svår att använda. Otillräcklig säkerhet kan göra den omöjlig att lita på.

Förebyggande av bedrägerier bör hanteras som ett produkt- och affärsbeslut, inte som en isolerad teknisk funktion. Ett riskbaserat arbetssätt kombinerar grundläggande skydd vid registrering med beteendeanalys, enhetssignaler, innehållsövervakning och starkare verifiering när misstänkt aktivitet upptäcks. Men även om en användare klarar en verifieringskontroll innebär det inte att personen är pålitlig, eftersom bevis på närvaro inte bevisar avsikt. Effektiviteten bör bedömas utifrån flera dimensioner tillsammans, däribland upptäcktsförmåga, falska positiva resultat, snabbhet i åtgärder, verifieringskostnader, konvertering och kundlojalitet. Bättre upptäckt som felaktigt begränsar många genuina användare är inte ett bättre affärsresultat. Integritet tillför ytterligare en dimension, eftersom analys av kommunikation eller insamling av fler identitetssignaler kräver transparens, dataminimering och strikta åtkomstkontroller. Frågan är inte hur många bedrägliga konton en plattform kan blockera, utan hur väl den minskar risken och samtidigt bevarar en god upplevelse för legitima användare.

Bortom verifiering: gemenskapens roll

I takt med att AI-genererade samtal blir allt mer övertygande uppstår en produktfråga. Bör dejtingplattformar enbart fokusera på digitala interaktioner, eller också skapa fler möjligheter för dem att utvecklas i verkliga livet? På Fledge utforskar vi en modell som kombinerar kompatibilitetsbaserad matchning med evenemang och gemenskapsaktiviteter offline, så att steget från algoritmisk upptäckt till ett personligt möte känns naturligt. Ett evenemang bevisar inte att någon är pålitlig och ersätter inte verifiering, men det ger ett socialt sammanhang som profiler och chattar inte kan återskapa. Vi ser det som en lovande inriktning, inte som en fristående lösning på AI-bedrägerier.

AI bör hjälpa människor att hitta kompatibla matchningar, stödja moderering och upptäcka misstänkt beteende – inte skapa en illusion av relationer. Framgång bör därför mätas utöver antalet aktiva användare, matchningar och konverteringar, och även omfatta interaktionernas kvalitet, äkthet och de resultat som användarna faktiskt söker. En plattform med stort engagemang men få genuina kontakter riskerar att optimera för fel resultat.

Förtroende som konkurrensfördel

AI kommer att fortsätta stärka både bedragare och plattformarna som försvarar sig mot dem, och det är osannolikt att en enda teknisk lösning räcker. Skyddet kommer att kräva kontinuerlig anpassning, flera lager av upptäckt samt ansvarsfull och noggrann bedömning av affärsmässiga avvägningar. Men utmaningen handlar om mer än cybersäkerhet. Förtroende påverkar produktkvalitet, nätverkstillväxt, användarbeteende och intäkter på lång sikt. I takt med att falskt engagemang blir billigare blir genuina interaktioner mer värdefulla. Inom dejting är förtroende inte en säkerhetsfunktion – och, återigen, förtroende är själva produkten. Nästa generation av plattformar kan vinna mindre genom att skapa fler interaktioner och mer genom att bygga en miljö där användarna kan lita på att interaktionerna är verkliga.