AI kan hjälpa oss att hitta riktiga människor, inte ersätta dem

En falsk bild lurar även de skarpaste ögonen, men falskt beteende som plattformen ser bör inte.

Under de senaste tjugo åren har online‑datingbranschen undervisat om användarsäkerhet som en enkel checklista. Vi rådde användare att granska bilden, kontrollera personens berättelse för konsistens, eller insistera på ett videosamtal innan de gick med på att träffas. Denna vägledning, som en gång var guldstandarden för digital säkerhet, är helt föråldrad idag.Det definitiva beviset kom i en studie från iProov i februari 2025, en ledande biometrisk leverantör. Forskarna bad 2 000 personer i Storbritannien och USA att märka olika objekt — både bilder och videor — som antingen äkta eller syntetiska. Resultaten var förbluffande: bara två personer gjorde inga fel. Det är endast 0,1 procent av de testade, vilket betyder att de övriga 1 998 gjorde minst ett misstag. Hög självsäkerhet kombinerad med hög felprocent är en farlig blandning för konsumenter. Och bedragarna är mer än redo att utnyttja den.Enligt Entrust 2026 Identity Fraud Report, deepfakes står nu för en av fem biometriska bedrägeriförsök. Deepfakade selfies ökade med 58 procent år 2025, och injektionsattacker ökade med 40 procent år för år. Att förvänta sig att en vanlig användare ska slå en mycket avancerad generativ AI-modell i visuell perception är ett ansvarslöst avstående; det överför risken direkt från plattformen till kunden.

Bedrägeri handlar inte längre om att hitta falska bilder

Verkligheten är att nuvarande detekteringsverktyg misslyckas eftersom de kör objekt‑nivåtester på ett objekt åt gången. Ett test frågar om en specifik bild genererats av AI. Ett annat frågar om ett dokument är förfalskat, medan ett tredje frågar om texten i ett meddelande är maskinskriven. Problemet är att varje test snabbt föråldras. Eftersom framsteg inom generativa modeller ständigt höjer outputkvaliteten blir tidigare svar och detekteringsmetoder föråldrade eller obsoleta nästan över en natt.

Ett mycket bättre tillvägagångssätt ersätter enstaka signalers framträdande med den gemensamma passformen för många signaler. Vår metod bedömer relationerna mellan olika dimensioner av en användares närvaro. En signaldimension är hur en enhet ser ut för vårt system. En annan är var en användarsession kommer ifrån. En tredje är hur kontot faktiskt beter sig. Allt detta leder till mänsklig granskning när systemet flaggar indikatorer på möjlig bedrägeri.

FN:s kontor för narkotika och brott, i sin Transnational Organized Crime Threat Assessment för Sydostasien 2026, uppskattade förluster på nätbedrägerier under 2025 till mellan US$88,3 miljarder och US$114,1 miljarder enbart i de rapporterade områdena. Industriellt bedrägeri i denna skala drivs av hastighet och volym. Varje enskild informationsbit kan enkelt förfalskas, men att förfalska allt av dem konsekvent — över flera konton som ständigt tas ner av plattformen — blir alltför betungande att upprätthålla. Varje lager av friktion vi inför höjer kostnaden per konto för bedrägeriverksamheten tills deras vinstmarginal når noll.

Det är här AI verkligen tjänar sitt uppehälle. Även om förfalskningsdetektering har förbättrats med ny teknik, är den förbättrade förmågan att identifiera samtidiga faktorer som indikerar bedrägeri — och leder till tidigare ingripande — enormt bättre för våra användare. När en användares indikatorer inte stämmer överens avslöjas deras sanna avsikt. En ärlig medlem, en bedragare och en besökare med ett annat syfte kan alla ha identiska foton och nästan identiska inledningsfraser. Deras kombinerade indikatorer kommer dock att skilja sig åt och berätta en helt annan historia. Hur folk svarar, hur snabbt de svarar, hur de eskalerar konversationen, vad de frågar om och vilka konversationer som överges målar alla en bild. Identiteten kan vara en felfri genererad lögn, men beteendet avslöjar alltid dåliga avsikter.

Informationsasymmetrin: Plattformar vet saker som användare inte kan

Federal Trade Commission rapporterade 2026 att förluster på romantikbedrägerier år 2025 stod för en ökning med 22 procent jämfört med 2024, och nådde cirka $1,5 miljard. Bland dem som identifierade hur de blev kontaktade, sade ungefär 60 procent sade att deras första kontakt kom via en social medieplattform.

Det finns ett enormt informationsgap i vår bransch. Plattformar ser samma signal‑kategorier, men de kan nästan säkert också se inloggningsland och kontålder, till exempel. Allt medlemmarna ser är ett leende och ett noggrant utformat stycke som listigt blandar in något från deras profil. Plattformar har makten att agera på dessa dolda data, använda dem för att skapa en säkrare miljö, eller avslöja dem så att medlemmar kan agera därefter. Tyvärr gör de flesta i branschen inget av detta.

Branschens passivitet beror ofta på de komplexa avvägningarna kring användarnas integritet. Den kostsamma halvan av denna ekvation är att vidta åtgärder. Det finns två vägar för att bygga förtroende: den långsamma vägen är rykte, och den snabba vägen är verifiering. Verifiering skapar friktion. Branschen vill överväldigande mycket ha hastighet, volym och låg friktion, vilket förklarar dess kroniska under‑verifiering.

Men lösningar håller på att dyka upp. En förhandspublicering från augusti 2024 på arXiv föreslog “personlighetsintyg“. De 32 författarna från institutioner som OpenAI, Microsoft, MIT, Oxford och Harvard föreslog ett integritetsskyddande intyg som gör att någon kan bevisa för en tjänst att de är en verklig person utan att avslöja sin underliggande identitet. Deras argument är att CAPTCHA:er är otillräckliga och att avvikelsedetektering snabbt urholkas av kapabel AI. De har rätt. Dejting är ett av de områden där konsekvenserna av denna urholkning drabbar hårdast eftersom kärnprodukten som säljs är förtroendet självt.

Utveckla en bättre gemenskapsstandard

Samma signaler som hjälper till att identifiera potentiellt kriminellt beteende kan också hjälpa till att identifiera andra typer av dåliga handlingar. Att läsa av avsikter sträcker sig långt bortom att bara stoppa bedrägeri. Inte varje negativ aktör på en webbplats är en brottsling. En användare som är otrevlig kanske inte bryter mot lagen, och ett förhållande som behandlas som en transaktion är kanske inte bedrägeri. Att behandla människor med förakt leder inte till en federal åtal. Men dessa beteenden fördärvar gemenskapen på djupet. Ännu värre är att de ofta är osynliga för system som helt förlitar sig på medlemmars rapporter för sina verkställande program.

Branschen har traditionellt dragit gränsen vid olaglighet: screena för bedrägeri och minderåriga, ta bort det som lagen strikt kräver, och behandla resten som en fråga mellan samtyckande vuxna. Jag känner inte till någon annan dejtingsajt som använder AI för att hjälpa till att identifiera transaktionellt beteende och aktivt stoppa det. Vår Stop@Send-funktion utvärderar avsändarens utgående meddelande medan det skickas. Den söker efter djupare mening snarare än att bara jämföra innehållet med en statisk nyckelordslista. För det mesta är svaret en förklaring som levereras till avsändaren och tydligt talar om varför meddelandet är olämpligt för gemenskapen.

Detta är naturligtvis inte gratis. Att avbryta medlemmars konversationer skapar friktion, vilket förvånansvärt nog är en kostnad vi aktivt väljer att absorbera. Men våra standarder fastställs bäst av vilket beteende som faktiskt är tillåtet på vår plattform, inte av vad som publiceras på en oimplementerad sida med gemenskapsriktlinjer. En plattform som inte besvärar en negativ aktör har ingen rätt att kalla sig en gemenskap.

Utmaningen för branschen

Marknaden tävlar just nu om att låta AI ersätta människor: vi ser en uppgång av AI‑kompanjoner, AI‑genererade profiler och flirt‑agenter. Jag är fast övertygad om att den vägen är en återvändsgränd. Den optimerar helt för engagemang men levererar inget annat än det. Vårt tillvägagångssätt är fundamentalt annorlunda. Vi använder AI för att hjälpa till att bli av med de negativa aktörerna, för att hålla medlemmarna ansvariga gentemot varandra, och för att hjälpa dem att behandla varandra på sätt som sannolikt leder till meningsfulla, verkliga relationer.

Listor över varningssignaler att undvika har förlorat sitt värde. De signaler som tidigare avslöjade bedragare är exakt de funktioner som generativa modeller har lärt sig att eliminera, vilket skapar ett vapenkapprustning vi ständigt är fast i. Förutom den första regeln — skicka aldrig pengar till någon du inte känner och inte har mött personligen, vilket alla bör följa — är den centrala frågan inte längre fotografiet. Det handlar om plattformen och vad de gör med den kunskap de har som deras användare inte har.

En plattform som har bra svar på den utmaningen arbetar aktivt med att bygga förtroende. En plattform som inte gör det kräver att dess medlemmar gör mer arbete med en framgångsfrekvens på 0,1 % bara för att skydda sig själva.

Jag ställer den här utmaningen till varje plattform, inklusive min egen. Jag förväntar mig att svaren är ärliga och fullständiga. Teknologin för att överbrygga detta gap finns redan nu. Bedrägerier kvarstår eftersom att stoppa dem innebär att avstå från den enorma tillväxt som kommer genom den stora dörren för enkel registrering. Detta är ett affärsbeslut snarare än en teknisk begränsning. Och de plattformar som fattar rätt beslut har den enda tillgång som är viktig för denna diskussion: medlemmarnas förtroende.