AI kan hjelpe oss med å finne ekte mennesker, ikke erstatte dem

Et falskt bilde lurer selv de skarpeste øynene, men falsk oppførsel som plattformen ser, bør ikke.  

I de siste tjue årene har nettdatingbransjen lært brukersikkerhet som en enkel sjekkliste. Vi rådet brukere til å granske bildet, sjekke personens historie for konsistens, eller insistere på en videosamtale før de godtar å møtes. Den veiledningen, som en gang var gullstandarden for digital sikkerhet, er i dag fullstendig foreldet.Det avgjørende beviset kom i en studie fra februar 2025 fra iProov, en ledende leverandør av biometrikk. Forskerne spurte 2 000 deltakere i Storbritannia og USA om å merke ulike elementer — ved bruk av både bilder og videoer — som enten ekte eller syntetiske. Resultatene var forbløffende: kun to deltakere gjorde ingen feil. Det er kun 0,1 prosent av de testede, noe som betyr at de andre 1 998 gjorde minst én feil. Høy selvtillit kombinert med høy feilrate er en farlig blanding for forbrukerne. Og svindlerne er mer enn klare til å utnytte den.Ifølge Entrust 2026 Identitetsbedrageri-rapport, deepfakes utgjør nå én av fem forsøk på biometrisk svindel. Deepfakede selfies steg 58 prosent i 2025, og injeksjonsangrep økte med 40 prosent år for år. Å forvente at en vanlig bruker skal slå en høyt avansert generativ AI-modell i visuell persepsjon er en bortfall av ansvar; det overfører risikoen direkte fra plattformen til kunden.

Svindel handler ikke lenger om å finne falske bilder

Realiteten er at dagens deteksjonsverktøy svikter fordi de kjører objektnivåtester på ett objekt om gangen. En test spør om et spesifikt bilde ble generert av AI. En annen spør om et dokument er forfalsket, mens en tredje spør om teksten i en melding er maskinskrevet. Problemet er at hver av disse testene forringes raskt. Etter hvert som generative modeller kontinuerlig forbedrer kvaliteten på output, blir tidligere svar og deteksjonsmetoder foreldet eller utdaterte nesten over natten.

En mye bedre tilnærming erstatter enkelt-signal-utseende med den samlede tilpasningen av mange signaler. Metoden vår vurderer forholdene mellom ulike dimensjoner av en brukers tilstedeværelse. En signaldimensjon er hvordan en enhet ser ut for systemet vårt. En annen er hvor en brukers økt kommer fra. En tredje er hvordan kontoen faktisk oppfører seg. Alt dette fører til menneskelig gjennomgang når systemet flagger indikatorer på mulig svindel.

FN’s kontor for narkotika og kriminalitet, i sin Transnasjonal vurdering av organisert kriminalitet for Sørøst-Asia 2026, estimerte tap fra nett-svindel i 2025 til mellom US$88,3 milliarder og US$114,1 milliarder i de rapporterte områdene alene. Industriell svindel i denne skalaen drives av hastighet og volum. Ethvert enkelt informasjonsstykke kan lett forfalskes, men å forfalske alle av dem konsekvent — på tvers av flere kontoer som kontinuerlig blir slått ned av plattformen — blir altfor belastende å opprettholde. Hvert lag med friksjon vi introduserer øker kostnaden per konto for svindelvirksomheten til deres fortjenestemargin når null.

Dette er hvor AI virkelig tjener sin lønn. Mens forfalskningsdeteksjon har forbedret seg med ny teknologi, er den forbedrede evnen til å identifisere samtidige faktorer som indikerer svindel — og som fører til tidligere intervensjon — enormt bedre for våre brukere. Når en brukers indikatorer er i konflikt, avsløres deres egentlige intensjon. Et ærlig medlem, en svindler og en besøkende med et annet formål kan alle dele identiske bilder og nesten identiske åpningslinjer. Deres kombinerte indikatorer vil imidlertid avvike og fortelle en helt annen historie. Måten folk svarer på, hvor raskt de responderer, hvordan de eskalerer samtalen, hva de spør om, og hvilke samtaler som blir forlatt, maler alle et bilde. Identitet kan være en feilfri generert løgn, men oppførselen vil alltid avsløre dårlige intensjoner.

Informasjonsasymmetrien: Plattformene vet ting brukerne ikke kan

Federal Trade Commission rapporterte i 2026 at tap fra romantikk-svindel i 2025 sto opp 22 prosent over 2024, og nådde omtrent $1.5 billion. Blant de som identifiserte hvordan de ble kontaktet, sa omtrent 60 prosent sa at deres første kontakt kom via en sosial medieplattform.

Det er et enormt informasjonsgap i vår bransje. Plattformene ser de samme signalkategoriene, men de kan nesten helt sikkert også se innloggingsland og kontoa alder, for eksempel. Alt medlemmene ser er et smil og et nøye utformet avsnitt som smart blander inn noe fra profilen deres. Plattformene har makten til å handle på disse skjulte dataene, bruke dem til å skape et tryggere miljø, eller avsløre dem slik at medlemmene kan handle deretter. Dessverre gjør de fleste i bransjen verken det ene eller det andre.

Bransjens passivitet har ofte å gjøre med de komplekse avveiningene knyttet til brukernes personvern. Den kostbare halvdelen av denne ligningen er å handle. Det finnes to veier til å etablere tillit: den langsomme veien er omdømme, og den raske veien er verifisering. Verifisering skaper friksjon. Bransjen ønsker overveiende hastighet, volum og lav friksjon, noe som forklarer den kroniske under‑verifiseringen.

Imidlertid dukker løsninger opp. En preprint fra august 2024 på arXiv foreslo “personhood credentials“. De 32 forfatterne fra institusjoner som OpenAI, Microsoft, MIT, Oxford og Harvard foreslo en personvernbevarende legitimasjon som gjør det mulig for noen å bevise for en tjeneste at de er en ekte person uten å avsløre sin underliggende identitet. Deres argument er at CAPTCHA‑er er utilstrekkelige og at avviksdeteksjon raskt blir ineffektiv mot kapabel AI. De har rett. Dating er ett av de områdene hvor konsekvensene av denne erosjonen treffer hardest, fordi kjerneproduktet som selges er selve tilliten.

Utvikle en bedre fellesskapsstandard

De samme signalene som hjelper med å identifisere mulig kriminell atferd kan også hjelpe med å identifisere andre typer dårlige handlinger. Å lese intensjon strekker seg langt utover bare å stoppe svindel. Ikke hver dårlig aktør på et nettsted er en kriminell. En bruker som er ubehagelig, bryter kanskje ikke loven, og et forhold behandlet som en transaksjon er kanskje ikke svindel. Å behandle folk med forakt fører ikke til en føderal tiltale. Men denne atferden forringer fellesskapet i betydelig grad. Dessuten er de ofte usynlige for systemer som kun baserer håndhevelsen på medlemmenes rapporter.

Bransjen har tradisjonelt trukket en grense ved ulovlighet: screene for svindel og mindreårige, fjerne det loven strengt krever, og behandle resten som en sak mellom samtykkende voksne. Jeg kjenner ingen annen datingtjeneste som bruker AI for å identifisere transaksjonsatferd og aktivt stoppe den. Vår Stop@Send‑funksjon evaluerer avsenderens utgående melding mens den sendes. Den ser etter dypere mening i stedet for bare å sammenligne innholdet med en statisk nøkkelordliste. For det meste er svaret en forklaring som leveres til avsenderen, og forteller nøyaktig hvorfor meldingen er upassende for fellesskapet.

Dette er selvsagt ikke gratis. Å avbryte medlemmers samtaler skaper friksjon, noe som overraskende nok er en kostnad vi aktivt velger å absorbere. Men våre standarder fastsettes best av hvilken atferd som faktisk er tillatt på plattformen vår, ikke av hva som publiseres på en uoverholdt retningslinjeside. En plattform som ikke vil ulempe en dårlig aktør, har ingen rett til å kalle seg et fellesskap.

Utfordringen for bransjen

Markedet akkurat nå konkurrerer om å få AI til å erstatte mennesker: vi ser fremveksten av AI‑kompiser, AI‑genererte profiler og flørtingsagenter. Jeg er fast overbevist om at den retningen er en blindgate. Den optimaliserer kun for engasjement, men leverer absolutt ingenting annet enn det. Vår tilnærming er fundamentalt annerledes. Vi bruker AI for å bli kvitt de dårlige aktørene, holde medlemmene ansvarlige overfor hverandre, og hjelpe dem å behandle hverandre på måter som er mer sannsynlige til å føre til meningsfulle, virkelige forhold.

Lister over røde flagg man bør unngå har mistet sin verdi. Signalene som tidligere avslørte svindlere er nettopp de egenskapene generative modeller har lært å eliminere, noe som skaper et våpenkappløp vi er permanent fanget i. Bortsett fra den første regelen – aldri send penger til noen du ikke kjenner og ikke har møtt personlig, som alle bør følge – er hovedspørsmålet ikke lenger fotografiet. Det handler om plattformen, og hva de gjør med det de vet som brukerne deres ikke vet.

En plattform som har gode svar på den utfordringen, arbeider aktivt med å bygge tillit. En plattform som ikke gjør det, ber medlemmene sine om å gjøre mer arbeid med en suksessrate på 0,1 % bare for å beskytte seg selv.

Jeg stiller denne utfordringen til hver plattform, inkludert min egen. Jeg forventer at svarene er ærlige og komplette. Teknologien for å lukke dette gapet finnes allerede nå. Svindel vedvarer fordi å stoppe den innebærer å gi opp den massive veksten som kommer gjennom den enorme inngangsporten med enkel påmelding. Dette er en forretningsbeslutning snarere enn en teknisk begrensning. Og plattformene som tar riktig valg, har den eneste eiendelen som betyr noe i denne diskusjonen: medlemmenes tillit.