AI kan ons helpen echte mensen te vinden, niet te vervangen

Een neppe afbeelding misleidt zelfs de scherpste ogen, maar nep gedrag dat het platform ziet, zou dat niet moeten.

Gedurende de afgelopen twintig jaar leerde de online datingindustrie gebruikersveiligheid als een eenvoudige checklist. We adviseerden gebruikers de foto nauwkeurig te bekijken, het verhaal van de persoon op consistentie te controleren, of te eisen dat er een videogesprek plaatsvindt voordat ze akkoord gaan om elkaar te ontmoeten. Die richtlijn, ooit de gouden standaard voor digitale veiligheid, is vandaag volledig verouderd.Het doorslaggevende bewijs kwam in een februari 2025 studie van iProov, een toonaangevende biometrische leverancier. Onderzoekers vroegen 2.000 proefpersonen in het VK en de VS om verschillende items — zowel afbeeldingen als video’s — te labelen als echt of synthetisch. De resultaten waren verbazingwekkend: slechts twee proefpersonen maakten geen fouten. Dat is slechts 0,1 procent van de geteste personen, wat betekent dat de overige 1.998 ten minste één fout maakten. Hoog vertrouwen gecombineerd met een hoog foutpercentage is een gevaarlijke mix voor consumenten. En de fraudeurs staan meer dan klaar om dit te exploiteren.Volgens het Entrust 2026 Identity Fraud Report, deepfakes zijn nu goed voor één op de vijf biometrische fraudepogingen. Deepfake-selfies stegen met 58 procent in 2025, en injectie-aanvallen namen met 40 procent toe jaar over jaar. Verwachten dat een gewone gebruiker een zeer geavanceerd generatief AI-model op visuele waarneming verslaat, is een afstand doen van verantwoordelijkheid; het verplaatst het risico rechtstreeks van het platform naar de klant.

Fraude gaat niet langer over het vinden van neppe afbeeldingen

De realiteit is dat de huidige detectietools falen omdat ze objectniveau-tests uitvoeren op één object tegelijk. Eén test vraagt of een specifieke afbeelding door AI is gegenereerd. Een andere vraagt of een document vervalst is, terwijl een derde vraagt of de tekst in een bericht machinaal geschreven is. Het probleem is dat elk van deze tests snel veroudert. Naarmate generatieve-modellen continu de outputkwaliteit verhogen, raken eerdere reacties en detectiemethoden bijna van de ene op de andere dag verouderd of achterhaald.

Een veel betere aanpak vervangt het uiterlijk van één signaal door de gezamenlijke passing van vele signalen. Onze methode beoordeelt de relaties tussen verschillende dimensies van de aanwezigheid van een gebruiker. Eén signaaldimensie is hoe een apparaat eruitziet voor ons systeem. Een andere is waar een gebruikerssessie vandaan komt. Een derde is hoe het account zich daadwerkelijk gedraagt. Dit alles leidt tot menselijke beoordeling wanneer het systeem indicatoren van mogelijke fraude signaleert.

Het United Nations Office on Drugs and Crime, in haar Transnational Organized Crime Threat Assessment voor Zuidoost-Azië 2026, schatte de online‑oplichterijverliezen in 2025 op tussen US$88.3 miljard en US$114.1 miljard in de gerapporteerde gebieden alleen. Industriefraude op deze schaal draait op snelheid en volume. Elk enkel stuk informatie kan gemakkelijk worden vervalst, maar het vervalsen van alles van hen consequent — over meerdere accounts die voortdurend door het platform worden neergehaald — wordt veel te belastend om te handhaven. Elke laag wrijving die we introduceren verhoogt de kosten per account van de fraude‑onderneming totdat hun winstmarge nul bereikt.

Dit is waar AI echt zijn waarde bewijst. Terwijl vervalsingsdetectie is verbeterd met nieuwe technologieën, is het verbeterde vermogen om gelijktijdige factoren die fraude aangeven te identificeren — en tot vroegere interventie te leiden — enorm beter voor onze gebruikers. Wanneer de indicatoren van een gebruiker niet overeenkomen, wordt hun ware intentie blootgelegd. Een eerlijk lid, een fraudeur en een bezoeker met een ander doel kunnen allemaal identieke foto’s en bijna identieke openingszinnen delen. Hun gecombineerde indicatoren zullen echter verschillen en een compleet ander verhaal vertellen. De manier waarop mensen reageren, hoe snel ze antwoorden, hoe ze het gesprek escaleren, waar ze naar vragen, en welke gesprekken worden verlaten, schetsen allemaal een beeld. Identiteit kan een perfect gegenereerde leugen zijn, maar gedrag zal altijd slechte bedoelingen onthullen.

De informatie-asymmetrie: platforms weten dingen die gebruikers niet kunnen

De Federal Trade Commission meldde in 2026 dat de verliezen door romance‑oplichting in 2025 steeg met 22 procent ten opzichte van 2024, en ongeveer $1.5 miljard bereikten. Onder degenen die aangaven hoe ze werden benaderd, zei ongeveer 60 procent zeiden dat hun eerste contact via een sociaal mediaplatform kwam.

Er is een enorme informatiekloof in onze industrie. Platforms zien dezelfde signalcategorieën, maar ze kunnen bijvoorbeeld vrijwel zeker ook het inlogland en de accountleeftijd zien. Het enige wat leden zien is een glimlach en een zorgvuldig geformuleerde alinea die slim iets uit hun profiel mengt. Platforms hebben de macht om op deze verborgen gegevens te handelen, ze te gebruiken om een veiligere omgeving te creëren, of ze openbaar te maken zodat leden dienovereenkomstig kunnen handelen. Helaas doet de meeste industrie geen van beide.

De passiviteit van de industrie heeft vaak te maken met de complexe afwegingen rond gebruikersprivacy. De dure helft van deze vergelijking is het ondernemen van actie. Er zijn twee wegen om vertrouwen op te bouwen: de langzame weg is reputatie, en de snelle weg is verificatie. Verificatie creëert frictie. De industrie wil overwegend snelheid, volume en lage frictie, wat haar chronische onder‑verificatie verklaart.

Echter, er komen oplossingen op. Een preprint uit augustus 2024 op arXiv stelde “personhood credentials” voor. De 32 auteurs van instellingen zoals OpenAI, Microsoft, MIT, Oxford en Harvard stelden een privacy‑behoudende credential voor die iemand in staat stelt aan een dienst te bewijzen dat hij of zij een echt persoon is zonder de onderliggende identiteit prijs te geven. Hun argument is dat CAPTCHA’s ontoereikend zijn en dat anomaliedetectie snel verzwakt tegen capabele AI. Ze hebben gelijk. Dating is een van de gebieden waar de gevolgen van deze verzwakking het hardst worden gevoeld, omdat het kernproduct dat wordt verkocht, vertrouwen zelf is.

Een beter gemeenschapsstandaard ontwerpen

Dezelfde signalen die helpen bij het identificeren van mogelijk crimineel gedrag kunnen ook helpen bij het identificeren van andere soorten slechte daden. Intentie‑herkenning reikt veel verder dan alleen fraude voorkomen. Niet elke slechte actor op een website is een crimineel. Een gebruiker die onaangenaam is, breekt misschien niet de wet, en een relatie die als een transactie wordt behandeld, is misschien geen fraude. Mensen met minachting behandelen leidt niet tot een federale aanklacht. Maar dit gedrag degradeert de gemeenschap diepgaand. Bovendien is het vaak onzichtbaar voor systemen die volledig afhankelijk zijn van meldingen van leden voor hun handhavingsprogramma’s.

De industrie heeft traditioneel de grens getrokken bij illegaliteit: screenen op fraude en minderjarigen, verwijderen wat de wet strikt vereist, en de rest behandelen als een kwestie tussen instemmende volwassenen. Ik ken geen andere datingsite die AI gebruikt om transactioneel gedrag te identificeren en actief te stoppen. Onze Stop@Send‑functie evalueert het uitgaande bericht van de afzender terwijl het wordt verzonden. Het zoekt naar diepere betekenis in plaats van simpelweg de inhoud te vergelijken met een statische lijst van trefwoorden. Meestal is de reactie een uitleg die aan de afzender wordt geleverd, waarin precies wordt uitgelegd waarom het bericht ongepast is voor de gemeenschap.

Dit is natuurlijk niet gratis. Het onderbreken van gesprekken tussen leden veroorzaakt wrijving, wat voor de hand liggend een kostenpost is die we actief kiezen te absorberen. Maar onze normen worden het best vastgesteld door welk gedrag daadwerkelijk is toegestaan op ons platform, niet door wat er staat op een niet‑handhaafde pagina met gemeenschapsrichtlijnen. Een platform dat een slechte actor niet ongemak bezorgt, heeft geen recht om zichzelf een gemeenschap te noemen.

De uitdaging voor de industrie

De markt racet momenteel om AI mensen te laten vervangen: we zien de opkomst van AI‑metgezellen, AI‑gegenereerde profielen en flirt‑agents. Ik ben er stellig van overtuigd dat die richting een dood punt is. Het optimaliseert volledig voor betrokkenheid, maar levert daar niets anders dan op. Onze benadering is fundamenteel anders. We gebruiken AI om de slechte actoren te verwijderen, leden verantwoordelijk te houden tegenover elkaar, en hen te helpen elkaar op manieren te behandelen die eerder tot betekenisvolle, echte relaties in de echte wereld leiden.

Lijsten met rode vlaggen om te vermijden hebben hun waarde verloren. De signalen die fraudeurs vroeger onthulden, zijn precies de kenmerken die generatieve modellen hebben geleerd te elimineren, waardoor een wapenwedloop ontstaat waarin we voortdurend verstrikt zitten. Afgezien van de Eerste Regel — stuur nooit geld naar iemand die je niet kent en nog niet persoonlijk hebt ontmoet, een regel die iedereen zou moeten volgen — draait de cruciale vraag niet meer om de foto. Het gaat om het platform, en wat ze doen met wat ze weten dat hun gebruikers niet weten.

Een platform dat goede antwoorden op die uitdaging heeft, werkt actief aan vertrouwen. Een platform dat dat niet doet, vraagt van zijn leden meer werk bij een succespercentage van 0,1 percent om zichzelf te beschermen.

Ik stel deze uitdaging aan elk platform, inclusief het mijne. Ik verwacht dat de antwoorden eerlijk en volledig zijn. De technologie om deze kloof nu te dichten bestaat al. Fraude blijft bestaan omdat het stoppen ervan betekent dat men afstand moet doen van de enorme groei die voortkomt uit de gigantische voordeur van moeiteloze aanmelding. Dit is een zakelijke beslissing in plaats van een technische beperking. En de platforms die de juiste keuze maken, bezitten het enige echte kapitaal voor deze discussie: het vertrouwen van hun leden.