Tekoäly voi auttaa meitä löytämään oikeita ihmisiä, eikä korvata heitä

Vale kuva huijaa jopa terävimmätkin silmät, mutta alustan näkemä valekäyttäytyminen ei saa tehdä niin.

Viimeisen kahdenkymmenen vuoden ajan verkko-deittailualan opetti käyttäjäturvallisuutta suoraviivaisena tarkistuslistana. Neuvoimme käyttäjiä tarkastelemaan kuvaa, tarkistamaan henkilön tarinan johdonmukaisuuden tai vaatimaan videopuhelua ennen tapaamiseen suostumista. Tämä ohjeistus, joka oli kerran digitaalisen turvallisuuden kulta‑standardi, on tänään täysin vanhentunut.Lopullinen todiste saapui Februarikuu 2025 -tutkimus iProovilta, johtava biometrinen toimittaja. Tutkijat pyysivät 2 000 koehenkilöä Yhdistyneessä kuningaskunnassa ja Yhdysvalloissa merkitsemään erilaisia kohteita — sekä kuvia että videoita — todellisiksi tai synteettisiksi. Tulokset olivat hämmästyttäviä: vain kahdella koehenkilöllä ei ollut virheitä. Tämä on vain 0,1 prosenttia testatuista ihmisistä, mikä tarkoittaa, että loput 1 998 tekivät vähintään yhden virheen. Korkea varmuus yhdistettynä korkeaan virhemarginaaliin on vaarallinen sekoitus kuluttajille. Ja petolliset toimijat ovat enemmän kuin valmiita hyödyntämään sen.Arvon mukaan Entrust 2026 Identity Fraud Report, deepfake‑tekniikat muodostavat nyt yhden viidestä biometrisen petoksen yrityksestä. Deepfake‑selfiet nousivat 58 prosenttia vuonna 2025, ja injektiohyökkäykset kasvoivat 40 prosenttia vuodesta toiseen. Odottaa tavallisen käyttäjän voittavan erittäin kehittyneen generatiivisen tekoälymallin visuaalisen havainnoinnin on vastuuvapaus; se siirtää riskin suoraan alustalta asiakkaalle.

Petokset eivät enää koske valekuvien etsimistä

Todellisuus on, että nykyiset havaitsemistyökalut epäonnistuvat, koska ne suorittavat kohdekohtaisia testejä yksi kerrallaan. Yksi testi kysyy, onko tietty kuva luotu tekoälyn avulla. Toinen kysyy, onko asiakirja väärennetty, kun taas kolmas kysyy, onko viestin teksti konekirjoitettu. Ongelma on, että jokainen näistä testeistä heikkenee nopeasti. Kun generatiivisten mallien kehitys jatkuvasti parantaa tulosten laatua, aiemmat vastaukset ja havaitsemismenetelmät vanhenevat tai muuttuvat vanhentuneiksi lähes yhdessä yössä.

Paljon parempi lähestymistapa korvaa yhden signaalin ilmenemisen monen signaalin yhteisvaikutuksella. Menetelmämme arvioi käyttäjän läsnäolon eri ulottuvuuksien välisiä suhteita. Yksi signaalin ulottuvuus on se, miltä laite näyttää järjestelmällemme. Toinen on, mistä käyttäjän istunto on peräisin. Kolmas on, miten tili todellisuudessa käyttäytyy. Kaikki tämä johtaa ihmistarkasteluun, kun järjestelmä merkitsee mahdollisen petoksen indikaattoreita.

Yhdistyneiden Kansakuntien huume- ja rikostuomioistuin, Transnational Organized Crime Threat Assessment Etelä‑Aasian 2026 -raportissaan, arvioi vuoden 2025 verkkopetosmenetykset raportoituilla alueilla yksinään välillä US$88,3 miljardia ja US$114,1 miljardia. kaikki näistä johdonmukaisesti – useiden tilien yli, joita alusta jatkuvasti poistaa – on liian rasittavaa ylläpitää. Jokainen lisäämämme kitkan kerros nostaa petostyön per tilin kustannuksia, kunnes niiden voittomarginaali saavuttaa nollan.

Tässä tekoäly todella ansaitsee paikkansa. Vaikka väärennösten havaitseminen on parantunut uusien teknologioiden myötä, parantunut kyky tunnistaa petosta osoittavia samanaikaisia tekijöitä — ja näin mahdollistaa aikaisemman puuttumisen — on merkittävästi parempi käyttäjillemme. Kun käyttäjän indikaattorit ovat ristiriidassa, hänen todellinen aikomuksensa paljastuu. Rehellinen jäsen, petollinen toimija ja vierailija, jonka tarkoitus on jokin muu, saattavat kaikki jakaa identtisiä valokuvia ja lähes identtisiä aloituslauseita. Heidän yhdistetyt indikaattorinsa kuitenkin poikkeavat ja kertovat täysin erilaisen tarinan. Se, miten ihmiset vastaavat, kuinka nopeasti he reagoivat, miten he eskaloivat keskustelun, mistä he kysyvät ja mitkä keskustelut hylätään, maalaavat kokonaiskuvan. Identiteetti voi olla virheetön luotu valhe, mutta käytös paljastaa aina pahat aikomukset.

Tietoasymmetria: Alustat tietävät asioita, joita käyttäjät eivät tiedä

Federal Trade Commission raportoi vuonna 2026, että romanttisten huijausten menetykset vuonna 2025 nousi 22 prosenttia vuoden 2024 verrattuna, saavuttaen noin 1,5 miljardia USD. Niiden joukossa, jotka tunnistivat, miten heidät otettiin yhteyttä, noin 60 prosenttia sanoi että heidän ensimmäinen yhteydenotto tapahtui sosiaalisen median alustalla.

Alallamme on valtava tiedon aukko. Alustat näkevät samat signaalikategoriat, mutta ne voivat lähes varmasti nähdä myös sisäänkirjautumismaan ja tilin iän, esimerkiksi. Kaikki jäsenet näkevät hymyilevän kasvot ja huolellisesti muotoillun kappaleen, joka ovelasti sisällyttää jotain heidän profiilistaan. Alustoilla on valta toimia näiden piilotietojen perusteella, käyttäen niitä turvallisemman ympäristön luomiseen, tai paljastaa ne, jotta jäsenet voivat toimia sen mukaisesti. Valitettavasti suurin osa alasta ei tee kumpaakaan.

Alan toimimattomuus johtuu usein monimutkaisista käyttäjien yksityisyyteen liittyvistä kompromisseista. Tämän yhtälön kalliimpi puoli on toiminnan toteuttaminen. Luottamuksen rakentamiseen on kaksi reittiä: hidas reitti on maine, ja nopea reitti on vahvistus. Vahvistus luo kitkaa. Ala haluaa ylivoimaisesti nopeutta, volyymia ja vähäistä kitkaa, mikä selittää sen kroonisen alivahvistuksen.

Kuitenkin ratkaisuja on nousemassa. Elokuussa 2024 arXiv:ssä julkaistu preprint ehdotti “henkilöllisyystodistuksia“. 32 tekijää instituutioista kuten OpenAI, Microsoft, MIT, Oxford ja Harvard ehdottivat yksityisyyttä suojaavan todistuksen, jonka avulla joku voi todistaa palvelulle olevansa todellinen henkilö paljastamatta taustalla olevaa identiteettiään. Heidän argumenttinsa on, että CAPTCHA:t eivät riitä ja poikkeavuuksien havaitseminen heikkenee nopeasti kykenevää AI:ta vastaan. He ovat oikeassa. Deittailu on yksi niistä paikoista, joissa tämän heikentymisen seuraukset ovat kovimmat, koska myytävä ydintuote on itse luottamus.

Parempi yhteisöstandardi

Samat signaalit, jotka auttavat tunnistamaan mahdollisesti rikollista toimintaa, voivat myös auttaa tunnistamaan muita huonoja tekoja. Aikomuksen lukeminen ulottuu paljon pidemmälle kuin pelkkä petosten estäminen. Kaikki huonot toimijat verkkosivustolla eivät ole rikollisia. Epämiellyttävä käyttäjä ei välttämättä riko lakia, eikä suhdetta, jota käsitellään transaktiona, välttämättä ole petos. Ihmisten halveksiminen ei johda liittovaltion syytteeseen. Mutta nämä käyttäytymismallit heikentävät yhteisöä syvästi. Vielä pahempaa on, että ne ovat liian usein näkymättömiä järjestelmille, jotka luottavat täysin jäsenten raportteihin valvontaohjelmissaan.

Ala on perinteisesti vetänyt rajan laittomuuteen: se suodattaa petokset ja alaikäiset, poistaa sen, mitä laki tiukasti vaatii, ja käsittelee loput aikuisten välisten suostumusten asioina. En tiedä toista deittisivustoa, joka käyttäisi AI:ta tunnistamaan transaktionaalista käyttäytymistä ja aktiivisesti estämään sitä. Stop@Send-ominaisuutemme arvioi lähettäjän lähtevän viestin sen lähetyksen aikana. Se etsii syvempää merkitystä sen sijaan, että vertaisi sisältöä staattiseen avainsanalistaan. Useimmiten vastaus on selitys, joka toimitetaan lähettäjälle, kertomassa tarkalleen, miksi viesti on yhteisölle sopimaton.

Tämä ei tietenkään ole ilmaista. Jäsenten keskustelujen keskeyttäminen aiheuttaa kitkaa, mikä on odotettavissa kustannus, jonka päätämme aktiivisesti kantaa. Mutta standardimme määrittyvät parhaiten sen perusteella, mitä käyttäytyminen todella sallitaan alustallamme, ei sen perusteella, mitä on julkaistu toteuttamattomalla yhteisön ohjesivulla. Alusta, joka ei aiheuta vaivaa huonolle toimijalle, ei voi kutsua itseään yhteisöksi.

Haaste alalle

Markkinat tällä hetkellä kilpailevat AI:n korvaamisesta ihmisillä: näemme AI-kumppaneiden, AI:n luomien profiilien ja flirttailuagenttien nousun. Olen vahvasti sitä mieltä, että tämä suunta on umpikuja. Se optimoi täysin sitoutumista, mutta ei tarjoa muuta. Lähestymistapamme on perustavanlaatuisesti erilainen. Käytämme AI:ta auttamaan huonojen toimijoiden poistamisessa, pitämään jäsenet vastuullisina toisilleen ja auttamaan heitä kohtelemaan toisiaan tavoilla, jotka todennäköisemmin johtavat merkityksellisiin, todellisiin ihmissuhteisiin.

Varoituslistojen arvo on kadonnut. Signaalit, jotka ennen paljastivat huijarit, ovat täsmälleen ne ominaisuudet, jotka generatiiviset mallit ovat oppineet poistamaan, luoden asevarustelukilpailun, jossa olemme ikuisesti lukittuna. Lukuun ottamatta Ensimmäistä sääntöä — älä koskaan lähetä rahaa kenellekään, jota et tunne etkä ole tavannut henkilökohtaisesti, mitä kaikkien tulisi noudattaa — keskeinen kysymys ei enää ole valokuva. Se on alusta ja se, mitä ne tekevät tiedoillaan, joita käyttäjät eivät tiedä.

Alusta, jolla on hyvät vastaukset tähän haasteeseen, suunnittelee aktiivisesti luottamusta. Alusta, jolla ei ole, pyytää jäseniään tekemään enemmän työtä 0,1 prosentin onnistumisprosentilla vain suojellakseen itseään.

Asetan tämän haasteen jokaiselle alustalle, myös omalleni. Odotan, että vastaukset ovat rehellisiä ja täydellisiä. Teknologia tämän kuilun kaventamiseksi on jo olemassa. Petokset jatkuvat, koska niiden pysäyttäminen tarkoittaisi massiivisen kasvun luopumista, joka tulee vaivattoman rekisteröitymisen valtavan etupäästä. Tämä on liiketoimintapäätös, ei tekninen rajoitus. Ja ne alustat, jotka tekevät oikean päätöksen, omistavat ainoan tärkeän omaisuuden tässä keskustelussa: jäsentensä luottamuksen.