L’IA può aiutarci a trovare persone reali, non a sostituirle

Un’immagine falsa inganna anche gli occhi più attenti, ma il comportamento falso che la piattaforma vede non dovrebbe farlo.  

Negli ultimi venti anni, l’industria degli appuntamenti online ha insegnato la sicurezza degli utenti come una semplice lista di controllo. Abbiamo consigliato agli utenti di esaminare attentamente la foto, verificare la coerenza della storia della persona o insistere su una videochiamata prima di accettare di incontrarsi. Quelle indicazioni, un tempo lo standard d’oro della sicurezza digitale, oggi sono completamente obsolete.La prova definitiva è arrivata in un studio di febbraio 2025 di iProov, un importante fornitore di biometria. I ricercatori hanno chiesto a 2.000 soggetti nel Regno Unito e negli Stati Uniti di etichettare vari elementi — usando sia immagini che video — come reali o sintetici. I risultati sono stati sbalorditivi: solo due soggetti non hanno commesso errori. Questo rappresenta appena lo 0,1 % delle persone testate, il che significa che gli altri 1.998 hanno commesso almeno un errore. Un’elevata fiducia combinata con un alto tasso di errore è una combinazione pericolosa per i consumatori. E i truffatori sono più che pronti a sfruttarla.Secondo il Rapporto Entrust 2026 sull’Identità Fraudolenta, i deepfake ora rappresentano uno su cinque tentativi di frode biometrica. I selfie deepfake sono aumentati del 58 % nel 2025, e gli attacchi di iniezione sono cresciuti del 40 % anno su anno. Aspettarsi che un utente medio superi un modello generativo di IA altamente avanzato nella percezione visiva è una derelizione di responsabilità; trasferisce il rischio direttamente dalla piattaforma al cliente.

Le frodi non riguardano più la ricerca di immagini false

La realtà è che gli attuali strumenti di rilevamento stanno fallendo perché eseguono test a livello di oggetto su un singolo oggetto alla volta. Un test verifica se una specifica immagine è stata generata dall’IA. Un altro verifica se un documento è falsificato, mentre un terzo verifica se il testo di un messaggio è stato scritto da una macchina. Il problema è che ciascuno di questi test perde rapidamente efficacia. Man mano che i progressi dei modelli generativi migliorano continuamente la qualità dell’output, le risposte precedenti e i metodi di rilevamento diventano obsoleti quasi da un giorno all’altro.

Un approccio molto migliore sostituisce l’apparenza a segnale singolo con l’adattamento congiunto di molti segnali. Il nostro metodo valuta le relazioni tra le varie dimensioni della presenza di un utente. Una dimensione del segnale è l’aspetto del dispositivo per il nostro sistema. Un’altra è la provenienza della sessione dell’utente. Una terza è il comportamento effettivo dell’account. Tutto ciò porta a una revisione umana quando il sistema segnala indicatori di possibile frode.

L’Ufficio delle Nazioni Unite per la Droga e il Crimine, nel suo Valutazione della minaccia del crimine organizzato transnazionale per il Sud‑Est asiatico 2026, ha stimato le perdite da truffe online del 2025 tra US$88,3 miliardi e US$114,1 miliardi nelle sole aree segnalate. Le frodi industriali a questa scala si basano su velocità e volume. Qualsiasi singola informazione può essere facilmente falsificata, ma falsificare tutto in modo coerente — attraverso molteplici account che vengono continuamente eliminati dalla piattaforma — diventa troppo gravoso da mantenere. Ogni livello di frizione che introduciamo aumenta il costo per account dell’attività fraudolenta fino a far azzerare il loro margine di profitto.

È qui che l’IA dimostra davvero il suo valore. Sebbene il rilevamento delle falsificazioni sia migliorato grazie alle nuove tecnologie, la capacità potenziata di identificare fattori coincidenti che indicano frode — e che portano a un intervento più precoce — è notevolmente migliore per i nostri utenti. Quando gli indicatori di un utente non coincidono, la sua vera intenzione viene rivelata. Un membro onesto, un truffatore e un visitatore con un altro scopo possono condividere foto identiche e frasi di apertura quasi identiche. Tuttavia, i loro indicatori combinati differiranno e racconteranno una storia completamente diversa. Il modo in cui le persone rispondono, la rapidità con cui rispondono, come intensificano la conversazione, di cosa chiedono e quali conversazioni vengono abbandonate dipingono tutti un quadro. L’identità può essere una menzogna generata perfettamente, ma il comportamento rivelerà sempre cattive intenzioni.

L’asimmetria informativa: le piattaforme sanno cose che gli utenti non conoscono

La Federal Trade Commission ha riferito nel 2026 che le perdite per truffe romantiche nel 2025 è aumentata del 22 % rispetto al 2024, raggiungendo circa $1,5 miliardi. Tra coloro che hanno identificato come sono stati contattati, circa il 60 % ha dichiarato che il loro contatto iniziale è avvenuto su una piattaforma di social media.

C’è un enorme divario informativo nella nostra industria. Le piattaforme vedono le stesse categorie di segnale, ma possono quasi certamente vedere anche il paese di accesso e l’età dell’account, ad esempio. Tutto ciò che i membri vedono è un sorriso e un paragrafo accuratamente elaborato che mescola abilmente qualcosa dal loro profilo. Le piattaforme hanno il potere di agire su questi dati nascosti, usandoli per creare un ambiente più sicuro, o di divulgarli affinché i membri possano agire di conseguenza. Sfortunatamente, la maggior parte dell’industria non fa né l’uno né l’altro.

L’inazione dell’industria è spesso legata ai complessi compromessi relativi alla privacy degli utenti. La metà costosa di questa equazione è l’azione. Ci sono due percorsi per instaurare fiducia: il percorso lento è la reputazione, e quello veloce è la verifica. La verifica crea frizione. L’industria desidera massimamente velocità, volume e bassa frizione, il che spiega la sua cronica sotto-verifica.

Tuttavia, stanno emergendo soluzioni. Un preprint di agosto 2024 su arXiv ha proposto “personhood credentials“. I 32 autori provenienti da istituzioni come OpenAI, Microsoft, MIT, Oxford e Harvard hanno proposto una credenziale preservante la privacy che consente a qualcuno di dimostrare a un servizio di essere una persona reale senza rivelare la propria identità sottostante. Il loro argomento è che i CAPTCHA sono inadeguati e il rilevamento di anomalie sta rapidamente erodendo contro IA capaci. Hanno ragione. Gli appuntamenti sono uno dei contesti in cui le conseguenze di questa erosione si manifestano più duramente perché il prodotto principale venduto è la fiducia stessa.

Progettare uno standard comunitario migliore

Gli stessi segnali che aiutano a identificare comportamenti potenzialmente criminali possono anche servire a individuare altri tipi di azioni dannose. L’interpretazione delle intenzioni va ben oltre il semplice blocco delle frodi. Non ogni cattivo attore su un sito è un criminale. Un utente sgradevole potrebbe non violare la legge, e una relazione trattata come una transazione potrebbe non configurare una frode. Trattare le persone con disprezzo non porta a un’accusa federale. Tuttavia, questi comportamenti degradano profondamente la comunità. Peggio ancora, sono troppo spesso invisibili ai sistemi che si basano esclusivamente sulle segnalazioni dei membri per i loro programmi di applicazione.

L’industria ha tradizionalmente tracciato il confine sull’illegalità: filtrare frodi e minorenni, rimuovere ciò che la legge richiede strettamente, e trattare il resto come una questione tra adulti consenzienti. Non conosco alcun altro sito di incontri che utilizzi l’IA per identificare comportamenti transazionali e fermarli attivamente. La nostra funzione Stop@Send valuta il messaggio in uscita del mittente mentre viene inviato. Cerca un significato più profondo anziché limitarsi a confrontare il contenuto con un elenco statico di parole chiave. Nella maggior parte dei casi, la risposta è una spiegazione inviata al mittente, indicandogli con precisione perché il messaggio è inappropriato per la comunità.

Questo, ovviamente, non è gratuito. Interrompere le conversazioni dei membri crea attrito, che è sorprendentemente un costo che scegliamo attivamente di assorbire. Tuttavia, i nostri standard sono meglio stabiliti da ciò che è realmente consentito sulla nostra piattaforma, non da ciò che è pubblicato su una pagina di linee guida comunitarie non applicata. Una piattaforma che non crea disagi a un cattivo attore non ha diritto di definirsi una comunità.

La sfida per l’industria

Il mercato attuale corre verso l’idea che l’IA sostituisca le persone: assistenti AI, profili generati dall’IA e agenti di flirt. Credo fermamente che questa direzione sia una strada senza uscita. Ottimizza esclusivamente per l’engagement ma non offre nulla al di là di questo. Il nostro approccio è fondamentalmente diverso. Usiamo l’IA per eliminare i cattivi attori, per rendere i membri responsabili gli uni verso gli altri e per aiutarli a trattarsi in modi più propensi a generare relazioni significative e reali nel mondo.

Le liste di segnali di allarme da evitare hanno perso valore. I segnali che una volta tradivano i truffatori sono esattamente le caratteristiche che i modelli generativi hanno imparato a eliminare, creando una corsa agli armamenti in cui siamo perennemente intrappolati. Oltre alla Prima Regola — non inviare mai denaro a chi non conosci e non hai incontrato di persona, regola che tutti dovrebbero seguire — la domanda chiave non riguarda più la fotografia. Riguarda la piattaforma e ciò che essa fa con le informazioni che i suoi utenti non conoscono.

Una piattaforma che risponde bene a questa sfida sta attivamente progettando la fiducia. Una piattaforma che non lo fa chiede ai propri membri di fare più lavoro con un tasso di successo dello 0,1 % solo per proteggersi.

Pongo questa sfida a ogni piattaforma, compresa la mia. Mi aspetto risposte oneste e complete. La tecnologia per colmare questo divario esiste già. La frode persiste perché fermarla significherebbe rinunciare alla crescita massiccia che arriva attraverso la porta d’ingresso del signup senza sforzo. Si tratta di una decisione di business piuttosto che di una limitazione tecnica. E le piattaforme che prendono la decisione corretta detengono l’unico bene che conta in questa discussione: la fiducia dei loro membri.