Un operatore, migliaia di storie d’amore false: la nuova economia delle frodi basate sull’IA

Quando le aziende tecnologiche parlano di sicurezza, di solito si concentrano sulle minacce esterne, come le violazioni dei dati, le infrastrutture vulnerabili o le credenziali rubate. Ma per le imprese che si basano sulle interazioni umane, una delle minacce più gravi può trovarsi all’interno del prodotto stesso, negli account che gli utenti credono appartengano a persone reali. Questo aspetto è particolarmente rilevante negli incontri online, dove le persone condividono informazioni personali, dedicano tempo alle conversazioni e sviluppano legami emotivi con degli sconosciuti. Le conseguenze delle frodi vanno oltre i legami emotivi con gli sconosciuti. Incidono sulla disponibilità degli utenti a fidarsi della piattaforma e delle persone che vi incontrano.

Secondo una ricerca pubblicata da Sumsub nel 2026, l’84% degli utenti britannici di app di incontri intervistati riteneva che i contenuti generati dall’IA rendessero più difficile fidarsi dei potenziali partner o avere successo negli incontri, rispetto al 64% del 2025. Un altro 61% aveva subito un inganno tramite profili falsi oppure conosceva qualcuno a cui era successo. Questi risultati riflettono le percezioni dei consumatori, non l’effettiva diffusione degli account fraudolenti. Ciononostante, mettono in luce un problema per un settore il cui successo dipende dalla disponibilità delle persone a interagire con degli sconosciuti. L’IA rende meno costoso simulare interazioni e questo crea una sfida fondamentale per le imprese basate su autentiche interazioni umane.

Come l’IA ha cambiato l’economia delle frodi

Le truffe sentimentali non sono una novità. Da decenni i truffatori usano fotografie rubate, identità inventate e conversazioni preconfezionate. A cambiare sono stati i costi e la complessità necessari per gestire queste operazioni su larga scala. In passato, mantenere migliaia di profili credibili richiedeva notevoli risorse umane: i truffatori dovevano gestire le conversazioni, ricordare i dettagli personali, mantenere coerenti le identità e rispondere agli utenti per periodi prolungati. L’IA generativa ha ridotto gran parte di questo carico operativo.

Nel settembre 2026, Anthropic ha pubblicato un’indagine su una rete di oltre 20 app di incontri ingannevoli gestite da uno studio con sede in Cina. Nell’arco di due settimane, i ricercatori hanno individuato oltre 4.700 interazioni di personaggi generati dall’IA con almeno 25.000 persone e circa 2,36 milioni di messaggi generati. L’operazione combinava conversazioni generate dall’IA con il lavoro di operatori umani, che gestivano le interazioni per le quali era necessaria una persona reale, comprese le videochiamate in diretta. Le app nascondevano la natura automatizzata del servizio, presentando agli utenti quelle che sembravano autentiche opportunità di incontri. Si trattava di app concepite per ingannare, non di profili fraudolenti attivi all’interno di piattaforme di incontri già affermate. Il caso mostra tuttavia quanto l’IA possa ridurre le risorse necessarie per simulare interazioni umane credibili.

Per le piattaforme di incontri legittime, tecnologie analoghe rappresentano una sfida crescente. Fotografie generate, messaggi automatizzati, identità rubate e strumenti progettati per aggirare i sistemi di verifica possono essere usati per creare e mantenere account fraudolenti. Il problema non consiste più soltanto nell’individuare i profili sospetti. Le piattaforme devono far fronte ad attacchi sempre più sofisticati, mentre il costo per realizzarli continua a diminuire. E questo cambia l’economia della gestione di un’attività di incontri. La fiducia è sia una questione di prodotto sia una questione aziendale.

Le frodi comportano costi aziendali che vanno oltre la moderazione. Gli account falsi generano registrazioni, «Mi piace» e conversazioni che, nelle analisi del prodotto, sembrano legittimi e possono quindi falsare i segnali su cui si basano gli algoritmi di raccomandazione e i test A/B. C’è anche un aspetto commerciale: gli utenti che continuano a incontrare profili falsi potrebbero smettere di avviare conversazioni, essere meno attivi o spendere meno. L’entità di questo effetto varia da una piattaforma all’altra e va misurata, non data per scontata. Nel settore degli incontri, quindi, la lotta alle frodi fa parte dell’economia del prodotto, non è soltanto una funzione di sicurezza; e, man mano che l’IA rende meno costosa la produzione di attività sintetica, distinguere le interazioni autentiche da quelle artificiose diventa una decisione fondamentale per il prodotto.

Il dilemma gestionale: sicurezza o crescita

Una verifica più rigorosa sembra una risposta ovvia alle frodi sempre più sofisticate. In pratica, la decisione è più complessa: ogni passaggio aggiuntivo nella procedura di registrazione crea un ostacolo. Richiedere documenti d’identità, una verifica biometrica o controlli ripetuti può prevenire alcune forme di abuso, ma può anche scoraggiare gli utenti legittimi dal completare la registrazione. Questo incide direttamente sui costi di acquisizione. Se lo stesso budget di marketing porta a un numero inferiore di utenti registrati e attivi, aumenta il costo di acquisizione per ogni registrazione completata.

Per le app di incontri, le conseguenze possono andare oltre il percorso di registrazione. A differenza di molti altri prodotti per i consumatori, le piattaforme di incontri dipendono dalla densità della rete locale: affinché l’esperienza di abbinamento funzioni, gli utenti devono poter contare su un numero sufficiente di potenziali partner attivi e pertinenti in una determinata area geografica. Una procedura di verifica che limiti inutilmente le registrazioni legittime può quindi rallentare lo sviluppo della rete locale, ridurre le opportunità di abbinamento e incidere sulla fidelizzazione. Allo stesso tempo, lasciare attivi gli account fraudolenti comporta altri costi: consumo di risorse infrastrutturali, carico di lavoro per la moderazione, raccomandazioni distorte e calo della fiducia degli utenti. Un’eccessiva sicurezza può rendere un prodotto difficile da usare. Una sicurezza insufficiente può renderlo impossibile da considerare affidabile.

La prevenzione delle frodi dovrebbe essere gestita come una decisione di prodotto e aziendale, non come una funzione tecnica isolata. Un approccio basato sul rischio combina protezioni di base al momento della registrazione con l’analisi comportamentale, i segnali dei dispositivi, il monitoraggio dei contenuti e verifiche più rigorose quando emergono attività sospette. Tuttavia, superare un controllo di verifica non rende affidabile un utente, perché dimostrare la propria presenza non dimostra le proprie intenzioni. L’efficacia dovrebbe essere valutata considerando insieme diversi aspetti, tra cui le prestazioni nel rilevamento, i falsi positivi, la rapidità degli interventi, i costi di verifica, la conversione e la fidelizzazione. Un rilevamento più efficace che limiti ingiustamente molti utenti autentici non produce un risultato aziendale migliore. La privacy aggiunge un ulteriore livello di complessità, poiché l’analisi delle comunicazioni o la raccolta di ulteriori dati identificativi richiedono trasparenza, minimizzazione dei dati e rigorosi controlli di accesso. La questione non è quanti account fraudolenti una piattaforma riesca a bloccare, ma quanto efficacemente riesca a ridurre i rischi preservando al contempo una buona esperienza per gli utenti legittimi.

Oltre la verifica: il ruolo della community

Man mano che le conversazioni generate dall’IA diventano più convincenti, si pone una questione di prodotto. Le piattaforme di incontri dovrebbero concentrarsi solo sulle interazioni digitali oppure creare anche più occasioni perché queste si sviluppino nel mondo reale? In Fledge stiamo esplorando un modello che abbina la ricerca di corrispondenze basata sulla compatibilità a eventi dal vivo ed esperienze di community, così che il passaggio dalla scoperta algoritmica all’incontro di persona risulti naturale. Un evento non dimostra che una persona sia affidabile né sostituisce la verifica, ma aggiunge un contesto sociale che i profili e le chat non possono riprodurre. Lo consideriamo una direzione promettente, non una soluzione autonoma alle frodi basate sull’IA.

L’IA dovrebbe aiutare le persone a trovare corrispondenze compatibili, supportare la moderazione e rilevare comportamenti sospetti, non creare l’apparenza di relazioni. Il successo dovrebbe quindi essere misurato andando oltre gli utenti attivi, le corrispondenze e la conversione, includendo la qualità delle interazioni, l’autenticità e i risultati che gli utenti cercano davvero. Una piattaforma caratterizzata da un coinvolgimento elevato ma da poche connessioni autentiche rischia di ottimizzare il risultato sbagliato.

La fiducia come vantaggio competitivo

L’IA continuerà a rafforzare sia i truffatori sia le piattaforme che li contrastano, ed è improbabile che esista un’unica soluzione tecnica. La protezione richiederà un adattamento continuo, più livelli di rilevamento e una valutazione responsabile e attenta dei compromessi aziendali. Ma la sfida va oltre la sicurezza informatica. La fiducia influenza la qualità del prodotto, la crescita della rete, il comportamento degli utenti e i ricavi a lungo termine; inoltre, man mano che il coinvolgimento artificiale diventa meno costoso, le interazioni autentiche acquistano più valore. Negli incontri online, la fiducia non è una funzione di sicurezza: ancora una volta, la fiducia è il prodotto. Le piattaforme di prossima generazione potrebbero avere successo meno generando più interazioni e più creando un ambiente in cui gli utenti possano fidarsi del fatto che quelle interazioni siano reali.