Facebook utilizza bot e simulazioni per contrastare i comportamenti negativi degli utenti

Facebook (META ) ha progettato un nuovo AI destinato a rilevare meglio i comportamenti dannosi, lesivi e illegali. Come riporta The Verge, i ricercatori del dipartimento di intelligenza artificiale di Facebook a Londra hanno creato un simulatore di Facebook basato su AI chiamato “WW”, utilizzato per simulare il comportamento di truffatori, commercianti di prodotti illegali, spammer e altri attori negativi su una versione simulata di Facebook stesso.

Il simulatore di Facebook noto come “WW”, che prende il nome dalla troncatura di “WWW”, è stato rivelato da Facebook in un documento pubblicato ad aprile di quest’anno. WW è una versione clonata e contenuta di Facebook destinata ad assistere nel test di vari strumenti e algoritmi di Facebook.

La società ha recentemente divulgato ulteriori dettagli su alcuni dei suoi utilizzi di WW, uno dei quali è la simulazione di attori negativi attraverso l’AI. Utilizzando una serie di bot per simulare comportamenti come truffe, spam, molestie e altro, i ricercatori sperano di poter rilevare e contrastare meglio i comportamenti dannosi degli utenti.

Secondo l’ingegnere di Facebook Mark Harman, citato da The Verge, si prevede che WW sarà uno strumento prezioso per limitare vari comportamenti dannosi su Facebook. Ad esempio, Harman ritiene che le simulazioni possano essere utilizzate per progettare metodi migliori per rilevare i truffatori.

Gli ingegneri di Facebook hanno mimato il comportamento di truffatori di Facebook reali creando due gruppi di bot: uno di obiettivi e uno di truffatori. I truffatori spesso cercano attraverso le reti di amici, esplorando gli amici degli utenti, per trovare un potenziale obiettivo. Questo comportamento è stato mimato dai bot truffatori mentre gli ingegneri sperimentavano con diversi metodi per impedire che il bot innocente venisse truffato. Le tattiche che hanno sperimentato includevano numerose limitazioni come limitare il numero di messaggi privati che un bot poteva inviare ogni minuto.

Esistono alcuni modi in cui la simulazione di Facebook differisce dalla realtà. In primo luogo, la simulazione di Facebook non include effettivamente elementi visivi, quindi i dati derivati dalla simulazione sono tutti sotto forma di dati numerici e statistiche sulle interazioni tra bot. In secondo luogo, tutti gli attori nella simulazione sono bot, che non sono in grado di interagire con utenti reali. La simulazione WW non può inoltre tenere conto di cose come l’intento dell’utente o il contenuto di una conversazione data, poiché solo le azioni di invio di messaggi, commenti, ecc. sono simulate.

Secondo Harman, questo processo di sperimentazione con limitazioni è simile a quello degli urbanisti che cercano di ridurre la velocità su certe strade posizionando “dossi”. Allo stesso modo in cui un urbanista sperimenterebbe con la creazione di dossi e poi raccoglierebbe dati sulla loro utilità, gli ingegneri hanno analizzato come i messaggi e le interazioni tra bot variavano nel loro simulatore mentre variavano parametri e limitazioni. Harman spiega che l’obiettivo è quello di capire quali modifiche potrebbero essere apportate alla piattaforma di Facebook per inibire i comportamenti dannosi senza limitare gravemente i comportamenti normali o il flusso di traffico.

Harman spiega inoltre che il vantaggio dell’utilizzo di WW per le loro simulazioni è che le azioni che studiano si verificano su infrastrutture di Facebook reali, il che dà loro un’idea molto migliore di come le loro modifiche potrebbero impattare gli utenti di Facebook reali. Qualsiasi applicazione di questi risultati dovrà attendere un po’ di tempo, poiché attualmente WW e la sua simulazione sono solo nella fase di ricerca. Harman e altri ricercatori di Facebook non applicheranno effettivamente le loro scoperte alla versione live di Facebook, poiché c’è ancora molto lavoro da fare. Il gruppo di ricerca deve accertarsi che le simulazioni che creano si adattino adeguatamente al comportamento umano reale.

Il principale vantaggio di WW, secondo Harman, è la sua capacità di operare su larga scala, consentendo ai ricercatori di Facebook di verificare le potenziali conseguenze di migliaia di piccole modifiche, tutte attraverso le simulazioni che produce.

In futuro, i ricercatori potrebbero lasciare che i bot si comportino liberamente ed esplorino per un po’ di tempo, per vedere quali tipi di interazioni sviluppano da soli, che possono spesso essere qualcosa che i ricercatori non stanno nemmeno anticipando.

“Al momento, l’attenzione principale è quella di addestrare i bot a imitare cose che sappiamo accadono sulla piattaforma. Ma in teoria e in pratica, i bot possono fare cose che non abbiamo visto prima”, ha detto Harman. “Questo è effettivamente qualcosa che vogliamo, perché alla fine vogliamo stare un passo avanti rispetto ai comportamenti negativi piuttosto che continuare a inseguirli”.

Se tutto va bene, Facebook potrebbe iniziare ad apportare modifiche in base alle simulazioni di WW entro la fine del 2020.