Facebook gebruikt bots en simulaties om slecht gedrag van gebruikers te bestrijden

Facebook (META ) heeft een nieuwe AI ontwikkeld om schadelijk, beschadigend en illegaal gedrag beter te detecteren. Volgens The Verge hebben onderzoekers van Facebook’s Londense AI-afdeling een AI-gestuurde Facebook-simulator genaamd “WW” ontwikkeld, die wordt gebruikt om het gedrag van oplichters, illegale productverkopers, spammers en andere slechte actoren te simuleren op een gesimuleerde versie van Facebook zelf.

De Facebook-simulator “WW”, genoemd naar een afkorting van “WWW”, werd door Facebook onthuld in een paper die in april van dit jaar werd gepubliceerd. WW is een gekloonde, geïsoleerde versie van Facebook die bedoeld is om te helpen bij het testen van verschillende Facebook-hulpmiddelen en algoritmen.

Het bedrijf heeft onlangs meer details onthuld over enkele van de toepassingen van WW, waaronder de simulatie van slechte actoren met behulp van AI. Door het gebruik van een aantal bots om gedrag te simuleren zoals oplichting, spamming, intimidatie en meer, hopen de onderzoekers dat ze in staat zullen zijn om schadelijk gedrag door gebruikers beter te detecteren en te bestrijden.

Volgens Facebook-engineer Mark Harman, zoals geciteerd door The Verge, wordt verwacht dat WW een waardevol hulpmiddel zal zijn in het bestrijden van verschillende soorten schadelijk gedrag op Facebook. Zo denkt Harman dat de simulaties kunnen worden gebruikt om betere methoden te ontwikkelen voor het detecteren van oplichters.

Facebook-engineers hebben het gedrag van echte Facebook-oplichters nagebootst door twee groepen bots te creëren: een groep doelwitten en een groep oplichters. Oplichters zoeken vaak door netwerken van vrienden, waarbij ze de vrienden van gebruikers onderzoeken om een potentieel doelwit te vinden. Dit gedrag werd nagebootst door de oplichter-bots toen de engineers experimenteerden met verschillende methoden om de onschuldige bot te beschermen tegen oplichting. De tactieken die ze hebben getest, omvatten verschillende beperkingen, zoals het limiteren van het aantal privéberichten dat een bot per minuut kan verzenden.

Er zijn een aantal manieren waarop de gesimuleerde Facebook verschilt van de echte. Ten eerste bevat de simulatie van Facebook geen visuele elementen, dus de gegevens die uit de simulatie worden afgeleid, zijn allemaal in de vorm van numerieke gegevens en statistieken over interacties tussen bots. Ten tweede zijn alle actoren in de simulatie bots, die niet in staat zijn om met echte gebruikers te interageren. De WW-simulatie kan ook geen rekening houden met dingen zoals de bedoeling van de gebruiker of de inhoud van een bepaalde conversatie, aangezien alleen de acties van het verzenden van berichten, het maken van opmerkingen enz. worden gesimuleerd.

Volgens Harman is dit proces van experimenteren met beperkingen vergelijkbaar met stedelijke planners die proberen de snelheid op bepaalde wegen te verlagen door “snelheidsdrempels” aan te leggen. Net zoals een stedelijke planner zou experimenteren met het creëren van snelheidsdrempels en vervolgens gegevens verzamelen over hun nut, hebben de engineers geanalyseerd hoe berichten en interacties tussen bots varieerden in hun simulator toen ze parameters en beperkingen varieerden. Harman legt uit dat het doel is om een idee te krijgen van welke veranderingen kunnen worden aangebracht in Facebook’s platform om schadelijk gedrag te voorkomen zonder het normale gedrag of de vrije doorstroom van verkeer te beperken.

Harman legt ook uit dat het voordeel van het gebruik van WW voor hun simulaties is dat de acties die ze bestuderen, plaatsvinden op echte Facebook-infrastructuur, wat hen een veel betere indruk geeft van hoe hun voorgestelde veranderingen de echte Facebook-gebruikers kunnen beïnvloeden. Eventuele toepassingen van deze bevindingen zullen moeten wachten tot later, aangezien WW en zijn simulatie nu nog in het onderzoeksstadium zitten. Harman en andere Facebook-onderzoekers zullen hun bevindingen nog niet toepassen op de live-versie van Facebook, aangezien er nog veel werk moet worden gedaan. Het onderzoeksteam moet vaststellen dat de simulaties die ze creëren, overeenkomen met het echte menselijke gedrag.

Het belangrijkste voordeel van WW, volgens Harman, is zijn vermogen om op een enorme schaal te opereren, waardoor Facebook-onderzoekers de potentiële gevolgen van duizenden kleine aanpassingen kunnen controleren, allemaal via de simulaties die het produceert.

In de toekomst kunnen de onderzoekers de bots misschien gewoon laten spelen en experimenteren voor een tijdje, om te zien welke soorten interacties ze zelf verzinnen, wat vaak iets is dat onderzoekers niet eens verwachten.

“Op dit moment is de belangrijkste focus het trainen van de bots om dingen na te bootsen die we weten gebeuren op het platform. Maar in theorie en in praktijk, de bots kunnen dingen doen die we niet eerder hebben gezien,” zei Harman. “Dat is eigenlijk iets wat we willen, omdat we uiteindelijk vooruit willen blijven lopen op het slechte gedrag in plaats van voortdurend achter te blijven.”

Als alles goed gaat, kan Facebook mogelijk modificaties aanbrengen op basis van WW’s simulaties tegen het einde van 2020.