Facebook folosește roboți și simulări pentru a încerca să contracareze comportamentul necorespunzător al utilizatorilor

Facebook a proiectat o nouă inteligență artificială menită să detecteze mai bine comportamentul dăunător, prejudiciabil și ilegal. Așa cum raportează The Verge, cercetătorii de la departamentul de inteligență artificială al Facebook din Londra au creat un simulator de Facebook condus de inteligență artificială, numit „WW”, care este utilizat pentru a simula comportamentul escrocilor, al comercianților de produse ilegale, al spammerilor și al altor actori răi pe o versiune simulată a Facebook.

Simulatorul Facebook, cunoscut sub numele de „WW”, care își trage numele de la o prescurtare a „WWW”, a fost dezvăluit de Facebook într-un document publicat în luna aprilie a acestui an. WW este o versiune clonată și conținută a Facebook, menită să ajute la testarea diferitelor unelte și algoritmi Facebook.

Compania a dezvăluit recent mai multe detalii despre unele dintre utilizările sale pentru WW, una dintre acestea fiind simularea actorilor răi prin inteligență artificială. Prin utilizarea unui număr de roboți pentru a simula comportamentul precum escrocheria, spammingul, hărțuirea și altele, cercetătorii speră că vor putea detecta și contracara mai bine comportamentul dăunător al utilizatorilor.

Conform inginerului Facebook, Mark Harman, așa cum este citat de The Verge, se anticipă că WW va fi un instrument valoros în reducerea diferitelor comportamente dăunătoare pe Facebook. De exemplu, Harman crede că simulările pot fi utilizate pentru a proiecta metode mai bune de detectare a escrocilor.

Inginerii Facebook au imitat comportamentul escrocilor reali de pe Facebook, creând două grupuri de roboți: un grup de ținte și un grup de escroci. Escrocii caută adesea prin rețele de prieteni, explorând prietenii utilizatorilor, pentru a găsi o țintă potențială. Acest comportament a fost imitat de roboții escroci, pe măsură ce inginerii experimentau cu diferite metode de prevenire a botului inocent de a fi escrocat. Tacticile pe care le-au experimentat au inclus numeroase constrângeri, cum ar fi limitarea numărului de mesaje private pe care un robot le putea trimite pe minut.

Există câteva moduri în care simularea Facebook diferă de realitate. În primul rând, simularea Facebook nu conține elemente vizuale, astfel încât datele obținute din simulare sunt sub formă de date numerice și statistici privind interacțiunile dintre roboți. În al doilea rând, toți actorii din simulare sunt roboți, care nu sunt capabili să interacționeze cu utilizatori reali. Simularea WW nu poate lua în considerare lucruri precum intenția utilizatorului sau conținutul unei conversații date, deoarece numai acțiunile de trimitere a mesajelor, de făcut comentarii etc. sunt simulate.

Conform lui Harman, acest proces de experimentare cu constrângeri este similar cu încercarea urbanistului de a reduce viteza pe anumite drumuri prin punerea de „dosuri”. Similar cu modul în care un urbanist ar experimenta crearea de dosuri și apoi ar colecta date despre utilitatea lor, inginerii au analizat modul în care mesajele și interacțiunile dintre roboți variază în simulatorul lor, pe măsură ce variază parametrii și constrângerile. Harman explică că scopul este de a obține o idee despre ce schimbări ar putea fi făcute pe platforma Facebook pentru a inhiba comportamentul dăunător, fără a limita sever comportamentul normal sau fluxul liber de trafic.

Harman explică, de asemenea, că avantajul utilizării WW pentru simulări este acela că acțiunile pe care le studiază au loc pe infrastructura reală a Facebook, ceea ce le oferă o idee mult mai bună despre modul în care modificările propuse ar putea afecta utilizatorii reali ai Facebook. Orice aplicații ale acestor descoperiri vor trebui să aștepte o perioadă de timp, deoarece, în prezent, WW și simularea sa se află doar în stadiul de cercetare. Harman și alți cercetători Facebook nu vor aplica încă descoperirile lor pe versiunea live a Facebook, deoarece mai este mult de lucru de făcut. Grupul de cercetare trebuie să stabilească dacă simulările pe care le creează corespund în mod adecvat comportamentului uman real.

Principalul avantaj al WW, conform lui Harman, este capacitatea sa de a funcționa la scară masivă, permițând cercetătorilor Facebook să verifice consecințele potențiale ale miilor de ajustări minore, toate prin intermediul simulărilor pe care le produce.

În viitor, cercetătorii ar putea lăsa roboții să se joace și să experimenteze pentru o perioadă, pentru a vedea ce fel de interacțiuni vin cu ei, ceea ce poate fi adesea ceva pe care cercetătorii nu l-au anticipat.

„În acest moment, accentul principal este pe antrenarea roboților pentru a imita lucrurile pe care le știm că se întâmplă pe platformă. Dar, în teorie și în practică, roboții pot face lucruri pe care nu le-am văzut înainte”, a spus Harman. „Acesta este, de fapt, ceva pe care îl dorim, deoarece, în cele din urmă, dorim să ne punem înaintea comportamentului dăunător, în loc să jucăm mereu prinderea”.

Dacă totul merge bine, Facebook ar putea începe să facă modificări pe baza simulărilor WW până la sfârșitul anului 2020.