A Facebook botokat és szimulációkat használ a felhasználók rossz viselkedésének ellensúlyozására

A Facebook új mesterséges intelligenciát tervezett a káros, káros és illegális viselkedés jobb észlelésére. Ahogy a The Verge beszámolA Facebook londoni mesterséges intelligencia osztályának kutatói létrehoztak egy „WW” nevű, mesterséges intelligencia által vezérelt Facebook-szimulátort, amely csalók, illegális termékkereskedők, spammerek és más rossz szereplők viselkedésének szimulálására szolgál magán a Facebook szimulált verzióján.

A „WW” néven ismert Facebook-szimulátor, amely a „WWW” rövidítéséből kapta a nevét. – derült ki egy újságból a Facebook ez év áprilisában jelent meg. A WW a Facebook klónozott, tartalmazott változata, amelynek célja a Facebook különféle eszközeinek és algoritmusainak tesztelése.

A cég a közelmúltban közölt további részleteket a WW néhány felhasználásáról, amelyek közül az egyik a rossz szereplők mesterséges intelligencia segítségével történő szimulációja. Számos felhasználásával botok a viselkedés szimulálására A kutatók abban reménykednek, hogy képesek lesznek jobban észlelni és ellensúlyozni a felhasználók káros viselkedését, mint például a csalást, a kéretlen leveleket, a zaklatást és egyebeket.

A Facebook mérnöke, Mark Harman szerint – amint azt a Verge idézi – várhatóan a WW értékes eszköz lesz a Facebookon megjelenő különféle káros viselkedések visszaszorításában. Harman például úgy véli, hogy a szimulációk segítségével jobb módszereket lehet kidolgozni a csalók felderítésére.

A Facebook mérnökei a valós Facebook csalók viselkedését utánozták azzal, hogy két botcsoportot hoztak létre: egy csoportot a célpontokból és egy csoportot a csalókból. A csalók gyakran baráti hálózatokon keresztül vadásznak, felderítve a felhasználók barátait, hogy potenciális célpontot találjanak. Ezt a viselkedést a csalóbotok utánozták, miközben a mérnökök különböző módszerekkel kísérleteztek az ártatlan bot átverésének megakadályozására. Az általuk kísérletezett taktikák számos megszorítást tartalmaztak, például korlátozták, hogy egy bot percenként hány privát üzenetet küldhet.

A szimulált Facebook néhány szempontból eltér a valóditól. Egyrészt a Facebook szimulációja valójában nem tartalmaz vizuális elemeket, így a szimulációból származó adatok mind számszerű adatok és a botok közötti interakciókra vonatkozó statisztikák formájában vannak. Másrészt a szimuláció minden szereplője bot, amely nem képes valódi felhasználókkal való interakcióra. A WW szimuláció sem tud figyelembe venni olyan dolgokat, mint a felhasználói szándék vagy egy adott beszélgetés tartalma, mivel csak az üzenetküldés, megjegyzések stb. műveletei szimulálódnak.

Harman szerint ez a korlátokkal való kísérletezési folyamat hasonló ahhoz, ahogy a várostervezők megpróbálják csökkenteni a sebességet bizonyos utakon a „sebességrögök” elhelyezésével. Hasonlóan ahhoz, ahogy egy várostervező kísérletezne a sebességkorlátozások létrehozásával, majd a hasznosságukra vonatkozó adatok gyűjtésével, a mérnökök azt elemezték, hogyan változtak az üzenetek és a botok közötti interakciók a szimulátorukban, ahogy változtatták a paramétereket és a korlátokat. Harman elmagyarázza, hogy a cél az, hogy képet kapjunk arról, milyen változtatásokat lehetne végrehajtani a Facebook platformján a káros viselkedés megakadályozása érdekében, anélkül, hogy súlyosan korlátoznánk a normál viselkedést vagy a forgalom szabad áramlását.

Harman azt is elmagyarázza, hogy a WW szimulációihoz való használatának az az előnye, hogy az általuk vizsgált műveletek valódi Facebook-infrastruktúrán történnek, ami sokkal jobb képet ad arról, hogy a javasolt változtatásaik milyen hatással lehetnek a valódi Facebook-felhasználókra. Ezen eredmények bármilyen alkalmazására várni kell, mivel jelenleg a WW és szimulációja még csak kutatási szakaszban van. Harman és más Facebook-kutatók még nem alkalmazzák eredményeiket a Facebook élő verziójára, mivel még sok munka van hátra. A kutatócsoportnak meg kell győződnie arról, hogy az általuk készített szimulációk megfelelően illeszkednek a valós emberi viselkedéshez.

Harman szerint a WW fő előnye az, hogy képes hatalmas léptékben működni, lehetővé téve a Facebook kutatóinak, hogy ellenőrizzék a több ezer különböző kisebb módosítás lehetséges következményeit az általa előállított szimulációkon keresztül.

A jövőben a kutatók hagyhatják, hogy a robotok csak játszanak és kísérletezzenek egy darabig, hogy meglássák, milyen interakciókra jutnak maguktól, ami gyakran olyasmi lehet, amire a kutatók nem is számítanak.

„Jelenleg a fő hangsúly a robotok képzésén van, hogy utánozzák azokat a dolgokat, amelyekről tudjuk, hogy a platformon történnek. De elméletben és a gyakorlatban a robotok képesek olyasmire, amit mi nincs korábban látott" - mondta Harman. „Valójában ezt akarjuk, mert végső soron megelőzni akarjuk a rossz viselkedést, ahelyett, hogy folyamatosan felzárkóznánk.”

Ha minden jól megy, a Facebook 2020 végére megkezdheti a WW szimulációi alapján történő módosításokat.