Boti se vyvinuli, aby lépe napodobovali lidské chování pro volby 2020

Emilio Ferrara, počítačový vědec z USC Information Sciences Institute (USC ISI), má novou studii, která ukazuje, že boti a falešné účty na sociálních médiích se vyvíjejí, aby lépe napodobovali lidské chování, aby nebyli odhaleni, a toすべて díky umělé inteligenci.

Studie, kterou provedl Ferrara a jeho tým, včetně Luca Luceri (Scuola Universitaria Professionale della Svizzera Italiana), Ashok Deb (USC ISI) a Silvie Giordano (Scuola Universitaria Professionale della Svizzera Italiana), byla zveřejněna v časopise First Monday. Tým výzkumníků se zaměřil na různé boty a falešné účty, které byly použity během amerických voleb v roce 2018, a porovnal je s chováním během amerických voleb v roce 2016.

Celkem tým výzkumníků studoval asi 250 000 uživatelů sociálních médií, kteří diskutovali o volbách v roce 2016 a 2018. Z těchto 250 000 uživatelů tým nalezl 30 000 botů.

Boti během voleb v roce 2016 většinou retweetovali obsah a zaměřili se na rozesílání velkého množství tweetů týkajících se stejné otázky nebo zprávy. Boti v roce 2018 se vyvinuli stejně jako lidé, co se týče sociálních médií. Boti začali retweetovat méně obsahu a přestali sdílet tyto zprávy ve velkém množství.

Boti v roce 2018 se stali lepšími v napodobování lidského chování. Výzkumníci zjistili, že byli více pravděpodobně používat více botů současně, aby vypadali autenticky. Používali to, aby se zdálo, že je legitimní lidská interakce kolem nějaké myšlenky.

V té době lidé začali interagovat prostřednictvím odpovědí spíše než retweetů. Boti následovali tento trend. Používali odpovědi, aby se zapojili do dialogu a vytvořili hlas na nějaké otázce nebo zprávě. Používali také průzkumy, aby replikovali strategii používanou legitimními zpravodajskými agenturami a průzkumnými agenturami. Výzkumníci se domnívají, že tyto průzkumy byly použity k vytvoření obrazu důvěryhodnosti.

Jedním z příkladů, které výzkumníci použili, byl bot, který zveřejnil online průzkum na Twitteru o federálních volbách. Průzkum se zeptal, zda by mělo být vyžadováno předložení identifikace při hlasování v těchto volbách. Bot poté požádal uživatele Twitteru, aby hlasovali a retweetovali průzkum.

Emilio Ferrara, hlavní autor studie, hovořil o nové studii a o tom, co to znamená.

“Naše studie dále potvrzuje myšlenku, že existuje závod ve zbrojení mezi boty a detekčními algoritmy. Jak sociální média společnosti vynakládají více úsilí na zmírnění zneužívání a potlačení automatizovaných účtů, boti se vyvíjejí, aby napodobovali lidské strategie. Přístup k umělé inteligenci umožňuje botům produkovat více lidsky vypadající obsah. Musíme se více snažit pochopit, jak se boti vyvíjejí a jak lze detekovat více sofistikované boty. S blížícími se americkými volbami v roce 2020 je integrita sociálních médií zásadní pro demokratický proces bez vnějších vlivů.”

Velké důsledky pro budoucnost

Problém falešných online sociálních médií a botů během voleb je problémem již mnoho let. Problémy, které se během voleb v roce 2016 zdály obrovské, byly malé ve srovnání s tím, co uvidíme v blízké budoucnosti. S umělou inteligencí se tento problém ještě zhorší.

Boti budou pokračovat ve vývoji, aby lépe napodobovali lidské chování, a to především díky umělé inteligenci. Bude to chvíli, kdy bude nemožné určit, kdo je skutečný a kdo ne. To bude mít dramatické důsledky nejen pro nadcházející americké volby v roce 2020, ale také pro všechny budoucí volby v USA a po celém světě.