Боты стали лучше имитировать человеческое поведение к выборам 2020 года

Эмилио Феррара, компьютерный ученый из USC Information Sciences Institute (USC ISI), представил новое исследование, показывающее, что боты и фальшивые аккаунты в социальных сетях эволюционируют, чтобы лучше имитировать человеческое поведение и оставаться незамеченными, все это благодаря искусственному интеллекту.

Исследование, проведенное Феррарой и его командой, в которую входили Лука Лучери (Scuola Universitaria Professionale della Svizzera Italiana), Ашок Деб (USC ISI) и Сильвия Джордано (Scuola Universitaria Professionale della Svizzera Italiana), было опубликовано в журнале First Monday. Они изучали различные боты и фальшивые аккаунты, использованные во время выборов в США в 2018 году, и сравнили их с поведением во время выборов в 2016 году.

Всего команда исследователей изучила около 250 000 активных пользователей социальных сетей и сосредоточилась на тех, кто обсуждал выборы 2016 и 2018 годов. Из этих 250 000 пользователей команда обнаружила, что 30 000 из них были ботами.

Боты во время выборов 2016 года в основном ретвитили контент и сосредоточились на отправке большого количества твитов по одной и той же теме или сообщению. Боты в 2018 году эволюционировали так же, как и люди, когда речь шла о социальных сетях. Боты начали ретвитить меньше контента и перестали делиться этими сообщениями в большом объеме.

Боты в 2018 году стали лучше имитировать человеческое поведение. Исследователи обнаружили, что они с большей вероятностью использовали несколько ботов одновременно, чтобы казаться более аутентичными. Они использовали это, чтобы казалось, что это легитимное человеческое взаимодействие вокруг идеи.

В то время люди начали взаимодействовать через ответы, а не ретвиты. Боты последовали этому примеру. Они использовали ответы, чтобы вступить в диалог и установить голос по вопросу или сообщению. Они также использовали опросы, чтобы повторить стратегию, используемую легитимными новостными изданиями и опросниками. Исследователи считают, что эти опросы были использованы для создания образа авторитетности.

Одним из примеров, использованных исследователями, был бот, который опубликовал онлайн-опрос в Twitter о федеральных выборах. Опрос спросил, должно ли быть обязательным представление удостоверения личности при голосовании на этих выборах. Бот затем попросил пользователей Twitter проголосовать и ретвитить опрос.

Эмилио Феррара, ведущий автор исследования, рассказал о новом исследовании и о том, что оно значит.

“Наше исследование进一步 подтверждает идею о том, что существует гонка вооружений между ботами и алгоритмами обнаружения. Когда социальные сети больше努力 предотвратить злоупотребления и подавить автоматические аккаунты, боты эволюционируют, чтобы имитировать человеческие стратегии. Достижения в области ИИ позволяют ботам производить более человеческий контент. Нам нужно посвятить больше усилий, чтобы понять, как боты эволюционируют и как более сложные из них могут быть обнаружены. С предстоящими выборами в США в 2020 году целостность социального медиа-дискурса имеет первостепенное значение, чтобы позволить демократический процесс, свободный от внешних влияний.”

Большие последствия для будущего

Проблема фальшивых онлайн-социальных сетей и ботов во время выборов существует уже много лет. Проблемы, которые разворачивались во время выборов 2016 года, казались огромными в то время, но это было небольшой проблемой по сравнению с тем, что мы увидим в ближайшем будущем. С искусственным интеллектом это станет хуже.

Боты будут продолжать эволюционировать, чтобы лучше имитировать человеческое поведение, в основном благодаря искусственному интеллекту. Это дойдет до точки, когда станет невозможно определить, кто реальный, а кто нет. Это будет иметь драматические последствия не только для предстоящих выборов в США в 2020 году, но и для всех будущих выборов там и во всем мире.