Facebook видаляє облікові записи, створені штучним інтелектом, та використовувані для поширення теорій змови

Компанії соціальних медіа намагаються контролювати дезінформацію перед виборами 2020 року різними способами. Наприклад, Twitter недавно заборонив політичні оголошення на своїй платформі, а Facebook (META ) оголосив, що закрив сотні фальшивих облікових записів, груп та сторінок. Багато з цих облікових записів мали профільні зображення, створені штучним інтелектом, і, як повідомляється, були використані для поширення дезінформації та теорій змови.

За даними Forbes, Facebook заявив, що заборонені облікові записи та сторінки були пов’язані з мережею “Beauty of Life” або “TheBL”, яку Facebook пов’язав з консервативною групою видавців новин Epoch Times. За даними Facebook, Epoch Media Group витратила майже 9,5 мільйона доларів на рекламу через багато заборонених сторінок і груп, а багато постів містили прореспубліканські теорії змови. Хоча Epoch Media Group заперечує ці звинувачення, Facebook заявив, що він тісно співпрацював з незалежними дослідниками, такими як Graphika і лабораторія цифрових досліджень Ради Атлантики (DFRLab), щоб визначити характер облікових записів і сторінок перед тим, як вжити заходів проти них.

За даними Facebook, облікові записи були видалені за “координовану неавтентичну поведінку”, свідоме введення в оману інших щодо їхньої особи, а також за спроби політичного втручання. За даними CNET, Facebook заявив, що облікові записи часто публікували контент, який просував конкретних політичних кандидатів і ідеологію, зосереджуючись на консервативних виборах, консервативних політиках та сильній підтримці президента Трампа.

Facebook опублікував 39-сторінковий звіт про цю подію, який містить багато їхніх висновків. Одним із помітних аспектів звіту Facebook було те, що багато заборонених облікових записів були створені з допомогою штучного інтелекту. Дослідники Facebook заявили в звіті:

“Десятки цих фальшивих облікових записів мали профільні зображення, створені штучним інтелектом, у першому великомасштабному розгортанні фальшивих облич, відомому авторам цього звіту.”

За даними звіту, зображення, створені штучним інтелектом, не були досконалими, а деталі часто викривали їхню справжню природу. Суміжні елементи зображення, такі як окуляри чи волосся людини, часто були асиметричними. Крім того, фоновані деталі часто були розмитими та спотвореними. Однак ці елементи можуть не бути помітними на перший погляд, особливо якщо враховувати малий розмір зображень профілів у ланцюгу коментарів Facebook. Багато фальшивих профілів також, як повідомлялося, мали фальшиву інформацію про профіль та навіть фальшиві пости, потенційно створені штучним інтелектом.

За даними NBC, керівник політики безпеки Facebook Натаніель Глейхер заявив, що поведінка облікових записів була тим, що викрило їх як неавтентичні, а спроби використовувати фальшиві зображення та інформацію про профіль не допомагають захистити облікові записи від виявлення. Глейхер заявив, що зображення, створені штучним інтелектом, фактично збільшували ймовірність виявлення облікових записів. Глейхер заявив:

“Ми виявили ці облікові записи, оскільки вони займалися фальшивою поведінкою. Використання зображень, створених штучним інтелектом, як засобу зробити себе більш реальним, насправді не допомагає їм. Найбільший висновок тут полягає в тому, що мережа використовує фальшиві особи… Що нового тут полягає в тому, що це, як передбачається, американська медійна компанія, яка використовує іноземних акторів, видаючи себе за американців, щоб поширити політичний контент. Ми бачили це багато разів у державних акторів у минулому.”

Однак незалежні дослідники з Graphika та Ради Атлантики заявили, що легкість, з якою зловмисники могли створити так багато зображень і надати своїм обліковим записам уявну автентичність, “є проблемою”. Facebook та інші компанії соціальних медіа піддаються тиску щодо посилення зусиль з боротьби проти поширення політичної дезінформації, що вимагатиме технологічного лідерства серед тих, хто намагається поширити дезінформацію.

Перед тим, як Facebook прибрав облікові записи, сторінки та групи, контент, опублікований цими сутностями, досяг мільйонів людей. За повідомленнями, щонайменше 55 мільйонів облікових записів мали на увазі одну з 89 заборонених сторінок. Більшість підписників були обліковими записами поза США. Загалом було видалено близько 600 облікових записів, 90 сторінок і 150 груп з Facebook. Приблизно 70 облікових записів також були видалені з Instagram.

Ця новина з’явилася саме тоді, коли Facebook запускає виклик з виявлення DeepFake, який триватиме до березня 2020 року. Twitter також недавно заборонив майже 6000 облікових записів, які, як підозрюється, походять з Саудівської Аравії та публікували свідомо вводять в оману контент.