Дослідники починають тренувати штучний інтелект для боротьби з ненавистницькими висловлюваннями в Інтернеті

Фейкові новини та ненавистницькі висловлювання в Інтернеті стають не щоденною, а щохвилинною проблемою в Інтернеті. За даними IkigaiLab, Facebook (META ) і Twitter тільки нещодавно мали закрити понад 1,5 мільярда і 70 мільйонів облікових записів відповідно, щоб хоча б трохи обмежити поширення фейкових новин і ненавистницьких висловлювань по всьому світу.

Все ж таки, на даний момент така задача вимагає величезної людської сили і майже постійної роботи, щоб тільки торкнутися куточка айсберга ненавистницьких висловлювань. Для вирішення цієї проблеми дослідники в численних лабораторіях починають тренувати штучний інтелект (ШІ), щоб допомогти у виконанні цієї гігантської задачі.

Ikigai цитує систему Rosetta, яку Facebook використовує для розуміння автентичності новин, зображень або іншого контенту, який завантажується на цю соціальну мережу. Як пояснюється, система Rosetta сканує “слово, зображення, мову, шрифт, дату публікації серед інших змінних і намагається визначити, чи є інформація, представлена в публікації, справжньою чи ні”. Після того, як система збирає інформацію і враховуючи, що ШІ ще не повністю “здатний зрозуміти натяки, посилання, тонкощі і контекст, у якому був опублікований контент”, людські модератори беруть на себе керівництво системою ШІ для виявлення ненавистницьких висловлювань і фейкових новин.

Для подальшого розвитку можливостей систем ШІ для боротьби з ненавистницькими висловлюваннями команда дослідників з UC Santa Barbara і Intel (INTC ), як повідомляє TheNextWeb (TNW), “взяла тисячі розмов з найбільш ненавистницьких спільнот на Reddit і Gab і використала їх для розробки і тренування ШІ для боротьби з ненавистницькими висловлюваннями”.

За їхнім звітом, для цього спільна група дослідників створила спеціальну базу даних, яка містить “тисячі розмов, спеціально відібраних для забезпечення їхньої повноти ненавистницькими висловлюваннями”. Вони також використали список груп на Reddit, які найбільш характеризуються використанням ненавистницьких висловлювань, складений Джастіном Каффіром з Vox.

Дослідники зібрали “більше 22 000 коментарів з Reddit і понад 33 000 з Gab”. Вони виявили, що два сайти демонструють podobні популярні ненавистницькі ключові слова, але розподіли дуже різні.

Вони зазначили, що через ці відмінності соціальним мережам загалом дуже складно втрутитися в реальному часі, оскільки потік ненавистницьких висловлювань настільки високий, що це вимагало б безлічі реальних осіб для його відстеження.

Для вирішення цієї проблеми дослідницька команда почала тренувати ШІ для втручання. Їхню початкову базу даних було надіслано працівникам Amazon (AMZN ) Turk для маркування. Після ідентифікації окремих випадків ненавистницьких висловлювань працівники розробили фрази, які ШІ буде використовувати ” для зупинки користувачів від публікації подібних ненавистницьких висловлювань у майбутньому.”

На основі цього команда “виконала цю базу даних і свою базу втручань через різні системи машинного навчання і обробки природної мови і створила певний прототип системи ШІ для втручання проти ненавистницьких висловлювань в Інтернеті.”

Отримані результати були відмінними, але оскільки розробка ще знаходиться на ранній стадії, система ще не готова до активного використання. Як пояснюється, “система, в теорії, повинна виявляти ненавистницькі висловлювання і негайно надсилати повідомлення постачальнику, повідомляючи йому, чому він не повинен публікувати речі, які явно представляють ненавистницькі висловлювання. Це залежить не тільки від виявлення ключових слів – для того, щоб ШІ працював, йому потрібно правильно зрозуміти контекст.”