Інженери штучного інтелекту розробили метод, який може визначити намір тих, хто поширює дезінформацію

Розподілення дезінформації в епоху цифрових технологій – це складна проблема. Не тільки дезінформацію потрібно ідентифікувати, маркувати та виправляти, але також потрібно розрізняти намір тих, хто відповідає за цю заяву. Людина може невідомо поширювати дезінформацію або просто висловлювати свою думку з цього питання, хоча пізніше вона буде повідомлена як факт. Нещодавно команда дослідників штучного інтелекту та інженерів у Дартмуті створила框, який можна використовувати для виведення висновків з “фейкових новин”.

Як повідомляє ScienceDaily, дослідження команди Дартмута було недавно опубліковано в Журналі експериментальної та теоретичної штучної інтелекту. Хоча попередні дослідження намагалися ідентифікувати фейкові новини та боротися з обманом, це, можливо, перше дослідження, яке мало на меті ідентифікувати намір оратора в новинній статті. Хоча справжня історія може бути спотворена у різні обманливі форми, важливо розрізняти, чи був намір обманути. Команда дослідників стверджує, що намір має значення при розгляді дезінформації, оскільки обман можливий лише у разі наявності наміру обманути. Якщо людина не усвідомлювала, що поширює дезінформацію, або якщо вона просто висловлювала свою думку, не може бути обману.

Юджин Сантос-молодший, професор інженерії в школі інженерії Тейера у Дартмуті, роз’яснив ScienceDaily, чому їхня модель намагається розрізняти обманливий намір:

“Обманливий намір обманути слухачів навмисне становить набагато більшу загрозу, ніж ненавмисні помилки. На нашу думку, наш алгоритм – це єдиний метод, який виявляє обман і одночасно розрізняє зловмисні акти від безпечних дій.”

Для побудови своєї моделі команда дослідників проаналізувала особливості обманливого мислення. Результатом став алгоритм, який міг розрізняти намір обманути від інших форм спілкування, зосереджуючись на розбіжностях між минулими аргументами людини та її поточними заявами. Модель, створена командою дослідників, потребує великих обсягів даних, які можна використовувати для вимірювання того, як людина відхиляється від минулих аргументів. Дані, використані командою для навчання своєї моделі, складалися з даних, отриманих з опитування думок про спірні теми. Більше 100 людей висловили свою думку щодо цих спірних питань. Дані також були взяті з відгуків про 20 різних готелів, що складаються з 400 фейкових відгуків та 800 справжніх відгуків.

За словами Санто,.framework, розроблений дослідниками, можна вдосконалити та застосувати новинними організаціями та читачами, щоб дозволити їм аналізувати вміст “фейкових новин”. Читачі могли б перевіряти статті на наявність думок та визначати самі, чи був використаний логічний аргумент. Санто також сказав, що команда хоче вивчити вплив дезінформації та її наслідки.

Популярна культура часто зображує невербальні поведінки, такі як міміка, як індикатори того, що хтось бреше, але автори дослідження відзначають, що ці поведінкові підказки не завжди є надійними індикаторами брехні. Декінг Лі, співавтор статті, пояснив, що їхнє дослідження показало, що моделі, засновані на намірі мислення, є кращими індикаторами брехні, ніж поведінкові та вербальні відмінності. Лі пояснив, що моделі наміру мислення “краще розрізняють навмисні брехні від інших типів спотворення інформації”.

Робота дослідників Дартмута не є єдижнім недавнім досягненням у боротьбі з дезінформацією за допомогою штучного інтелекту. Статті з клікбейт-заголовками часто маскують дезінформацію. Наприклад, вони часто натякають на те, що щось сталося, хоча насправді відбулося інше.

Як повідомляє AINews, команда дослідників з Університету Аризони та Університету штату Пенсильванія співпрацювала, щоб створити штучний інтелект, який міг би виявити клікбейт. Дослідники попросили людей написати свої власні клікбейт-заголовки та написали програму для генерації клікбейт-заголовків. Обидва типи заголовків були потім використані для навчання моделі, яка могла б ефективно виявляти клікбейт-заголовки, незалежно від того, чи були вони написані машинами чи людьми.

За словами дослідників, їхній алгоритм був приблизно на 14,5% більш точним у виявленні клікбейт-заголовків, ніж інші штучні інтелекти в минулому. Головний дослідник проекту та асоційований професор Коледжу інформаційних наук та технологій Університету штату Пенсильванія Донгвон Лі пояснив, як їхній експеримент демонструє корисність генерації даних штучним інтелектом та введення їх назад у навчальний потік.

“Це результат досить цікавий, оскільки ми успішно продемонстрували, що тренувальні дані клікбейту, згенеровані машиною, можна вводити назад у навчальний потік для навчання широкого спектра моделей машинного навчання з покращеною продуктивністю”, – пояснив Лі.