Дослідники розробили інструмент штучного інтелекту для ідентифікації фейкових новин

Було розроблено новий інструмент штучного інтелекту, який може допомогти соціальним мережам і новинним організаціям ідентифікувати фейкові історії.

Інструмент був розроблений дослідниками Університету Ватерлоо. Він використовує алгоритми глибокого навчання для визначення того, чи відповідають певні заяви в постах і історіях реальності. Ця технологія робить це, аналізуючи, чи підтримуються ці заяви іншими постами і історіями на ту ж тему.

Александр Вонг – професор системного проектування в Університеті Ватерлоо.

“Якщо вони великі, то, ймовірно, це реальна історія”, – сказав Вонг. “Але якщо більшість інших матеріалів не підтримує їх, то це сильний індикатор того, що ви маєте справу з фейковими новинами”.

Дослідники вирішили розробити інструмент через велику кількість онлайн-постів і новинних історій, які виявилися фейковими або сфабрикованими. Новинні історії часто розсилаються для обману або дезінформації читачів, і вони зазвичай використовуються з політичних або економічних причин.

Розроблена система є частиною тривалої роботи з розробки повністю автоматизованої технології, здатної виявляти фейкові новини. В одному з ключових напрямків досліджень, відомому як виявлення позиції, система має рівень точності 90 відсотків.

Система спочатку отримує заяву з одного поста або історії та інші пости і історії на ту ж тему. Вони збираються для порівняння, і система може визначити, чи підтримується заява або історія іншими. Вона може зробити це дев’ять разів з десяти.

Це тепер новий стандарт точності, і дослідники використовують великий набір даних, створений для наукового змагання 2017 року під назвою Фейкові новини.

Технологія, розроблена дослідниками Університету Ватерлоо, може стати інструментом для перевірки фактів, який буде використовуватися людьми. Більшість соціальних мереж і новинних організацій використовують людських перевірювачів фактів, але вони часто пропускають певні речі, які технологія могла б виявити. Це відбувається в той час, коли вчені по всьому світу працюють над створенням повністю автоматизованої системи для ідентифікації та викорінення фейкових новин.

Вонг є одним із засновників Інституту штучного інтелекту Університету Ватерлоо.

“Він розширює їхні можливості та виділяє інформацію, яка не виглядає досить правильно для верифікації”, – сказав Вонг. “Він не призначений для заміни людей, а для допомоги їм у перевірці фактів швидше та надійніше”.

Алгоритми штучного інтелекту, які є основою системи, були показані десяткам тисяч різних заяв. Заяви були показані поряд з історіями, які підтримували або не підтримували їх, і система в кінцевому підсумку змогла навчитися визначати підтримку або її відсутність самостійно. Вона перенесла це на нові пари заяв та історій, які їй були показані.

Кріс Дулгенті – аспірант, і він очолив проєкт, який розробив технологію.

“Нам потрібно дати журналістам можливість розкрити правду та інформувати нас”, – сказав він. “Це представляє одну з спроб у великому корпусі робіт з мінімізації поширення дезінформації”.