Інструменти браузера AI спрямовані на розпізнавання Deepfakes та іншої фейкової медіа

Зусилля технологічних компаній щодо боротьби з дезінформацією та фейковим контентом набирають обертів в останні часи, оскільки технології генерації фейкового контенту, такі як DeepFakes, стають легше в користуванні та більш розвиненими. Однією з майбутніх спроб допомогти людям виявляти та боротися з Deepfakes є RealityDefender, розроблений фундацією AI, яка присвятила себе розробці етичних агентів та помічників AI, яких користувачі можуть тренувати для виконання різних завдань.

Найбільш відомим проектом фонду AI є платформа, яка дозволяє людям створювати свої цифрові персони, які виглядають як вони самі та представляють їх у віртуальних зустрічах. Фонд AI керується Глобальною радою AI, і як частина їхнього мандату вони повинні передбачати можливі негативні наслідки платформ AI, а потім намагатися вирішити ці проблеми. За повідомленням VentureBeat, одним з інструментів, створених фундацією AI для допомоги у виявленні Deepfakes, є Reality Defender. Reality Defender – це інструмент, який люди можуть використовувати у своєму браузері (перевірте це), який аналізує відео, зображення та інші типи медіа для виявлення ознак того, що медіа було фальшивим або зміненим якимсь чином. Сподіваються, що інструмент допоможе протидіяти зростанню кількості Deepfakes в інтернеті, які, згідно з деякими оцінками, майже подвоїлися за останні шість місяців.

Reality Defender працює шляхом використання різноманітних алгоритмів на основі AI, які можуть виявити ознаки того, що зображення або відео можуть бути фальшивими. Моделі AI виявляють тонкі ознаки обману та маніпуляцій, а помилкові позитиви, виявлені моделлю, позначаються як неправильні користувачами інструменту. Дані потім використовуються для повторної тренування моделі. Компанії AI, які створюють необманні Deepfakes, мають свій контент позначений тегом “чесний AI” або водяним знаком, який дозволяє людям легко ідентифікувати фейкові AI-генеровані медіа.

Reality Defender – це лише одна з серії інструментів та цілої платформи відповідальності AI, яку фонду AI намагається створити. Фонд AI працює над створенням Guardian AI, платформи відповідальності, побудованої на принципі, що люди повинні мати доступ до персональних агентів AI, які працюють на них та можуть допомогти захистити їх від експлуатації з боку недобросовісних акторів. По суті, фонд AI намагається як розширити сферу застосування AI в суспільстві, привнося його до більшої кількості людей, так і захистити від ризиків AI.

Reality Defender не єдиний новий продукт, керований AI, який спрямований на зменшення дезінформації в США. Аналогічний продукт називається SurfSafe, який був створений двома студентами з Університету Каліфорнії в Берклі, Роханом Фадте та Ешем Бхатом. За повідомленням The Verge, SurfSafe працює шляхом дозволу користувачам клацнути на медіа, яке їх цікавить, а програма проводить зворотний пошук зображення та намагається знайти подібний контент з різних довірених джерел в інтернеті, позначаючи зображення, які відомі як підроблені.

Невідомо, наскільки ефективними будуть ці рішення в довгостроковій перспективі. Професор коледжу Дартмута та експерт з судової медицини Хані Фарід був процитований The Verge як сказав, що він “надзвичайно скептичний” щодо того, що системи типу Reality Defender будуть працювати значущим чином. Фарід пояснив, що однією з ключових проблем при виявленні фейкового контенту є те, що медіа не є просто фейковим чи справжнім. Фарід пояснив:

“Є континуум; неймовірно складний діапазон питань, з якими потрібно справитися. Деякі зміни є беззначними, а деякі фундаментально змінюють природу зображення. Прикидатися, що ми можемо тренувати AI для визначення різниці, є надзвичайно наївним. І прикидатися, що ми можемо залучити до цього краудсорсинг, ще більш наївним”.

Крім того, складно включати елементи краудсорсингу, такі як позначення помилкових позитивів, оскільки люди зазвичай досить погано ідентифікують фейкові зображення. Люди часто роблять помилки та пропускають тонкі деталі, які позначають зображення як фейкове. Також невідомо, як справитися з недобросовісними акторами, які троллять, коли вони позначають контент.

Вірогідно, що для максимальної ефективності інструменти виявлення фейків повинні бути поєднані з зусиллями щодо цифрової грамотності, які вчать людей, як розмірковувати про контент, з яким вони взаємодіють в інтернеті.