Глибфейки та навігація в нову епоху синтетичних медіа

Пам’ятаєте “фейкові новини”? Термін був використаний (і зловживався) настільки широко, що вже важко згадати, до чого він спочатку відносився. Але концепція має дуже конкретне походження. Десять років тому журналісти почали звучати тривогу про наплив передбачуваних “новинних” сайтів, які поширювали хибні, часто абсурдні заяви про політиків і знаменитостей. Багато людей могли миттєво визначити, що ці сайти були нелегітимними.

Але багато інших не мали критичних інструментів, щоб визнати це. Результатом було перші ознаки епістемологічної кризи, яка тепер охоплює інтернет – одну, яка досягла свого найстрашнішого прояву з появою глибфейків.

Поруч з навіть прийнятним глибфейком “фейкові новинні” сайти старого зразка здаються лагідними. Що гірше, навіть ті, хто вважає себе володарем відносно високого рівня медійної грамотності, піддаються ризику бути обманутими. Синтетичні медіа, створені за допомогою алгоритмів глибокого навчання і генеративного ІІ, мають потенціал завдавати шкоди основам нашого суспільства. За даними Deloitte, цього року вони можуть коштувати підприємствам понад 250 мільйонів доларів через фальшиві транзакції та інші види шахрайства. Тоді як Світовий економічний форум назвав глибфейки “одним з найбільш тривожних застосувань ІІ”, вказуючи на потенціал “агендодружніх, реал-тайм чат-ботів і аватарів” для сприяння новим штамам ультраперсоналізованого (і надзвичайно ефективного) маніпулювання.

Предложене Світовим економічним форумом рішення цієї проблеми є розумним: вони пропагують “менталітет нульового довіри“, який приносить певну скептичність до кожного контакту з цифровими медіа. Якщо ми хочемо розрізняти автентичне і синтетичне в майбутньому – особливо в іммерсивних онлайн-середовищах – такий менталітет буде дедалі більш важливим.

Два підходи до боротьби з кризою глибфейків

Боротьба з поширеним дезінформацією, породженою синтетичними медіа, потребуватиме, на мою думку, двох різних підходів.

Перший полягає у верифікації: наданні простого способу для звичайних інтернет-користувачів визначити, чи відео, яке вони дивляться, є справжнім. Такі інструменти вже широко застосовуються в галузях, таких як страхування, враховуючи потенціал недобросовісних акторів подати фальшиві претензії, підтримані підробленими відео, фотографіями та документами. Демократизація цих інструментів – тобто надання їм вільного доступу – є важливим першим кроком у цій боротьбі, і ми вже бачимо значний рух на цьому фронті.

Другий крок менш технологічний за своєю суттю, і тому складніший: а саме, підвищення рівня осведомленості та розвитку критичного мислення. Після першого скандалу з “фейковими новинами” у 2015 році некомерційні організації по всій країні розробили програми медійної грамотності та працювали над поширенням найкращих практик, часто співпрацюючи з місцевими громадянськими інституціями для надання звичайним громадянам можливості виявляти брехню. Очевидно, що старі “фейкові новини” – це дитячий сад біля найрозвітліших глибфейків, тому нам потрібно подвоїти зусилля на цьому фронті та інвестувати в освіту на всіх рівнях.

Розвітлілі глибфейки вимагають розвітлого критичного мислення

Очевидно, що ці освітні ініціативи були трохи легше здійснювати, коли дезінформація була текстовою. З фейковими новинними сайтами ознаки шахрайства часто були очевидними: недороблений веб-дизайн, безладне правописання, дивне джерелознавство. З глибфейками ознаки набагато більш тонкі – і часто зовсім не помітні на перший погляд.

Відповідно, інтернет-користувачі будь-якого віку повинні ефективно перепідготуватися до уважного вивчення цифрового відео на предмет ознак глибфейків. Це означає уважне звернення уваги на ряд факторів. Для відео це може означати нереально туманні області та тінь; ненатуральні рухи обличчя та вирази; надто доскональні тони шкіри; несумісні узори в одязі та рухах; помилки синхронізації губ; і так далі. Для аудіо це може означати голоси, які звучать надто чисто (або очевидно дигіталізовано), відсутність людської емоційної тональності, дивні мовні закономірності або незвичайне слововживання.

У короткостроковій перспективі таке самонавчання може бути дуже корисним. Запитуючи себе знову і знову, Чи це виглядає підозріло?, ми не лише гоструємо свою здатність виявляти глибфейки, а й загальне критичне мислення. Тоді ж ми швидко наближаємося до точки, коли навіть найкраще навчене око не зможе розрізняти факт і вигадку без зовнішньої допомоги. Візуальні ознаки – нерівномірності, згадані вище, – будуть технологічно згладжені, так що повністю виготовлені кліпи будуть нерозрізними від справжніх. Що у нас залишиться, це наш інтуїтивне сприйняття ситуації – наша здатність запитувати себе питання типу Чи сказав би такий-то політик або знаменитість щось подібне? Чи є зміст цього відео правдоподібним?

Саме в цьому контексті платформи виявлення ІІ стають так важливими. Коли голе око стає недієвим для виявлення глибфейків, ці платформи можуть слугувати остаточними арбітрами реальності – поручнями проти епістемологічної безодні. Коли відео виглядає реальним, але якимось чином здається підозрілим – як це траплятиметься дедалі частіше у майбутніх місяцях і роках, – ці платформи можуть тримати нас на землі фактами, підтверджуючи базову правдивість того, що ми дивимося. У кінцевому підсумку, з технологією такої потужності, єдине, що може врятувати нас, – це сама ІІ. Нам потрібно боротися вогнем проти вогню – тобто використовувати добру ІІ, щоб викорінити найгірші зловживання технологією.

Насправді, набуття цих навичок жодним чином не потребує цинічного або негативного процесу. Формування менталітету нульового довіри можна вважати можливістю загострити критичне мислення, інтуїцію та осведомленість. Запитуючи себе знову і знову, певні ключові питання – Чи це має сенс? Чи це підозріло? – ви підвищуєте свою здатність протистояти не лише фейковим медіа, а й світу в цілому. Якщо є срібна підкладка епохи глибфейків, це саме це. Нас змушують думати самостійно та ставати більш емпіричними у нашому повсякденному житті – і це може бути тільки хорошим.