Де ви були, коли реальність померла?

Учора ввечері, як це часто буває, дружина підійшла показати мені різні відео й зображення, які розважили її в соцмережах після роботи. У її добірках явно переважає «милий» контент із чарівними тваринами та м’якими персонажами.

Невдовзі вона показала те, що зберегла, але ще не встигла переглянути: відео з «милими тваринами», де взаємодіяли самиця коали, двоє її сплячих новонароджених малят і допитливий кіт.

Одразу я замислився, як молодий домашній кіт міг потрапити до одного простору з цими дикими тваринами, навіть якщо припустити, що це зоопарк чи схоже місце. Та я відмахнувся від думки, мов від надокучливого комара: вона цілком вкладалася у пояснення «життя дивне».

На відео був нерухомий, досить тісний кадр із мамою-коалою та двома сплячими малятами на шматку тканини; мати спиралася на непримітну стіну.

У кадр зайшов молодий обережний смугастий кіт, якого цікавість змусила подолати побоювання, і наблизився до сплячих малят. Увесь час він пильно стежив за матір’ю, якій могло не сподобатися таке втручання.

Приблизно за хвилину цього обережного вичікування мама-коала простягнула лапу й підхопила молодого кота. Вона потримала його кілька митей так, що це повністю відповідало співвідношенню ваги та будові тіл обох тварин, а потім поклала прибульця поряд зі своїми малятами, немов «прийнятного гостя».*

Новий кіт для нової проблеми

Тоді ми з дружиною майже одночасно сказали, що відео, найімовірніше, згенероване ШІ. Ми відчули те, що я можу описати лише як «підвішене розчарування». Для нас це був буквально новий різновид кота Шредінгера: нарешті поза коробкою, але не обов’язково живий.

Відтоді я не шукав це відео, щоб з’ясувати, чи визнали його автори несправжність; чи було його вперше оприлюднено раніше, до нинішнього часу, коли такий матеріал можна зробити за копійки на безлічі сайтів і порталів; або щоб подивитися, як коментатори звинувачують матеріал у тому, що його створив ШІ, хоча, можливо, й не знають цього напевно.

Чи було саме це відео підробкою або справжнім, не має значення. Мене вразило те, що я нарешті дійшов давно очікуваного усвідомлення: попри сім років глибокого й інтенсивного висвітлення** систем генерації зображень і відео за допомогою ШІ, а також обговорення та створення систем виявлення дипфейків, навіть я більше не можу довіряти тому, що бачу.

Найбільша перешкода, яка ще залишається у синтезі відео за допомогою ШІ, — непослідовність — не заважає створювати саме той короткий контент, який найімовірніше стане вірусним. ШІ здатний ідеально заповнювати наші дедалі коротші проміжки уваги, але поки що не більше. Та ці обмеження, хоч якими складними вони є, очевидно, зрештою буде подолано.

Тому ця запізніла, можливо навіть хибна думка про відео з коалою стає ще одним із життєвих моментів «де я був»: мама стоїть на драбині й фарбує стелю, а радіо повідомляє, що Елвіс помер; зоряний руйнівник із гуркотом пролітає над головою на публічній прем’єрі «Зоряних війн» на Лестер-сквер напередодні Різдва 1977 року; тиранозавр виривається із загону, знову на Лестер-сквер, у липні 1993 року; Мара каже італійською: «Ідіть на кухню, усі — у Нью-Йорку щось відбувається»; я дивлюся на кота у відео з коалою й усвідомлюю: це той рік і, для мене, та мить, коли реальність померла.

(Гей, навіть я ще був поза цим світом, коли застрелили Кеннеді.)

Реакція «ворог біля воріт»

Наприкінці 2025 року, за даними одного дослідника, наша здатність розпізнавати згенеровані ШІ зображення ненабагато перевищувала випадкове вгадування: 54 %. Пройдіть тест самі. Я впорався не надто добре, а якість генеративного ШІ за вісім чи дев’ять місяців відтоді помітно зросла:

Натисніть, щоб відтворити — Попри роки вивчення теми, коли я визначаю, чи створені зображення ШІ, чи вони справжні, мій результат майже точно збігається із середнім у тестах наведеного дослідження. Джерело

Washington Post оприлюднила один із найперших прогнозів можливого світу після реальності в лютому 2018 року, лише через кілька місяців після того, як дипфейки на основі автоенкодерів уперше приголомшили світ. Стаття швидко перетворюється на стривожений заклик до регулювання. Воно зрештою з’явилося у вигляді законодавства проти сексуальних дипфейків, нового закону ЄС про розкриття факту генерації матеріалу ШІ та системи автентифікації Coalition for Content Provenance and Authenticity — C2PA.

Остання намагається прив’язати до зображень відомості про їхнє походження та обробку протягом усього життєвого циклу — від даних сенсора камери до публікації й архівування. Вона фіксує всі зміни на цьому шляху й відповідно оновлює маніфест.

Звісно, такий підхід «від колиски до могили» значною мірою ігнорує масив зображень, які вже перебувають в обігу, і корисний споживачам лише у дуже обмеженій кількості місць, де його впровадили.

Скільки пальців я показую?

Але суть у тому, що прагнення регулювати згенерований ШІ контент, яке надзвичайно посилилося від часів тих рефлекторних редакційних статей на початку 2018 року, за іронією є закликом до автоматизації або делегування людського судження.

Або ми не хочемо виконувати цю роботу й бажаємо, щоб уряди та інституції робили її за нас, або вважаємо, що певним іншим людям — чи типам людей — не слід дозволяти самостійно робити такі висновки. Ця позиція не робить честі тим, хто її дотримується.

Хіба я вже не сказав, можливо дещо пригнічено, що не досліджуватиму походження відео з коалою та котом? Незнання того, чи було воно підробкою, і небажання зібрати достатньо інформації бодай для краще обґрунтованого припущення утримують мене в тому самому стані еластичної віри, який Джордж Орвелл описує в «1984». Там головного героя катує поліцейська держава, доки він не починає ставати психологічно здатним одночасно дотримуватися двох суперечливих переконань:

В екранізації класичного антиутопічного науково-фантастичного роману Орвелла, знятій Майклом Редфордом у 1984 році, змучений Вінстон Сміт (Джон Герт) починає принаймні припускати, що чотири пальці насправді можуть бути трьома, а власним очам не обов’язково можна довіряти. Кадр із фільму «1984» (1984), © Metro-Goldwyn-Mayer Studios Inc. / Amazon MGM Studios.

У романі Орвелла антагоніст О’Браєн, якого у показаній вище екранізації 1984 року зіграв Річард Бертон, прямо каже своїм жертвам, що мета катувань — зробити їхні переконання податливими. Тоді вони зможуть, коли це вигідно зображеній у творі тоталітарній державі, одночасно дотримуватися двох переконань: наприклад, що чотири підняті пальці можуть бути також трьома, якщо держава цього вимагає.

Цю «еластичність віри» природно цінують усілякі майстри впливу, адже зазвичай переконання вже закостеніли на той час, коли виборці або споживачі стають привабливими цілями для впливу.

Оскільки для мене відео з коалою та котом водночас є «ШІ» і «не ШІ», я зробив перші кроки до звикання до подвійної віри. Я стаю вразливим до тих, хто пропонує зупинити це миготливе бінарне сприйняття та сказати мені, що є реальним.

Тож мені спадає на думку, що саме це усвідомлення не варто цінувати — йому слід опиратися. Внутрішня поступка «нереальності», яка прийшла до мене у вигляді відео з «милими тваринами» й, можливо, вже прийшла або ще прийде до вас в іншій формі, безперечно становить загрозу нашій здатності самостійно судити про світ і оцінювати його.

На легшій ноті

На легшій ноті філософ Джошуа Гебґуд-Кут у 2024 році зайняв оптимістичнішу позицію, відкинувши «епістемічний апокаліпсис» як паніку через втрату систем, які й так були крихкими, а у випадку фотографії — доволі новими.

Однак у новішій праці він також стверджує, що меми «фейкові новини» та «постправда» перетворили на зброю для політичних цілей. Принаймні в першому випадку це важко заперечити, навіть якщо йдеться про політичний опортунізм, а не про змову.

* А ви справді замислюєтеся, чи цей зручний приклад узагалі реальний, чи я вигадав його — із ШІ або без нього — як риторичний прийом? Він реальний, кажу я. Якщо те, що я не новий голос у цих питаннях, має якусь вагу, можливо, ви мені повірите. А може, я нещодавно змінився..?

** Це включає цитування в різних публікаціях, зокрема The Cambridge Handbook of Generative AI and the Law, за матеріал Weights in Machine Learning.

Уперше опубліковано в п’ятницю, 4 вересня 2026 року. Змінено через кілька хвилин після першої публікації для виправлення помилок щодо коал і трохи пізніше того самого дня для додавання відсутніх тегів.