У 2024 році глибокі підробки стають масовими. Як підприємства можуть захистити себе

Від至少 виборів 2016 року, коли питання щодо дезінформації вибухнули у громадській свідомості, експерти попереджували про загрозу глибоких підробок. Наслідки цієї технології були – і залишаються – страшними. Неконтрольоване поширення гіперреалістичних синтетичних медіа загрожує кожному – від політиків до звичайних людей. У вже вибухонебезпечному середовищі, характеризованому широким недовірою, глибокі підробки обіцяли тільки підігріти полум’я ще більше.

Як виявилося, наші страхи були передчасними. Технологічні знання, необхідні для створення глибоких підробок, а також їх часто низька якість, означали, що протягом останніх двох президентських виборчих циклів вони залишалися мінімальною проблемою.

Але все це змінюється – вже змінюється. За останні два роки технологія генеративного штучного інтелекту увійшла в масову свідомість, радикально спрощуючи процес створення глибоких підробок для середнього споживача. Ці самі інновації значно покращили якість глибоких підробок, так що в сліпому тесті більшість людей не зможуть відрізнити підроблений відеоролик від справжнього.

Цього року, особливо, ми почали бачити ознаки того, як ця технологія може вплинути на суспільство, якщо не буде вжито заходів для боротьби з нею. Наприклад, минулого року фотографія Папи Франциска в надзвичайно стильному пальто, створена штучним інтелектом, поширилася в інтернеті і була прийнята багатьма за справжню. Хоча це може здатися на одному рівні безневинною забавою, це розкриває небезпечну потужність цих глибоких підробок і те, як важко зупинити дезінформацію, коли вона починає поширюватися. Ми можемо очікувати знайти ще менше забавні – і ще більш небезпечні – випадки такого типу вірусної підробки в наступні місяці та роки.

Через це організації всіх видів – від ЗМІ до фінансів, урядів та соціальних медіа-платформ – повинні зайняти активну позицію щодо виявлення глибоких підробок та верифікації автентичності контенту. Культура довіри через заходи безпеки повинна бути створена зараз, до того, як хвиля глибоких підробок змогла змитить наш спільний розуміння реальності.

Поняття загрози глибоких підробок

Перед тим, як зануритися в те, що організації можуть зробити для боротьби з цією хвилею глибоких підробок, варто роз’яснити, чому інструменти безпеки необхідні. Зазвичай ті, хто турбується про глибокі підробки, посилаються на їх потенційний вплив на політику та суспільну довіру. Ці потенційні наслідки дуже важливі і не повинні бути знехтувані в будь-якій розмові про глибокі підробки. Але, як виявилося, зростання цієї технології має потенційно катастрофічні наслідки в декількох секторах американської економіки.

Взяти, наприклад, страхування. Зараз щорічна сума страхових махінацій у США становить 308,6 мільярда доларів – це число приблизно в чотири рази менше, ніж весь страховий ринок. У той же час, задні операції більшості страхових компаній все більше автоматизуються, і до 2025 року 70% стандартних претензій буде оброблено без людського втручання.

Іронічно, саме технологія, яка дозволила підвищити ступінь автоматизації – тобто, машинне навчання та штучний інтелект – гарантує її використання зловмисниками. Тепер стало простіше для звичайної людини маніпулювати претензіями – наприклад, використовуючи програми генеративного штучного інтелекту, такі як Dall-E, Midjourney або Stable Diffusion, щоб зробити машину більш пошкодженою, ніж вона є насправді. Вже існують програми, спеціально створені для цієї мети, такі як Dude Your Car!, які дозволяють користувачам штучно створювати дент на фотографіях своїх транспортних засобів.

Те саме стосується офіційних документів, які тепер можна легко маніпулювати – наприклад, інвойси, оцінки підтримки, а甚至 підписи можуть бути змінені або вигадані цілком. Це проблема не тільки для страхових компаній, але й для всього економічного сектора. Це проблема для фінансових інститутів, які повинні верифікувати автентичність широкого спектра документів. Це проблема для рітейлерів, які можуть отримати скаргу про те, що продукт надійшов пошкодженим, супроводжувану підробленою фотографією.

Бізнес не може функціонувати з таким ступенем невизначеності. Якесь мінімальне шахрайство, ймовірно, завжди буде існувати, але з глибокими підробками ми говоримо не про шахрайство на маргінесах – ми говоримо про потенційну епістемологічну катастрофу, в якій бізнес не має чіткого способу відрізнити правду від вигадки, і в результаті втрачає мільярди доларів через цю плутаніну.

Боротьба з вогнем за допомогою вогню: як штучний інтелект може допомогти

Що ж можна зробити, щоб боротися з цим? Можливо, не дивно, що відповідь лежить у самій технології, яка сприяє глибоким підробкам. Якщо ми хочемо зупинити цю загрозу, перш ніж вона набере ще більше імпульсу, нам потрібно боротися з вогнем за допомогою вогню. Штучний інтелект може допомогти створити глибокі підробки – але він також, на щастя, може допомогти виявити їх автоматично та у великих масштабах.

Використовуючи правильні інструменти штучного інтелекту, бізнес може автоматично визначити, чи була певна фотографія, відео чи документ змінений. Зібравши десятки різних моделей для завдання виявлення підробок, штучний інтелект може автоматично повідомити бізнес про те, чи певна фотографія чи відео підозрілі. Як і інструменти, які бізнес вже розгортає для автоматизації щоденних операцій, ці інструменти можуть працювати на задньому плані без навантаження вже перевантаженого персоналу або відведення часу від важливих проєктів.

Якщо фотографія визнана потенційно зміненою, людський персонал може бути повідомлений, і може оцінити проблему безпосередньо, користуючись інформацією, наданою штучним інтелектом. Використовуючи глибокий аналіз, він може повідомити бізнесу чому він вважає, що фотографія, ймовірно, була підроблена – вказуючи, наприклад, на змінені метадані, існування ідентичних зображень у всьому інтернеті, різні фотографічні нерегулярності тощо.

Все це не означає знецінення неймовірних досягнень, яких ми стали свідками в технології генеративного штучного інтелекту за останні кілька років, які дійсно мають корисні та продуктивні застосування в різних галузях. Але сама потужність – не кажучи вже про простоту – цієї технології майже гарантує її використання зловмисниками, які хочуть маніпулювати організаціями, чи то за особисту вигоду, чи для створення соціальної хаосу.

Організації можуть мати найкраще з двох світів: продуктивні вигоди від штучного інтелекту без недоліків у вигляді повсюдних глибоких підробок. Але для цього потрібно новий рівень уваги, особливо якщо врахувати, що виходи генеративного штучного інтелекту стають все більш переконливими, деталізованими та реалістичними з кожним днем. Чим раніше організації звернуть свою увагу на цю проблему, тим раніше вони зможуть повністю скористатися перевагами автоматизованого світу.