Лідери думок
Як далеко і темно можуть зайти Deepfakes?
Як AI інтегрується все глибше в нашу повсякденне життя, технологія deepfakes стала зростаючою проблемою для багатьох, особливо тих, хто любить ділитися особистими моментами в соціальних мережах. Чи це ніч з друзями, чи сімейний пікнік на Багамах, фотографії, поширені на платформах như Instagram, Facebook і Snapchat, не обов’язково безпечні від потенційного зловживання.
Молода жінка з Кореї недавно звернулася до соціальних мереж, щоб виразити свою тривогу щодо відео deepfake, створеного як акт помсти. У відео вона з’являлася оголеною. Вона пристрасно прохала про видалення відео, створеного за допомогою AI, і закликала особу припинити його поширення.
У жовтні 2023 року відомі особи, такі як ведуча CBS Mornings Гейл Кінг, актор Том Генкс і особистість YouTube MrBeast, стали жертвами неавторизованих відео deepfake, які поширилися по соціальних мережах. Інше відео з журналістом CNN Кларісою Ворд біля кордону Ізраїль-Газа було маніпульовано, щоб викликати сумніви щодо її репортажів.
Ці відео, створені за допомогою передової технології deepfake, мають можливість заміняти осіб у існуючому контенті. Їх реалістична природа непокоїть, що призводить до того, що багато людей вірять у їхню автентичність. Це включає AI-генеровані пісні, що імітують відомих зірок, деякі з яких стали хітами.
Такі події викликали глобальні побоювання щодо потенціалу для публічної ганьби, знущань і шантажу, ще більше підкреслюючи зловісний потенціал deepfakes.
Чому технологія Deepfake небезпечніша, ніж ви думаєте
Ріст тривожних інцидентів вказує на необхідність активних заходів проти deepfakes. Наразі немає універсального закону, який би регулював deepfakes або неавторизований контент, створений за допомогою AI, навіть у Сполучених Штатах. Хоча їх повністю ліквідувати неможливо, можна вжити захисні заходи.
Для тих, хто не знайомий, технологія deepfake використовує AI для створення реалістичних, але фабрикованих зображень, відео чи аудіокліпів. Ця обманна технологія отримала популярність близько 2017 року, коли анонімний користувач Reddit представив алгоритм для генерації реалістичних фальшивих відео.
Хоча спочатку вона була призначена для розваг, освіти або активізму, швидкий розвиток AI, поєднаний з можливостями deepfake, представляє безліч проблем з безпеки та етики. Це включає:
- Порушення приватності: Основною проблемою є неавторизоване використання подоби людини. Відомі випадки включають відео deepfake для дорослих з відомими зірками, що псують їхній імідж. Наприклад, у 2017 році поширилося невідповідне відео, яке фальшиво зображало актрису Галь Гадот.
- Дезінформація та маніпуляція: Deepfakes можуть спотворювати істину, впливając на громадську думку. Відомі приклади включають відео deepfake з колишнім президентом Обамою, створене BuzzFeed і Джорданом Пілі. Хоча воно було призначене як PSA проти дезінформації, воно підкреслює потенційне зловживання технологією.
- Шахрайство та шантаж: Ця технологія може створювати фальшиві докази або обманювати через дублікування голосу/зображення. Злочинці можуть використовувати deepfakes для шантажу або навіть фінансового шахрайства, як видно з випадком, коли британська енергетична компанія була обманута і перевела значну суму, потенційно через голосовий deepfake.
- Упередження та дискримінація: Deepfakes можуть підтримувати або посилювати соціальні упередження, потенційно неправильно представляючи певні демографічні групи.
Deepfakes: загрози демократії, відносинам та ідентичності
Хоча сама технологія deepfake не є зловісною, її зловживання може бути шкідливим. Вона може спотворювати результати виборів, напружувати особисті відносини та порушувати особисту ідентичність, як показано в розважальних програмах, таких як “DeepFake Love” і “Clickbait” на Netflix.
Заключні думки
Deepfakes перетворюють цифровий світ, відкриваючи інноваційні напрямки, але також представляючи етичні виклики. Відсутність глобального регулювання та ефективних інструментів виявлення робить цю проблему критичною. Хоча громадська осведомленість та медіаграмотність є важливими, вони становлять лише частину рішення.
Важливо подумати: чи сприймаємо ми deepfakes як технологічні чудеса чи загрози для особистого та суспільного благополуччя? Розмова повинна тривати, оскільки колективна осведомленість та дії є важливими для пом’якшення шкідливих впливів технології deepfake.
