Загроза кліматичної дезінформації, поширеної генеративним штучним інтелектом

Штучний інтелект (ШІ) змінив спосіб, у який ми отримуємо та поширюємо інформацію. Зокрема, генеративний ШІ (ГШІ) пропонує безпрецедентні можливості для зростання. Однак він також створює суттєві виклики, особливо у сфері кліматичної дезінформації.

У 2022 році дослідження показало, що близько 60 облікових записів у Twitter використовувалися для створення 22 000 твітів та поширення хибної чи вводящої в оману інформації про зміну клімату.

Кліматична дезінформація означає неточну або обманну інформацію, пов’язану з кліматичною наукою та екологічними проблемами. Поширювана через різні канали, вона спотворює дискурс щодо зміни клімату та ускладнює прийняття рішень, заснованих на доказах.

Що таке кліматична дезінформація?

Хибна чи вводящая в оману інформація про зміну клімату та її вплив часто поширюється для створення сумнівів та плутанини. Це поширення неточної інформації ускладнює ефективні дії щодо клімату та розуміння громадськістю.

У епоху, коли інформація миттєво поширюється через цифрові платформи, кліматична дезінформація знайшла родючий ґрунт для поширення та створення плутанини серед громадськості.

Основно існують три типи кліматичної дезінформації:

• Тренд: Поширення хибної інформації про довгострокові тенденції та зміни глобального клімату, часто для заниження серйозності зміни клімату.
• Атрибуція: Вводящая в оману атрибуція кліматичних подій чи явищ незв’язаних факторів, що маскує справжній вплив людської діяльності на зміну клімату.
• Вплив: Перебільшення чи заниження реальних наслідків зміни клімату, або для викликання страху, або для підтримки самозадоволеності щодо необхідності кліматичних дій.

У 2022 році були виявлені кілька тривожних спроб поширення кліматичної дезінформації, які продемонстрували масштаби цього виклику. До цих зусиль належали лобістські кампанії компаній, що видобувають викопне паливо, для впливу на політиків та обману громадськості.

Крім того, магнати нафтової промисловості фінансували кліматичні дезінформаційні думки для поширення хибної інформації. Корпоративні кліматичні “скептичні” кампанії процвітала на соціальних платформах, використовуючи твіттер-рекламні кампанії для швидкого поширення дезінформації.

Ці маніпулятивні кампанії спрямовані на підірвання довіри громадськості до кліматичної науки, заохочення бездіяльності та ускладнення значимого прогресу у боротьбі зі зміною клімату.

Як кліматична дезінформація поширюється з допомогою генеративного ШІ?

Джерело зображення 

Технологія генеративного ШІ, особливо глибинні моделі навчання, такі як генеративні суперницькі мережі (GAN) та трансформери, можуть створювати надзвичайно реалістичну та правдоподібну інформацію, включаючи текст, зображення, аудіо та відео. Цей прогрес у технології ШІ відкрив двері для швидкого поширення кліматичної дезінформації різними способами.

Генеративний ШІ може вигадувати історії про зміну клімату, які не відповідають дійсності. Хоча 5,18 мільярда людей використовують соціальні медіа сьогодні, вони більш обізнані про поточні світові питання. Однак вони на 3% менше схильні виявляти хибні твіти, створені ШІ, ніж ті, які написані людьми.

Деякі зі способів, якими генеративний ШІ може поширювати кліматичну дезінформацію:

1. Доступність

Інструменти генеративного ШІ, які створюють реалістичний синтетичний контент, стають все більш доступними через публічні API та відкриті спільноти. Ця легкість доступу дозволяє навмисно створювати хибну інформацію, включаючи текст та фотореалістичні фальшиві зображення, що сприяє поширенню кліматичної дезінформації.

2. Складність

Генеративний ШІ дозволяє створювати довші, авторитетні статті, блог-пости та новинні статті, часто повторюючи стиль авторитетних джерел. Ця складність може обманути та ввести в оману аудиторію, роблячи важким відрізнити ШІ-генеровану дезінформацію від справжнього контенту.

3. Переконливість

Багатомовні моделі (БМ) інтегровані в агенти ШІ можуть вступати в складні розмови з людьми, використовуючи переконливі аргументи для впливу на громадську думку. Спроможність генеративного ШІ створювати персоналізований контент є недетектованим поточними інструментами виявлення ботів. Крім того, боти ГШІ можуть посилювати зусилля дезінформації та дозволяють малим групам виглядати більшими в Інтернеті.
Отже, важливо реалізувати потужні механізми фактчекінгу, програми медіаграмотності та тісний моніторинг цифрових платформ для ефективної боротьби з поширенням кліматичної дезінформації, поширеної ШІ. Зміцнення цілісності інформації та критичного мислення дозволяє людям орієнтуватися в цифровому ландшафті та приймати обґрунтовані рішення серед зростаючої хвилі кліматичної дезінформації.

Виявлення та боротьба з кліматичною дезінформациєю, поширеною ШІ

Хоча технологія ШІ сприяла швидкому поширенню кліматичної дезінформації, вона також може бути частиною рішення. Алгоритми ШІ можуть виявляти закономірності, властиві ШІ-генерованому контенту, що дозволяє здійснювати раннє виявлення та втручання.
Однак ми ще на початку створення потужних систем виявлення ШІ. Тому люди можуть вжити наступні кроки для мінімізації ризику кліматичної дезінформації:

• Збільшити пильність: Оскільки додатки фактчекінгу ШІ ще розвиваються, користувачі повинні бути пильними при верифікації інформації, яку вони зустрічають. Замість автоматичної публікації результатів пошукових запитів ШІ в соціальних медіа, ідентифікують та оцінюють надійні джерела. Перевірка джерел є важливою при роботі з важливими темами, такими як боротьба зі зміною клімату.
• Оцінити методи фактчекінгу: Прийняти латеральний читання, техніку, яку використовують експерти-фактчекери. Шукайте інформацію про джерела, цитовані в ШІ-генерованому контенті, у новому вікні. Аналізуйте надійність джерел та досвід авторів. Використовуйте традиційні пошукові системи для знаходження та оцінки консенсусу серед експертів щодо теми.
• Оцінити докази: Глибше вивчіть докази, представлені в ШІ-генерованих твердженнях. Перевірте, чи підтримується надійний науковий консенсус та дослідження, чи спростовують заяви. Швидкі запити до платформ ШІ можуть дати деякі попередні дані, але для отримання надійних результатів потрібне глибоке дослідження.
• Не покладатися виключно на ШІ: Враховуючи схильність систем ШІ іноді генерувати галюцинації чи неточну інформацію, важливо не покладатися виключно на ШІ. Для забезпечення точності та точності знань доповнюйте матеріал ШІ ретельною верифікацією за допомогою традиційних пошукових систем.
• Просування цифрової грамотності: Медіаграмотність також важлива для надання людям можливості орієнтуватися в складному дискурсі щодо клімату. Надання громадськості критичного мислення дозволяє їй розрізняти дезінформацію, створюючи більш обізнану та відповідальну спільноту.

Етичні дилеми: балансування свободи слова та контролю дезінформації

У боротьбі з кліматичною дезінформациєю, поширеною ШІ, дотримування етичних принципів у розвитку та використанні ШІ є важливим. Приоритизуючи прозорість, справедливість та підзвітність, ми можемо забезпечити, що технології ШІ служать громадському благу та позитивно впливають на наше розуміння зміни клімату.

Дізнайтеся більше про генеративний ШІ чи пов’язаний з ним контент на сайті unite.ai.