Угроза климатической дезинформации, распространяемой с помощью технологии генеративного ИИ

Искусственный интеллект (ИИ) преобразовал способ, которым мы получаем и распространяем информацию. В частности, генеративный ИИ (ГИИ) предлагает беспрецедентные возможности для роста. Однако он также представляет значительные проблемы, особенно в области климатических изменений, а именно климатической дезинформации.

В 2022 году исследования показали, что около 60 аккаунтов Twitter использовались для создания 22 000 твитов и распространения ложной или вводящей в заблуждение информации о климатических изменениях.

Климатическая дезинформация означает неточную или обманчивую информацию, связанную с климатической наукой и экологическими проблемами. Распространяясь через различные каналы, она искажает дискурс о климатических изменениях и препятствует принятию решений на основе доказательств.

Что такое климатическая дезинформация?

Ложная или вводящая в заблуждение информация о климатических изменениях и их последствиях часто распространяется для посеянения сомнений и путаницы. Это распространение неточной информации препятствует эффективным действиям по климатическим изменениям и пониманию общественности.

В эпоху, когда информация распространяется мгновенно через цифровые платформы, климатическая дезинформация нашла плодородную почву для распространения и создания путаницы среди широкой общественности.

В основном существуют три типа климатической дезинформации:

• Тенденция: Распространение ложной информации о долгосрочных тенденциях и изменениях в глобальном климате, часто для преуменьшения серьезности климатических изменений.
• Причинно-следственная связь: Вводящая в заблуждение информация о климатических событиях или явлениях, не связанных с человеческой деятельностью, что затрудняет понимание реального влияния человеческой деятельности на климатические изменения.
• Воздействие: Преувеличение или занижение реальных последствий климатических изменений, либо для вызывания страха, либо для продвижения бездействия в отношении необходимости климатических действий.

В 2022 году были выявлены тревожные попытки распространить климатическую дезинформацию, демонстрирующие масштаб проблемы. Эти усилия включали кампании лоббирования компаний, добывающих ископаемое топливо, для влияния на политиков и обмана общественности.

Кроме того, магнаты нефтяной и химической промышленности финансировали дениалистские группы для распространения ложной информации. Также корпоративные климатические “скептические” кампании процветали на социальных платформах, используя твиттер-рекламные кампании для быстрого распространения дезинформации.

Эти манипулятивные кампании направлены на подрыв общественного доверия к климатической науке, сдерживание действий и препятствование значимому прогрессу в решении проблемы климатических изменений.

Как распространяется климатическая дезинформация с помощью генеративного ИИ?

Источник изображения 

Технология генеративного ИИ, особенно глубокие модели обучения, такие как генеративные состязательные сети (GAN) и трансформеры, может производить высокореалистичный и правдоподобный контент, включая текст, изображения, аудио и видео. Этот прогресс в технологии ИИ открыл двери для быстрого распространения климатической дезинформации различными способами.

Генеративный ИИ может создавать вымышленные истории о климатических изменениях. Хотя 5,18 миллиарда человек используют социальные сети сегодня, они более осведомлены о текущих проблемах мира. Однако они на 3% менее склонны обнаруживать ложные твиты, сгенерированные ИИ, чем те, которые написаны людьми.

Некоторые способы, которыми генеративный ИИ может способствовать распространению климатической дезинформации:

1. Доступность

Инструменты генеративного ИИ, производящие реалистичный синтетический контент, становятся все более доступными через публичные API и открытые сообщества. Эта доступность позволяет намеренно генерировать ложную информацию, включая текст и фотографически реалистичные фальшивые изображения, что способствует распространению климатической дезинформации.

2. Сложность

Генеративный ИИ позволяет создавать более длинные, звучащие авторитетно статьи, посты в блогах и новостные истории, часто повторяя стиль авторитетных источников. Эта сложность может обмануть и ввести в заблуждение аудиторию, что затрудняет различие между сгенерированной ИИ дезинформацией и настоящим контентом.

3. Убеждение

Большие языковые модели (БЯМ), интегрированные в агенты ИИ, могут вести сложные разговоры с людьми, используя убедительные аргументы для влияния на общественное мнение. Способность генеративного ИИ генерировать персонализированный контент не обнаруживается текущими инструментами обнаружения ботов. Кроме того, боты ГИИ могут усиливать усилия по дезинформации и позволять небольшим группам казаться более крупными в Интернете.
Следовательно, важно реализовать надежные механизмы проверки фактов, программы медиаграмотности и тесный контроль над цифровыми платформами для эффективного противодействия распространению климатической дезинформации, сгенерированной ИИ. Укрепление целостности информации и критического мышления позволяет людям ориентироваться в цифровом ландшафте и принимать обоснованные решения среди растущей волны климатической дезинформации.

Обнаружение и борьба с климатической дезинформацией, распространяемой ИИ

Хотя технология ИИ облегчила быстрое распространение климатической дезинформации, она также может быть частью решения. Алгоритмы, основанные на ИИ, могут выявлять закономерности, характерные для контента, сгенерированного ИИ, что позволяет обнаруживать и вмешиваться на ранней стадии.
Однако мы еще находимся на ранних этапах создания надежных систем обнаружения ИИ. Поэтому люди могут предпринять следующие шаги, чтобы минимизировать риск климатической дезинформации:

• Увеличить бдительность: Поскольку приложения для проверки фактов ИИ еще развиваются, пользователи должны быть бдительными в проверке информации, с которой они сталкиваются. Вместо автоматического публикации результатов поиска ИИ в социальных сетях необходимо выявлять и оценивать надежные источники. Проверка источников имеет решающее значение при работе с важными темами, такими как борьба с климатическими изменениями.
• Оценить методы проверки фактов: Принять метод “параллельного чтения”, используемый экспертами по проверке фактов. Поиск информации об источниках, цитируемых в контенте, сгенерированном ИИ, в новом окне. Анализ надежности источников и опыта авторов. Использование традиционных поисковых систем для поиска и оценки консенсуса среди экспертов по теме.
• Оценить доказательства: Более глубоко изучить доказательства, представленные в утверждениях, сгенерированных ИИ. Изучить, поддерживает ли надежный научный консенсус и исследования доказательства или опровергают заявления. Быстрые запросы к платформам ИИ могут дать некоторые предварительные данные, но для получения надежных результатов требуется тщательное расследование.
• Не полагаться исключительно на ИИ: Учитывая склонность систем ИИ иногда производить галлюцинации или неточную информацию, становится важным не полагаться исключительно на ИИ. Чтобы обеспечить точность и точность знаний, необходимо дополнить материал, сгенерированный ИИ, тщательной проверкой с помощью традиционных поисковых систем.
• Содействие цифровой грамотности: Медиаграмотность также имеет решающее значение для наделения людей возможностью ориентироваться в сложном климатическом дискурсе. Наделение общества критическим мышлением позволяет ему различать дезинформацию, что способствует более информированному и ответальному обществу.

Этические дилеммы: баланс между свободой слова и контролем дезинформации

В борьбе с климатической дезинформацией, распространяемой ИИ, соблюдение этических принципов в разработке и использовании ИИ имеет первостепенное значение. Отдавая приоритет прозрачности, справедливости и подотчетности, мы можем обеспечить, чтобы технологии ИИ служили общественным интересам и положительно способствовали нашему пониманию климатических изменений.

Чтобы узнать больше о генеративном ИИ или связанном с ИИ контенте, посетите unite.ai.