Угроза климатической дезинформации, распространяемой генеративными технологиями ИИ

Искусственный интеллект (ИИ) преобразовал то, как мы получаем и распространяем информацию. В частности, генеративный ИИ (ГИИ) предлагает беспрецедентные возможности для роста. Но он также представляет значительные проблемы, особенно в дискурсе о климатических изменениях, особенно в климатической дезинформации.

В 2022 году исследования показали, что около 60 аккаунтов Twitter использовались для создания 22 000 твитов и распространения ложной или вводящей в заблуждение информации о климатических изменениях.

Климатическая дезинформация означает неточную или вводящую в заблуждение информацию, связанную с климатической наукой и экологическими проблемами. Распространяемая через различные каналы, она искажает дискурс о климатических изменениях и препятствует принятию решений на основе доказательств.

По мере того, как возрастает срочность решения проблемы климатических изменений, дезинформация, распространяемая ИИ, представляет собой грозное препятствие на пути к коллективным действиям по защите климата.

Что такое климатическая дезинформация?

Ложная или вводящая в заблуждение информация о климатических изменениях и их последствиях часто распространяется для посеянения сомнений и путаницы. Это распространение неточной информации препятствует эффективным действиям по защите климата и пониманию общественностью.

В эпоху, когда информация распространяется мгновенно через цифровые платформы, климатическая дезинформация нашла плодородную почву для распространения и создания путаницы среди широкой общественности.

В основном существует три типа климатической дезинформации:

• Тренд: Распространение ложной информации о долгосрочных тенденциях и изменениях в глобальном климате, часто для преуменьшения серьезности климатических изменений.
• Атрибуция: Вводящая в заблуждение атрибуция климатических событий или явлений не связанным факторам, затеняя фактическое влияние человеческой деятельности на климатические изменения.
• Воздействие: Преувеличение или занижение реальных последствий климатических изменений, либо для разжигания страха, либо для продвижения самоуспокоенности в отношении необходимости действий по защите климата.

В 2022 году были обнаружены несколько тревожных попыток распространить климатическую дезинформацию, демонстрирующие масштаб проблемы. Эти усилия включали лоббистские кампании компаний, производящих ископаемое топливо, для влияния на политиков и обмана общественности.

Кроме того, магнаты нефтяной и химической промышленности финансировали отрицающие климатические изменения аналитические центры для распространения ложной информации. Также корпоративные кампании “скептиков” по климатическим изменениям процветали на социальных платформах, используя твит-кампании для быстрого распространения дезинформации.

Эти манипулятивные кампании стремятся подорвать общественное доверие к климатической науке, отговорить от действий и препятствовать значимому прогрессу в решении проблемы климатических изменений.

Как климатическая дезинформация распространяется с помощью генеративного ИИ?

Источник изображения 

Технология генеративного ИИ, в частности, глубокие модели обучения, такие как сети генеративных противостояний (GANs) и трансформеры, могут производить высокореалистичный и правдоподобный контент, включая текст, изображения, аудио и видео. Этот прогресс в технологии ИИ открыл двери для быстрого распространения климатической дезинформации различными способами.

Генеративный ИИ может придумывать истории, которые не являются правдой о климатических изменениях. Хотя 5,18 миллиарда человек используют социальные сети сегодня, они более осведомлены о текущих проблемах мира. Но они на 3% менее склонны обнаружить ложные твиты, сгенерированные ИИ, чем те, которые написаны людьми.

Некоторые из способов, которыми генеративный ИИ может способствовать распространению климатической дезинформации:

1. Доступность

Инструменты генеративного ИИ, производящие реалистичный синтетический контент, становятся все более доступными через публичные API и открытые сообщества. Эта доступность позволяет намеренно генерировать ложную информацию, включая текст и фотографически реалистичные фальшивые изображения, что способствует распространению климатической дезинформации.

2. Сложность

Генеративный ИИ позволяет создавать более длинные, звучащие авторитетно статьи, посты в блогах и новостные истории, часто имитируя стиль авторитетных источников. Эта сложность может обмануть и ввести в заблуждение аудиторию, что делает трудным различие между дезинформацией, сгенерированной ИИ, и настоящим контентом.

3. Убеждение

Большие языковые модели (LLM), интегрированные в агенты ИИ, могут участвовать в сложных разговорах с людьми, используя убедительные аргументы для влияния на общественное мнение. Способность генеративного ИИ генерировать персонализированный контент не обнаруживается текущими инструментами обнаружения ботов. Кроме того, боты ГИИ могут усиливать усилия по дезинформации и позволять небольшим группам казаться более крупными в Интернете.

Следовательно, важно реализовать надежные механизмы проверки фактов, программы медиаграмотности и тщательный мониторинг цифровых платформ для эффективной борьбы с распространением климатической дезинформации, сгенерированной ИИ. Укрепление целостности информации и критического мышления позволяет людям ориентироваться в цифровом ландшафте и принимать обоснованные решения среди растущей волны климатической дезинформации.

Обнаружение и борьба с климатической дезинформацией, распространяемой ИИ

Хотя технология ИИ облегчила быстрое распространение климатической дезинформации, она также может быть частью решения. Алгоритмы, основанные на ИИ, могут выявлять закономерности, уникальные для контента, сгенерированного ИИ, что позволяет обнаружить и вмешаться на ранней стадии.

Однако мы еще находимся на ранних этапах создания надежных систем обнаружения ИИ. Следовательно, люди могут предпринять следующие шаги, чтобы минимизировать риск климатической дезинформации:

• Увеличить бдительность: Поскольку приложения для проверки фактов ИИ еще развиваются, пользователи должны быть бдительными в проверке информации, с которой они сталкиваются. Вместо того, чтобы автоматически публиковать результаты поиска ИИ в социальных сетях, выявите и оцените надежные источники. Проверка источников имеет важное значение при работе с важными темами, такими как борьба с климатическими изменениями.
• Оценить методы проверки фактов: Примите технику бокового чтения, используемую экспертами по проверке фактов. Поищите информацию об источниках, цитируемых в контенте, сгенерированном ИИ, в новом окне. Проанализируйте надежность источников и опыт авторов. Используйте традиционные поисковые системы, чтобы найти и оценить консенсус среди экспертов по теме.
• Оценить доказательства: Глубже изучите доказательства, представленные в утверждениях, сгенерированных ИИ. Изучите, поддерживает ли надежный научный консенсус и исследования или опровергают заявления. Быстрые запросы к платформам ИИ могут дать некоторые предварительные данные, но для получения надежных результатов требуется тщательное расследование.
• Не полагаться исключительно на ИИ: Учитывая склонность систем ИИ иногда производить галлюцинации или неточную информацию, становится важным не полагаться исключительно на ИИ. Чтобы обеспечить точность и точность ваших знаний, дополните материал, сгенерированный ИИ, тщательной проверкой с помощью традиционных поисковых систем.
• Содействие цифровой грамотности: Медиаграмотность также имеет решающее значение для наделения людей способностью ориентироваться в сложном дискурсе о климате. Наделив общественность критическим мышлением, мы позволяем им различать дезинформацию, способствуя более информированному и ответальному обществу.

Этические дилеммы: баланс между свободой слова и контролем дезинформации

В борьбе с климатической дезинформацией, распространяемой ИИ, соблюдение этических принципов в разработке и ответственной эксплуатации ИИ имеет первостепенное значение. Отдавая приоритет прозрачности, справедливости и подотчетности, мы можем обеспечить, чтобы технологии ИИ служили общественным интересам и положительно влияли на наше понимание климатических изменений.

Чтобы узнать больше о генеративном ИИ или связанном с ИИ контенте, посетите unite.ai.