Hrozba klimatické dezinformace šířené generativní AI technologií

Umělé inteligence (AI) transformovala, jak přistupujeme a šíříme informace. Konkrétně Generative AI (GAI) nabízí bezprecedentní příležitosti pro růst. Ale také představuje významné výzvy, zejména v diskusi o změně klimatu, zvláště klimatické dezinformace.

V roce 2022 ukázala výzkum, že kolem 60 účtů na Twitteru bylo použito k vytvoření 22 000 tweetů a šíření falešných nebo zavádějících informací o změně klimatu.

Klimatická dezinformace znamená nepřesné nebo zavádějící obsah související s klimatickou vědou a environmentálními otázkami. Šíří se prostřednictvím různých kanálů, zkresluje diskusi o změně klimatu a brání rozhodování založenému na důkazech.

Jak se zvyšuje naléhavost řešení změny klimatu, dezinformace šířené AI představují značnou překážku pro dosažení kolektivní klimatické akce.

Co je klimatická dezinformace?

Falešné nebo zavádějící informace o změně klimatu a jejích dopadech jsou často šířeny, aby vyvolaly pochybnosti a zmatek. Tento šíření nepřesného obsahu brání účinné klimatické akci a veřejnému pochopení.

V době, kdy informace putují okamžitě prostřednictvím digitálních platforem, nalezla klimatická dezinformace úrodnou půdu, aby se šířila a vytvářela zmatek mezi veřejností.

Hlavně existují tři typy klimatické dezinformace:

• Trend: Šíření falešných informací o dlouhodobých vzorcích a změnách globálního klimatu, často za účelem bagatelizovat závažnost změny klimatu.
• Attribuce: Zavádějící přiřazování klimatických událostí nebo jevů k nesouvisejícím faktorům, čímž se zakrývá skutečný vliv lidské činnosti na změnu klimatu.
• Dopad: Přehánění nebo podceňování skutečných důsledků změny klimatu, buď za účelem vzbudit strach nebo podporovat samodpovědnost ohledně potřeby klimatické akce.

V roce 2022 vyšly najevo několik znepokojivých pokusů o šíření klimatické dezinformace, které demonstrovaly rozsah této výzvy. Tyto snahy zahrnovaly lobbyistické kampaně fosilních firem, aby ovlivnily politiky a oklamaly veřejnost.

Navíc petrochemičtí magnáti financovali think tanky popírající změnu klimatu , aby šířily falešné informace. Rovněž firemní klimatické “skeptické” kampaně prosperovaly na sociálních médiích, využívající reklamní kampaně na Twitteru k rychlému šíření dezinformací.

Tyto manipulativní kampaně usilují o podkopání veřejné důvěry v klimatickou vědu, odradí od akce a brání smysluplnému pokroku v řešení změny klimatu.

Jak se klimatická dezinformace šíří s Generative AI?

Zdroj obrázku 

Technologie Generative AI, zejména hluboké učící modely jako Generative Adversarial Networks (GANs) a transforméry, mohou produkovat vysoce realistické a přesvědčivé obsahy, včetně textu, obrázků, audio a videí. Tento pokrok v AI technologii otevřel dveře pro rychlé šíření klimatické dezinformace různými způsoby.

Generative AI může vymyslet příběhy, které nejsou pravdivé o změně klimatu. Ačkoli 5,18 miliardy lidí používá sociální média dnes, jsou více informováni o aktuálních světových problémech. Ale jsou 3% méně pravděpodobní, že rozpoznají falešné tweety generované AI než ty, které byly napsány lidmi.

Některé způsoby, jak Generative AI může propagovat klimatickou dezinformaci:

1. Přístupnost

Nástroje Generative AI, které produkují realistické syntetické obsahy, se stávají stále více přístupnými prostřednictvím veřejných API a otevřených komunit. Tato snadná dostupnost umožňuje úmyslnou generaci falešných informací, včetně textu a fotorealistických falešných obrázků, což přispívá ke šíření klimatické dezinformace.

2. Sophistication

Generative AI umožňuje vytvořit delší, autoritativně znějící články, blogové příspěvky a zprávy, často napodobující styl renomovaných zdrojů. Tato sofistikovanost může oklamat a zmást publikum, což činí obtížným rozlišit AI-generovanou dezinformaci od skutečného obsahu.

3. Přesvědčivost

Velké jazykové modely (LLM) integrované do AI agentů mohou vést rozsáhlé konverzace s lidmi, používat přesvědčivé argumenty k ovlivnění veřejného mínění. Generative AI má schopnost generovat personalizovaný obsah, který je nedetekovatelný stávajícími nástroji pro detekci botů. Kromě toho mohou GAI boti zesílit úsilí o dezinformaci a umožnit malým skupinám, aby se zdály větší online.

Je proto zásadní implementovat robustní mechanismy ověření faktů, mediální gramotnost a blízké monitorování digitálních platforem, aby se účinně bojovalo proti šíření AI-propagované klimatické dezinformace. Upevňování integrity informací a kritického myšlení umožňuje jedincům navigovat v digitálním prostředí a činit informovaná rozhodnutí uprostřed rostoucí vlny klimatické dezinformace.

Detecting & Combating AI-Propagated Climate Misinformation

Ačkoli AI technologie usnadnila rychlé šíření klimatické dezinformace, může být také součástí řešení. AI-poháněné algoritmy mohou identifikovat vzory, které jsou jedinečné pro AI-generovaný obsah, umožňující časnou detekci a intervenci.

Nicméně jsme stále v raných fázích budování robustních AI detekčních systémů. Proto mohou lidé podniknout následující kroky, aby minimalizovali riziko klimatické dezinformace:

• Zvýšit bdělost: Ačkoli AI faktické ověřovací aplikace jsou stále ve vývoji, uživatelé musí být bdělí při ověřování informací, se kterými se setkávají. Místo automatického publikování výsledků AI vyhledávání na sociálních médiích identifikujte a vyhodnoťte spolehlivé zdroje. Kontrola zdrojů je zásadní, když se jedná o důležité předměty, jako je boj proti změně klimatu.
• Vyhodnotit metody ověření faktů: Přijměte laterální čtení, techniku, kterou používají experti na ověřování faktů. Hledejte informace o zdrojích citovaných v AI-generovaném obsahu v novém okně. Analyzujte spolehlivost zdrojů a zkušenosti autorů. Použijte konvenční vyhledávače, aby jste vyhledali a vyhodnotili konsenzus mezi odborníky na dané téma.
• Vyhodnotit důkazy: Pronikněte hlouběji do důkazů prezentovaných v AI-generovaných tvrzeních. Zkontrolujte, zda spolehlivý vědecký konsenzus a studie podporují nebo vyvracejí tvrzení. Rychlé dotazy na AI platformy mohou poskytnout一些 předběžné údaje, ale je zapotřebí hlubší vyšetřování, aby se dospělo k spolehlivým výsledkům.
• Nespoléhat se pouze na AI: Vzhledem k tomu, že AI systémy mají tendenci příležitostně produkovat halucinace nebo nepřesné informace, je důležité nespoléhat se pouze na AI. Abyste zajistili přesnost a准确nost ваших znalostí, doplňte AI-generovaný materiál pečlivým křížovým ověřením pomocí tradičních vyhledávačů.
• Promování digitální gramotnosti: Mediální gramotnost je také zásadní pro osvětu jednotlivců, aby mohli navigovat v komplexní klimatické diskusi. Poskytnutí veřejnosti kritického myšlení umožňuje jim rozlišit dezinformace, vytváří informovanější a zodpovědnější společnost.

Ethické dilemata: Rovnováha mezi svobodou projevu a kontrolou dezinformací

V boji proti AI-propagované klimatické dezinformaci je zásadní dodržovat etické principy ve vývoji AI a odpovědném použití. Prioritizando průhlednost, spravedlnost a odpovědnost, můžeme zajistit, aby AI technologie sloužily veřejnému dobru a přispívaly pozitivně k našemu pochopení změny klimatu.

Pro více informací o Generative AI nebo souvisejícím obsahu navštivte unite.ai.