Hrozba klimatické dezinformace šířené generativní umělou inteligencí

Umělá inteligence (AI) transformovala, jak přistupujeme a šíříme informace. Zvláště generativní umělá inteligence (GAI) nabízí bezprecedentní příležitosti pro růst. Ale také představuje významné výzvy, zejména v diskusi o změně klimatu, zvláště v případě klimatické dezinformace.

V roce 2022 výzkum ukázal, že kolem 60 účtů na Twitteru bylo použito k vytvoření 22 000 tweetů a šíření falešných nebo zavádějících informací o změně klimatu.

Klimatická dezinformace znamená nepřesné nebo klamavé obsahy související s klimatickou vědou a environmentálními problémy. Šíří se prostřednictvím různých kanálů, zkresluje diskusi o změně klimatu a brání rozhodování založenému na důkazech.

Jak se zvyšuje naléhavost řešení změny klimatu, dezinformace šířené AI představují významnou překážku pro dosažení kolektivní klimatické akce.

Co je klimatická dezinformace?

Falešné nebo zavádějící informace o změně klimatu a jejích dopadech se často šíří, aby se vyvolala pochybnost a zmatek. Tato propagace nepřesného obsahu brání účinné klimatické akci a veřejnému pochopení.

V době, kdy informace putují okamžitě prostřednictvím digitálních platforem, klimatická dezinformace našla úrodnou půdu, aby se šířila a vytvářela zmatek mezi veřejností.

Hlavně existují tři typy klimatické dezinformace:

• Trend: Šíření falešných informací o dlouhodobých vzorcích a změnách globálního klimatu, často za účelem bagatelizace závažnosti změny klimatu.
• Attribuce: Klamavé přiřazování klimatických událostí nebo jevů nesouvisejícím faktorům, čímž se zakrývá skutečný vliv lidské činnosti na změnu klimatu.
• Dopad: Přehánění nebo podceňování skutečných dopadů změny klimatu, buď za účelem vzbuzení strachu nebo propagace lhostejnosti vůči potřebě klimatické akce.

V roce 2022 se objevilo několik znepokojivých pokusů o šíření klimatické dezinformace, které prokázaly rozsah této výzvy. Tyto snahy zahrnovaly lobbyistické kampaně fosilních palivových společností, aby ovlivnily politiky a oklamaly veřejnost.

Dále magnáti z petrochemického průmyslu financovali think-tanky, které popírají změnu klimatu, aby šířily falešné informace. Rovněž korporátní klimatické “skeptické” kampaně prosperovaly na sociálních médiích, využívající reklamní kampaně na Twitteru k rychlému šíření dezinformací.

Tyto manipulativní kampaně usilují o podkopání důvěry veřejnosti v klimatickou vědu, odradí od činů a brání významnému pokroku v řešení změny klimatu.

Jak se klimatická dezinformace šíří s generativní umělou inteligencí?

Zdroj obrázku 

Technologie generativní umělé inteligence, zejména hluboké učící modely jako Generative Adversarial Networks (GANs) a transforméry, mohou produkovat vysoce realistické a přesvědčivé obsahy, včetně textu, obrázků, audio a videí. Tento pokrok v AI technologii otevřel dveře pro rychlé šíření klimatické dezinformace mnoha způsoby.

Generativní AI může vymyslet příběhy, které nejsou pravdivé o změně klimatu. Ačkoli 5,18 miliardy lidí používá sociální média dnes, jsou více informováni o aktuálních světových problémech. Ale jsou o 3 % méně pravděpodobní, že rozpoznají falešné tweety generované AI než ty, které píší lidé.

Některé způsoby, jak generativní AI může propagovat klimatickou dezinformaci:

1. Přístupnost

Nástroje generativní AI, které produkují realistické syntetické obsahy, se stávají stále více přístupnými prostřednictvím veřejných API a otevřených komunit. Tato snadná dostupnost umožňuje úmyslnou generaci falešných informací, včetně textu a fotorealistických falešných obrázků, což přispívá k šíření klimatické dezinformace.

2. Sophistication

Generativní AI umožňuje vytvářet delší, autoritativně znějící články, blogové příspěvky a zprávy, často napodobující styl renomovaných zdrojů. Tato sofistikovanost může oklamat a zmást publikum, khiến je obtížné rozlišit mezi AI-generovanými dezinformacemi a skutečným obsahem.

3. Přesvědčivost

Velké jazykové modely (LLM) integrované do AI agentů mohou vést složitá jednání s lidmi, využívající přesvědčivé argumenty k ovlivnění veřejného mínění. Generativní AI má schopnost produkovat personalizovaný obsah, který je nedetekovatelný stávajícími nástroji pro detekci botů. Kromě toho mohou GAI boti zesílit úsilí o dezinformaci a umožnit malým skupinám, aby se zdály větší online.

Je proto zásadní implementovat robustní mechanismy ověřování faktů, programy mediální gramotnosti a blízké monitorování digitálních platforem, aby se účinně bojovalo proti šíření AI-propagované klimatické dezinformace. Upevnění integrity informací a kritického myšlení umožňuje jednotlivcům navigovat v digitálním prostředí a činit informovaná rozhodnutí uprostřed rostoucí vlny klimatické dezinformace.

Detecting & Combating AI-Propagated Climate Misinformation

Ačkoli AI technologie usnadnila rychlé šíření klimatické dezinformace, může být také součástí řešení. AI-poháněné algoritmy mohou identifikovat vzory specifické pro AI-generovaný obsah, umožňující časnou detekci a intervenci.

Nicméně jsme stále v raných fázích budování robustních AI detekčních systémů. Proto mohou lidé podniknout následující kroky, aby minimalizovali riziko klimatické dezinformace:

• Zvýšit bdělost: Jako AI faktické ověřovací aplikace se stále vyvíjejí, uživatelé musí být bdělí při ověřování informací, se kterými se setkávají. Místo automatického publikování výsledků z AI vyhledávání na sociálních médiích identifikujte a vyhodnoťte spolehlivé zdroje. Kontrola zdrojů je zásadní, když se jedná o důležité téma, jako je boj proti změně klimatu.
• Vyhodnotit metody ověřování faktů: Přijměte laterální čtení, techniku, kterou používají experti na ověřování faktů. Hledejte informace o zdrojích citovaných v AI-generovaném obsahu v novém okně. Analyzujte spolehlivost zdrojů a zkušeností autorů. Použijte konvenční vyhledávače, aby jste našli a vyhodnotili konsenzus mezi experty na toto téma.
• Vyhodnotit důkazy: Prohledejte důkazy prezentované v AI-generovaných tvrzeních. Zkontrolujte, zda spolehlivý vědecký konsenzus a studie podporují nebo vyvracejí tvrzení. Rychlé dotazy na AI platformy mohou poskytnout některé předběžné údaje, ale pro dosažení spolehlivých výsledků je zapotřebí hlubší vyšetřování.
• Nespoléhat se pouze na AI: Vzhledem k tomu, že AI systémy mají někdy tendenci produkovat halucinace nebo nepřesné informace, je důležité nespoléhat se pouze na AI. Abyste zajistili přesnost a准nost ve vašich znalostech, doplňte AI-generovaný materiál pečlivým křížovým ověřením pomocí tradičních vyhledávačů.
• Podporovat digitální gramotnost: Mediální gramotnost je také zásadní pro umožnění jednotlivcům navigovat v komplexní klimatické diskusi. Poskytnutí veřejnosti kritického myšlení umožňuje jim rozlišit dezinformace a vytvářet více informovanou a zodpovědnou společnost.

Ethické dilema: Rovnováha mezi svobodou projevu a kontrolou dezinformací

V boji proti AI-propagované klimatické dezinformaci je zásadní dodržovat etické principy při vývoji a používání AI. Prioritou průhlednosti, férovosti a odpovědnosti můžeme zajistit, že AI technologie slouží veřejnému zájmu a přispívají pozitivně k našemu pochopení změny klimatu.

Chcete-li se dozvědět více o generativní AI nebo souvisejících obsahu, navštivte unite.ai.