Etika
Microsoft rozširuje nástroje integrity obsahu o podporu globálnych volieb uprostred generatívnych obáv AI
Rok 2024 má byť významným pre voľby na celom svete, pričom Európska únia bude toto leto organizovať parlamentné voľby a približne polovica európskych krajín sa pripravuje na národné alebo regionálne voľby. Ako sa toto demokratické cvičenie rozvíja, rýchly pokrok generatívnej AI vyvolal otázky o jej potenciálnom vplyve na voľby a širší informačný ekosystém. Objavili sa obavy týkajúce sa schopnosti technológie vytvárať rôznorodý obsah vysokou rýchlosťou a jej potenciálneho využitia pri šírení dezinformácií.
Oznámenie spoločnosti Microsoft
Vo svetle tohto vývoja Microsoft oznámila rozšírenie súkromných náhľadov nástrojov na integritu obsahu na politické strany a kampane v Európskej únii, ako aj spravodajské organizácie po celom svete. Spoločnosť uviedla, že nástroje sú navrhnuté tak, aby pomohli organizáciám informovať voličov o pôvode obsahu, s ktorým sa stretávajú online.
Nástroje integrity obsahu umožňujú organizáciám pripojiť k svojim pôvodným médiám bezpečné „poverenia obsahu“ poskytujúce informácie o tom, kto vytvoril alebo zverejnil obsah, kde a kedy bol vytvorený, či bol vygenerovaný AI a či bolo médium upravené alebo zmenila od svojho vzniku. Podporou široko prijímaného Štandardné poverenia obsahuMicrosoft sa snaží sprístupniť tieto nástroje a zabezpečiť ich interoperabilitu naprieč platformami.
Ako fungujú nástroje integrity obsahu
Nástroje integrity obsahu od spoločnosti Microsoft pozostávajú z troch hlavných komponentov. Po prvé, existuje webová aplikácia prístupná politickým kampaniam, spravodajským organizáciám a volebným funkcionárom, ktorá im umožňuje pridať k obsahu prihlasovacie údaje. Po druhé, súkromná mobilná aplikácia vyvinutá v spolupráci s Truepic, umožňuje používateľom zachytávať bezpečné a overené fotografie, videá a zvuk pridaním poverení obsahu v reálnom čase zo svojich smartfónov. Po tretie, a verejná webová stránka je k dispozícii pre overovateľov faktov a širokú verejnosť na kontrolu obrázkov, zvuku a videa na prítomnosť poverení obsahu.
Štandard Content Credentials poskytuje prostriedky na autentifikáciu médií a informovanie používateľov o ich pôvode. Stojí však za zmienku, že tento štandard čelil kritike za relatívnu ľahkosť, s akou možno metadáta z obsahu odstrániť. Okrem toho v súčasnosti neexistuje žiadna spoľahlivá metóda na detekciu textu generovaného AI, čo predstavuje pokračujúcu výzvu v boji proti dezinformáciám.
Prvý z troch obrázkov má použité poverenia obsahu. (Zdroj: Microsoft)
Rozšírené snahy spoločnosti Microsoft o ochranu pred voľbami
Microsoft uznal, že samotné nástroje Content Integrity nie sú úplným riešením problému klamlivých médií vo voľbách. Spoločnosť zdôraznila, že tieto nástroje sú súčasťou širšej obrannej stratégie proti zneužitiu obsahu generovaného AI.
Začiatkom tohto roka sa k nim pridal aj Microsoft Tech Accord na boj proti podvodnému používaniu AI spolu s 20 ďalšími spoločnosťami. Cieľom tejto iniciatívy je riešiť zneužívanie videa, zvuku a obrázkov, ktoré menia vzhľad, hlas alebo činy politických kandidátov a volebných činiteľov. Microsoft tiež spolupracuje s globálnymi politickými stranami na poskytovaní podpory a školení o zvládaní výziev, ktoré predstavuje AI vo voľbách. Okrem toho spoločnosť ponúka pomoc v oblasti kybernetickej bezpečnosti prostredníctvom svojho tímu Campaign Success a programu AccountGuard, ktorý pomáha chrániť pred kybernetickými útokmi národných štátov zameraných na voľby.
Rozhodujúci krok v ochrane integrity volieb
S blížiacimi sa globálnymi voľbami v roku 2024 predstavuje rozšírenie nástrojov Microsoft Content Integrity zásadný krok v zabezpečení integrity demokratických procesov vzhľadom na meniace sa technologické výzvy. Poskytnutím prostriedkov na overenie ich médií a informovania voličov o pôvode online obsahu politickým stranám, kampaniam a spravodajským organizáciám spoločnosť Microsoft prispieva k vytvoreniu transparentnejšieho a dôveryhodnejšieho informačného ekosystému.
Je však dôležité si uvedomiť, že nástroje integrity obsahu sú len jedným kúskom skladačky v boji proti potenciálnemu zneužitiu generatívnej AI vo voľbách. Jednoduchosť, s akou je možné odstrániť metadáta z obsahu, a súčasný nedostatok spoľahlivých metód na detekciu textu generovaného AI podčiarkujú potrebu neustáleho výskumu, spolupráce a ostražitosti v tejto oblasti.
Záväzok spoločnosti Microsoft chrániť voľby na celom svete prostredníctvom iniciatív, ako je Tech Accord, podpora politických strán a pomoc v oblasti kybernetickej bezpečnosti, dokazuje, že spoločnosť uznáva mnohostrannú povahu tejto výzvy. Keďže technológia neustále napreduje a prostredie hrozieb sa vyvíja, bude kľúčové, aby vedúci predstavitelia priemyslu, tvorcovia politík a občianska spoločnosť spolupracovali na vývoji a implementácii komplexných stratégií na ochranu integrity demokratických procesov v digitálnom veku.
