Etika
Microsoft rozšiřuje nástroje pro integritu obsahu o podporu globálních voleb uprostřed generativních obav o umělou inteligenci
Rok 2024 má být významným pro volby po celém světě, přičemž Evropská unie letos v létě pořádá parlamentní volby a přibližně polovina evropských zemí se připravuje na národní nebo regionální hlasování. Jak se toto demokratické cvičení rozvíjí, rychlý rozvoj generativní umělé inteligence vyvolal otázky o jejím potenciálním dopadu na volby a širší informační ekosystém. Objevily se obavy ohledně schopnosti technologie generovat různorodý obsah vysokou rychlostí a jejího potenciálního využití při šíření dezinformací.
Oznámení společnosti Microsoft
Ve světle tohoto vývoje Microsoft oznámila rozšíření soukromých náhledů nástrojů pro integritu obsahu na politické strany a kampaně v Evropské unii a zpravodajské organizace po celém světě. Společnost uvedla, že nástroje jsou navrženy tak, aby pomohly organizacím informovat voliče o původu obsahu, se kterým se setkávají online.
Nástroje pro integritu obsahu umožňují organizacím připojit ke svým původním médiím bezpečné „Content Credentials“ poskytující informace o tom, kdo vytvořil nebo publikoval obsah, kde a kdy byl vytvořen, zda byl vytvořen umělou inteligencí a zda byla média upravena nebo změnila od svého vzniku. Podporou široce přijímaného Standard pověření obsahuMicrosoft usiluje o to, aby byly tyto nástroje dostupné a interoperabilní napříč platformami.
Jak fungují nástroje integrity obsahu
Nástroje Microsoft Content Integrity se skládají ze tří hlavních komponent. Za prvé, existuje webová aplikace přístupná politickým kampaním, zpravodajským organizacím a volebním úředníkům, která jim umožňuje přidávat k obsahu pověření k obsahu. Za druhé, soukromá mobilní aplikace vyvinutá ve spolupráci s Truepic, umožňuje uživatelům pořizovat bezpečné a ověřené fotografie, videa a zvuk přidáním přihlašovacích údajů k obsahu v reálném čase ze svých chytrých telefonů. Za třetí, a veřejný web je k dispozici pro ověřovatele faktů a širokou veřejnost, aby mohli zkontrolovat obrázky, zvuk a video, zda obsahují pověření obsahu.
Standard Content Credentials poskytuje prostředky pro ověřování médií a informování uživatelů o jejich původu. Je však třeba poznamenat, že tento standard čelil kritice za relativní snadnost, s jakou lze metadata z obsahu odstranit. Kromě toho v současné době neexistuje žádná spolehlivá metoda pro detekci textu generovaného umělou inteligencí, což představuje pokračující výzvu v boji proti dezinformacím.
Na prvním ze tří obrázků jsou použity přihlašovací údaje. (Zdroj: Microsoft)
Širší úsilí společnosti Microsoft o ochranu před volbami
Microsoft uznal, že samotné nástroje pro integritu obsahu nejsou úplným řešením problému klamavých médií ve volbách. Společnost zdůraznila, že tyto nástroje jsou součástí širší obranné strategie proti zneužití obsahu generovaného umělou inteligencí.
Začátkem tohoto roku se k nim přidal Microsoft Tech Accord pro boj s podvodným používáním AI spolu s 20 dalšími společnostmi. Cílem této iniciativy je řešit zneužívání videa, zvuku a obrázků, které mění vzhled, hlas nebo jednání politických kandidátů a volebních úředníků. Společnost Microsoft také spolupracuje s globálními politickými stranami na poskytování podpory a školení o zvládání výzev, které představuje AI ve volbách. Kromě toho společnost nabízí pomoc v oblasti kybernetické bezpečnosti prostřednictvím svého týmu Campaign Success a programu AccountGuard, který pomáhá chránit před kybernetickými útoky národních států zaměřenými na volby.
Rozhodující krok v ochraně volební integrity
S blížícími se globálními volbami v roce 2024 představuje rozšíření nástrojů Microsoft Content Integrity zásadní krok k zajištění integrity demokratických procesů tváří v tvář vyvíjejícím se technologickým výzvám. Tím, že poskytuje politickým stranám, kampaním a zpravodajským organizacím prostředky k ověřování jejich médií a informování voličů o původu online obsahu, přispívá Microsoft k vytvoření transparentnějšího a důvěryhodnějšího informačního ekosystému.
Je však důležité si uvědomit, že nástroje integrity obsahu jsou pouze jedním kouskem skládačky v boji proti potenciálnímu zneužití generativní umělé inteligence ve volbách. Snadnost, s jakou lze metadata z obsahu odstranit, a současný nedostatek spolehlivých metod pro detekci textu generovaného umělou inteligencí podtrhují potřebu neustálého výzkumu, spolupráce a ostražitosti v této oblasti.
Závazek společnosti Microsoft chránit volby po celém světě prostřednictvím iniciativ, jako je Tech Accord, podpora politických stran a pomoc v oblasti kybernetické bezpečnosti, dokazuje, že společnost uznává mnohostrannou povahu této výzvy. Vzhledem k tomu, že technologie postupuje vpřed a oblast hrozeb se vyvíjí, bude zásadní, aby vedoucí představitelé průmyslu, tvůrci politik a občanská společnost spolupracovali na vývoji a implementaci komplexních strategií pro ochranu integrity demokratických procesů v digitálním věku.
