Etika
Microsoft rozšiřuje nástroje pro integritu obsahu, aby podpořil globální volby v době obav z generativní umělé inteligence
Přidejte Unite.AI mezi své preferované zdroje na Google
Rok 2024 bude významným pro volby po celém světě, protože Evropská unie bude letos v létě konat parlamentní volby a přibližně polovina evropských zemí se připravuje na národní nebo regionální volby. Když se tato demokratická cvičení rozvinou, rychlý pokrok generativní umělé inteligence vyvolal otázky o jejím potenciálním dopadu na volby a širší informační ekosystém. Vznikly obavy o kapacitě této technologie generovat různorodý obsah na vysoké rychlosti a o jejím potenciálním použití při šíření dezinformací.
Oznámení Microsoftu
Vzhledem k těmto událostem Microsoft oznámil (MSFT ) rozšíření soukromé verze nástrojů pro integritu obsahu pro politické strany a kampaně v Evropském parlamentu, stejně jako pro zpravodajské organizace po celém světě. Společnost uvedla, že tyto nástroje jsou navrženy tak, aby pomohly organizacím informovat voliče o původu obsahu, se kterým se setkávají online.
Nástroje pro integritu obsahu umožňují organizacím připojit k jejich původnímu médiu zabezpečené “Content Credentials”, které poskytují informace o tom, kdo vytvořil nebo publikoval obsah, kde a kdy byl vytvořen, zda byl generován umělou inteligencí a zda byl médium upraveno nebo změněno od jeho vytvoření. Podporou široce přijímaného standardu Content Credentials se Microsoft snaží učinit tyto nástroje dostupnými a kompatibilními napříč platformami.
Jak fungují nástroje pro integritu obsahu
Nástroje pro integritu obsahu Microsoftu se skládají ze tří hlavních komponent. První je webová aplikace, která je přístupná politickým kampaním, zpravodajským organizacím a úředníkům voleb, a umožňuje jim přidat Content Credentials k jejich obsahu. Druhá je soukromá mobilní aplikace, vyvinutá ve spolupráci s Truepic, která umožňuje uživatelům zachytit zabezpečené a ověřené fotografie, videa a audio přidáním Content Credentials v reálném čase ze svých smartphonů. Třetí je veřejná webová stránka, která je dostupná pro ověřovatele faktů a veřejnost, aby mohli prohlédnout obrázky, audio a video pro přítomnost Content Credentials.
Standard Content Credentials poskytuje prostředek k ověření médií a informování uživatelů o jejich původu. Je však třeba poznamenat, že tento standard čelí kritice za relativní snadnost, s jakou lze metadata odstranit z obsahu. Kromě toho v současné době neexistuje spolehlivá metoda k detekci textu generovaného umělou inteligencí, což představuje pokračující výzvu v boji proti dezinformacím.
První z tří obrázků má Content Credentials aplikovány. (Zdroj: Microsoft)
Širší úsilí Microsoftu o ochranu voleb
Microsoft uznal, že nástroje pro integritu obsahu samy o sobě nejsou kompletním řešením problému klamavého médií ve volbách. Společnost zdůraznila, že tyto nástroje jsou součástí širší strategie obrany proti zneužití obsahu generovaného umělou inteligencí.
Na začátku tohoto roku se Microsoft připojil k Tech Accord to Combat Deceptive Use of AI spolu s 20 dalšími společnostmi. Tato iniciativa má za cíl řešit zneužití videa, audio a obrázků, které mění vzhled, hlas nebo akce politických kandidátů a úředníků voleb. Microsoft také spolupracuje s globálními politickými stranami, aby poskytoval podporu a školení na řešení problémů, které představuje umělá inteligence ve volbách. Kromě toho společnost nabízí pomoc s kybernetickou bezpečností prostřednictvím svého týmu Campaign Success a programu AccountGuard, aby pomohla chránit proti kybernetickým útokům na volby.
Kritický krok v ochraně integrity voleb
Když se blíží globální volby v roce 2024, rozšíření nástrojů pro integritu obsahu Microsoftu představuje kritický krok v ochraně integrity demokratických procesů tváří v tvář se vyvíjejícím technologickým výzvám. Poskytováním politickým stranám, kampaním a zpravodajským organizacím prostředků k ověření jejich médií a informování voličů o původu online obsahu Microsoft přispívá k vytvoření transparentnějšího a důvěryhodnějšího informačního ekosystému.
Je však důležité uznat, že nástroje pro integritu obsahu jsou pouze jednou součástí mozaiky v boji proti potenciálnímu zneužití generativní umělé inteligence ve volbách. Snadnost, s jakou lze metadata odstranit z obsahu, a současný nedostatek spolehlivých metod k detekci textu generovaného umělou inteligencí zdůrazňují potřebu pokračujícího výzkumu, spolupráce a bdělosti v této oblasti.
Microsoftův závazek chránit volby po celém světě prostřednictvím iniciativ, jako je Tech Accord, podpora politických stran a pomoc s kybernetickou bezpečností, демонструje uznání společnosti ohledně mnohých výzev, kterým čelí. Když se technologie bude dále vyvíjet a hrozby budou měnit, bude důležité, aby lídři průmyslu, politici a občanská společnost spolupracovali na vývoji a implementaci komplexních strategií pro ochranu integrity demokratických procesů v digitální éře.
