Kdo nás ochrání před dezinformacemi generovanými umělou inteligencí?

Generativní umělá inteligence se za méně než rok vyvinula z nuly na sto. Ačkoli je to stále začátek, již ukázala svůj potenciál transformovat podnikání. To je něco, na čem se všichni můžeme shodnout. Lišíme se však v názoru na to, jak omezit nebezpečí, která představuje.

Chci být jasný, jsem pro inovace a nejsou mi blízké obavy z budoucnosti. Ale recentní nárůst dezinformací – většinou zaměřených na polarizaci kolem kontroverzních témat – ukázal, že pokud nebude genová umělá inteligence regulována, může způsobit velké problémy ve společnosti.

Už jsme tohle viděli u sociálních médií, ale trvalo to roky a tvrdé zkušenosti, než jsme si uvědomili jejich slabiny. Už jsme (předpokládám) něco naučili. Otázka dnes zní, kdo pomůže zastavit vlnu dezinformací z genové umělé inteligence a jak?

Předvídatelně, vlády začínají jednat. Evropa je v čele, jak už jsme viděli u regulace technologií. USA jsou hned za ní, s prezidentem Bidenem, který vydal výkonný příkaz minulý říjen.

Bude to však vyžadovat globální spolupráci, aby se “udržela genová umělá inteligence v pořádku”. A předtím, než vlády mohou pomoci, musí pochopit omezení dostupných přístupů.

Problém identity se stal mnohem horším

V tomto novém světě se pravda stává jehlou v kupce názorů vydávaných za fakta. Vědět, od koho pochází obsah, je důležitější než kdykoli předtím.

A není to tak jednoduché, jako nařídit, aby každá sociální média účet musela být ověřena. Existuje silný odpor proti tomu a v některých případech je anonymity nutná k ochraně držitelů účtů. Navíc, mnoho spotřebitelů nejhoršího obsahu se nezajímá, zda je to důvěryhodné, ani odkud pochází.

Přes tyto výhrady, potenciální role identity v boji proti genové umělé inteligenci je nedoceněna. Skeptici, vyslechněte mě.

Představme si, že regulace nebo sociální svědomí donutí platformy nabízet každému držiteli účtu tyto možnosti:

1. Ověřit svou identitu nebo ne, a
2. Veřejně prokázat svou ověřenou identitu, nebo být pouze označen jako “Ověřeno”
   

Pak může sociální média obec lépe rozhodnout, kdo je důvěryhodný. Stejně důležité, pokud ne důležitější, identita podporuje odpovědnost. Platformy mohou rozhodnout o opatřeních proti opakujícím se “dezinformátorům” a zneuživatelům obsahu generovaného umělou inteligencí, i když se objevují pod různými jmény účtů.

S genovou umělou inteligencí, která zvyšuje sázky, věřím, že identita – vědět přesně, kdo zveřejnil co – je kritická. Někteří budou proti tomu, a identita není komplexní odpověď. Ve skutečnosti, žádné řešení nevyhovuje všem zúčastněným. Ale pokud regulace donutí platformy nabízet ověření identity pro všechny účty, jsem přesvědčen, že dopad bude obrovský.

Dilema moderace

Moderace obsahu – automatická a lidská – je poslední obrannou linií proti nežádoucímu obsahu. Lidská moderace je náročná práce, s rizikem psychické újmy z expozice nejhoršímu, co lidstvo může nabídnout. Je to také drahé a často obviněno z předpojaté cenzury, kterou platformy snaží omezit.

Automatická moderace překračuje lidskou kapacitu, aby zvládla proud nových obsahu, ale selhává v pochopení kontextu (memes jsou běžným příkladem) a kulturních nuancí. Oba typy moderace jsou nezbytné a nutné, ale jsou pouze částí odpovědi.

Často slyšíme, že konvenční recept na kontrolu genové umělé inteligence je: “Spolupráce mezi technologickými lídry, vládami a občanskou společností je nutná.” Samozřejmě, ale co konkrétně?

Vládám, na jejich straně, mohou tlačit sociální a média platformy, aby nabídly ověření identity a zřetelně je zobrazovaly na všech příspěvcích. Regulátoři mohou také vydláždit cestu ke kredibilitním metrikám, které skutečně pomáhají posoudit, zda je zdroj důvěryhodný. Spolupráce je nezbytná pro vývoj univerzálních standardů, které poskytují konkrétní pokyny a směr, aby se soukromý sektor nemusel hádat.

Nakonec, mělo by být nelegální vytvářet škodlivý umělý inteligentní obsah? Zákonodárství, které zakazuje obsah určený pro nezákonnou činnost, by mohlo snížit objem toxického obsahu a ulehčit moderátorům. Nerozumím regulaci a zákonům jako schopným porazit dezinformace, ale jsou nezbytné v boji proti této hrozbě.

Slunná strana ulice: inovace

Slib inovací mě činí optimistou. Nemůžeme očekávat, že politici nebo majitelé platforem úplně ochrání před umělou inteligencí generovanými dezinformacemi. Zanechávají velkou mezeru, a to je přesně to, co inspiruje vynález nových technologií pro autentizaci obsahu a detekci podvodů.

Jelikož už víme o nevýhodách sociálních médií, rychle jsme si uvědomili, že generativní umělá inteligence by mohla být obrovskou negativní silou pro lidstvo, se svou schopností polarizovat a klamat.

Optimisticky vidím výhody vícerých přístupů, kde kontrolní metody spolupracují, nejprve na zdroji, omezují tvorbu obsahu určeného pro nezákonnou činnost. Poté, před zveřejněním, ověřují identitu těch, kteří odmítají anonymitu. Dále, jasná označení, aby ukazovala kredibilitní hodnocení a identitu nebo absenci identity. Nakonec, automatická a lidská moderace může filtrovat některé z nejhorších. Předpokládám, že brzy budou k dispozici nové autentizační technologie.

Celkem uvidíme mnohem lepší, i když ne dokonalé, řešení. Mezitím bychom měli rozvíjet své dovednosti, abychom zjistili, co je skutečné, kdo říká pravdu a kdo se snaží nás oklamat.