Rostoucí požadavky na regulaci umělé inteligence po týdnech zpráv

V posledních týdnech se zvyšují požadavky na silnější regulaci umělé inteligence (AI). Obavy vznikly po různých zprávách, které ukázaly potenciální zneužívání této technologie. Nyní jsou opět kladeny další otázky s vydáním dlouho očekávané bílé knihy o umělé inteligenci Evropskou komisí (EU), která je prvním celonárodním pokusem o regulaci AI. Přibližně ve stejnou dobu vydala Úřad pro vědu a technologickou politiku Bílého domu (OSTP) zprávu o americké iniciativě umělé inteligence.

Před vydáním bílé knihy EU The Intercept uveřejnil zpravodajskou zprávu týkající se uniklých interních dokumentů Evropské unie. Podle dokumentů EU zvažovala vytvoření sítě databází rozpoznávání obličeje po celé Evropě. Národní policejní síly 10 členských států EU vytvořily zprávu, která doporučila vytvoření a propojení těchto databází ve všech členských státech. Mnoho lidí se obává, že vytvoření takových databází bude nevyhnutelně spojeno s podobnými databázemi ve Spojených státech, což by umožnilo konsolidaci obrovských množství biometrických dat. Mnoho lidí očekávalo, že bílá kniha EU bude navrhovat zákaz rozpoznávání obličeje, ale nebyl tam.

Podle Edina Omanoviće, ředitele pro zastupování zájmů v Privacy International, „to je znepokojivé na národní úrovni a na evropské úrovni, zejména proto, že některé země EU směřují k více autoritářským vládám.“

Jedna z velkých zpravodajských zpráv z posledních týdnů, která začala vyšetřováním New York Times v lednu, se týká startupu Clearview AI. Aplikace pro rozpoznávání obličeje této společnosti identifikuje lidi pomocí databáze obrázků pořízených ze sociálních médií. Aplikace porovnává fotografii s databází více než 3 miliard obrázků z webů, jako jsou Facebook (META ), Venmo a Youtube. Jakmile aplikace najde shody, odpoví odkazy na web, kde původně pocházejí. Tato technologie by mohla vést k odhalení osobních detailů o jednotlivci. Podle zprávy byla aplikace použita více než 600 policejními agenturami. Zatímco databáze Clearview obsahuje více než 3 miliardy obrázků, databáze FBI obsahuje pouze 641 milionů obrázků amerických občanů.

Zpráva opět vyšla najevo s novou zprávou od BuzzFeed News (BZFD ) minulý týden. Podle zprávy společnost zvažovala rozšíření své činnosti nejen na účely law enforcement, ale také na maloobchod, realitní trh, bankovnictví a mezinárodní trhy. Zpráva také uvedla, že aplikace pro rozpoznávání obličeje byla již prodána tisícům organizací po celém světě a používána ministerstvem spravedlnosti, ICE, Macy’s (M ), Walmart (WMT ) a NBA. Možná nejproblematičtějším na seznamu klientů je suverénní investiční fond ve Spojených arabských emirátech a tisíce vládních entit.

Nové vývojové události vyvolaly obavy mezi zastánci ochrany soukromí ohledně možného hromadného dohledu. Další obavou je možnost nesprávnosti technologie, vedoucí k cílení law enforcement na nevinné osoby. Kromě všech obav souvisejících s ochranou soukromí společnosti, jako jsou Facebook, Google (GOOGL ) a Twitter, hrozí právními kroky. Kromě soukromých právních kroků alespoň dva senátoři Spojených států uvedli, že mají v úmyslu prošetřit společnost.

Příklad zneužití této technologie lze vidět u agentury U.S. Immigration and Customs Enforcement (ICE). The Washington Post hlásil minulý týden, že úředníci ICE byli oprávněni použít technologii rozpoznávání obličeje k prohledání milionů fotografií řidičských průkazů v Marylandu, a to bez souhlasu státu nebo soudu.

Podle Harrisona Rudolpha, senior associate na Právnické fakultě Georgetown University, „ICE používá biometrické informace v utajení, bez vládního souhlasu nebo veřejného schválení, k pronásledování nejzranitelnějších lidí.“

Tyto jsou jen některé z nejznámějších příkladů, jak je tato technologie používána, ale mnohem více se děje za scénou. Z tohoto důvodu se zvyšují požadavky na přísnější kontrolu a regulaci. Zvyšující se transparentnost, ať už dobrovolná nebo prostřednictvím investigativní žurnalistiky, přináší mnoho praktik na světlo. Bez toho, aby veřejnost rozuměla umělé inteligenci a tomu, co by to mohlo znamenat pro ekonomiku, vládu, law enforcement, dohled a každý jiný aspekt společnosti, je málo naděje, že vlády a společnosti budou schopny se samoregulovat. Společnost vidí jak obrovské výhody AI, tak masivní obavy, a to vše se děje příliš rychle pro společnosti, vlády a jednotlivce, aby stačili.