Rostoucí požadavky na regulaci umělé inteligence po týdnech zpráv

V posledních týdnech se zvyšují požadavky na silnější regulaci umělé inteligence (AI). Obavy vznikají po různých zpravodajských příbězích, které ukázaly potenciální zneužívání technologie. Nyní jsou vzneseny další otázky s vydáním dlouho očekávaného bílé knihy o umělé inteligenci Evropského komise (EU), která je prvním celonárodním pokusem o regulaci AI. Přibližně ve stejnou dobu vydala Úřad pro vědu a technologickou politiku Bílého domu (OSTP) zprávu o své Americké iniciativě umělé inteligence.

Před vydáním bílé knihy EU The Intercept uveřejnil zpravodajský příběh týkající se uniklých interních dokumentů Evropské unie. Podle dokumentů EU zvažovala vytvoření sítě databází rozpoznávání obličeje po celé Evropě. Národní policejní síly 10 členských států EU vytvořily zprávu, ve které se doporučuje vytvoření a propojení databází ve všech členských státech. Mnoho lidí se obává, že vytvoření takových databází bude nevyhnutelně spojeno se podobnými databázemi ve Spojených státech, což umožní konsolidaci velkých množství biometrických údajů. Mnoho lidí očekávalo, že bílá kniha EU navrhne zákaz rozpoznávání obličeje, ale nebyl tam.

Podle Edina Omanoviće, ředitele pro lobby ve společnosti Privacy International, „je to znepokojivé na národní úrovni a na evropské úrovni, zejména proto, že některé země EU směřují k více autoritářským vládám.“

Jedním z velkých zpravodajských příběhů za poslední týdny, spuštěných New York Times investigací v lednu, se týká startupu Clearview AI. Aplikace pro rozpoznávání obličeje této společnosti identifikuje lidi pomocí databáze obrázků pořízených ze sociálních médií. Aplikace porovnává fotografii s databází více než 3 miliard obrázků z webů, jako jsou Facebook, Venmo a Youtube. Jakmile aplikace najde shody, reaguje odkazy na web, kde byly původně pořízeny fotografie. Tato technologie může vést k odhalení osobních údajů o jednotlivci. Podle zprávy byla aplikace použita více než 600 policejními agenturami. Zatímco databáze Clearview obsahuje více než 3 miliardy obrázků, databáze FBI obsahuje pouze 641 milionů obrázků občanů USA.

Příběh opět vybuchl s novou zprávou BuzzFeed News minulý týden. Podle zprávy společnost zvažovala rozšíření do více než jen policejních účelů, s maloobchodem, realitami, bankovnictvím a mezinárodními trhy. Zpráva také uvedla, že aplikace pro rozpoznávání obličeje byla již prodána tisícům organizací po celém světě a použita ministerstvem spravedlnosti, ICE, Macy’s, Walmart a NBA. Možná nejproblematičtější na seznamu klientů je suverénní fond Spojených arabských emirátů a tisíce vládních entit.

Nový vývoj vyvolal obavy mezi zastánci ochrany soukromí ohledně potenciálního hromadného dohledu. Další obavou je možnost nesprávnosti technologie, vedoucí k cílení zákonem na nevinné osoby. Kromě všech obav z ochrany soukromí společnosti, jako jsou Facebook, Google a Twitter, hrozí právními kroky. Kromě soukromých právních kroků alespoň dva senátoři Spojených států uvedli, že mají v úmyslu prošetřit společnost.

Příklad zneužití této technologie lze vidět u agentury U.S. Immigration and Customs Enforcement (ICE). The Washington Post minulý týden uvedl, že úředníci ICE získali povolení k použití technologie rozpoznávání obličeje pro prohledávání milionů fotografií řidičských průkazů v Marylandu, a to bez souhlasu státu nebo soudu.

Podle Harrisona Rudolpha, senior associate na Právnické fakultě Georgetown University Center on Privacy and Technology, „ICE používá biometrické informace ve stínu, bez vládního oznámení nebo veřejného souhlasu, aby pronásledovala nejzranitelnější lidi.“

To jsou jen některé z nejveřejnějších příkladů toho, jak je tato technologie používána, ale mnohem více se děje za scénou. Z tohoto důvodu se zvyšují požadavky na přísnější kontrolu a regulaci. Zvýšená transparentnost, ať už dobrovolná nebo prostřednictvím investigativní žurnalistiky, přináší mnoho praktik na světlo. Bez toho, aby veřejnost rozuměla umělé inteligenci a tomu, co by to mohlo znamenat pro ekonomiku, vládu, zákonodárce, dohled a každý jiný aspekt společnosti, je malá naděje, že vlády a společnosti budou schopny se samoregulovat. Společnost vidí jak obrovské výhody AI, tak i obrovské obavy, a to vše se děje příliš rychle pro společnosti, vlády a jednotlivce, aby to stíhali.