Bradford Newman, předseda Severoamerické praxe obchodních tajemství – Interview Series

Bradford se specializuje na záležitosti související s obchodními tajemstvími a umělou inteligencí. Je předsedou podvýboru pro umělou inteligenci Americké advokátní komory. V roce 2019 byl uznán deníkem Daily Journal (DJCO ) jako jeden z 20 nejlepších právníků v oblasti umělé inteligence v Kalifornii, Bradford sehrál významnou roli při návrhu federálních zákonů o ochraně duševního vlastnictví a pracovních míst v oblasti umělé inteligence, které v roce 2018 byly převedeny do návrhu zákona Sněmovny reprezentantů Spojených států. Také vyvinul osvědčené postupy pro dohled a firemní řízení umělé inteligence, které jsou navrženy tak, aby zajistily algoritmickou spravedlnost.

Co vás最初ně zaujalo o umělou inteligenci?

Již mnoho let zastupuji světové inovátory a producenty produktů a technologií umělé inteligence. Mým zájmem vždy bylo jít za oponu a pochopit právní a technické aspekty strojového učení a sledovat vývoj umělé inteligence. Zajímá mě, co je možné aplikovat v různých oblastech.

Jste vášnivým zastáncem racionální regulace umělé inteligence, zejména v regulaci, která chrání veřejné zdraví, můžete diskutovat o některých z ваших hlavních obav?

Věřím, že jsme na počátku jedné z nejhlubších revolucí, které lidstvo zažilo. Umělá inteligence má potenciál ovlivnit každou stránku našeho života, od rána do noci — a také, zatímco spíme. Mnohé aplikace umělé inteligence budou mít pozitivní dopad na kvalitu našeho života a pravděpodobně i na délku našeho života jako druhu.

Právě teď, z hlediska počítačové vědy a strojového učení, jsou lidé stále velmi zapojeni do procesu, od kódování algoritmů, pochopení trénovacích datových sad, zpracování výsledků, rozpoznání nedostatků a produkce technologií.

Ale jsme v závodě proti času na dvou hlavních frontách. První, co je obecně označováno jako “černá skříňka” problém: lidská účast a pochopení umělé inteligence se budou snižovat s časem, jak se bude zvyšovat složitost umělé inteligence (například ANNs). A druhá, použití umělé inteligence vládami a soukromými zájmy se bude zvyšovat.

Moje obava je, že umělá inteligence bude použita, jak úmyslně, tak i neúmyslně, způsoby, které jsou v rozporu se západními demokratickými ideály individuální svobody a liberty.

Jak můžeme tyto obavy řešit?

Společnost je na bodu, kdy musíme řešit ne to, co je možné s ohledem na umělou inteligenci, ale co by mělo být zakázáno nebo částečně omezeno.

První, musíme specificky identifikovat rozhodnutí, která nemohou být učiněna zcela nebo zčásti algoritmickým výstupem generovaným umělou inteligencí. To znamená, že i v situacích, kdy každý odborník souhlasí, že data jsou totalement nezávislá, transparentní a přesná, musí existovat zákonný zákaz použití jejích pro jakékoli typy prediktivního nebo podstatného rozhodování.

Přiznávám, že to je protiintuitivní ve světě, kde toužíme po matematické jistotě, ale stanovení “no-fly zóny” pro umělou inteligenci je nezbytné pro zachování svobod, které všichni máme a které slouží jako základ naší společnosti.

Druhé, pro ostatní identifikovaná rozhodnutí založená na analytice umělé inteligence, která nejsou zcela zakázána, potřebujeme legislativu, která jasně definuje ty, kde musí být člověk zapojen do rozhodovacího procesu.

Vy jste sehráli významnou roli při návrhu federálních zákonů o ochraně duševního vlastnictví a pracovních míst v oblasti umělé inteligence, které v roce 2018 byly převedeny do návrhu zákona Sněmovny reprezentantů Spojených států. Můžete diskutovat o některých z těchto návrhů?

Zákon o ochraně dat umělé inteligence je navržen tak, aby podporoval inovace a měl by (1) zvýšit transparentnost v povaze a použití umělé inteligence a budovat důvěru ve veřejnosti, (2) řešit dopad umělé inteligence na trh práce a (3) chránit veřejné zdraví a bezpečnost.

Má několik klíčových součástí. Například zakazuje společnostem, aby se pouze spoléhaly na umělou inteligenci při rozhodování o určitých rozhodnutích, včetně rozhodnutí o zaměstnání jednotlivců nebo odepření nebo omezení lékařského ošetření, a zakazuje pojišťovnám, aby činily rozhodnutí o pokrytí lékařského ošetření pouze na základě analytiky umělé inteligence. Také zřizuje Radu umělé inteligence — novou federální agenturu, která má specifické odpovědnosti za regulaci umělé inteligence v souvislosti s veřejným zdravím a bezpečností. A vyžaduje, aby pokryté subjekty jmenovaly hlavního důstojníka umělé inteligence.

Vy jste také vyvinuli osvědčené postupy pro dohled a firemní řízení umělé inteligence, které jsou navrženy tak, aby zajistily algoritmickou spravedlnost. Jaké jsou některé z aktuálních problémů, které vidíte s ohledem na spravedlnost nebo předpojatost v systémech umělé inteligence?

Tento předmět byl zaměřen na intenzivní zkoumání akademiky a nyní získává zájem amerických vládních agentur, jako je Komise pro rovné pracovní příležitosti (EEOC), a žalobců. Většinou je příčinou výsledků buď chyba v trénovacích datových sadách nebo nedostatečné pochopení a transparentnost testovacího prostředí. To je zhoršeno nedostatkem centrálního vlastnictví a dohledu nad umělou inteligencí seniorními manažery.

Tento nedostatek technického pochopení a situační povědomí je významnou záležitostí odpovědnosti. Já jsem mluvil s několika prominentními žalobci, kteří jsou na lovu případů předpojatosti umělé inteligence.

Hluboké učení často trpí problémem “černé skříňky”, kdy vkládáme data do umělých neuronových sítí a poté dostáváme výstup, aniž bychom věděli, jak byl výstup generován. Věříte, že to je velký problém?

Ano. A jak algoritmy a neuronové sítě budou pokračovat ve vývoji a lidé budou méně “v smyčce”, existuje skutečné riziko, že překročíme bod, kdy již nebudeme moci pochopit kritické prvky funkce a výstupu.

S COVID-19 země po celém světě zavedly systémy státního dohledu založené na umělých inteligencích. Jak velký problém máte s potenciálním zneužitím tohoto typu dohledu?

Je naivní a vlastně nezodpovědné z hlediska individuálních práv a svobod ignorovat nebo bagatelizovat riziko zneužití. Zatímco sledování kontaktů se zdá rozumné uprostřed globální pandemie a umělá inteligence založená na rozpoznávání obličejů poskytuje účinnou míru toho, co by lidé sami nedokázali dosáhnout, společnost musí zavést právní zákazy zneužití spolu s účinnými mechanismy dohledu a vynucování. Jinak se vzdáváme státu základního prvku našich individuálních základních práv. Jakmile jsou jednou odejmuty, tyto základní prvky naší svobody a soukromí se nebudou vracet.

Vy jste dříve uvedli, že “Musíme stanovit ‘no-fly zónu’ pro umělou inteligenci, pokud chceme zachovat svobody, které Američané všichni mají a které slouží jako základ naší společnosti.” Můžete sdílet některé z těchto obav, které máte?

Když diskutujeme o umělých inteligencích, musíme se vždy soustředit na jejich základní účel: produkovat přesné prediktivní analytiku z velmi velkých datových sad, které jsou poté použity pro klasifikaci lidí a rozhodování. Dále musíme prozkoumat, kdo jsou rozhodčí, co rozhodují a na čem se rozhodují.

Pokud pochopíme, že rozhodčí jsou ti, kteří mají největší dopad na naše zdraví, živobytí a svobody — zaměstnavatelé, pronajímatelé, lékaři, pojišťovatelé, orgán činný v trestním řízení a každá jiná soukromá, komerční a vládní instituce, která může generovat, shromažďovat nebo nakupovat analytiku umělé inteligence — stává se snadné vidět, že v západní liberální demokracii, na rozdíl od totalitního režimu, by měla existovat rozhodnutí, která by neměla být ponechána pouze na umělou inteligenci.

Zatímco mnohé zřejmé rozhodnutí přicházejí na mysl, jako zákaz uvěznění někoho před spácháním zločinu, široké přijetí umělé inteligence do všech aspektů našeho života představuje mnohem více složitých příkladů etických dilemat. Například, pokud algoritmus přesně předpovídá, že pracovníci, kteří zveřejňují fotografie na sociálních médiích z dovolených, kde pijí alkohol, jsou propuštěni nebo ukončují práci v průměru o 3,5 roku dříve než ti, kteří zveřejňují fotografie ze své práce, měli by být tito pracovníci odmítnuti pro povýšení nebo zvýšení mzdy pouze na základě algoritmického výstupu? Pokud algoritmus správně určuje, že teenageři, kteří hrají videohry v průměru déle než 2 hodiny denně, jsou méně pravděpodobně absolvovat čtyřletou univerzitu, měli by tito studenti být odmítnuti pro přijetí? Pokud jsou asijské ženy ve věku 60 let, které jsou přijaty do jednotek intenzivní péče pro příznaky související s COVID-19, určeny k tomu, aby měly vyšší míru přežití než afroameričtí muži ve věku 70 let, měly by ženy dostat přednostní lékařské ošetření?

Tyto zjednodušené příklady jsou pouze několika málo z mnoha rozhodnutí, kde se spoléhání pouze na umělou inteligenci rozporuje s našimi názory na to, co vyžadují individuální lidská práva.

Je něco jiného, co byste chtěli sdílet s ohledem na umělou inteligenci nebo Baker McKenzie?

Jsem extrémně energizován, abych pomohl vést skutečně mezinárodní praxi umělé inteligence Baker McKenzie uprostřed se vyvíjející krajiny. Rozpoznáváme, že naši klienti jsou hladoví po vedení ve všech věcech souvisejících s umělou inteligencí, od vyjednávání smluv, přes stanovení interního dohledu, až po vyhnutí se tvrzením o předpojatosti, pochopení vznikajícího domácího a mezinárodního regulačního rámce.

Společnosti chtějí dělat správnou věc, ale existuje jen málo právních firem, které mají nezbytnou odbornost a pochopení umělé inteligence a strojového učení, aby mohly pomoci. Pro ty z nás, kteří jsou zároveň závislí na umělých inteligencích a právníky, je to vzrušující doba, aby přidali skutečnou hodnotu pro naše klienty.

Děkuji za fantastické odpovědi týkající se některých z těchto velkých sociálních obav souvisejících s umělou inteligencí. Čtenáři, kteří chtějí se dozvědět více o Bradfordu Newmanovi, by měli kliknout zde.