Bradford Newman, Președintele Practicii de Secretele Comerțului din America de Nord – Seria de Interviuri

Bradford se specializează în probleme legate de secrete comerciale și inteligență artificială. El este președintele subcomitetului de inteligență artificială al ABA. Recunoscut de Daily Journal (DJCO ) în 2019 ca unul dintre cei mai buni 20 de avocați de inteligență artificială din California, Bradford a fost instrumental în propunerea legislației federale privind inteligența artificială în locul de muncă și proprietatea intelectuală, care în 2018 a devenit un proiect de lege al Camerei Reprezentanților din Statele Unite. De asemenea, el a dezvoltat cele mai bune practici de supraveghere și guvernanță corporativă pentru inteligență artificială, menite să asigure echitatea algoritmică.

Ce a fost acel lucru care a aprins inițial interesul dvs. pentru inteligența artificială?

Am reprezentat cei mai importanți inovatori și producători de produse și tehnologii de inteligență artificială de mulți ani. Interesul meu a fost întotdeauna să merg dincolo de cortină și să înțeleg aspectele legale și tehnice ale învățării automatizate, și să văd cum evoluează inteligența artificială. Sunt fascinat de ceea ce este posibil pentru aplicații în diverse domenii.

Sunteți un avocat puternic pentru reglementarea rațională a inteligenței artificiale, în special în ceea ce privește reglementarea care protejează sănătatea publică, puteți discuta despre unele dintre principalele preocupări ale dvs.?

Cred că suntem în primele etape ale uneia dintre cele mai profunde revoluții pe care le-a cunoscut omenirea. Inteligența artificială are potențialul de a afecta fiecare aspect al vieții noastre, de la momentul în care ne trezim dimineața până la momentul în care ne culcăm — și, de asemenea, în timp ce dormim. Multe dintre aplicațiile inteligenței artificiale vor avea un impact pozitiv asupra calității vieții noastre și, probabil, asupra longevității noastre ca specie.

În acest moment, din punct de vedere al științei calculatoarelor și al învățării automatizate, oamenii sunt încă implicați în proces, de la codificarea algoritmilor, la înțelegerea seturilor de date de antrenament, la procesarea rezultatelor, la recunoașterea limitărilor și la comercializarea tehnologiei.

Dar suntem într-o cursă contra cronometru pe două fronturi majore. Primul, ceea ce se numește “problema cutiei negre”: implicarea și înțelegerea oamenilor vor scădea în timp pe măsură ce sofisticarea inteligenței artificiale (așa-numitele rețele neuronale) evoluează. Și al doilea, utilizarea inteligenței artificiale de către guverne și interese private va crește.

Îmi preocupă faptul că inteligența artificială va fi utilizată, atât intenționat, cât și neintenționat, în moduri care sunt în contradicție cu idealurile democratice occidentale ale libertății și libertății individuale.

Cum abordăm aceste preocupări?

Societatea se află în punctul în care trebuie să rezolvăm nu ce este posibil cu privire la inteligența artificială, ci ce ar trebui să fie interzis sau parțial limitat.

În primul rând, trebuie să identificăm în mod specific deciziile care nu pot fi luate în întregime sau în parte de outputul algoritmic generat de inteligența artificială. Acest lucru înseamnă că, chiar și în situații în care toți experții sunt de acord că datele introduse și ieșite sunt total neînțelese, transparente și precise, trebuie să existe o interdicție legală privind utilizarea acestuia pentru orice tip de luare a deciziilor predictive sau substanțiale.

Este adevărat că acest lucru este contraintuitiv într-o lume în care ne dorim certitudinea matematică, dar stabilirea unei “zone interzise” pentru inteligența artificială este esențială pentru a păstra libertățile pe care le prețuim și care servesc ca temelie pentru societatea noastră.

În al doilea rând, pentru alte decizii identificate pe baza analizei inteligenței artificiale care nu sunt interzise în mod direct, avem nevoie de legislație care să definească în mod clar acele situații în care un om trebuie să fie implicat în procesul de luare a deciziilor.

Ați fost instrumental în propunerea legislației federale privind inteligența artificială în locul de muncă și proprietatea intelectuală, care în 2018 a devenit un proiect de lege al Camerei Reprezentanților din Statele Unite. Puteți discuta despre unele dintre aceste propuneri?

Legea privind protecția datelor de inteligență artificială are ca scop să promoveze inovarea și să (1) crească transparența în ceea ce privește natura și utilizarea inteligenței artificiale și să construiască încrederea publică în inteligența artificială; (2) să abordeze impactul inteligenței artificiale asupra pieței muncii și (3) să protejeze sănătatea și securitatea publică.

Acesta are mai multe componente cheie. De exemplu, interzice companiilor acoperite să se bazeze exclusiv pe inteligența artificială pentru a lua anumite decizii, inclusiv o decizie privind angajarea indivizilor sau refuzul sau limitarea tratamentului medical, și interzice emitentului de asigurări medicale să ia decizii privind acoperirea unui tratament medical numai pe baza analizei inteligenței artificiale. De asemenea, stabilește Consiliul de Inteligență Artificială — o nouă agenție federală însărcinată cu responsabilități specifice pentru reglementarea inteligenței artificiale în ceea ce privește sănătatea și securitatea publică. Și cere entităților acoperite să numească un ofițer șef de inteligență artificială.

Ați dezvoltat, de asemenea, cele mai bune practici de supraveghere și guvernanță corporativă pentru inteligența artificială, menite să asigure echitatea algoritmică. Care sunt unele dintre problemele actuale pe care le vedeți cu privire la echitate sau prejudecăți în sistemele de inteligență artificială?

Acest subiect a fost în centrul atenției academice și este acum de interes pentru agențiile guvernamentale ale Statelor Unite, cum ar fi Comisia pentru Oportunități Egale de Angajare (EEOC), și pentru avocații reclamanților. Cel mai adesea, cauzele rezultă dintr-o eroare în seturile de date de antrenament sau din lipsa de înțelegere și transparență în mediul de testare. Acest lucru este exacerbat de lipsa de proprietate și supraveghere centrală a inteligenței artificiale de către conducerea superioară.

Lipsa de înțelegere tehnică și a conștientizării situației este o preocupare semnificativă din punct de vedere al răspunderii. Am vorbit cu mai mulți avocați ai reclamanților care sunt pe urmele cazurilor de prejudecăți ale inteligenței artificiale.

Învățarea profundă suferă adesea de problema “cutiei negre”, în care introducem date într-o rețea neuronală artificială și primim un output, fără a ști cum a fost generat acel output. Credeți că acesta este un problemă majoră?

Da. Și pe măsură ce algoritmii și rețelele neuronale continuă să evolueze, și oamenii sunt din ce în ce mai puțin “în buclă”, există un risc real de a trece de punctul de vedere în care nu vom mai putea înțelege elemente critice ale funcționării și ieșirii.

Cu COVID-19, țările din întreaga lume au introdus sisteme de supraveghere a statului bazate pe inteligență artificială. Cât de mult vă îngrijorează posibila abuzare a acestor sisteme de supraveghere?

Este naiv și, într-adevăr, iresponsabil din punct de vedere al drepturilor și libertăților individuale să ignorăm sau să minimalizăm riscul de abuz. În timp ce urmărirea contactelor pare prudentă în mijlocul unei pandemii globale, și recunoașterea facială bazată pe inteligență artificială oferă o măsură eficientă pentru a face ceea ce oamenii nu ar fi capabili să facă singuri, societatea trebuie să instituie interdicții legale privind abuzul, împreună cu mecanisme de supraveghere și executare eficiente. Altfel, suntem pe cale să cedăm statului un element fundamental al drepturilor și libertăților noastre. Odată ce acestea sunt date în mod gros, nu vor fi returnate.

Ați afirmat anterior că “Trebuie să stabilim o «zonă interzisă» pentru inteligența artificială, dacă dorim să păstrăm libertățile pe care le prețuim și care servesc ca temelie pentru societatea noastră.” Puteți împărtăși unele dintre preocupările pe care le aveți?

Când discutăm despre inteligența artificială, trebuie să ne concentrăm întotdeauna asupra scopului esențial al inteligenței artificiale: să producă analize predictive precise din seturi de date foarte mari, care sunt apoi utilizate pentru a clasifica oamenii și a lua decizii. Apoi, trebuie să examinăm cine sunt decidenții, ce decid și pe baza căror informații iau deciziile.

Dacă înțelegem că decidenții sunt cei cu cel mai mare impact asupra sănătății, traiului și libertăților noastre — angajatori, proprietari, medici, asigurători, forțe de ordine și orice altă întreprindere privată, comercială și guvernamentală care poate genera, colecta sau cumpăra analize de inteligență artificială — devine ușor să vedem că, într-o democrație liberală occidentală, în contrast cu un regim totalitar, ar trebui să existe decizii care nu ar trebui și nu trebuie lăsate în mod exclusiv inteligenței artificiale.

Deși multe decizii evidente vin în minte, cum ar fi interzicerea încarcerării cuiva înainte de a comite o infracțiune, adoptarea pe scară largă a inteligenței artificiale în fiecare aspect al vieții noastre prezintă multe exemple mai complexe de dileme etice. De exemplu, dacă un algoritm prezice cu acuratețe că lucrătorii care postează fotografii pe rețelele de socializare cu vacanțe la plajă, în care beau alcool, părăsesc locul de muncă sau sunt concediați în medie cu 3,5 ani mai devreme decât cei care postează fotografii cu ei înșiși la serviciu, ar trebui ca această categorie să fie refuzată o promovare sau o creștere salarială numai pe baza outputului algoritmic? Dacă un algoritm determină corect că adolescenții care joacă jocuri video mai mult de 2 ore pe zi sunt mai puțin probabil să absolve o universitate de 4 ani, ar trebui ca astfel de studenți să fie refuzați admiterea? Dacă femeile asiatice în vârstă de 60 de ani, internate în unitățile de terapie intensivă pentru simptome legate de COVID-19, au o rată de supraviețuire mai mare decât bărbații afro-americani în vârstă de 70 de ani, ar trebui ca femeile să primească un tratament medical preferențial?

Exemplele simplificate sunt doar câteva dintre numeroasele decizii în care se bazează exclusiv pe inteligența artificială, ceea ce contrazice viziunea noastră asupra a ceea ce necesită drepturile individuale.

Există altceva pe care ați dori să îl împărtășiți cu privire la inteligența artificială sau Baker McKenzie?

Sunt extrem de energizat să ajut la conducerea practicii de inteligență artificială a Baker McKenzie în peisajul în schimbare. Recunoaștem că clienții noștri sunt flămânzi de îndrumări cu privire la toate aspectele inteligenței artificiale, de la negocierea contractelor, la stabilirea supravegherii interne, la evitarea pretențiilor de prejudecăți, la înțelegerea cadrului de reglementare emergent național și internațional.

Companiile vor să facă lucrurile bine, dar există foarte puține firme de avocatură care au expertiza și înțelegerea necesare a inteligenței artificiale și a învățării automate pentru a putea să le ajute. Pentru noi, care suntem atât pasionați de inteligență artificială, cât și avocați, acesta este un moment emoționant pentru a adăuga valoare reală clienților noștri.

Mulțumim pentru răspunsurile fantastice cu privire la unele dintre aceste preocupări majore ale societății legate de inteligența artificială. Citiitorii care doresc să afle mai multe despre Bradford Newman pot faceți clic aici.