Andrew Pery, Evanghelist al Eticii, ABBYY – Seria de Interviuri

Andrew Pery este Evanghelist al Eticii la ABBYY, o companie de inteligență digitală. Ei împuternicesc organizațiile să aibă acces la informații valoroase, dar adesea greu de obținut, despre operațiunile lor, ceea ce permite o transformare reală a afacerilor.

ABBYY a lansat recent o Inițiativă Globală pentru Promovarea Dezvoltării Inteligenței Artificiale de Încredere. Am decis să-i punem lui Andrew întrebări cu privire la etica în IA, abuzurile de IA și ce poate face industria IA pentru a aborda aceste preocupări în viitor.

Ce v-a determinat inițial să vă interesați de etica IA?

Ce m-a determinat inițial să mă interesez de etica IA a fost o interes profund pentru intersecția dintre drept și tehnologia IA. Am început cariera mea în sistemul de justiție penală, reprezentând clienți săraci care nu aveau mijloacele financiare pentru a-și permite servicii juridice. Apoi, m-am mutat în tehnologie, axându-mă pe aplicarea căutării avansate și a IA în practica dreptului. Ca specialist certificat în protecția datelor, sunt foarte pasionat de dreptul privind protecția datelor și de utilizarea corectă a tehnologiei IA care se aliniază și întărește drepturile la protecția datelor.

Tehnologia de recunoaștere facială este adesea abuzată de sursele de autoritate, inclusiv guvernul SUA. Cât de mare ar trebui să fie această preocupare pentru societate?

Implicațiile tehnologiei de recunoaștere facială ar trebui să fie o preocupare semnificativă pentru societate, deoarece această tehnologie poate afecta atâtea drepturi fundamentale, inclusiv drepturile economice, sociale și de securitate.

Există dovezi clare și convingătoare că algoritmii de recunoaștere facială sunt neverosi. Un studiu NIST despre algoritmii de recunoaștere facială a constatat că americanii afro-americani erau de până la 100 de ori mai puțin probabil să fie identificați corect. Un studiu similar realizat de Școala de Drept Georgetown a constatat că algoritmii de recunoaștere facială bazati pe fotografii de pe dosarele penale au produs un procent ridicat de rezultate false pozitive asociate cu indivizi de origine africană, și un studiu MIT din 2018 despre software-ul de recunoaștere facială Amazon (AMZN ) a constatat că, în timp ce bărbații albi erau identificați corect în 99% din cazuri, indivizii cu pielea întunecată au generat până la 35% rezultate false pozitive.

De aceea, regulatorii încep să ia măsuri pentru a interzice utilizarea tehnologiei de recunoaștere facială, în special în contextul supravegherii și profilării. De exemplu, Senatul Californiei a adoptat o interdicție la nivel de stat asupra utilizării tehnologiei de reconoaștere facială și a altor metode de supraveghere biometrică.

Există, de asemenea, o tendință în cadrul comunității tehnologice de a se retrage din comercializarea software-ului de recunoaștere facială. IBM a anunțat că va înceta să vândă software de recunoaștere facială, invocând faptul că încălcă drepturile și libertățile fundamentale ale omului. Microsoft (MSFT ) a anunțat, de asemenea, o decizie similară de a înceta să vândă tehnologia de recunoaștere facială, invocând, de asemenea, drepturile fundamentale ale omului.

Software-ul COMPAS, care a fost utilizat de instanțele din SUA pentru evaluarea riscului de recidivă, a etichetat în mod greșit minoritățile vizibile ca fiind mai susceptibile de a recidiva decât delincvenții albi. Știind acest lucru, ar trebui să fie o opțiune utilizarea IA în instanțe?

Studiile despre COMPAS au arătat că nu este mai bun la prezicerea infracțiunilor decât oamenii obișnuiți. În timp ce analiza predictivă oferă valoare semnificativă într-un context comercial, s-a dovedit a fi inechitabilă în aplicarea sa în justiția penală. Acest lucru este evident într-un raport publicat de Pro Publica, care a constatat că COMPAS, software-ul cel mai popular utilizat de instanțele din SUA pentru evaluarea riscului de recidivă, a etichetat în mod greșit minoritățile vizibile ca fiind mai susceptibile de a recidiva la un ritm de două ori mai mare decât delincvenții albi.

Aceste inechități au determinat fostul procuror general Eric Holder să pună sub semnul întrebării corectitudinea și să exprime îngrijorări cu privire la inechitățile potențiale ridicate de aplicarea tehnologiei IA pentru a prezice ratele de recidivă în cadrul populației de delincvenți.

Cum poate evita societatea programarea involuntară a unor prejudecăți negative în sistemele IA?

Mai întâi, trebuie să existe o recunoaștere a faptului că IA poate avea tendința de a produce prejudecăți involuntare, cunoscute sub numele de prejudecăți inconștiente. Mitigarea impactului negativ necesită o abordare holistică, constând în dezvoltarea unor linii directoare etice pentru IA, cum ar fi cele propuse de OECD Ethical Frameworks. Acesta se bazează pe șapte principii fundamentale, inclusiv agenția umană și supravegherea, robustețea tehnică și securitatea, confidențialitatea și guvernanța, transparența, diversitatea și non-discriminarea, bunăstarea socială și responsabilitatea.

În al doilea rând, respectarea cadrului legal care protejează împotriva profilării automate este cheia. De exemplu, UE are o lungă istorie de respectare și protejare a drepturilor la confidențialitate, cu cea mai recentă și mai puternică expresie fiind Regulamentul General privind Protecția Datelor (GDPR), care protejează în mod special împotriva luării deciziilor automate.

În al treilea rând, trebuie să existe o responsabilitate a industriei pentru modul în care se dezvoltă tehnologia IA și un angajament de a oferi transparență fără a afecta drepturile de proprietate intelectuală. Există dezvoltări pozitive în acest sens. De exemplu, Parteneriatul pentru IA este o organizație cu peste 80 de membri în 13 țări, dedicată cercetării și discuțiilor despre problemele cheie ale IA.

În cele din urmă, organizațiile tehnologice ar trebui să respecte un angajament de a efectua o evaluare a impactului prejudecăților înainte de lansarea comercială a algoritmilor IA, în special atunci când aplicațiile lor afectează drepturile la confidențialitate și securitate. Întrebările pe care liderii tehnologici ar trebui să le ia în considerare înainte de lansarea noilor aplicații IA includ: Este datele pe care s-a antrenat această tehnologie suficient de diversă? Cum va fi detectată prejudecata? Cum se testează și de către cine? Care sunt stimulentele pentru dezvoltatori? Cine va beneficia în mod comercial de pe urma acesteia?

Este important să reținem că soluțiile IA reflectă datele subiacente pe care sunt antrenate aceste aplicații, așa că asigurarea faptului că aceste date nu sunt prejudecate și reflectă în mod corespunzător diversitatea constituenților pe care soluția îi va deservi este critică. În cuvintele cercetătorului IA, profesorul Joanna Bryson, „dacă datele subiacente reflectă stereotipuri, sau dacă antrenați IA din cultura umană, veți găsi prejudecăți. Și dacă nu suntem atenți, riscați să integrați aceste prejudecăți în programele de calculator care sunt rapid luate sub controlul nostru, programe care ar trebui să elimine aceste prejudecăți în primul rând.”

ABBYY a lansat recent o Inițiativă Globală pentru Promovarea Dezvoltării Inteligenței Artificiale de Încredere. Cât de importantă este această inițiativă pentru viitorul ABBYY?

Decizia de a dezvolta inițiativa noastră globală pentru IA de încredere este o decizie importantă, motivată de convingerea noastră că, ca organizație a cărei tehnologii afectează întreprinderi din întreaga lume și deservesc zeci de mii de utilizatori individuali, avem o obligație de a fi cetățeni corporativi cu conștiință socială. Nu numai că acest lucru ajută la crearea unei încrederi mai mari din partea clienților noștri globali și a partenerilor noștri, dar ajută și la asigurarea faptului că tehnologiile noastre continuă să aibă un impact profund într-un mod care beneficiază binelui comun.

Acesta face, de asemenea, sens din punct de vedere comercial să promovăm și să sprijinim utilizarea de încredere a IA. Consolidarea valorii mărcii noastre, crearea încrederii cu clienții noștri globali și cu ecosistemul nostru de parteneri. Încrederea se traduce în afaceri repetate și în creștere durabilă.

Parte a acestei inițative este angajamentul ABBYY de a promova o cultură care încurajează utilizarea etică a IA și a utilității sale sociale. Ce trebuie făcut pentru ca alte companii să promoveze o cultură similară?

Companiile tehnologice trebuie să dezvolte un cadru pentru utilizarea etică a IA. Extinderea unui astfel de angajament depinde de aplicațiile intenționate ale algoritmilor IA. Cel mai bun mod de a evalua impactul său este de a aplica principiul de a nu face rău și de a avea un angajament de sus în jos pentru utilizarea de încredere a IA.

La fel de important este angajamentul de transparență. În timp ce drepturile de proprietate intelectuală ar trebui să fie echilibrate cu principiul IA de încredere, importanța transparenței și a responsabilității pentru utilizarea responsabilă a IA ar trebui să fie clar articulată și comunicată în întreaga organizație.

Una dintre inițiativele la care ABBYY s-a angajat este livrarea tehnologiilor IA care sunt benefice din punct de vedere social și economic. Acesta poate fi un echilibru dificil de realizat. Cum pot companiile să implementeze cel mai bine acest lucru?

Liderii pot realiza acest echilibru, luând în considerare recomandările oferite de Deloitte: proiectarea eticii în IA începe cu determinarea a ceea ce contează pentru stakeholderi, cum ar fi clienții, angajații, regulatorii și publicul larg. Companiile ar trebui să înființeze un comitet de guvernanță și consultanță IA dedicat, format din lideri interfuncționali și consilieri externi, care ar trebui să colaboreze cu grupuri de lucru multi-stakeholder și să stabilească și să supravegheze guvernanța soluțiilor activate de IA, inclusiv proiectarea, dezvoltarea, implementarea și utilizarea lor.

Cum am echilibrat interesele noastre comerciale și binele social a fost exemplificat recent în timpul pandemiei de Coronavirus. Am făcut multe dintre tehnologiile noastre disponibile gratuit sau la tarife reduse pentru a ajuta indivizi și organizații să navigheze criza, să mențină continuitatea afacerilor și să sprijine clienții lor în circumstanțe imprevizibile.

Am făcut, de asemenea, recent disponibile cadrele noastre tehnologice prin NeoML, biblioteca noastră de învățare automată cross-platform open-source, care permite dezvoltatorilor de software să utilizeze modele dovedite și fiabile pentru a avansa inovația IA.

Puteți împărtăși perspectivele dvs. cu privire la utilizarea IA pentru aplicații de urmărire a contactelor și nevoia de a echilibra dreptul la confidențialitate?

Acesta este un subiect deosebit de dificil. Există cei care susțin că implementarea aplicațiilor de urmărire a mobilului reprezintă o intruziune nedorită în drepturile la confidențialitate. Pe de altă parte, atunci când vine vorba de siguranța publică, există întotdeauna limite ale drepturilor în general. Acesta este un compromis între drepturi și responsabilități. Cu toate acestea, drepturile nu sunt absolute. Conținerea unei pandemii globale necesită acțiune coordonată și aplicarea resurselor și tehnologiilor care pot fi utilizate în mod responsabil pentru a proteja populația în general.

Acest echilibru între drepturile individuale la confidențialitate și binele comun este recunoscut într-un cadru legal. De exemplu, GDPR identifică șase motive pentru prelucrarea legitimă a informațiilor cu caracter personal, inclusiv o dispoziție potrivit căreia atunci când prelucrarea este indispensabilă pentru interesul public, o astfel de prelucrare a informațiilor cu caracter personal este justificată fără a obține consimțământul subiectului datelor.

În plus, Recitalul 46 al GDPR stipulează în mod direct că prelucrarea informațiilor cu caracter personal este justificată fără a obține consimțământul subiectului datelor în situații de urgență umanitară, inclusiv epidemii. Cu toate acestea, este important de remarcat că Recitalul 46 interpretează aplicarea dispoziției de interes public în mod foarte restrictiv, notând că ar trebui să aibă loc numai atunci când nu poate fi bazată pe o altă bază legală.

Pe lângă echilibrarea drepturilor la confidențialitate cu interesul public, este, de asemenea, îndatorirea sectorului tehnologic și a factorilor de decizie politică de a implementa ghiduri etice, transparente și echitabile referitoare la utilizarea profilării IA și a schimbului de informații de sănătate extrem de sensibile. Marile companii tehnologice, inclusiv Google (GOOGL ) și Facebook (META ), au început deja inițiative pentru a urmări mișcările utilizatorilor pentru a identifica modul în care se răspândește virusul și pentru a evalua eficacitatea măsurilor de distanțare socială.

Cred că atâta timp cât informațiile sunt anonimizate, utilizarea lor are utilitate socială.

Există ceva altceva pe care ați dori să-l împărtășiți cu privire la noua Inițiativă Globală ABBYY pentru Promovarea Dezvoltării Inteligenței Artificiale de Încredere?

Reglementările tind să întârzie inovația tehnologică, prin urmare, companiile trebuie să joace un rol proactiv în promovarea transparenței și responsabilității cu tehnologia IA și impactul acesteia asupra drepturilor la confidențialitate și securitate. Inițiativa noastră reflectă angajamentul nostru în acest sens. De la înființarea noastră, am creat tehnologii inovatoare care conservă informații valoroase și le transformă în cunoștințe actionabile.

În plus, utilizarea etică a tehnologiilor IA nu ar trebui să fie considerată doar din punct de vedere legal, ci și ca o obligație morală și o cerință de afaceri. Dacă soluțiile dvs. au un impact semnificativ și afectează funcții critice pentru afaceri, ar trebui să fie un standard al industriei să fie transparent în aplicarea tehnologiilor IA.

Mulțumim foarte mult pentru răspunsurile la aceste întrebări importante. Pentru a vizualiza principiile directoare și abordarea ABBYY pentru respectarea și promovarea principiilor IA de încredere, vă rugăm să faceți clic aici. Cine dorește să afle mai multe despre ABBYY în general poate vizita site-ul web ABBYY.