Ce înseamnă Carta Drepturilor AI a Casei Albe pentru America și restul lumii

Biroul de Știință și Tehnologie al Casei Albe (OSTP) a publicat recent un document intitulat “Planul pentru o Cartă a Drepturilor AI: Facerea sistemelor automate să funcționeze pentru poporul american”. Acest cadru a fost lansat cu un an înainte de OSTP anunța lansarea unui proces pentru a dezvolta “o carte a drepturilor pentru o lume condusă de AI”.

Cuvântul înainte din acest document ilustrează clar că Casa Albă înțelege amenințările iminente la adresa societății pe care le reprezintă AI. Iată ce se afirmă în cuvântul înainte:

“Printre marile provocări cu care se confruntă democrația astăzi se numără utilizarea tehnologiei, a datelor și a sistemelor automate în moduri care amenință drepturile publicului american. Prea des, aceste instrumente sunt utilizate pentru a limita oportunitățile noastre și pentru a ne împiedica accesul la resurse sau servicii critice. Aceste probleme sunt bine documentate. În America și în întreaga lume, sistemele destinate să ajute la îngrijirea pacienților s-au dovedit a fi nesigure, ineficiente sau bazate pe prejudecăți. Algoritmii utilizați în procesele de angajare și în deciziile de creditare s-au dovedit a reflecta și a reproduce inegalitățile nedorite existente sau a încorpora noi prejudecăți și discriminări dăunătoare. Colectarea necontrolată a datelor de pe rețelele de socializare a fost utilizată pentru a amenința oportunitățile oamenilor, pentru a submina confidențialitatea lor sau pentru a urmări activitățile lor în mod pervaziv – adesea fără cunoștința sau consimțământul lor.”

Ce va însemna această Cartă a Drepturilor AI și cadrul pe care îl propune pentru viitorul AI, rămâne de văzut. Ceea ce știm este că noile dezvoltări apar la o rată exponențială. Ceea ce era considerat odată imposibil, traducerea instantanee a limbajului, este acum o realitate, și în același timp avem o revoluție în înțelegerea limbajului natural (NLU) condusă de OpenAI și de platforma lor faimoasă GPT-3.

De atunci, am văzut generarea instantanee a imaginilor prin intermediul unei tehnici numite Stable Diffusion, care ar putea deveni curând un produs de consum mainstream. În esență, cu această tehnologie, un utilizator poate pur și simplu să introducă orice întrebare pe care o poate imagina, și ca prin magie, AI-ul va genera o imagine care se potrivește întrebării.

Atunci când se ia în considerare creșterea exponențială și Legea Revenirii Accelerate, va veni o vreme când AI-ul va prelua fiecare aspect al vieții de zi cu zi. Persoanele și companiile care știu acest lucru și profită de acest schimb de paradigmă vor câștiga. Din nefericire, un segment mare al societății poate cădea victimă consecințelor nedorite și intenționate ale AI-ului.

Carta Drepturilor AI este destinată să sprijine dezvoltarea politicilor și practicilor care protejează drepturile civile și promovează valorile democratice în construirea, implementarea și guvernarea sistemelor automate. Cum se va compara această carte cu abordarea Chinei rămâne de văzut, dar este o carte a drepturilor care are potențialul de a schimba peisajul AI și este probabil să fie adoptată de aliați precum Australia, Canada și UE.

Așa cum s-a menționat, Carta Drepturilor AI este nelimitativă și nu constituie o politică a guvernului american. Nu suprascrie, modifică sau direcționează interpretarea vreunei legi, regulament, politică sau instrument internațional existente. Ceea ce înseamnă că va fi la latitudinea întreprinderilor și guvernelor să respecte politicile prevăzute în acest document.

Această carte a identificat cinci principii care ar trebui să ghideze proiectarea, utilizarea și implementarea sistemelor automate pentru a proteja publicul american în era inteligenței artificiale. Mai jos, vom prezenta cele 5 principii:

1. Sisteme sigure și eficiente

Există un pericol clar și prezent pentru societate din partea sistemelor AI abuzive, în special a celor care se bazează pe învățarea profundă. Acest lucru este abordat cu aceste principii:

“Trebuie să fiți protejați de sistemele nesigure sau ineficiente. Sistemele automate ar trebui să fie dezvoltate cu consultarea unor comunități, părți interesate și experți din domeniu pentru a identifica preocupările, riscurile și impacturile potențiale ale sistemului. Sistemele ar trebui să fie testate înainte de implementare, să identifice și să atenueze riscurile și să fie monitorizate în mod continuu pentru a demonstra că sunt sigure și eficiente în funcție de utilizarea lor destinată, atenuarea rezultatelor nesigure, inclusiv a celor dincolo de utilizarea destinată, și respectarea standardelor specifice domeniului. Rezultatele acestor măsuri de protecție ar trebui să includă posibilitatea de a nu implementa sistemul sau de a-l scoate din uz. Sistemele automate nu ar trebui să fie proiectate cu intenția sau posibilitatea rezonabilă de a pune în pericol siguranța dumneavoastră sau a comunității dumneavoastră. Ar trebui să fie proiectate pentru a vă proteja proactiv de daune care decurg din utilizări nedorite sau impacturi nedorite ale sistemelor automate. Trebuie să fiți protejați de utilizarea inadecvată sau irelevantă a datelor în proiectarea, dezvoltarea și implementarea sistemelor automate și de prejudiciul care decurge din reutilizarea lor. Evaluarea și raportarea independentă care confirmă că sistemul este sigur și eficient, inclusiv raportarea măsurilor luate pentru a atenua daunele potențiale, ar trebui să fie efectuate și rezultatele să fie făcute publice ori de câte ori este posibil.”

2. Protecții împotriva discriminării algoritmice

Aceste politici abordează unele dintre elefanții din cameră atunci când vine vorba de întreprinderi care abuzează indivizi.

O problemă comună atunci când se angajează personal cu ajutorul sistemelor AI este că sistemul de învățare profundă va antrena adesea pe baza datelor bazate pe prejudecăți pentru a ajunge la concluzii de angajare. Acest lucru înseamnă, în esență, că practicile slabe de angajare din trecut vor duce la discriminare de gen sau rasială din partea agentului de angajare. Un studiu a indicat dificultatea de a încerca să se degajeze datele de antrenare.

O altă problemă de bază cu datele bazate pe prejudecăți din partea guvernelor este riscul de arestare abuzivă sau, și mai rău, algoritmi de predicție a criminalității care oferă pedepse mai lungi pentru minorități.

“Trebuie să nu faceți față discriminării de către algoritmi și sistemele ar trebui să fie utilizate și proiectate în mod echitabil. Discriminarea algoritmică apare atunci când sistemele automate contribuie la tratamente sau impacturi nedorite care defavorizează oamenii pe baza rasei, culorii, etniei, sexului (inclusiv a sarcinii, a nașterii și a condițiilor medicale legate de acestea, a identității de gen, a statutului intersex, a orientării sexuale) religiei, vârstei, originii naționale, a dizabilității, a statutului de veteran, a informațiilor genetice sau a oricărei alte clasificări protejate de lege. În funcție de circumstanțele specifice, o astfel de discriminare algoritmică poate încălca protecțiile legale. Proiectanții, dezvoltatorii și implementatorii sistemelor automate ar trebui să ia măsuri proactive și continue pentru a proteja indivizi și comunități de discriminarea algoritmică și pentru a utiliza și proiecta sisteme în mod echitabil. Această protecție ar trebui să includă evaluări proactive de echitate ca parte a proiectării sistemului, utilizarea datelor reprezentative și protecția împotriva proxy-urilor pentru caracteristicile demografice, asigurarea accesibilității pentru persoanele cu dizabilități în proiectare și dezvoltare, testarea și atenuarea disparităților înainte de implementare și în mod continuu, și supravegherea organizațională clară. Evaluarea și raportarea independentă în forma unei evaluări a impactului algoritmic, inclusiv a rezultatelor testării disparităților și a informațiilor de atenuare, ar trebui să fie efectuate și să fie făcute publice ori de câte ori este posibil pentru a confirma aceste protecții.”

3. Confidențialitatea datelor

Acest principiu al confidențialității datelor este cel care va afecta probabil cel mai mare segment al populației. Prima jumătate a principiului pare să se ocupe de colectarea datelor, în special cu datele colectate pe internet, o problemă cunoscută, în special pentru platformele de socializare. Aceleași date pot fi utilizate pentru a vinde reclame sau, și mai rău, pentru a manipula sentimentul public și a influența alegerile.

“Trebuie să fiți protejați de practicile abuzive de date prin protecții încorporate și trebuie să aveți control asupra modului în care datele despre dumneavoastră sunt utilizate. Trebuie să fiți protejați de încălcările confidențialității prin alegeri de proiectare care asigură că astfel de protecții sunt incluse din oficiu, inclusiv asigurarea că colectarea datelor se conformează așteptărilor rezonabile și că se colectează doar datele strict necesare pentru contextul specific. Proiectanții, dezvoltatorii și implementatorii sistemelor automate ar trebui să solicite permisiunea dumneavoastră și să respecte deciziile dumneavoastră cu privire la colectarea, utilizarea, accesul, transferul și ștergerea datelor dumneavoastră în moduri adecvate și în cea mai mare măsură posibilă; acolo unde nu este posibil, ar trebui să se utilizeze măsuri de siguranță alternative pentru protecția datelor. Sistemele nu ar trebui să utilizeze decizii de proiectare și experiență a utilizatorului care obscurizează alegerea utilizatorului sau care îi încarcă pe utilizatori cu setări implicite care sunt invazive pentru confidențialitate. Consimțământul ar trebui să fie utilizat doar pentru a justifica colectarea datelor în cazurile în care poate fi dat în mod adecvat și înțeles. Orice solicitări de consimțământ ar trebui să fie concise, să fie înțelese în limbaj simplu și să vă ofere control asupra colectării datelor și contextului specific de utilizare; practicile actuale de notificare și alegere dificil de înțeles pentru utilizări ample de date ar trebui să fie modificate.”

A doua jumătate a principiului confidențialității datelor pare să se ocupe de supravegherea din partea guvernelor și a întreprinderilor.

În prezent, întreprinderile pot monitoriza și spiona angajații, în unele cazuri poate fi pentru a îmbunătăți siguranța la locul de muncă, în timpul pandemiei de COVID-19 a fost pentru a impune purtarea măștilor, de obicei se face doar pentru a monitoriza modul în care timpul de muncă este utilizat. În multe dintre aceste cazuri, angajații se simt ca și cum ar fi monitorizați și controlați dincolo de ceea ce se consideră acceptabil.

“Protecții și restricții îmbunătățite pentru date și inferențe legate de domenii sensibile, inclusiv sănătate, muncă, educație, justiție penală și finanțe, și pentru date care privesc tinerii ar trebui să vă pună pe primul loc. În domenii sensibile, datele și inferențele dumneavoastră ar trebui să fie utilizate doar pentru funcții necesare și ar trebui să fiți protejați prin evaluări etice și interdicții de utilizare. Dumneavoastră și comunitățile dumneavoastră ar trebui să fiți liberi de supravegherea necontrolată; tehnologiile de supraveghere ar trebui să fie supuse unei supravegheri sporite care include cel puțin o evaluare prealabilă a daunelor și a domeniului de aplicare pentru a proteja confidențialitatea și libertățile civile. Supravegherea și monitorizarea continuă nu ar trebui să fie utilizate în educație, muncă, locuințe sau în alte contexte în care utilizarea unor astfel de tehnologii de supraveghere este probabil să limiteze drepturile, oportunitățile sau accesul. Ori de câte ori este posibil, ar trebui să aveți acces la rapoarte care confirmă că deciziile dumneavoastră cu privire la date au fost respectate și care oferă o evaluare a impactului potențial al tehnologiilor de supraveghere asupra drepturilor, oportunităților sau accesului dumneavoastră.”

Ar trebui să se remarce că AI poate fi utilizat pentru bine pentru a proteja confidențialitatea oamenilor.

4. Notificare și explicație

Acesta ar trebui să fie apelul la acțiune pentru întreprinderi pentru a implementa un consiliu consultativ de etică AI, precum și pentru a accelera dezvoltarea AI explicabil. AI-ul explicabil este necesar în cazul în care un model AI face o greșeală, înțelegerea modului în care funcționează AI-ul permite diagnosticarea ușoară a unei probleme.

AI-ul explicabil va permite, de asemenea, partajarea transparentă a informațiilor despre modul în care datele sunt utilizate și de ce a fost luată o decizie de către AI. Fără AI explicabil, va fi imposibil să se respecte aceste politici din cauza problemei cutiei negre a învățării profunde.

Întreprinderile care se concentrează pe îmbunătățirea acestor sisteme vor beneficia, de asemenea, de avantaje pozitive din înțelegerea nuanțelor și complexităților din spatele deciziilor luate de un algoritm de învățare profundă.

“Trebuie să știți că un sistem automat este utilizat și să înțelegeți cum și de ce contribuie la rezultate care vă afectează. Proiectanții, dezvoltatorii și implementatorii sistemelor automate ar trebui să ofere documentație în limbaj simplu și accesibilă, inclusiv descrieri clare ale funcționării sistemului și a rolului automatizării, notificări că astfel de sisteme sunt utilizate, organizația sau persoana responsabilă de sistem și explicații ale rezultatelor care sunt clare, la timp și accesibile. O astfel de notificare ar trebui să fie actualizată și persoanele afectate de sistem ar trebui să fie notificate cu privire la modificările semnificative ale cazului de utilizare sau ale funcționalității cheie. Trebuie să știți cum și de ce a fost determinat un rezultat care vă afectează de către un sistem automat, inclusiv atunci când sistemul automat nu este singurul input care determină rezultatul. Sistemele automate ar trebui să ofere explicații care sunt valabile din punct de vedere tehnic, semnificative și utile pentru dumneavoastră și pentru orice operatori sau alți utilizatori care au nevoie să înțeleagă sistemul și să fie calibrate la nivelul de risc pe baza conținutului. Rapoartele care includ informații rezumative despre aceste sisteme automate în limbaj simplu și evaluări ale clarității și calității notificărilor și explicațiilor ar trebui să fie făcute publice ori de câte ori este posibil.”

5. Alternative umane, considerare și regresie

Acest principiu, spre deosebire de cele de mai sus, este cel mai aplicabil entităților guvernamentale sau instituțiilor privatizate care lucrează în numele guvernului.

Chiar și cu un consiliu consultativ de etică AI și AI explicabil, este important să se recurgă la revizuirea umană atunci când sunt în joc vieți. Există întotdeauna potențialul de eroare, iar revizuirea umană a unui caz atunci când se solicită poate evita o situație în care AI-ul trimite oamenii greșiți în închisoare.

Sistemul judiciar și cel penal au cel mai mult spațiu pentru a provoca daune ireparabile membrilor marginalizați ai societății și ar trebui să acorde o atenție deosebită acestui principiu.

“Trebuie să puteți opta pentru o alternativă umană, unde este adecvat, și să aveți acces la o persoană care poate examina rapid și remedia problemele pe care le întâmpinați. Trebuie să puteți opta pentru o alternativă umană în favoarea unui sistem automat, unde este adecvat. Adecvarea ar trebui să fie determinată pe baza așteptărilor rezonabile într-un anumit context și cu accent pe asigurarea accesului larg și protejarea publicului de impacturi deosebit de dăunătoare. În unele cazuri, o alternativă umană poate fi cerută de lege. Trebuie să aveți acces la o examinare umană rapidă și la remedierea problemelor pe care le întâmpinați în cazul în care un sistem automat eșuează, produce o eroare sau doriți să contestați impactul său asupra dumneavoastră. Examinarea și regresia umană ar trebui să fie accesibile, echitabile, eficiente, menținute, însoțite de o formare adecvată a operatorilor și nu ar trebui să impună o sarcină nejustificată asupra publicului. Sistemele automate cu utilizare destinată în domenii sensibile, inclusiv, dar fără a se limita la sistemul penal, angajare, educație și sănătate, ar trebui să fie adaptate scopului, să ofere acces semnificativ la supraveghere, să includă formare pentru orice persoană care interacționează cu sistemul și să incorporeze examinarea umană pentru decizii adverse sau cu risc ridicat. Rapoartele care includ o descriere a acestor procese de guvernanță umană și o evaluare a promptitudinii, accesibilității, rezultatelor și eficacității ar trebui să fie făcute publice ori de câte ori este posibil.”

Rezumat

OSTP ar trebui să primească credit pentru încercarea de a introduce un cadru care să punteze protocoalele de siguranță necesare pentru societate, fără a introduce politici draconice care ar putea împiedica progresul în dezvoltarea învățării mașinilor.

După ce principiile sunt prezentate, cartea continuă prin a oferi un companion tehnic pentru problemele discutate, precum și informații detaliate despre fiecare principiu și cele mai bune modalități de a avansa pentru a implementa aceste principii.

Proprietarii de întreprinderi și întreprinderile inteligente ar trebui să ia notă de studierea acestei cărți, deoarece poate fi doar avantajoasă să implementeze aceste politici cât mai curând posibil.

AI-ul explicabil va continua să domine în importanță, așa cum se poate vedea din această citat din cartea:

“În întregul guvern federal, agențiile efectuează și sprijină cercetări cu privire la sistemele AI explicabile. NIST efectuează cercetări fundamentale cu privire la explicabilitatea sistemelor AI. O echipă multidisciplinară de cercetători își propune să dezvolte metode de măsurare și cele mai bune practici pentru a sprijini implementarea principiilor de bază ale AI-ului explicabil. Agenția de Cercetare Avansată a Apărării are un program de Inteligență Artificială Explicabilă care își propune să creeze o suită de tehnici de învățare a mașinilor care produc modele mai explicabile, menținând în același timp un nivel ridicat de performanță a învățării (precizie a predicției), și să permită utilizatorilor umani să înțeleagă, să aibă încredere și să gestioneze eficient noile generații de parteneri artificiali inteligenți. Programul Fundației Naționale pentru Știință cu privire la corectitudinea în Inteligența Artificială include, de asemenea, un interes specific în cercetarea fundațiilor pentru AI-ul explicabil.”

Ce nu ar trebui să fie neglijat este că, în cele din urmă, principiile prezentate aici vor deveni noul standard.