Ce înseamnă Proiectul de Lege a Drepturilor pentru Inteligența Artificială al Casei Albe pentru America și restul lumii

Oficiul pentru Știință și Tehnologie al Casei Albe (OSTP) a publicat recent un document intitulat “Proiectul unei Legi a Drepturilor pentru Inteligența Artificială: Facerea sistemelor automate să funcționeze pentru poporul american”. Acest cadru a fost lansat la un an după ce OSTP a anunțat lansarea unui proces pentru a dezvolta “o lege a drepturilor pentru o lume condusă de inteligență artificială”.

Cuvântul înainte din acest document ilustrează clar că Casa Albă înțelege amenințările iminente pentru societate pe care le reprezintă inteligența artificială. Iată ce se spune în cuvântul înainte:

“Printre marile provocări cu care se confruntă democrația astăzi se numără utilizarea tehnologiei, a datelor și a sistemelor automate în moduri care amenință drepturile publicului american. Prea des, aceste instrumente sunt utilizate pentru a limita oportunitățile noastre și pentru a ne împiedica accesul la resurse sau servicii critice. Aceste probleme sunt bine documentate. În America și în întreaga lume, sistemele destinate să ajute la îngrijirea pacienților s-au dovedit a fi nesigure, ineficiente sau părtinitoare. Algoritmii utilizați în procesele de angajare și creditare au fost găsiți a reflecta și a reproduce inegalități nedorite sau a încorpora noi prejudecăți și discriminări dăunătoare. Colectarea necontrolată a datelor de pe rețelele de socializare a fost utilizată pentru a amenința oportunitățile oamenilor, pentru a submina confidențialitatea lor sau pentru a urmări activitatea lor în mod invaziv – adesea fără cunoștința sau consimțământul lor.”

Ce va înseamna acest Proiect de Lege a Drepturilor și cadrul pe care îl propune pentru viitorul inteligenței artificiale rămâne de văzut. Ceea ce știm este că noile dezvoltări apar la un ritm exponențial. Ceea ce era considerat imposibil, traducerea instantanee a limbajului, este acum o realitate, și în același timp avem o revoluție în înțelegerea limbajului natural (NLU) condusă de OpenAI și platforma lor faimoasă GPT-3.

De atunci am văzut generarea instantanee a imaginilor prin intermediul unei tehnici numite Stable Diffusion, care ar putea deveni un produs de consum mainstream. În esență, cu această tehnologie, un utilizator poate introduce orice întrebare pe care o poate imagina, și ca prin magie, inteligența artificială va genera o imagine care se potrivește întrebării.

Când luăm în considerare creșterea exponențială și Legea Revenirii Accelerate, va veni o vreme când inteligența artificială va preluat fiecare aspect al vieții de zi cu zi. Indivizii și companiile care știu acest lucru și profită de acest schimb de paradigmă vor câștiga. Din nefericire, un segment mare al societății poate cădea victimă atât a consecințelor intenționate, cât și a celor neintenționate ale inteligenței artificiale.

Proiectul de Lege a Drepturilor pentru Inteligența Artificială este destinat să sprijine dezvoltarea politicilor și practicilor care protejează drepturile civile și promovează valorile democratice în construirea, implementarea și guvernarea sistemelor automate. Cum se va compara acest proiect cu abordarea Chinei rămâne de văzut, dar este o lege a drepturilor care are potențialul de a schimba peisajul inteligenței artificiale și este probabil să fie adoptată de aliați precum Australia, Canada și UE.

Acest proiect a identificat cinci principii care ar trebui să ghideze proiectarea, utilizarea și implementarea sistemelor automate pentru a proteja publicul american în era inteligenței artificiale, pe care le vom prezenta mai jos:

1. Sisteme Sigure și Eficace

Există un pericol clar și prezent pentru societate din cauza sistemelor de inteligență artificială abuzive, în special a celor care se bazează pe învățarea profundă. Acest lucru este abordat prin aceste principii:

“Trebuie să fiți protejați de sistemele nesigure sau ineficiente. Sistemele automate ar trebui să fie proiectate cu consultarea comunităților diverse, a părților interesate și a experților din domeniu pentru a identifica preocupările, riscurile și impacturile potențiale ale sistemului. Sistemele ar trebui să fie testate înainte de implementare, să identifice și să atenueze riscurile și să fie monitorizate în mod continuu pentru a demonstra că sunt sigure și eficiente în funcție de utilizarea lor intenționată, atenuarea rezultatelor nesigure, inclusiv a celor dincolo de utilizarea intenționată, și respectarea standardelor specifice domeniului. Rezultatele acestor măsuri de protecție ar trebui să includă posibilitatea de a nu implementa sistemul sau de a-l scoate din uz. Sistemele automate nu ar trebui să fie proiectate cu intenția sau posibilitatea de a pune în pericol siguranța dumneavoastră sau a comunității dumneavoastră. Ar trebui să fie proiectate pentru a vă proteja proactiv de daune care pot rezulta din utilizări neintenționate sau previzibile ale sistemelor automate. Trebuie să fiți protejați de utilizarea inadecvată sau irelevantă a datelor în proiectarea, dezvoltarea și implementarea sistemelor automate, și de prejudiciul cumulat al reutilizării acestor date. Evaluarea și raportarea independentă care confirmă că sistemul este sigur și eficient, inclusiv raportarea măsurilor luate pentru a atenua daunele potențiale, ar trebui să fie efectuate și rezultatele să fie făcute publice ori de câte ori este posibil.”

2. Protecții împotriva Discriminării Algoritmice

Aceste politici abordează unele dintre elefanții din cameră atunci când vine vorba de companii care abuzează indivizi.

O problemă comună atunci când se angajează personal prin intermediul sistemelor de inteligență artificială este că sistemul de învățare profundă va învăța adesea pe baza datelor părtinitoare pentru a ajunge la concluzii de angajare. Acest lucru înseamnă că practicile slabe de angajare din trecut vor duce la discriminare de gen sau rasială din partea agentului de angajare. Un studiu a indicat dificultatea de a încerca să se degajeze datele de antrenare.

O altă problemă de bază cu datele părtinitoare de la guverne este riscul de arestare abuzivă, sau chiar algoritmi de predicție a criminalității care oferă pedepse mai lungi pentru minorități.

“Nu ar trebui să vă confruntați cu discriminare din partea algoritmilor și sistemele ar trebui să fie utilizate și proiectate în mod echitabil. Discriminarea algoritmică apare atunci când sistemele automate contribuie la tratamentul inechitabil sau la impactul nefavorabil asupra oamenilor pe baza rasei, culorii, etniei, sexului (inclusiv sarcină, naștere și afecțiuni medicale legate, identitate de gen, statut intersex, orientare sexuală) religie, vârstă, origine națională, dizabilitate, statut de veteran, informații genetice sau orice altă clasificare protejată de lege. În funcție de circumstanțele specifice, discriminarea algoritmică poate încălca protecțiile legale. Proiectanții, dezvoltatorii și implementatorii sistemelor automate ar trebui să ia măsuri proactive și continue pentru a proteja indivizii și comunitățile de discriminarea algoritmică și pentru a utiliza și a proiecta sistemele în mod echitabil. Această protecție ar trebui să includă evaluări proactive de echitate ca parte a proiectării sistemului, utilizarea datelor reprezentative și protecția împotriva proxy-urilor pentru caracteristicile demografice, asigurarea accesibilității pentru persoanele cu dizabilități în proiectare și dezvoltare, testarea disparității și atenuarea acesteia înainte de implementare și în mod continuu, și supravegherea organizațională clară. Evaluarea independentă și raportarea în limba simplă, sub forma unei evaluări a impactului algoritmic, inclusiv rezultatele testării disparității și informații de atenuare, ar trebui să fie efectuate și făcute publice ori de câte ori este posibil pentru a confirma aceste protecții.”

3. Confidențialitatea Datelor

Acest principiu al confidențialității datelor este cel care va afecta cel mai mult segmentul larg al populației. Prima jumătate a principiului pare să se ocupe de colectarea datelor, în special cu datele colectate pe internet, o problemă cunoscută, în special pentru platformele de socializare. Aceleași date pot fi utilizate pentru a vinde reclame sau, și mai rău, pentru a manipula sentimentul public și a influența alegerile.

“Trebuie să fiți protejați de practicile abuzive de date prin intermediul protecțiilor încorporate și ar trebui să aveți control asupra modului în care datele despre dumneavoastră sunt utilizate. Trebuie să fiți protejați de încălcările confidențialității prin alegeri de proiectare care asigură astfel de protecții, inclusiv asigurarea că colectarea datelor se conformează așteptărilor rezonabile și că se colectează doar datele strict necesare pentru contextul specific. Proiectanții, dezvoltatorii și implementatorii sistemelor automate ar trebui să solicite permisiunea dumneavoastră și să respecte deciziile dumneavoastră cu privire la colectarea, utilizarea, accesul, transferul și ștergerea datelor dumneavoastră în moduri adecvate și în cea mai mare măsură posibilă; acolo unde nu este posibil, ar trebui să se utilizeze măsuri alternative de protecție a confidențialității prin proiectare. Sistemele nu ar trebui să utilizeze decizii de proiectare și experiență a utilizatorului care să obscureze alegerea utilizatorului sau să îi împovăreze pe utilizatori cu setări implicite care sunt invazive din punct de vedere al confidențialității. Consimțământul ar trebui să fie utilizat doar pentru a justifica colectarea datelor în cazurile în care poate fi dat în mod adecvat și înțeles. Orice solicitări de consimțământ ar trebui să fie concise, să fie înțelese în limba simplă și să vă ofere control asupra colectării datelor și contextului specific de utilizare; practicile actuale de notificare și alegere pentru utilizări ample ale datelor ar trebui să fie modificate.”

A doua jumătate a principiului confidențialității datelor pare să se ocupe de supravegherea din partea guvernelor și a companiilor.

În prezent, companiile pot monitoriza și spiona angajații, în unele cazuri, poate fi pentru a îmbunătăți siguranța la locul de muncă, în timpul pandemiei de COVID-19, a fost pentru a impune purtarea măștilor, cel mai adesea, este pur și simplu făcut pentru a monitoriza modul în care timpul de muncă este utilizat. În multe dintre aceste cazuri, angajații se simt ca și cum ar fi monitorizați și controlați dincolo de ceea ce se consideră acceptabil.

“Protecții și restricții sporite pentru date și inferențe legate de domenii sensibile, inclusiv sănătate, muncă, educație, justiție penală și finanțe, și pentru date care privesc tinerii ar trebui să vă pună pe primul loc. În domenii sensibile, datele și inferențele dumneavoastră ar trebui să fie utilizate doar pentru funcții necesare și ar trebui să fiți protejați prin revizuiri etice și interdicții de utilizare. Dumneavoastră și comunitățile dumneavoastră ar trebui să fie libere de supravegherea necontrolată; tehnologiile de supraveghere ar trebui să fie supuse unei supravegheri sporite care include cel puțin o evaluare prealabilă a potențialelor daune și limitări ale sferei pentru a proteja confidențialitatea și libertățile civile. Supravegherea și monitorizarea continuă nu ar trebui să fie utilizate în educație, muncă, locuințe sau în alte contexte în care utilizarea unor astfel de tehnologii de supraveghere este probabil să limiteze drepturile, oportunitățile sau accesul. Ori de câte ori este posibil, ar trebui să aveți acces la rapoarte care să confirme că deciziile dumneavoastră cu privire la date au fost respectate și care să ofere o evaluare a impactului potențial al tehnologiilor de supraveghere asupra drepturilor, oportunităților sau accesului dumneavoastră.”

Trebuie remarcat că inteligența artificială poate fi utilizată pentru a proteja confidențialitatea oamenilor.

4. Notificare și Explicație

Acesta ar trebui să fie apelul la acțiune pentru companii pentru a implementa un consiliu de etică a inteligenței artificiale, precum și pentru a accelera dezvoltarea inteligenței artificiale explicabile. Inteligența artificială explicabilă este necesară în cazul în care un model de inteligență artificială face o greșeală, înțelegerea modului în care funcționează inteligența artificială permite diagnosticarea ușoară a unei probleme.

Inteligența artificială explicabilă va permite, de asemenea, partajarea transparentă a informațiilor despre modul în care datele sunt utilizate și de ce a fost luată o decizie de către inteligența artificială. Fără inteligență artificială explicabilă, va fi imposibil să se respecte aceste politici din cauza problemei cutiei negre a învățării profunde.

Companiile care se concentrează pe îmbunătățirea acestor sisteme vor beneficia și de avantaje pozitive din înțelegerea nuanțelor și complexităților din spatele deciziilor luate de un algoritm de învățare profundă.

“Trebuie să știți că un sistem automat este utilizat și să înțelegeți cum și de ce contribuie la rezultate care vă afectează. Proiectanții, dezvoltatorii și implementatorii sistemelor automate ar trebui să furnizeze documentație accesibilă în limba simplă, inclusiv descrieri clare ale funcționării sistemului și rolul automatizării, notificarea că astfel de sisteme sunt utilizate, persoana sau organizația responsabilă de sistem și explicații ale rezultatelor care sunt clare, la timp și accesibile. O astfel de notificare ar trebui să fie actualizată și persoanele afectate de sistem ar trebui să fie notificate cu privire la modificările semnificative ale cazului de utilizare sau funcționalității cheie. Trebuie să știți cum și de ce a fost determinat un rezultat care vă afectează de către un sistem automat, inclusiv atunci când sistemul automat nu este singurul input care determină rezultatul. Sistemele automate ar trebui să furnizeze explicații care sunt valabile din punct de vedere tehnic, semnificative și utile pentru dumneavoastră și pentru orice operatori sau alți utilizatori care au nevoie să înțeleagă sistemul, și să fie calibrate în funcție de nivelul de risc pe baza conținutului. Rapoartele care includ informații rezumative despre aceste sisteme automate în limba simplă și evaluări ale clarității și calității notificării și explicațiilor ar trebui să fie făcute publice ori de câte ori este posibil.”

5. Alternative Umane, Considerare și Rezervă

Acest principiu este cel mai aplicabil entităților guvernamentale sau instituțiilor privatizate care lucrează în numele guvernului.

Chiar și cu un consiliu de etică a inteligenței artificiale și inteligență artificială explicabilă, este important să se recurgă la revizuirea umană atunci când sunt în joc vieți. Există întotdeauna potențialul de eroare, și având o revizuire umană a unui caz atunci când este solicitat, ar putea evita un scenariu în care inteligența artificială trimite oamenii greșiți în închisoare.

Sistemul judiciar și sistemul penal au cel mai mult spațiu pentru a cauza daune ireparabile membrilor marginalizați ai societății și ar trebui să acorde o atenție deosebită acestui principiu.

“Trebuie să aveți posibilitatea de a opta pentru o alternativă umană și să aveți acces la o persoană care poate considera și remedia rapid problemele pe care le întâmpinați. Trebuie să aveți posibilitatea de a opta pentru o alternativă umană în favoarea unui sistem automat, atunci când este adecvat. Adecvarea ar trebui să fie determinată pe baza așteptărilor rezonabile într-un anumit context și cu accent pe asigurarea accesibilității largi și protejarea publicului de impacturi deosebit de dăunătoare. În unele cazuri, o alternativă umană poate fi necesară prin lege. Trebuie să aveți acces la o considerare umană rapidă și la o soluție în cazul în care un sistem automat eșuează, produce o eroare sau doriți să contestați impactul său asupra dumneavoastră. Considerarea și soluția umană ar trebui să fie accesibile, echitabile, eficiente, menținute, însoțite de o formare adecvată a operatorilor și nu ar trebui să impună o sarcină excesivă asupra publicului. Sistemele automate cu utilizare intenționată în domenii sensibile, inclusiv, dar fără a se limita la, sistemul penal, angajarea, educația și sănătatea, ar trebui să fie adaptate scopului, să ofere acces semnificativ la supraveghere, să includă formare pentru orice persoană care interacționează cu sistemul și să incorporeze considerarea umană pentru decizii adverse sau cu risc ridicat. Rapoartele care includ o descriere a acestor procese de guvernanță umană și o evaluare a promptitudinii, accesibilității, rezultatelor și eficacității ar trebui să fie făcute publice ori de câte ori este posibil.”

Rezumat

OSTP ar trebui să primească credit pentru încercarea de a introduce un cadru care să punteze protocoalele de siguranță necesare pentru societate, fără a introduce politici draconice care ar putea împiedica progresul în dezvoltarea învățării mașinilor.

După ce principiile sunt prezentate, proiectul continuă prin furnizarea unui companion tehnic pentru problemele discutate, precum și informații detaliate despre fiecare principiu și cele mai bune moduri de a continua pentru a implementa aceste principii.

Proprietarii de afaceri și companiile inteligente ar trebui să ia notă de acest proiect, deoarece nu poate decât să fie avantajoasă implementarea acestor politici cât mai curând posibil.

Inteligența artificială explicabilă va continua să domine în importanță, așa cum se poate vedea din această citat din proiect.

“În întregul guvern federal, agențiile efectuează și sprijină cercetări privind sistemele de inteligență artificială explicabile. NIST efectuează cercetări fundamentale privind explicabilitatea sistemelor de inteligență artificială. O echipă multidisciplinară de cercetători își propune să dezvolte metode de măsurare și cele mai bune practici pentru a sprijini implementarea principiilor de bază ale inteligenței artificiale explicabile. Agenția de Cercetare a Proiectelor Avansate de Apărare are un program de Inteligență Artificială Explicabilă care vizează crearea unui set de tehnici de învățare mașinilor care produc modele mai explicabile, menținând în același timp un nivel ridicat de performanță a învățării (acuratețe a prezicerii), și să permită utilizatorilor umani să înțeleagă, să aibă încredere și să gestioneze eficient noua generație de parteneri inteligenți artificiali. Programul Fundației Naționale pentru Știință privind corectitudinea în inteligența artificială include, de asemenea, un interes specific pentru cercetarea fundațiilor pentru inteligența artificială explicabilă.”

Ce nu ar trebui să fie neglijat este că, în cele din urmă, principiile prezentate aici vor deveni noul standard.