Eșecurile proiectului de Act al Inteligenței Artificiale al UE

O nouă critică juridică a proiectului de “Act al Inteligenței Artificiale” al Uniunii Europene aduce o serie de critici la regulamentele propuse lansate în aprilie, concluzionând că o parte semnificativă a documentului este “cusută” din reglementări de consum din anii 1980, care nu sunt aplicabile; că, de fapt, promovează un mediu de inteligență artificială dereglementat în Europa, în loc de a aduce sectorul sub o reglementare coerentă; și – printre o serie de alte critici – că propunerile descriu un cadru de reglementare a inteligenței artificiale care are “puțin sens și impact”.

Intitulat Demistificarea proiectului de Act al Inteligenței Artificiale al UE, preprintul este o colaborare între cercetători de la UCL Londra și Universitatea Radboud din Nijmegen.

Articolul adaugă la un corp tot mai mare de opinii negative despre implementarea propusă (și nu despre intenția în sine) a unui cadru de reglementare a inteligenței artificiale, inclusiv afirmația din aprilie a unuia dintre contributorii la reglementarea propusă, care spune că ghidurile propuse sunt “lache, cu vedere scurtă și intenționat vagi”, caracterizând documentul Comisiei Europene ca un susținător al “eticii false”.

Sisteme de Inteligență Artificială Manipulative

Noul articol susține că restricțiile propuse de Actul Inteligenței Artificiale asupra “sistemelor manipulative” sunt împiedicate de o definiție vagă și chiar contradictorie a “prejudiciului”, comentând că “[u]n cinic ar putea simți că Comisia este mai interesată de valoarea retorică a interdicțiilor decât de efectul lor practic”.

Reglementările propuse descriu două practici interzise:

(a) introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem de inteligență artificială care utilizează tehnici subliminale dincolo de conștientizarea unei persoane, pentru a distorsiona material comportamentul unei persoane într-un mod care cauzează sau este probabil să cauzeze prejudicii fizice sau psihologice acelei persoane sau altei persoane;

(b) introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem de inteligență artificială care exploatează vulnerabilitățile unui grup specific de persoane din cauza vârstei, dizabilității fizice sau mintale, pentru a distorsiona material comportamentul unei persoane care aparține acelui grup, într-un mod care cauzează sau este probabil să cauzeze prejudicii fizice sau psihologice acelei persoane sau altei persoane;

Cercetătorii susțin că aceste restricții nu abordează problema dacă serviciile sau software-ul unui furnizor de inteligență artificială sunt eficiente în atingerea obiectivelor sale, ci doar dacă utilizatorul final suferă “prejudicii” în proces. Ei adaugă că definiția prejudiciului din proiect este limitată fatal la utilizatorii individuali, și nu ia în considerare prejudiciul colectiv sau societal care poate fi dedus dintr-un număr de controverse legate de inteligența artificială din ultimii ani, cum ar fi scandalul Cambridge Analytica.

Articolul observă că “În viața reală, prejudiciul poate acumula fără a depăși un prag de gravitate, făcând dificilă demonstrarea acestuia”.

Sisteme de Inteligență Artificială Dăunătoare Permise, dar Nu pentru Consumul UE

Actul Inteligenței Artificiale propune să interzică sistemele biometrice “în timp real” în spații publice de către autoritățile de aplicare a legii. Deși unele scepticisme publice au fost îndreptate către excepțiile făcute de propuneri pentru anti-terorism, trafic de copii și urmărire a unui mandat de arestare european, cercetătorii observă că nimic nu ar împiedica furnizorii să vândă sisteme biometrice care încalcă aceste reguli unor regimuri opresive.

Articolul observă că acest lucru este deja o practică istorică, așa cum a fost dezvăluit într-un raport din 2020 al Amnesty International.

El afirmă, de asemenea, că specificarea “în timp real” a sistemului biometric este arbitrară și exclude sistemele analitice offline, cum ar fi procesarea ulterioară a înregistrărilor video de la evenimente de protest.

În plus, se observă că propunerile nu oferă niciun mecanism pentru a restricționa sistemele biometrice care nu sunt legate de aplicarea legii, care sunt lăsate în mod leneș la dispoziția GDPR; și că GDPR-ul însuși “impune o cerință de consimțământ de înaltă calitate, individual, pentru fiecare persoană scanată, care este practic imposibil de îndeplinit”.

Formularea acestei secțiuni a Actului Inteligenței Artificiale este, de asemenea, criticată de cercetători. Proiectul stipulează că va fi necesară o autorizare prealabilă pentru utilizarea sistemelor biometrice de către autoritățile competente pentru “utilizarea individuală” a acestor sisteme – dar nu clarifică ce înseamnă “utilizare individuală” în acest context. Articolul observă că mandatele controversate pot fi tematice, și se referă la organizații, scopuri și locuri largi.

În plus, proiectul de reglementare nu stipulează un mecanism de transparență pentru numărul și tipul de autorizări emise, ceea ce face dificilă supravegherea publică.

Externalizarea Reglementării către “Standarde Armonizate”

Cercetarea afirmă că entitățile cele mai importante din Actul Inteligenței Artificiale nu sunt menționate niciodată în proiectul de reglementare: CEN (Comitetul European pentru Standardizare) și CENELEC (Comitetul European pentru Standardizare Electrotehnică) – două dintre cele trei organizații europene de standardizare (ESO) pe care Comisia Europeană le poate mandata să formuleze standarde armonizate, care, în multe cazuri, ar rămâne cadrele de reglementare guvernamentale pentru anumite tipuri de servicii și implementări de inteligență artificială.

Acest lucru înseamnă, în esență, că producătorii de inteligență artificială pot alege să urmeze standardele unor reglementări concurente, mai degrabă decât complementare, în loc de a respecta cerințele esențiale descrise în Actul Inteligenței Artificiale. Acest lucru le permite furnizorilor să interpreteze mai liber reglementările propuse atunci când acestea vor intra în vigoare în 2024-2025.

Cercetătorii articolului susțin, de asemenea, că anii de lobby industrial care intervin între standardele corporative vor redefini, probabil, aceste “standarde esențiale” în mod semnificativ, și sugerează că “reglementările ideale” ar trebui să înceapă de la un nivel etic și de claritate legislativă mai ridicat, dacă nu pentru a lua în considerare acest proces inevitabil de erodare.

Legitimarea Faliei Sistemelor de Recunoaștere a Emoțiilor

Actul Inteligenței Artificiale conține prevederi împotriva implementării sistemelor de recunoaștere și categorizare a emoțiilor – cadre care nu neapărat identifică o persoană, dar care pretind a înțelege ce simte acea persoană sau a o categorisi în funcție de gen, etnie și diverse alte indicatori economici și sociali.

Cercetătorii susțin că această clauză este inutilă, deoarece GDPR-ul obligă deja furnizorii de astfel de sisteme să furnizeze utilizatorilor informații clare despre utilizarea acestor sisteme, astfel încât utilizatorii să poată alege să nu le utilizeze (ceea ce poate implica să nu utilizeze un serviciu online sau să nu intre într-o zonă în care astfel de sisteme sunt anunțate).

Mai important, articolul afirmă că această clauză legitimează o tehnologie demontată, și caracterizează sistemele de recunoaștere a emoțiilor în stil FACS în lumina istoriei rușinoase a frenologiei și a altor abordări aproape șamanice de categorizare socială din epoca industrială timpurie.

“Cei care pretind a detecta emoții folosesc taxonomii simplificate, discutabile; presupun în mod greșit universalitatea în diferite culturi și contexte; și riscă să ne ducă înapoi la trecutul frenologic de analiză a trăsăturilor de caracter din structurile faciale. Prevederile Actului cu privire la recunoașterea emoțiilor și categorizarea biometrică par insuficiente pentru a mitigă riscurile”.

O Propunere Prea Modestă

Pe lângă acestea, cercetătorii abordează alte deficiențe percepute în Actul Inteligenței Artificiale în ceea ce privește reglementarea deepfakes, lipsa de supraveghere a emisiilor de carbon ale sistemelor de inteligență artificială, duplicarea supravegherii reglementării cu alte cadre și definiția inadecvată a entităților juridice care pot fi urmărite în justiție.

Ei îndeamnă legislatorii și activiștii civici să ia măsuri pentru a remedia problemele identificate și observă, de asemenea, că, chiar și cu o analiză extinsă a proiectului de reglementare, au trebuit să omită multe alte domenii de îngrijorare, din cauza lipsei de spațiu.

În ciuda acestor lucruri, articolul aplaudă încercarea pionieră a Actului de a introduce un sistem de reglementare orizontală a sistemelor de inteligență artificială, citând “elementele sale sensibile”, cum ar fi crearea unei ierarhii a nivelurilor de evaluare a riscurilor, angajamentul de a introduce interdicții și propunerea unei baze de date publice a sistemelor la care furnizorii ar trebui să contribuie pentru a obține legitimitate europeană, deși observă că această cerință ulterioară este probabil să ridice întrebări juridice.