Reglementare
UE să lanseze primele reglementări ale inteligenței artificiale
La 21 aprilie, Uniunea Europeană va anunța primul său cadru regulatoriu care guvernează utilizarea inteligenței artificiale. Noile reglementări vor interzice în total sistemele de învățare automată cu “risc ridicat” și vor introduce standarde minime pentru alte tehnologii de învățare automată, impunând penalități de 20 de milioane de euro, sau 4% din cifra de afaceri a companiei, pentru încălcări.
Un raport de proiect al noii legi, obținut de Politico, ar urma să promoveze inovarea și dezvoltarea sistemelor de inteligență artificială pentru beneficiul general al economiei și societății UE, în domenii precum producția, eficiența energetică îmbunătățită și modelarea schimbărilor climatice; dar ar interzice utilizarea învățării automate în sistemele de evaluare a creditului, evaluarea automată a pedepselor și evaluarea eligibilității pentru beneficii de securitate socială și cereri de azil sau vize, printre alte interdicții care urmează să fie dezvăluite mai târziu.
Proiectul afirmă în mod explicit că sistemele de creditare socială de tip chinezesc pentru persoane fizice și companii sunt în opoziție cu valorile Uniunii Europene și vor fi interzise în temeiul reglementării, împreună cu tehnologiile de “supraveghere în masă” alimentate de inteligență artificială.
Supraveghere Reglementară
Ulterior numirii sale a unui grup de experți de nivel înalt pentru inteligență artificială în martie 2021, UE intenționează, de asemenea, să instituie un nou Consiliu European pentru Inteligență Artificială, cu reprezentanți din fiecare stat membru, împreună cu un reprezentant al Comisiei Europene și al autorității pentru protecția datelor a UE.
Poate cea mai cuprinzătoare și controversată dispoziție din proiectul de lege este aceea că interzice sistemele care cauzează prejudicii populațiilor UE prin “manipularea comportamentului, opiniilor sau deciziilor” lor, ceea ce ar include, în mod evident, multe tehnologii care alimentează analiza marketingului comercial și politic.
Reglementările vor face excepții pentru combaterea infracțiunilor grave, permițând utilizarea prescrisă a sistemelor de recunoaștere facială, în limitele sferei și duratei de utilizare.
La fel ca și amploarea largă a GDPR, pare că aceste noi reglementări ar putea fi suficient de generale pentru a provoca un “efect de răcire” în domeniile în care nu se oferă linii directoare stricte pentru utilizarea inteligenței artificiale, cu corporații care riscă să fie expuse acolo unde utilizarea lor a învățării automate intră într-o zonă gri potențială din reglementări.
Prejudecățile sub noile reglementări ale UE privind IA
Cu toate acestea, cea mai mare provocare și posibilă capcană juridică vine sub forma dispoziției proiectului de reglementare care stipulează că seturile de date nu trebuie “să incorporeze niciun fel de prejudecăți intenționate sau neintenționate” care ar putea facilita discriminarea.
Prejudecata datelor este unul dintre cele mai dificile aspecte în dezvoltarea sistemelor de învățare automată – greu de demonstrat, dificil de abordat și profund legat de culturile centrale ale organismelor de colectare a datelor. Problema plasează tot mai mult organizațiile de cercetare private și de stat într-un curent contrar între nevoia de a reprezenta cu acuratețe grupuri distincte (obiectivul fondator al matematicii computaționale și al analizei statistice empirice) și posibilitatea de a promova profilarea rasială și demonizarea culturală, printre alte considerații.
Prin urmare, este probabil ca piețele non-UE să speră că noua reglementare va oferi cel puțin anumite domenii de îndrumare și o serie de definiții aplicabile în acest sens.
Rezistența externă la reglementarea UE privind IA
Noua reglementare va avea probabil un impact profund asupra ramificațiilor juridice ale utilizării învățării automate pentru a analiza datele publice – precum și asupra datelor respective, deoarece va fi încă posibil să extrageți date de la utilizatorii web în era post-urmare, care este în prezent introdusă de Apple, Firefox și (într-o măsură mai mică), Chrome.
Jurisdicția va trebui să fie definită în mod clar, de exemplu, în cazurile în care giganții FAANG colectează datele utilizatorilor în conformitate cu GDPR, dar procesează aceste date prin sisteme de învățare automată în afara Uniunii Europene. Nu este clar dacă algoritmii derivați din astfel de sisteme ar putea fi aplicați pe platformele din interiorul UE și este și mai puțin clar cum o astfel de aplicație ar putea fi demonstrată.
În cazul utilizării inteligenței artificiale pentru a informa deciziile de arestare și sentințe, o tendință în creștere în Statele Unite, experimentele ocazionale ale Regatului Unit în acest sector ar fi fost acoperite de noile reglementări, dacă țara nu ar fi părăsit Uniunea Europeană.
În 2020, un proiect de memorandum al Casei Albe privind reglementarea inteligenței artificiale a declarat cazul american pentru reglementarea redusă a inteligenței artificiale, afirmând că “Agențiile federale trebuie să evite acțiunile reglementare sau nereglementare care împiedică inutil inovația și creșterea inteligenței artificiale”. Acest atitudine pare probabil să supraviețuiască administrației Trump, sub care a fost publicat memorandumul, dar reflectă mai degrabă frecarea care vine între SUA și UE în urma noii reglementări.
La fel, “Drumul către IA” al Consiliului pentru Inteligență Artificială din Regatul Unit exprimă un entuziasm deosebit pentru beneficiile economice ale adoptării inteligenței artificiale, dar o preocupare generală că noile reglementări nu ar trebui să împiedice acest progres.
Prima lege reală pentru IA
Angajamentul UE de a adopta o poziție juridică cu privire la inteligența artificială este inovator. Ultimii zece ani au fost caracterizați de o furtună de lucrări albe și constatări preliminare ale comitetelor și recomandări din partea guvernelor din întreaga lume, concentrându-se pe etica inteligenței artificiale, cu puține legi adoptate în realitate.
Distribuția geografică a emitentului de ghiduri etice de IA, după numărul de documente lansate, într-un sondaj din 2019. Cel mai mare număr de ghiduri etice sunt lansate în Statele Unite și în cadrul Uniunii Europene, urmate de Regatul Unit și Japonia. Canada, Islanda, Norvegia, Emiratele Arabe Unite, India, Singapore, Coreea de Sud, Australia sunt reprezentate cu câte un document. Având contribuit la o declarație specifică a G7, statele membre ale țărilor G7 sunt evidențiate separat. Sursa: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf
Citire suplimentară
