Uniunea Europeană va lansa primele reglementări ale inteligenței artificiale

La 21 aprilie, Uniunea Europeană va anunța primul său cadru de reglementare care guvernează utilizarea inteligenței artificiale. Noile reglementări vor interzice complet sistemele de învățare automată cu “risc ridicat” și vor introduce standarde minime pentru alte tehnologii de învățare automată, impunând amenzi de 20 de milioane de euro sau 4% din cifra de afaceri a companiei pentru încălcări.

Un raport de proiect al noii legi, obținut de Politico, ar urma să promoveze inovarea și dezvoltarea sistemelor de inteligență artificială pentru beneficiul general al economiei și societății UE, în domenii precum producția, eficiența energetică îmbunătățită și modelarea schimbărilor climatice; dar ar interzice utilizarea învățării automate în sistemele de evaluare a creditului, evaluarea automată a pedepselor și evaluarea eligibilității pentru beneficii de securitate socială și cereri de azil sau vize, printre alte interdicții care urmează să fie anunțate mai târziu.

Proiectul afirmă în mod explicit că sistemele de credit social de tip chinezesc pentru persoane și companii sunt în contradicție cu valorile Uniunii Europene și vor fi interzise în temeiul reglementării, împreună cu tehnologiile de “supraveghere în masă” alimentate de inteligență artificială.

Supraveghere Reglementară

Ulterior numirii unui grup de experți de nivel înalt pentru inteligență artificială în martie 2021, UE intenționează să instituie și un nou Consiliu European pentru Inteligență Artificială, cu fiecare stat membru reprezentat, împreună cu un reprezentant al Comisiei Europene și al autorității pentru protecția datelor a UE.

Probabil cea mai cuprinzătoare și controversată dispoziție din proiectul de lege este aceea că interzice sistemele care cauzează prejudicii populațiilor UE prin “manipularea comportamentului, opiniilor sau deciziilor” lor, ceea ce ar include, în mod evident, multe tehnologii care alimentează analiza marketingului comercial și politic.

Reglementările vor face excepții pentru combaterea crimei grave, permițând utilizarea sistemelor de recunoaștere facială în limitele scopului și duratei de utilizare.

La fel ca și amploarea largă a Regulamentului General privind Protecția Datelor, pare că aceste reglementări noi ar putea fi suficient de generale pentru a provoca un “efect de răcire” în domenii în care nu sunt furnizate linii directoare stricte pentru utilizarea inteligenței artificiale, cu riscul ca corporațiile să fie expuse în situații în care utilizarea învățării automate ar putea intra într-o zonă gri din reglementări.

Purtarea sub Noua Reglementare a UE privind Inteligența Artificială

Cu toate acestea, cea mai mare provocare și posibilă problemă juridică vine sub forma dispoziției proiectului de reglementare care stipulează că seturile de date nu trebuie “să incorporeze niciun fel de părtinire intenționată sau neintenționată” care ar putea facilita discriminarea.

Părtinirea datelor este unul dintre cele mai dificile aspecte în dezvoltarea sistemelor de învățare automată – greu de demonstrat, dificil de abordat și profund legat de culturile organizațiilor care colectează date. Problema plasează tot mai mult organizațiile private și de stat într-un curent contrar între nevoia de a reprezenta cu acuratețe grupuri distincte (obiectivul fundamental al matematicii computaționale și al analizei statistice empirice) și posibilitatea de a promova profilarea rasială și demonizarea culturală, printre alte considerații.

Prin urmare, este probabil ca piețele non-UE să speră că noua reglementare va oferi cel puțin anumite domenii de îndrumare și o serie de definiții aplicabile în acest sens.

Rezistența Externă la Reglementarea UE privind Inteligența Artificială

Noua reglementare va avea probabil un impact profund asupra implicațiilor legale ale utilizării învățării automate pentru analiza datelor cu caracter public – precum și asupra datelor care vor mai putea fi extrase de la utilizatorii de web în era post-urmare actuală, inaugurată de Apple, Firefox și (într-o măsură mai mică), Chrome.

Ar trebui să se definească clar jurisdicția, de exemplu, în cazurile în care giganții FAANG colectează date cu caracter personal în conformitate cu Regulamentul General privind Protecția Datelor, dar procesează aceste date prin sisteme de învățare automată în afara Uniunii Europene. Nu este clar dacă algoritmii derivați din astfel de sisteme ar putea fi aplicați pe platforme din interiorul UE și cu atât mai puțin clar cum ar putea fi demonstrată o astfel de aplicație.

În cazul utilizării inteligenței artificiale pentru a informa deciziile de arestare și sentințe, o tendință în creștere în Statele Unite, experimentele ocazionale ale Regatului Unit în acest sector ar fi fost acoperite de noile reglementări dacă țara nu ar fi părăsit Uniunea Europeană.

În 2020, un proiect de memorandum al Casei Albe privind reglementarea inteligenței artificiale a declarat cazul american pentru reglementarea scăzută a inteligenței artificiale, afirmând că ‘Agențiile federale trebuie să evite acțiunile reglementare sau nereglementare care împiedică inutil inovația și creșterea inteligenței artificiale’. Probabil, această atitudine pare să supraviețuiască administrației Trump sub care a fost publicat memorandumul, dar reflectă mai degrabă un viitor conflict între SUA și UE în urma noii reglementări.

La fel, “Drumul către Inteligența Artificială” al Consiliului pentru Inteligență Artificială din Regatul Unit exprimă un entuziasm deosebit pentru beneficiile economice ale adoptării inteligenței artificiale, dar o preocupare generală că noile reglementări nu ar trebui să împiedice acest progres.

Prima Lege Reală pentru Inteligența Artificială

Angajamentul UE de a adopta o poziție juridică cu privire la inteligența artificială este inovator. Ultimii zece ani au fost caracterizați de o furtună de cărți albe și rapoarte preliminare ale comitetelor din guvernele din întreaga lume, concentrându-se pe etica inteligenței artificiale, cu puține legi adoptate în realitate.

Distribuția geografică a emitentului de ghiduri etice de inteligență artificială, după numărul de documente lansate, într-un sondaj din 2019. Cel mai mare număr de ghiduri etice sunt lansate în Statele Unite și în Uniunea Europeană, urmate de Regatul Unit și Japonia. Canada, Islanda, Norvegia, Emiratele Arabe Unite, India, Singapore, Coreea de Sud, Australia sunt reprezentate cu câte un document fiecare. Având în vedere contribuția la o declarație specifică G7, statele membre ale țărilor G7 sunt evidențiate separat. Sursă: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

Citire Suplimentară

Politici și strategii naționale de inteligență artificială (OCDE)