Apeluri crescânde pentru reglementarea inteligenței artificiale după săptămâni de rapoarte de știri

În ultimele săptămâni, au existat apeluri crescânde pentru o reglementare mai puternică a inteligenței artificiale (IA). Îngrijorarea vine după diverse povești de știri care au arătat potențialele abuzuri ale tehnologiei. Acum, chiar mai multe întrebări sunt puse în legătură cu lansarea așteptatului raport alb despre inteligență artificială al Comisiei Europene (UE), care este prima încercare pan-națională de a reglementa IA. În același timp, Biroul pentru Știință și Tehnologie al Casei Albe (OSTP) a lansat un raport despre Inițiativa Americană de Inteligență Artificială.

Înainte de lansarea raportului alb al UE, The Intercept a publicat o poveste de știri referitoare la documente interne ale Uniunii Europene care au fost divulgate. Conform documentelor, UE lua în considerare crearea unei rețele de baze de date de recunoaștere facială în toată Europa. Forțele de poliție naționale ale a 10 state membre UE au produs un raport care a cerut crearea și interconectarea bazelor de date în fiecare stat membru. Mulți se tem că crearea unor astfel de baze de date va fi în mod inevitabil conectată cu cele similare din Statele Unite, permițând consolidarea unei cantități masive de date biometrice. Mulți se așteptau ca raportul alb al UE să propună o interzicere a reglementării faciale, dar nu a fost acolo.

Conform lui Edin Omanovic, director de advocacy pentru Privacy International, “Acest lucru este îngrijorător la nivel național și la nivel european, mai ales având în vedere că unele țări ale UE se îndreaptă către guverne mai autoritare.”

Una dintre cele mai importante povești de știri din ultimele săptămâni, inițiată de o investigație a New York Times în ianuarie, se referă la start-up-ul Clearview AI. Aplicația de recunoaștere facială a companiei identifică oameni prin utilizarea unei baze de date de imagini preluate de pe rețelele de socializare. Aplicația compară o fotografie cu baza de date de peste 3 miliarde de poze provenite de pe site-uri precum Facebook (META ), Venmo și Youtube. Odată ce aplicația găsește potriviri, ea răspunde cu link-uri către site-urile de origine ale fotografiilor. Această tehnologie poate duce la descoperirea unor detalii personale despre un individ. Conform raportului, aplicația a fost utilizată de peste 600 de agenții de aplicare a legii. În timp ce baza de date a Clearview conține peste 3 miliarde de imagini, baza de date a FBI conține doar 641 de milioane de imagini ale cetățenilor americani.

Povestea a erupt din nou cu un nou raport al BuzzFeed News (BZFD ) de săptămâna trecută. Conform raportului, compania a luat în considerare extinderea în afara scopului inițial de aplicare a legii, cu retail, imobiliare, bancare și piețe internaționale fiind luate în considerare. Raportul a mai afirmat că aplicația de recunoaștere facială a fost deja vândută către mii de organizații din întreaga lume și a fost utilizată de Departamentul de Justiție, ICE, Macy’s (M ), Walmart (WMT ) și NBA. Poate cel mai problematic dintre clienții de pe listă este un fond suveran de investiții din Emiratele Arabe Unite și mii de entități guvernamentale.

Noile dezvoltări au cauzat îngrijorări printre avocații pentru confidențialitate cu privire la posibilele utilizări ale supravegherii în masă. O altă îngrijorare este posibilitatea inexactității tehnologiei, ceea ce poate duce la țintirea de către agențiile de aplicare a legii a unor indivizi nevinovați. Pe lângă toate îngrijorările legate de confidențialitate, companii precum Facebook, Google (GOOGL ) și Twitter amenință cu acțiuni legale. Pe lângă acțiunile legale private, cel puțin doi senatori americani au declarat că intenționează să investigheze compania.

Un exemplu al abuzului acestei tehnologii poate fi văzut în cadrul Agenției pentru Imigrație și Control al Frontierelor din Statele Unite (ICE). The Washington Post a raportat săptămâna trecută că funcționarii ICE au fost autorizați să utilizeze tehnologia de recunoaștere facială pentru a căuta prin milioane de fotografii de pe permisele de conducere din Maryland, și pot face acest lucru fără a cere aprobarea statului sau a instanței.

Conform lui Harrison Rudolph, un asociat senior la Centrul pentru Confidențialitate și Tehnologie al Școlii de Drept a Universității Georgetown, “ICE utilizează informații biometrice în umbră, fără notificarea guvernului sau aprobarea publică, pentru a vâna oamenii cei mai vulnerabili.”

Acestea sunt doar câteva exemple publice despre modul în care această tehnologie este utilizată, dar mult mai mult se întâmplă în spatele cortinei. Din cauza acestui fapt, a existat un apel crescut pentru scrutin și reglementare. O transparență crescută, fie voluntară, fie prin raportare investigativă, aduce multe practici la lumină. Fără ca publicul să aibă o înțelegere a inteligenței artificiale și a ceea ce poate însemna pentru economie, guvern, aplicarea legii, supraveghere, și fiecare alt aspect al societății, există puține șanse ca guvernele și companiile să se autoregleze. Societatea vede atât beneficiile uriașe ale IA, cât și îngrijorările masive, toate acestea întâmplându-se prea repede pentru ca companiile, guvernele și indivizii să țină pasul.