Institutul AI Now avertizează despre utilizarea abuzivă a software-ului de detectare a emoțiilor și alte probleme etice

Institutul AI Now a lansat un raport care îndeamnă legislatorii și alte organisme de reglementare să stabilească limite stricte pentru utilizarea tehnologiei de detectare a emoțiilor, interzicând-o în cazurile în care ar putea fi utilizată pentru a lua decizii importante, cum ar fi angajarea de angajați sau admiterea de studenți. În plus, raportul conține o serie de alte sugestii cu privire la o gamă de subiecte din domeniul inteligenței artificiale.

Institutul AI Now este un institut de cercetare cu sediul la NYU, care are misiunea de a studia impactul inteligenței artificiale asupra societății. AI Now lansează un raport anual care prezintă constatările sale cu privire la starea cercetărilor în domeniul inteligenței artificiale și implicațiile etice ale modului în care inteligența artificială este utilizată în prezent. După cum a raportat BBC, raportul acestui an a abordat subiecte precum discriminarea algoritmică, lipsa de diversitate în cercetarea inteligenței artificiale și problemele legate de muncă.

Recunoașterea afectivă, termenul tehnic pentru algoritmii de detectare a emoțiilor, este o zonă în curs de dezvoltare rapidă a cercetării inteligenței artificiale. Cei care utilizează tehnologia pentru a lua decizii susțin adesea că sistemele pot obține informații fiabile despre stările emoționale ale oamenilor prin analizarea microexpresiei, precum și a altor indicii, cum ar fi tonul vocii și limbajul corporal. Institutul AI Now notează că tehnologia este utilizată într-o gamă largă de aplicații, cum ar fi determinarea cui să se angajeze, stabilirea prețurilor la asigurări și monitorizarea atenției elevilor în clasă.

Prof. Kate Crawford, co-fondator al AI Now, a explicat că se crede adesea că emoțiile umane pot fi prevăzute cu exactitate prin modele relativ simple. Crawford a spus că unele firme se bazează pe lucrările lui Paul Ekman, un psiholog care a ipotezat că există doar șase tipuri fundamentale de emoții care se înregistrează pe față. Cu toate acestea, Crawford notează că, de la introducerea teoriei lui Ekman, studii au arătat că există o variabilitate mult mai mare a expresiilor faciale și că expresiile pot varia în funcție de situații și culturi.

“În același timp cu implementarea acestor tehnologii, un număr mare de studii arată că nu există… nicio dovadă substanțială că oamenii au o relație consistentă între emoția pe care o simt și felul în care arată fața”, a spus Crawford pentru BBC.

Din acest motiv, institutul AI Now susține că o mare parte a recunoașterii afective se bazează pe teorii neverosimile și știință îndoielnică. Prin urmare, sistemele de detectare a emoțiilor nu ar trebui să fie implementate până când nu se vor face mai multe cercetări și că “guvernele ar trebui să interzică în mod specific utilizarea recunoașterii afective în procesele de luare a deciziilor cu risc ridicat”. AI Now a argumentat că ar trebui să încetăm utilizarea tehnologiei în “contexte sociale și politice sensibile”, contexte care includ angajarea, educația și poliția.

Cel puțin o firmă de dezvoltare a inteligenței artificiale specializată în recunoașterea afectivă, Emteq, a fost de acord că ar trebui să existe reglementări care să prevină utilizarea abuzivă a tehnologiei. Fondatorul Emteq, Charles Nduka, a explicat pentru BBC că, deși sistemele de inteligență artificială pot recunoaște cu exactitate diferite expresii faciale, nu există o hartă simplă de la expresie la emoție. Nduka a exprimat îngrijorarea cu privire la faptul că reglementarea ar putea fi prea strictă și ar putea împiedica cercetarea, notând că, dacă “lucrurile vor fi interzise, este foarte important ca oamenii să nu arunce copilul cu apa din baie”.

După cum raportează NextWeb, AI Now a recomandat, de asemenea, o serie de alte politici și norme care ar trebui să ghideze industria inteligenței artificiale în viitor.

AI Now a subliniat necesitatea ca industria inteligenței artificiale să facă locurile de muncă mai diverse și a afirmat că lucrătorii ar trebui să aibă garantat dreptul de a-și exprima îngrijorările cu privire la inteligența artificială invazivă și exploatatoare. Lucrătorii din domeniul tehnologiei ar trebui să aibă, de asemenea, dreptul de a ști dacă eforturile lor sunt utilizate pentru a construi lucrări dăunătoare sau neetice.

AI Now a sugerat, de asemenea, ca legislatorii să ia măsuri pentru a cere consimțământul informat pentru utilizarea oricăror date derivate din inteligența artificială legată de sănătate. Dincolo de aceasta, s-a recomandat ca confidențialitatea datelor să fie luată mai în serios și ca statele să lucreze la proiectarea legilor privind confidențialitatea datelor biometrice care să acopere atât entitățile private, cât și cele publice.

În final, institutul a sfătuit ca industria inteligenței artificiale să înceapă să gândească și să acționeze mai global, încercând să abordeze consecințele politice, sociale și ecologice mai ample ale inteligenței artificiale. S-a recomandat ca să se depună eforturi substanțiale pentru a ține cont de impactul inteligenței artificiale asupra deplasării geografice și a climatului și ca guvernele să facă public impactul climatic al industriei inteligenței artificiale.