Institutul AI Now avertizează despre utilizarea abuzivă a software-ului de detectare a emoțiilor și alte probleme etice

Institutul AI Now a lansat un raport care îndeamnă legiuitorii și alte organisme de reglementare să stabilească limite stricte pentru utilizarea tehnologiei de detectare a emoțiilor, interzicând-o în cazurile în care ar putea fi utilizată pentru a lua decizii importante, cum ar fi angajarea de angajați sau admiterea de studenți. În plus, raportul conține o serie de alte sugestii cu privire la o gamă de subiecte din domeniul inteligenței artificiale.

Institutul AI Now este un institut de cercetare cu sediul la NYU, care are misiunea de a studia impactul inteligenței artificiale asupra societății. AI Now lansează un raport anual care prezintă constatările sale cu privire la starea cercetării în domeniul inteligenței artificiale și implicațiile etice ale modului în care inteligența artificială este utilizată în prezent. După cum a raportat BBC, raportul acestui an a abordat subiecte precum discriminarea algoritmică, lipsa de diversitate în cercetarea inteligenței artificiale și problemele legate de muncă.

Recunoașterea afectului, termenul tehnic pentru algoritmi de detectare a emoțiilor, este o zonă în curs de dezvoltare rapidă a cercetării inteligenței artificiale. Cei care utilizează tehnologia pentru a lua decizii susțin adesea că sistemele pot obține informații fiabile despre stările emoționale ale oamenilor prin analizarea microexpresiei, precum și a altor indicii, cum ar fi tonul vocii și limbajul corporal. Institutul AI Now notează că tehnologia este utilizată într-o gamă largă de aplicații, cum ar fi determinarea cui să angajeze, stabilirea prețurilor la asigurări și monitorizarea atenției elevilor în clasă.

Prof. Kate Crawford, co-fondator al AI Now, a explicat că se crede adesea că emoțiile umane pot fi prevăzute cu ajutorul unor modele relativ simple. Crawford a spus că unele firme se bazează pe lucrarea lui Paul Ekman, un psiholog care a ipotetizat că există doar șase tipuri de bază de emoții care se înregistrează pe față. Cu toate acestea, Crawford notează că, de la introducerea teoriei lui Ekman, studii au arătat că există o variabilitate mult mai mare a expresiilor faciale și că expresiile pot varia ușor în funcție de situații și culturi.

“În același timp cu implementarea acestor tehnologii, un număr mare de studii arată că nu există… nicio dovadă substanțială că oamenii au o relație consistentă între emoția pe care o simt și modul în care arată fața”, a declarat Crawford pentru BBC.

Din acest motiv, Institutul AI Now susține că o mare parte a recunoașterii afectului se bazează pe teorii neverificate și știință îndoielnică. Prin urmare, sistemele de detectare a emoțiilor nu ar trebui să fie utilizate până când nu se efectuează mai multe cercetări și că “guvernele ar trebui să interzică în mod special utilizarea recunoașterii afectului în procesele de luare a deciziilor cu risc ridicat”. AI Now a argumentat că ar trebui să încetăm utilizarea tehnologiei în “contexte sociale și politice sensibile”, contexte care includ angajarea, educația și poliția.

Cel puțin o firmă de dezvoltare a inteligenței artificiale specializată în recunoașterea afectului, Emteq, a fost de acord că ar trebui să existe reglementări care să prevină utilizarea abuzivă a tehnologiei. Fondatorul Emteq, Charles Nduka, a explicat pentru BBC că, deși sistemele de inteligență artificială pot recunoaște cu acuratețe diferite expresii faciale, nu există o hartă simplă de la expresie la emoție. Nduka a exprimat îngrijorarea cu privire la faptul că reglementarea ar putea fi prea strictă și ar putea împiedica cercetarea, notând că, dacă “lucrurile vor fi interzise, este foarte important să nu se arunce copilul cu apa rece”.

După cum raportează NextWeb, AI Now a recomandat, de asemenea, o serie de alte politici și norme care ar trebui să ghideze industria inteligenței artificiale în viitor.

AI Now a subliniat necesitatea ca industria inteligenței artificiale să facă locurile de muncă mai diverse și a declarat că lucrătorii ar trebui să aibă dreptul de a-și exprima îngrijorările cu privire la inteligența artificială invazivă și exploatatoare. Lucrătorii din domeniul tehnologiei ar trebui, de asemenea, să aibă dreptul de a ști dacă eforturile lor sunt utilizate pentru a construi lucrări dăunătoare sau neverificate.

AI Now a sugerat, de asemenea, ca legiuitorii să ia măsuri pentru a cere consimțământul informat pentru utilizarea oricăror date derivate din inteligența artificială legată de sănătate. Dincolo de aceasta, s-a recomandat ca confidențialitatea datelor să fie luată mai în serios și ca statele să lucreze la proiectarea unor legi de confidențialitate pentru date biometrice care să acopere atât entitățile private, cât și cele publice.

În final, institutul a sfătuit ca industria inteligenței artificiale să înceapă să gândească și să acționeze mai global, încercând să abordeze consecințele politice, sociale și ecologice mai mari ale inteligenței artificiale. S-a recomandat ca să se facă un efort substanțial pentru a ține cont de impactul inteligenței artificiale asupra deplasării geografice și climatice și ca guvernele să facă disponibil impactul climatic al industriei inteligenței artificiale în mod public.