Considerații Etice la Dezvoltarea Inteligenței Artificiale pentru Recunoașterea Emoțiilor

Inteligența artificială pentru reglarea emoțiilor este una dintre cele mai recente avansări tehnologice în domeniul învățării automate. Deși arată un potențial mare, problemele etice sunt gata să afecteze rata de adoptare și longevitatea sa. Pot dezvoltatorii de IA să le depășească?

Ce Este Recunoașterea Emoțiilor prin IA?

Recunoașterea emoțiilor prin IA este un tip de model de învățare automată. Acesta se bazează adesea pe tehnologia de viziune computerizată care captează și analizează expresiile faciale pentru a descifra stările de spirit din imagini și videoclipuri. Cu toate acestea, poate funcționa și pe fragmente audio pentru a determina tonul vocii sau text scris pentru a evalua sentimentul limbajului.

Acest algoritm reprezintă un progres fascinant în domeniul IA, deoarece, până acum, modelele nu au putut înțelege sentimentele umane. În timp ce modelele de limbaj mare, cum ar fi ChatGPT, pot simula stări și personaje convingător, acestea pot doar să combine cuvinte în mod logic — nu pot simți nimic și nu afișează inteligență emoțională.În timp ce un model de recunoaștere a emoțiilor nu este capabil să aibă sentimente, el poate totuși detecta și cataloga emoții. Acest progres este semnificativ, deoarece semnalează că IA ar putea în curând să înțeleagă și să demonstreze cu adevărat fericire, tristețe sau furie. Salturile tehnologice precum acestea indică o avansare accelerată.

Cazuri de Utilizare pentru Recunoașterea Emoțiilor prin IA

Companiile, educatorii, consultanții și profesioniștii din sănătatea mintală sunt câteva dintre grupurile care pot utiliza IA pentru recunoașterea emoțiilor.

Evaluarea Riscului în Birou

Echipele de resurse umane pot utiliza algoritmi pentru a efectua analiza sentimentului asupra corespondenței prin e-mail sau a discuțiilor din aplicații între membrii echipei. Alternativ, pot integra algoritmul în sistemul de supraveghere sau de viziune computerizată. Utilizatorii pot urmări starea de spirit pentru a calcula metrici precum rata de abandon, rata de epuizare și satisfacția angajaților.

Asistarea Agenților de Servicii Clienți

Retailerii pot utiliza agenți de servicii clienți IA interni pentru utilizatorii finali sau asistenți virtuali pentru a rezolva situații cu stres ridicat. Deoarece modelul lor poate recunoaște starea de spirit, poate sugera tehnici de deconectare sau poate schimba tonul atunci când realizează că un consumator se înfurie. Contramăsurile precum acestea pot îmbunătăți satisfacția și retenția clienților.

Ajutorarea Studenților în Sala de Clasă

Educatorii pot utiliza această IA pentru a preveni ca studenții care învață la distanță să rămână în urmă. O companie a folosit deja instrumentul său pentru a măsura punctele musculare de pe fețele studenților, catalogând în același timp viteza și notele lor. Această metodă determină starea lor de spirit, motivația, punctele forte și slabe. Fondatorul companiei susține că obțin note cu 10% mai mari la teste atunci când utilizează software-ul.

Realizarea Cercetărilor de Piață Interne

Companiile pot efectua cercetări de piață interne utilizând un model de recunoaștere a emoțiilor. Acesta le poate ajuta să înțeleagă exact cum reacționează publicul țintă la produsul, serviciul sau materialul de marketing, oferindu-le informații valoroase bazate pe date. Ca urmare, pot accelera timpul de lansare pe piață și pot crește veniturile.

Problema Utilizării IA pentru Detectarea Emoțiilor

Cercetările sugerează că acuratețea depinde foarte mult de informațiile de antrenament. Un grup de cercetare — care a încercat să descifreze sentimentele din imagini — a demonstrat această noțiune atunci când modelul a obținut o acuratețe de 92,05% pe setul de date al expresiilor faciale feminine japoneze și o acuratețe de 98,13% pe setul de date Extended Cohn-Kanade.

Deși diferența dintre 92% și 98% poate părea nesemnificativă, ea contează — această mică discrepanță poate avea implicații substanțiale. Pentru referință, o rată de otrăvire a setului de date de doar 0,001% s-a dovedit a fi eficientă în stabilirea unor backdoor-uri de model sau în cauzarea intenționată a erorilor de clasificare. Chiar și o fracțiune de procentaj este semnificativă.

Mai mult, deși studiile par promițătoare — ratele de acuratețe peste 90% arată potențial — cercetătorii le efectuează în medii controlate. În lumea reală, imaginile blurate, expresiile faciale false, unghiurile proaste și sentimentele subtile sunt mult mai comune. Cu alte cuvinte, IA poate să nu poată performa consistent.

Starea Actuală a Recunoașterii Emoțiilor prin IA

Analiza algoritmică a sentimentului este procesul de utilizare a unui algoritm pentru a determina dacă tonul textului este pozitiv, neutru sau negativ. Această tehnologie este, probabil, baza pentru modelele moderne de detectare a emoțiilor, deoarece a deschis calea pentru evaluările algoritmice ale dispoziției. Tehnologii similare, cum ar fi software-ul de recunoaștere facială, au contribuit și ele la progres.

Algoritmii de astăzi pot detecta, în principal, doar stări de spirit simple, cum ar fi fericirea, tristețea, furia, frica și surpriza, cu grade diferite de acuratețe. Aceste expresii faciale sunt innate și universale — adică sunt naturale și înțelese la nivel global — astfel încât antrenarea unei IA pentru a le identifica este relativ ușoară.

Mai mult, expresiile faciale de bază sunt adesea exagerate. Oamenii își frânge frunțile când sunt supărați, își coboară colțurile gurii când sunt triști, zâmbesc când sunt fericiți și își deschid ochii când sunt șocați. Aceste expresii simple și dramatice sunt ușor de diferențiat. Emoțiile complexe sunt mai dificil de identificat, deoarece sunt fie subtile, fie combină expresii de bază.

Deoarece această subcategorie a IA rămâne, în mare măsură, în cercetare și dezvoltare, ea nu a progresat încă pentru a acoperi sentimente complexe, cum ar fi dorința, rușinea, durerea, gelozia, ușurarea sau confuzia. Deși este probabil să acopere mai multe în viitor, nu există nicio garanție că va putea interpreta toate.

În realitate, algoritmii poate nu vor putea concura niciodată cu oamenii. Pentru referință, în timp ce setul de date GPT-4 al OpenAI este de aproximativ 1 petabyte, un singur cubic milimetric din creierul uman conține aproximativ 1,4 petabytes de date. Neuroștiinții nu pot înțelege pe deplin cum creierul percepe emoțiile, în ciuda deceniilor de cercetare, astfel încât construirea unui IA foarte precis poate fi imposibilă.

Deși utilizarea acestei tehnologii pentru recunoașterea emoțiilor are precedent, acest domeniu este încă, tehnic, în copilărie. Există o abundență de cercetări pe această temă, dar există puține exemple din lumea reală de implementare la scară largă. Unele semne indică faptul că adoptarea întârziată poate rezulta din preocupări legate de acuratețea inconsistentă și de problemele etice.

Considerații Etice pentru Dezvoltatorii de IA

Conform unui sondaj, 67% dintre respondenți sunt de acord că IA ar trebui să fie reglementată într-o măsură mai mare sau mai mică. Pentru a pune oamenii liniștiți, dezvoltatorii ar trebui să minimizeze prejudecățile, să se asigure că modelele lor se comportă așa cum se așteaptă și să îmbunătățească rezultatele. Aceste soluții sunt posibile dacă prioritizează considerațiile etice în timpul dezvoltării.

1. Colectarea și Utilizarea Datelor cu Acordul Utilizatorilor

Acordul este totul într-o epocă în care reglementarea IA este în creștere. Ce se întâmplă dacă angajații descoperă că expresiile lor faciale sunt catalogate fără cunoștința lor? Trebuie părinții să semneze acordul pentru analiza sentimentului bazată pe educație sau pot studenții să decidă singuri?

Dezvoltatorii ar trebui să dezvăluie în mod explicit ce informații va colecta modelul, când va fi în funcțiune, ce va fi utilizat analiza pentru și cine va avea acces la aceste detalii. De asemenea, ar trebui să includă funcții de renunțare, astfel încât indivizii să poată personaliza permisiunile.

2. Rezultatele Analizei Sentimentului Anonimizate

Anonimizarea datelor este la fel de mult o problemă de securitate, cât și una de confidențialitate. Dezvoltatorii ar trebui să anonimizeze informațiile despre emoții pe care le colectează pentru a proteja indivizii implicați. Cel puțin, ar trebui să ia în considerare utilizarea criptării la repaus.

3. Procesul Decizional Uman în Buclă

Singurul motiv pentru a utiliza IA pentru a determina starea emoțională a cuiva este de a informa procesul decizional. Indiferent dacă este utilizat într-un context de sănătate mintală sau într-un mediu de vânzări, va avea impact asupra oamenilor. Dezvoltatorii ar trebui să utilizeze măsuri de siguranță pentru a minimiza comportamentul neașteptat.

4. Feedback Centrat pe Om pentru Rezultatele IA

Chiar și dacă un algoritm are o acuratețe de aproape 100%, el va produce în continuare rezultate false pozitive. Având în vedere că nu este neobișnuit ca modelele să atingă 50% sau 70% — și asta fără a atinge problemele de prejudecată sau de halucinație — dezvoltatorii ar trebui să ia în considerare implementarea unui sistem de feedback.

Oamenii ar trebui să poată revizui ce spune IA despre starea lor emoțională și să poată face apel dacă cred că este fals. Deși un astfel de sistem ar necesita măsuri de protecție și măsuri de responsabilitate, el ar minimiza impacturile adverse care decurg din rezultatele inexacte.

Consecințele Ignorării Eticii

Considerațiile etice ar trebui să fie o prioritate pentru inginerii de IA, dezvoltatorii de învățare automată și proprietarii de afaceri, deoarece le afectează. Având în vedere că opinia publică este din ce în ce mai nesigură și reglementările se strâng, consecințele ignorării eticii pot fi semnificative.