Pe măsură ce industriile se pregătesc pentru adoptarea accelerată a inteligenței artificiale, un nou accent pe etică și responsabilitate

De: Pandurang Kamat, CTO al Persistent Systems

Inteligența artificială (IA) în esență este învățarea mașinilor (ML), procesul prin care mașinile învață să îmbunătățească performanța pe baza intrărilor de date. Cantitatea uriașă de date existente astăzi înseamnă că IA a avut un teren fertil pentru a înflori, accelerând la un ritm frenetic în ultimii ani. Și promisiunea IA a făcut ca tehnologii și executivi din industrii cu rază largă de acțiune să gândească creativ despre diversele sale aplicații.

De la revoluția industrială încoace, orice perioadă de progres tehnologic rapid este marcată de entuziasm și teamă în egală măsură. World Wide Web Consortium (W3C), un grup care creează standarde pentru industria dezvoltatorilor web, subliniază că “există o conștientizare tot mai mare că aplicarea învățării mașinilor prezintă riscuri și poate duce la prejudicii” – inclusiv în domenii precum: prejudecăți, confidențialitate, securitate, durabilitate și responsabilitate în general.

“Există o cerere clară pentru o abordare etică a ML, vizibilă prin activismul societății civile, apariția a ~100 de seturi de principii etice de IA la nivel global și mișcările guvernamentale de reglementare a IA din întreaga lume”, a scris grupul. “Dacă tehnologiile nu sunt aliniate cu valorile societăților în care operează, ele riscă să le submineze.”

Alegeți înțelept

La suprafață, este greu de argumentat că viteza și productivitatea îmbunătățite sunt rele pentru afaceri. Dar pentru anumite industrii, există multe în joc cu procesul de luare a deciziilor, care, după părerea unora, nu ar trebui lăsat în seama unui algoritm. Privind câteva dintre cele mai mari industrii, putem vedea cât de vulnerabili suntem la erorile mașinilor și de ce inteligența artificială responsabilă este atât de importantă.

Banking, Servicii Financiare și Asigurări (BFSI)

Forumul Economic Mondial (WEF) și Deloitte au examinat procesul de implementare a IA în companiile BFSI, constatând că, “în timp ce IA poate ajuta la crearea unor insight-uri de afaceri utile dintr-o cantitate copleșitoare de informații”, “străinătatea IA” va fi o sursă de risc grav și continuu.

“IA gândește în moduri neomenești”, se arată în raport. “Sistemele IA nu urmează constructe logice umane și se comportă foarte diferit de actorii umani, dată fiind aceeași sarcină. Mai mult, natura de auto-învățare a sistemelor IA le permite să evolueze fără intrări umane, ceea ce poate duce la rezultate neașteptate pe baza unor variabile necunoscute.”
Adepții inteligenței artificiale responsabile susțin că învățarea mașinilor prezintă probleme grave în lucruri precum evaluarea automată a riscurilor, credit și decizii de împrumut, toate acestea fiind istoric prejudiciabile pentru anumite grupuri demografice. Studii recente au arătat că instituțiile de creditare care utilizează motoare de decizie bazate pe IA au fost mai predispuse să refuze împrumuturi ipotecare pentru persoane de culoare – în unele cazuri, 80% din solicitanții afro-americani au fost mai probabil să fie respinși.

Sănătate

Acum câțiva ani, Journal of the American Medical Association (JAMA) a examinat adoptarea IA în sănătate, constatând că provocările sunt multe, incluzând “așteptări nerealiste, date părtinitoare și nereprezentative, o prioritate inadecvată a echității și incluziunii, riscul de a exacerba inegalitățile în sănătate, niveluri scăzute de încredere și medii regulatorii incerte”.

Nu este exact o recomandare entuziastă, dar există o bară mai înaltă pentru inteligența artificială responsabilă în sănătate, mai ales având în vedere potențialul ei literal de viață și de moarte. În general, profesioniștii din domeniul sănătății sunt optimiști, dar prudenți cu privire la viitorul IA, alegând să-și concentreze eforturile pe educarea altor practicieni despre utilizarea acesteia în mediul clinic și crearea unor ghiduri despre cum să procedeze în mod responsabil, astfel încât să beneficieze toți pacienții.

Media

PwC estimează că IA va oferi 15,7 trilioane de dolari în creștere economică globală până în 2030, dar conform Salesforce, mai puțin de jumătate (48%) dintre clienți au încredere în companiile care utilizează IA în mod etic, iar 65% se tem de utilizarea neetică a IA. La intersecția dintre profituri și încredere, există companii media – adoptatori timpurii cu o rază largă de acțiune și influență. Și există preocupări cu privire la faptul că IA nu este o “setează și uită” aplicație, ceea ce înseamnă că, pentru companiile media, responsabilitatea lor nu se limitează doar la producerea de conținut, ci și la monitorizarea continuă a acestuia după implementare.

Cum sunt servite și personalizate reclamele? Cum ajunge conținutul la o anumită audiență, și ce este mesajul? Cine învață IA “cum” să învețe? Și cum puteți ținti consumatori specifici, respectând în același timp confidențialitatea? Acestea sunt doar câteva dintre întrebările care îi frământă pe cei din companiile media, în timp ce echilibrează etica cu obținerea unui avantaj competitiv.

Răspunsul la responsabilitate

Progresul în dezvoltarea inteligenței artificiale responsabile este evident în fiecare zi – legiuitorii redactează regulamente, consumatorii cer mai multă transparență, iar multe companii au creat departamente specifice pentru a se asigura că IA lor este utilizată în mod corespunzător. Companiile au nevoie de un cadru de inteligență artificială responsabilă bine definit, care să acopere etica, transparența, responsabilitatea, echitatea, confidențialitatea și securitatea. Pe măsură ce continuă dezbaterile și reformele, un studiu recent comun al MIT Sloan Management Review și Boston Consulting Group oferă câteva îndrumări generale simple – ei au scris, “Dacă doriți să fiți un lider de inteligență artificială responsabilă, concentrați-vă pe a fi o companie responsabilă.” rs etică, transparență, responsabilitate, echitate, confidențialitate și securitate. Pe măsură ce dezbaterile și reformele continuă, un studiu recent comun al MIT Sloan Management Review și Boston Consulting Group oferă câteva îndrumări generale simple – ei au scris, “Dacă doriți să fiți un lider de inteligență artificială responsabilă, concentrați-vă pe a fi o companie responsabilă.”