Lideri de opinie
Pe măsură ce industriile pregătesc adoptarea accelerată a IA, etica și responsabilitatea intră în prim-plan

Puncte cheieInteligența artificială în sectorul BFSI riscă să amplifice părtinirea, solicitanții de…
Vezi mai mult
- Inteligența artificială în sectorul BFSI riscă să amplifice părtinirea, solicitanții de culoare având o probabilitate cu 80% mai mare de a fi respinși la credite ipotecare.
- Adoptarea IA în domeniul sănătății se confruntă cu provocări precum date părtinitoare și riscul de a agrava inegalitățile.
- Companiile media trebuie să monitorizeze IA după implementare pentru a echilibra etica, confidențialitatea și avantajul competitiv.
De: Pandurang Kamat, CTO al Persistent Systems (PERSISTENT.BO )
Inteligența artificială (IA) în esență este învățarea automată (ML), procesul prin care mașinile învață să îmbunătățească performanța pe baza intrărilor de date. Cantitatea uriașă de date existente astăzi înseamnă că IA a avut un teren fertil pentru a înflori, accelerând la un ritm frenetic în ultimii ani. Și promisiunea IA a făcut ca tehnologii și executivi din industrii cu rază largă de acțiune să gândească creativ despre diversele sale aplicații.
De la revoluția industrială încoace, orice perioadă de progres tehnologic rapid este marcată de entuziasm și teamă în egală măsură. World Wide Web Consortium (W3C), un grup care creează standarde pentru industria dezvoltatorilor web, subliniază că “există o conștientizare tot mai mare că aplicarea învățării automate prezintă riscuri și poate duce la prejudicii” – inclusiv în domenii precum: prejudecăți, confidențialitate, securitate, durabilitate și responsabilitate în general.
“Există o cerere clară pentru o abordare etică a ML, vizibilă prin activismul societății civile, apariția a ~100 de seturi de principii etice de IA la nivel global și mișcările guvernamentale de reglementare a IA din întreaga lume”, a scris grupul. “Dacă tehnologiile nu sunt aliniate cu valorile societăților în care operează, ele riscă să le submineze.”
Alegeți înțelept
La suprafață, este greu de argumentat că viteza și productivitatea îmbunătățite sunt rele pentru afaceri. Dar pentru anumite industrii, există multe în joc cu procesul de luare a deciziilor, care, după părerea unora, nu ar trebui lăsat în seama unui algoritm. Privind câteva dintre cele mai mari industrii, putem vedea cât de vulnerabili suntem la erorile mașinilor și de ce inteligența artificială responsabilă este atât de importantă.
Activități bancare, servicii financiare și Asigurări (BFSI)
Forumul Economic Mondial (WEF) și Deloitte au examinat procesul de implementare a IA în companiile BFSI, constatând că, “în timp ce IA poate ajuta la crearea unor insight-uri de afaceri utile dintr-o cantitate copleșitoare de informații”, “caracterul nefamiliar al IA” va fi o sursă de risc grav și continuu.
“IA gândește în moduri neomenești”, se arată în raport. “Sistemele IA nu urmează constructe logice umane și se comportă foarte diferit de actorii umani, dată fiind aceeași sarcină. Mai mult, natura de auto-învățare a sistemelor IA le permite să evolueze fără intrări umane, ceea ce poate duce la rezultate neașteptate pe baza unor variabile necunoscute.”
Adepții inteligenței artificiale responsabile susțin că învățarea automată prezintă probleme grave în lucruri precum evaluarea automată a riscurilor, credit și decizii de împrumut, toate acestea fiind istoric prejudiciabile pentru anumite grupuri demografice. Studii recente au arătat că instituțiile de creditare care utilizează motoare de decizie bazate pe IA au fost mai predispuse să refuze împrumuturi ipotecare pentru persoane de culoare – în unele cazuri, solicitanții de culoare au avut o probabilitate cu 80% mai mare de a fi respinși.
Sănătate
Acum câțiva ani, Journal of the American Medical Association (JAMA) a examinat adoptarea IA în sănătate, constatând că provocările sunt multe, incluzând “așteptări nerealiste, date părtinitoare și nereprezentative, o prioritate inadecvată a echității și incluziunii, riscul de a exacerba inegalitățile în sănătate, niveluri scăzute de încredere și medii regulatorii incerte”.
Nu este exact o recomandare entuziastă, dar standardele sunt mai ridicate pentru inteligența artificială responsabilă în sănătate, mai ales având în vedere potențialul ei literal de viață și de moarte. În general, profesioniștii din domeniul sănătății sunt optimiști, dar prudenți cu privire la viitorul IA, alegând să-și concentreze eforturile pe educarea altor practicieni despre utilizarea acesteia în mediul clinic și crearea unor ghiduri despre cum să procedeze în mod responsabil, astfel încât să beneficieze toți pacienții.
Media
PwC estimează că IA va oferi 15.700 de miliarde de dolari în creștere economică globală până în 2030, dar conform Salesforce (CRM ), mai puțin de jumătate (48%) dintre clienți au încredere că firmele vor utiliza IA în mod etic, iar 65% se tem de utilizarea neetică a IA. La intersecția dintre profituri și încredere, există companii media – adoptatori timpurii cu o rază largă de acțiune și influență. Și există preocupări cu privire la faptul că IA nu este o “setează și uită” aplicație, ceea ce înseamnă că, pentru companiile media, responsabilitatea lor nu se limitează doar la producerea de conținut, ci și la monitorizarea continuă a acestuia după implementare.
Cum sunt servite și personalizate reclamele? Cum ajunge conținutul la o anumită audiență, și ce este mesajul? Cine învață IA “cum” să învețe? Și cum puteți ținti consumatori specifici, respectând în același timp confidențialitatea? Acestea sunt doar câteva dintre întrebările care îi frământă pe cei din companiile media, în timp ce echilibrează etica cu obținerea unui avantaj competitiv.
Răspunsul la responsabilitate
Progresul în dezvoltarea inteligenței artificiale responsabile este evident în fiecare zi – legiuitorii redactează regulamente, consumatorii cer mai multă transparență, iar multe companii au creat departamente specifice pentru a se asigura că IA lor este utilizată în mod corespunzător. Companiile au nevoie de un cadru de inteligență artificială responsabilă bine definit, care să acopere etica, transparența, responsabilitatea, echitatea, confidențialitatea și securitatea. Pe măsură ce continuă dezbaterile și reformele, un studiu recent comun al MIT Sloan Management Review și Boston Consulting Group oferă câteva îndrumări generale simple – ei au scris, “Dacă doriți să fiți un lider de inteligență artificială responsabilă, concentrați-vă pe a fi o companie responsabilă.”












