În timp ce industriile se pregătesc pentru adoptarea accelerată a AI, un nou accent pe etică și responsabilitate

By: Pandurang Kamat, CTO al Sisteme persistente

Inteligența artificială (AI) la bază este masina de învățare (ML), procesul prin care mașinile învață cum să îmbunătățească performanța pe baza intrărilor de date. Cantitatea imensă de date existente astăzi înseamnă că AI a avut un teren fertil pentru a înflori, accelerând într-un ritm vertiginos doar în ultimii câțiva ani. Și promisiunea AI i-a determinat pe tehnologi și directori din industrii de anvergură să se gândească creativ la diferitele sale aplicații.

De la revoluția industrială încoace, orice perioadă de progres tehnologic rapid este marcată în părți egale de entuziasm și trepidare. The World Wide Web Consortium (W3C), un grup care creează standarde pentru industria dezvoltatorilor web, subliniază că „există o conștientizare tot mai mare că aplicarea învățării automate prezintă riscuri și poate duce la daune” – inclusiv în domenii precum: părtinire, confidențialitate, securitate, durabilitate și responsabilitate generală.

„Există o cerere clară pentru o abordare etică a ML, văzută prin activismul din partea societății civile, apariția a aproximativ 100 de seturi de principii etice AI la nivel global și guvernele din întreaga lume pentru a reglementa AI.” a scris grupul. „Dacă tehnologiile nu sunt aliniate cu valorile societăților în care operează, ele riscă să le submineze.”

Alege cu înțelepciune

La suprafață, este greu de susținut că viteza și producția îmbunătățite sunt dăunătoare pentru afaceri. Dar, pentru anumite industrii, sunt multe în joc în procesul de luare a deciziilor despre care unii susțin că nu ar trebui lăsate la un algoritm. Privind la câteva dintre cele mai mari industrii, putem vedea cât de vulnerabili suntem la erorile de mașină și de ce AI responsabilă este atât de importantă.

Servicii bancare, financiare și de asigurări (BFSI)

Forumul Economic Mondial (WEF) și Deloitte au examinat procesul de implementare a AI în companiile BFSI, constatând că, „în timp ce AI poate ajuta la crearea unor perspective utile de afaceri dintr-o cantitate copleșitoare de informații”, „străinitatea AI” va fi o sursă de risc grav continuu.

„AI raționează în moduri neumane”, se arată în raport. „Sistemele AI nu urmează constructe umane ale logicii și se comportă foarte diferit față de actorii umani cărora li se acordă aceeași sarcină. În plus, natura de auto-învățare a sistemelor AI le permite să evolueze fără aport uman, ceea ce poate duce la rezultate neașteptate bazate pe variabile necunoscute.”

Avocații pentru IA responsabilă susțin că învățarea automată prezintă probleme serioase în lucruri precum evaluarea automată a riscurilor, creditele și deciziile de împrumut, toate acestea fiind prejudiciabile din punct de vedere istoric pentru anumite categorii demografice. Studii recente au arătat că creditorii care folosesc motoare de decizie bazate pe inteligență artificială au avut mai multe șanse să refuze împrumuturile pentru locuințe persoanelor de culoare – în unele cazuri, 80% dintre solicitanții de culoare este mai probabil să fie respinși.

Farmaceutice

Acum câțiva ani, Jurnalul Asociației Medicale Americane (JAMA) a analizat adoptarea IA în domeniul sănătății, constatând că provocările sunt multe, inclusiv „așteptări nerealiste, date părtinitoare și nereprezentative, prioritizarea inadecvată a echității și incluziunii, riscul exacerbarii disparităților în domeniul sănătății, niveluri scăzute de încredere și incerte. medii de reglementare.”

Nu este chiar o susținere de apel, dar există o bară mai mare pentru IA responsabilă în asistența medicală, mai ales având în vedere potențialul său literal de viață sau de moarte. În ansamblu, profesioniștii din domeniul sănătății sunt optimiști, dar sunt fericiți cu privire la viitorul AI, alegând să-și concentreze eforturile pe educarea altor practicieni cu privire la utilizarea acesteia în cadrul clinic și creând linii directoare cu privire la modul de a avansa în mod responsabil într-un mod care să beneficieze toți pacienții.

Mass-media

PwC estimează că AI va oferi 15.7 trilioane de dolari în creșterea economică globală până în 2030, Dar conform Salesforce mai puțin de jumătate (48%) dintre clienți au încredere în companii pentru a utiliza AI în mod etic și 65% sunt îngrijorați de utilizarea neetică a AI. La legătura dintre profit și încredere, există companii media – primitori care au o acoperire și o influență uriașe. Și există îngrijorări cu privire la faptul că AI nu este o aplicație „set it and forget it”, ceea ce înseamnă că pentru companiile media, responsabilitatea lor nu este doar în producerea de conținut, ci și monitorizarea continuă după implementare.

Cum sunt difuzate și personalizate anunțurile? Cum ajunge conținutul unui anumit public și care este mesajul? Cine îi învață AI „cum” să învețe? Și cum puteți viza anumiți consumatori, respectând totodată confidențialitatea? Acestea sunt doar câteva dintre întrebările care deranjează companiile media, deoarece echilibrează etica cu obținerea unui avantaj competitiv.

Răspunsul la responsabilitate

Progresele în dezvoltarea IA responsabilă sunt evidente în fiecare zi – legislatorii elaborează reglementări, consumatorii cer mai multă transparență și multe companii au creat departamente specifice însărcinate să se asigure că AI-ul lor este utilizat în mod corespunzător. Companiile au nevoie de a cadru AI responsabil bine definit care acoperă etica, transparența, responsabilitatea, corectitudinea, confidențialitatea și securitatea. Pe măsură ce dezbaterile și reformele continuă, a studiu comun recent al MIT Sloan Management Review și Boston Consulting Group oferă câteva îndrumări generale simple – ei au scris: „Dacă vrei să fii un lider responsabil AI, concentrează-te pe a fi o companie responsabilă”.