IA: De la oameni, pentru oameni și pentru oameni

De: Balakrishna (Bali) D R, Vicepreședinte senior, Șef ofertă de servicii – ECS, IA și automatizare la Infosys.

Avem norocul de a trăi în epoca tehnologiei, în care Inteligența Artificială (IA) lucrează din greu pentru a ne face viața mai ușoară – telefoanele noastre ne recunosc și se deblochează când ne “văd”, avem hărți care ne ajută să găsim drumul cel mai scurt și mai puțin aglomerat pentru a ajunge unde vrem, dispozitive inteligente care încălzesc și răcesc casele noastre înainte ca noi să spunem ceva, aplicații inteligente care previn și previn fraudele, și multe altele.

În același timp, am avut și situații în care aceste sisteme inteligente bazate pe IA ne-au dezamăgit din punct de vedere al echității și eticii. De exemplu, o bancă reputată care lucrează cu noi a suspectat că modelele de IA pe care le utilizează pentru a evalua eligibilitatea pentru credite ar putea fi părtinitoare și ne-a cerut să îi ajutăm. În altă ocazie, un producător de mașini a lucrat cu noi pentru a analiza modelele de reclamații și a elimina părtinirea din setul de date și din proces, înainte de a reinginia și de a automatiza procesul de aprobare a reclamațiilor. Modelele de IA utilizate în recrutare sunt adesea corupte de părtiniri de vârstă, sex, rasă, chiar și coduri poștale, în seturile de date – livrând rezultate incorecte dacă nu sunt controlate.

Din cauza impactului enorm pe care părtinirea IA o poate avea în întreaga întreprindere, întrebările etice au devenit centrale în dezvoltarea, implementarea și utilizarea sistemelor IA. Sistemele IA sunt o combinație a multor decizii umane, care sunt în mod inerent bazate și pe părtiniri umane. Protecția autonomiei și a confidențialității angajaților, riscurile părtinirii care afectează creșterea și oportunitățile carierei, discriminarea bazată pe culoarea pielii, rasă sau sex, lipsa de explicabilitate a alegerilor făcute de soluțiile IA și, prin urmare, responsabilitatea deciziilor luate de IA sunt în mod fierbinte dezbătute atunci când se discută despre IA și meritele sale.

Createrea unei IA responsabile

Părtinirea IA poate avea un efect de undă în întreaga organizație. Este esențial ca liderii IT să se asigure că implementează IA într-un mod etic care lucrează cu angajații și nu împotriva lor. Pentru a face acest lucru, organizațiile ar trebui să includă următoarele în implementările lor de IA.

Guvernarea datelor: Utilizarea etică a IA este și ea condiționată de o utilizare bine guvernată a datelor, începând cu sursa de date în mod etic și transparent. Pentru a face acest lucru, liderii IT ar trebui să stabilească un cadru de guvernare bine definit care să asigure securitatea, integritatea și confidențialitatea datelor, precum și să prevină corupția și pierderea datelor – toate acestea fiind necesare.

Responsabilitate: Modelele de învățare automată trebuie să fie corecte, lipsite de părtinire, să trateze oamenii în mod egal și să împărtășească beneficiile în mod echitabil (similar cu rata de acceptare și respingere) pentru toate atributele, cum ar fi rasa, religia, sexul etc. Acestea trebuie să atingă o acuratețe acceptabilă nu numai la nivel general, ci și la nivelul claselor minoritare. Aceste modele trebuie să fie explicabile atunci când se prezintă modul în care se ajunge la un anumit rezultat. De exemplu, putând explica de ce modelul a respins o cerere de credit pentru un anumit solicitant, dar a aprobat-o pentru altul. Liderii IT care dezvoltă soluții IA trebuie să facă logica subiacentă care conduce la aceste decizii clară pentru factorii de decizie din cadrul organizației, astfel încât să existe o transparență generală mai mare în cadrul întreprinderii.

Rezistență adversă: Întregul ecosistem IA trebuie să fie de acord cu necesitatea testării și atacării modelelor IA prin simulări pentru a studia rezultatele potențial adverse. De exemplu, liderii IT pot utiliza următoarele teste pentru a verifica sistemele IA și a se pregăti pentru eventuale obstacole.

• Modificarea datelor: modificarea directă a setului de date utilizat pentru antrenament prin injecție de date, modificare și corupție logică
• Modificarea modelelor: testarea reducerii încrederii și a clasificării greșite
• Unelte auxiliare: utilizarea unor unelte pentru a influența sau a corupe rezultatele

Omul în buclă: Modelele IA trebuie să fie dez-riscate prin introducerea omului în buclă pentru toate punctele de decizie cheie și prin stabilirea unui mecanism de rezervă eficient sau a unei căi alternative dacă sistemul IA trebuie să fie retras.

Dezvoltarea consimțământului social pentru IA

În plus față de aceste ghiduri, trebuie să promovăm discuții și dezbateri incluzive între toți liderii din cadrul întreprinderii, despre beneficii, interese, costuri și consecințe ale oricărei implementări majore de IA. Numai astfel de procese incluzive care implică toți stakeholderii, pentru a discuta și a decide asupra rezultatelor acceptabile și pentru a cântări riscurile și beneficiile, sunt susceptibile de a oferi tehnologiilor IA licența de a opera în cadrul întregii întreprinderi.