AI: Od ljudi, za ljudi in od ljudi

Avtor: Balakrishna (Bali) DR, višji podpredsednik, vodja ponudbe storitev – ECS, AI in avtomatizacija pri Infosys.

Imamo srečo, da živimo v dobi tehnologije, kjer se umetna inteligenca tako močno trudi, da bi nam olajšala življenje – naši telefoni nas zdaj prepoznajo in se odklenejo, ko nas 'vidijo', imamo govoreče zemljevide, ki nam pomagajo najti najkrajšo, najmanj gnečo poti, ki nas pripeljejo, kamor želimo priti, pametne naprave, ki ogrejejo in ohladijo naše domove, še preden izrečemo besedo, inteligentne aplikacije, ki predvidijo in preprečijo goljufije, in še veliko več.

Vendar pa smo imeli tudi primere, ko so nas ti pametni sistemi, ki jih poganja AI, razočarali z vidika pravičnosti in etike. Na primer, priznana banka, ki sodeluje z nami, je sumila, da so modeli umetne inteligence, ki jih uporabljajo za ocenjevanje kreditne sposobnosti pred izdajo posojil, morda pristranski, in nas je poklicala, naj jim pomagamo. Ob drugi priložnosti je proizvajalec strojev sodeloval z nami pri analizi vzorcev garancijskih zahtevkov, da bi odstranil pristranskost iz nabora podatkov in postopka, preden je preoblikoval in avtomatiziral postopek odobritve zahtevkov. Pogosto ugotovimo, da so modeli umetne inteligence, povezani z zaposlovanjem, v svojih naborih podatkov pokvarjeni zaradi pristranskosti glede starosti, spola, rase, včasih celo poštne številke – kar zagotavlja nepoštene rezultate, če jih ne preverimo.

Zaradi izjemnega vpliva, ki ga ima lahko pristranskost umetne inteligence v celotnem podjetju, so etična vprašanja zavzela osrednje mesto pri razvoju, implementaciji in uporabi sistemov umetne inteligence. Sistemi umetne inteligence so združitev številnih človeških odločitev, ki same po sebi temeljijo tudi na človeških pristranskostih. Zaščita avtonomije in zasebnosti zaposlenih, tveganja pristranskosti, ki vplivajo na karierno rast in priložnosti, diskriminacija na podlagi barve kože, rase ali spola, pomanjkanje razložljivosti izbir, ki jih sprejema rešitev AI, in s tem odgovornost sprejemanja odločitev AI, so vroče. razpravljali, ko gre za razpravo o AI in njenih prednostih.

Ustvarjanje odgovorne umetne inteligence

Pristranskost umetne inteligence ima lahko učinek valovanja v celotni organizaciji. pomembno je, da vodje IT zagotovijo, da AI uvajajo na etičen način, ki deluje z zaposlenimi in ne proti zaposlenim. Da bi to naredile, bi morale organizacije vključiti naslednje v svoje uvedbe AI.

Upravljanje podatkov: Etična uporaba umetne inteligence temelji tudi na dobro vodeni uporabi podatkov, začenši z etičnim in preglednim pridobivanjem podatkov. Da bi to dosegli, bi morali vodje IT vzpostaviti dobro definiran okvir upravljanja, ki bo zagotovil varnost, celovitost in zasebnost podatkov ter preprečil poškodovanje in izgubo podatkov – vse to je potrebno.

Odgovornost:  Modeli strojnega učenja morajo biti pošteni, nepristranski, ljudi morajo obravnavati enako in pravično deliti koristi (podobna stopnja sprejemanja in zavračanja) glede na vse lastnosti, kot so rasa, vera, spol itd. Doseči morajo sprejemljivo natančnost ne le na splošni številki, ampak tudi o manjšinskih razredih. Ti modeli bi morali biti razložljivi, ko gre za oris, kako se doseže rezultat. Na primer, biti sposoben razložiti, zakaj je model zavrnil vlogo za posojilo vlagatelja A, vendar je odobril isto vlogo vlagatelja B. Vodje IT, ki razvijajo rešitve AI, morajo poslovnim deležnikom pojasniti osnovno logiko, ki poganja te odločitve, tako da je na splošno večja preglednost znotraj podjetja.

Kontrastna robustnost: Celoten ekosistem umetne inteligence se mora strinjati, da je treba modele umetne inteligence testirati in vdreti s simulacijami, da bi preučili morebitne škodljive rezultate. Vodje IT lahko na primer uporabijo naslednje teste, da preverijo svoje sisteme AI in se pripravijo na morebitne ovire.

• Spreminjanje podatkov: neposredno spremenite nabor podatkov, ki se uporablja za usposabljanje, z vstavljanjem podatkov, spreminjanjem in poškodovanjem logike
• Spremenite modele: preizkusite zmanjšanje zaupanja in napačno klasifikacijo
• Pomožna orodja: uporabite orodja, da vplivate ali pokvarite rezultate

Človek v zanki: Tveganje modelov umetne inteligence je treba zmanjšati tako, da so ljudje v zanki za vse ključne točke odločanja in imajo učinkovit rezervni mehanizem ali alternativno pot, če je treba sistem umetne inteligence umakniti nazaj.

Razvijanje družbenega soglasja za AI

Poleg teh smernic moramo spodbujati vključujoče razprave in posvetovanja med vsemi vodji v podjetju o koristih, interesih, stroških in posledicah katere koli velike uvedbe umetne inteligence. Le takšni vključujoči procesi, ki vključujejo vse deležnike, da razpravljajo in odločajo o sprejemljivih rezultatih ter pretehtajo tveganja in koristi, bodo tehnologijam umetne inteligence verjetno pridobili licenco za delovanje v celotnem podjetju.