Kun teollisuus valmistautuu nopeutettuun tekoälyn käyttöönottoon, uusi painopiste etiikkaan ja vastuullisuuteen

By: Pandurang Kamat, teknologiajohtaja Pysyvät järjestelmät

Tekoäly (AI) sen ytimessä on koneoppiminen (ML), prosessi, jossa koneet oppivat parantamaan suorituskykyä syötettyjen tietojen perusteella. Nykyisen tiedon valtava määrä tarkoittaa, että tekoälyllä on ollut hedelmällinen maaperä kukoistaa, kiihtyi huimaa vauhtia vain muutaman viime vuoden aikana. Ja tekoälyn lupaus on saanut teknologit ja johtajat kauaskantoisilla toimialoilla ajattelemaan luovasti sen eri sovelluksia.

Teollisesta vallankumouksesta eteenpäin kaikkiin nopean teknologisen kehityksen jaksoihin on ominaista yhtäläinen innostus ja pelko. The World Wide Web Consortium (W3C), verkkokehittäjien alan standardeja luova ryhmä, huomauttaa, että "tietoisuus siitä, että koneoppimisen soveltaminen aiheuttaa riskejä ja voi johtaa haitoihin, on lisääntymässä" muun muassa seuraavilla aloilla: harha, yksityisyys, turvallisuus, kestävyys ja yleistä vastuullisuutta.

"Tekoälyn eettiselle lähestymistavalle on selvää kysyntää, mikä näkyy kansalaisyhteiskunnan aktivismin, noin 100 eettisten tekoälyperiaatteiden syntymisen kautta maailmanlaajuisesti ja hallitukset ympäri maailmaa säätelemään tekoälyä." ryhmä kirjoitti. "Jos teknologiat eivät ole linjassa niiden yhteiskuntien arvojen kanssa, joissa ne toimivat, ne voivat heikentää niitä."

Valitse viisaasti

Pinnalta katsoen on vaikea väittää, että parannettu nopeus ja teho ovat haitallisia yrityksille. Mutta tietyillä aloilla päätöksentekoprosessissa on paljon vaakalaudalla, jota joidenkin mielestä ei pitäisi jättää algoritmin varaan. Tarkasteltaessa muutamia suurimmista toimialoista voimme nähdä, kuinka alttiita olemme konevirheille ja miksi vastuullinen tekoäly on niin ensiarvoisen tärkeää.

Pankkitoiminta, rahoituspalvelut ja vakuutus (BFSI)

Maailman talousfoorumi (WEF) ja Deloitte tarkastelivat tekoälyn käyttöönottoprosessia BFSI-yrityksissä ja havaitsivat, että vaikka tekoäly voi auttaa luomaan hyödyllisiä liiketoimintanäkemyksiä valtavasta määrästä tietoa, "tekoälyn vieraisuus" on lähde jatkuva vakava riski.

"Tekoäly syyttelee epäinhimillisillä tavoilla", raportissa sanotaan. ”Tekoälyjärjestelmät eivät noudata ihmisen logiikkarakenteita ja käyttäytyvät hyvin eri tavalla kuin ihmistoimijat, joille on annettu sama tehtävä. Lisäksi tekoälyjärjestelmien itseoppiva luonne mahdollistaa niiden kehittymisen ilman ihmisen panosta, mikä voi johtaa odottamattomiin tuloksiin tuntemattomien muuttujien perusteella.

Vastuullisen tekoälyn kannattajat väittävät, että koneoppiminen aiheuttaa vakavia ongelmia sellaisissa asioissa kuin automaattinen riskipisteytys, luotto- ja lainapäätökset, jotka kaikki ovat historiallisesti haitallisia tietyille väestöryhmille. Viimeaikaiset tutkimukset ovat osoittaneet, että tekoälypohjaisia ​​päätösmoottoreita käyttävät lainanantajat kieltäytyivät todennäköisemmin myöntämästä asuntolainaa värikkäiltä ihmisiltä – joissakin tapauksissa, 80 % mustista hakijoista hylätään todennäköisemmin.

Terveydenhuolto

Muutama vuosi sitten American Medical Associationin (JAMA) lehti tarkasteli tekoälyn käyttöönottoa terveydenhuollossa ja havaitsi, että haasteita on monia, mukaan lukien "epärealistiset odotukset, puolueelliset ja epäedustavat tiedot, tasapuolisuuden ja osallisuuden riittämätön priorisointi, riski terveydenhuollon erojen pahenemisesta, alhainen luottamus ja epävarmuus sääntely-ympäristöt."

Ei aivan soiva kannatus, mutta vastuullisella tekoälyllä on korkeampi rima terveydenhuollossa, varsinkin kun otetaan huomioon sen kirjaimellinen elämä tai kuolema. Kaiken kaikkiaan terveydenhuollon ammattilaiset ovat optimistisia, mutta varovaisia ​​tekoälyn tulevaisuuden suhteen, ja he päättävät keskittää voimansa kouluttaakseen muita ammatinharjoittajia sen käytöstä kliinisessä ympäristössä ja luomaan ohjeita siitä, kuinka edetä vastuullisesti tavalla, joka hyödyttää kaikkia potilaita.

Media

PwC arvioi, että tekoäly tuo 15.7 biljoonaa dollaria maailmantalouden kasvuun vuoteen 2030 mennessä, Vaan Salesforcen mukaan alle puolet (48 %) asiakkaista luottaa yrityksiin tekoälyn eettiseen käyttöön, ja 65 % on huolissaan tekoälyn epäeettisestä käytöstä. Voittojen ja luottamuksen yhtymäkohdassa on mediayhtiöitä – varhaisia ​​omaksujia, joilla on valtava ulottuvuus ja vaikutusvalta. Ja on huolestuttavaa, että tekoäly ei ole "aseta ja unohda" -sovellus, mikä tarkoittaa, että mediayhtiöiden vastuulla ei ole vain sisällön tuotanto, vaan myös sen jatkuva seuranta käyttöönoton jälkeen.

Miten mainoksia näytetään ja räätälöidään? Miten sisältö tavoittaa tietyn yleisön ja mikä on viesti? Kuka opettaa tekoälylle "miten" oppia? Ja miten voit kohdistaa tiettyihin kuluttajiin samalla kun kunnioitat yksityisyyttä? Nämä ovat vain muutamia kysymyksiä, jotka askarruttavat mediayrityksiä, kun ne tasapainottavat etiikan ja kilpailuedun saavuttamisen.

Vastuu vastuulle

Edistyminen vastuullisen tekoälyn kehittämisessä näkyy joka päivä – lainsäätäjät laativat säädöksiä, kuluttajat vaativat lisää avoimuutta, ja monet yritykset ovat luoneet erityisiä osastoja, joiden tehtävänä on varmistaa, että heidän tekoälyään käytetään asianmukaisesti. Yritykset tarvitsevat a hyvin määritelty vastuullinen tekoälykehys joka kattaa etiikan, avoimuuden, vastuullisuuden, oikeudenmukaisuuden, yksityisyyden ja turvallisuuden. Keskustelujen ja uudistusten jatkuessa a MIT Sloan Management Reviewin ja Boston Consulting Groupin tuore yhteinen tutkimus tarjoaa yksinkertaisia ​​yleisohjeita – he kirjoittivat: "Jos haluat olla vastuullinen tekoälyjohtaja, keskity vastuulliseen yritykseen."