Teollisuuden valmistautuessa nopeutettuun tekoälyadopptioon, uusi fokus etiikkaan ja vastuuseen

Kirjoittaja:: Pandurang Kamat, Persistent Systemsin CTO Persistent Systems

Tekoäly (AI) on ytimeltään konenäkö (ML), prosessi, jossa koneet oppivat parantamaan suorituskykyään datasyötteiden perusteella. Olemassa olevan valtavan datamäärän ansiosta tekoäly on saanut hedelmällisen maaperän kasvaa, kiihtyessään äkisti viime vuosina. Tekoälyn lupaaminen on saanut teknologian ja johtajien eri aloilla ajattelemaan luovasti sen soveltamisesta.

Teollisen vallankumouksen jälkeen nopean teknologisen edistymisen kausi on aina ollut merkittynä yhtä suurina osina innostuksena ja epäilyna. World Wide Web Consortium (W3C), ryhmä, joka luo verkkokehittäjien teollisuusstandardeja, korostaa, että “on kasvava tietoisuus siitä, että koneoppimisen soveltaminen aiheuttaa riskejä ja voi johtaa vahinkoihin” – mukaan lukien alueilla, kuten: sisäinen puolueettomuus, yksityisyys, turvallisuus, kestävyys ja yleinen vastuu.

“On selvä vaatimus eettiselle lähestymistavalle ML:lle, jota voidaan nähdä kansalaisyhteiskunnan aktivismin kautta, noin 100 eettisen tekoälyperiaatteen syntymisen kautta maailmanlaajuisesti ja hallitusten siirtymisen tekoälyn sääntelyyn ympäri maailmaa”, ryhmä kirjoitti. “Jos teknologiat eivät ole linjassa arvojen kanssa, joissa ne toimivat, ne vaarantavat niiden perustan.”

Valitse Viisaasti

Pintapuolisesti on vaikea väittää, että lisääntynyt nopeus ja tuottavuus ovat huonoa bisneksestä. Mutta tietyille aloille on paljon panostettuavaa, kun otetaan huomioon päätöksentekoprosessi, jota jotkut väittävät, ettei sitä pidä jättää algoritmille. Katsomalla muutamia suurimpia aloja, voimme nähdä, kuinka haavoittuvaisia olemme konevirheille, ja miksi vastuullinen tekoäly on niin tärkeää.

Pankki-, rahoitus-, ja vakuutusala (BFSI)

Maailman talousfoorumi (WEF) ja Deloitte tutkivat tekoälyn käyttöönottoa BFSI-yrityksissä ja totesivat, että “vaikka tekoäly voi auttaa luomaan hyödyllisiä liiketoimintanäkymiä valtavasta tietomäärästä”, “tekoälyn vieraus” on jatkuva vakava riski.

“Tekoäly toimii epäinhimillisillä tavoilla”, raportti sanoo. “Tekoälyjärjestelmät eivät noudata ihmisten loogisia rakenteita, ja ne käyttäytyvät eri tavoin kuin ihmiset, kun heidät annetaan tehtävään. Lisäksi tekoälyjärjestelmien itseoppimisen luonne mahdollistaa niiden kehittymisen ilman ihmisen syöttämää tietoa, mikä voi johtaa odottamattomiin tuloksiin tuntemattomien muuttujien perusteella.”
Vastuullisen tekoälyn puolustajat väittävät, että koneoppiminen aiheuttaa vakavia ongelmia asioissa, kuten automaattisessa riskiarviointi-, luotto- ja lainapäätöksissä, jotka ovat historiallisesti ennakkoluuloisia tiettyjä demografioita kohtaan. Viimeaikaiset tutkimukset osoittavat, että lainanantajat, jotka käyttävät tekoälypohjaisia päätöksentekojärjestelmiä, ovat todennäköisemmin evästäneet kotilainaa värillisiin henkilöihin – joissakin tapauksissa 80% mustien hakijoiden on todennäköisemmin evätty.

Terveydenhuolto

Muutamia vuosia sitten Journal of the American Medical Association (JAMA) tarkasteli tekoälyn soveltamista terveydenhuollossa ja totesi, että haasteita on paljon, mukaan lukien “epärealistiset odotukset, vinoutuneet ja edustamattomat tiedot, riittämätön tasa-arvon ja osallistumisen priorisointi, riski terveydenhuollon epätasa-arvon lisääntymiseen, alhaiset luottamustasot ja epävarmat sääntely-ympäristöt.”

Ei aivan ylistävä arvostelu, mutta terveydenhuollossa on korkeampi pato vastuulliselle tekoälylle, varsinkin sen kirjaimellisen elämän ja kuoleman potentiaalin vuoksi. Kokonaisuutena terveydenhuollon ammattilaiset ovat optimistisia, mutta varovaisia tekoälyn tulevaisuudesta, ja he valitsevat keskittymään muiden ammattilaisten kouluttamiseen sen käytöstä kliinisessä ympäristössä ja luomaan ohjeita siitä, miten edetä vastuullisesti siten, että se hyödyttää kaikkia potilaita.

Media

PwC arvioi, että tekoäly tarjoaa 15,7 biljoonan dollarin globaalin talouskasvun vuoteen 2030 mennessä, mutta Salesforcen mukaan vähemmän kuin puolet (48%) asiakkaista luottaa siihen, että yritykset käyttävät tekoälyä eettisesti, ja 65% on huolissaan tekoälyn epäeettisestä käytöstä. Voiton ja luottamuksen risteyksessä on mediayrityksiä – varhaisia omaksujia, joilla on valtava vaikutusvalta ja ulottuvuus. Ja on huolta siitä, että tekoäly ei ole “aseta ja unohda” -sovellus, mikä tarkoittaa, että mediayritysten vastuu ei ole ainoastaan sisällön tuottamisessa, vaan myös sen jatkuva seuranta julkaisun jälkeen.

Miten mainokset toimitetaan ja räätälöidään? Miten sisältö tavoittaa tietyn yleisön, ja mikä on viesti? Kuka opettaa tekoälylle “miten” oppia? Ja miten voit kohdistaa tiettyjä kuluttajia kunnioittaen yksityisyyttä? Nämä ovat joitakin kysymyksiä, jotka vaivaavat mediayrityksiä, kun ne tasapainottavat eettiikkaa ja kilpailuetua.

Vastuu Vastuulle

Edistysaskelia vastuullisen tekoälyn kehittämisessä on nähtävissä joka päivä – lainsäätäjät laativat sääntöjä, kuluttajat vaativat enemmän avoimuutta, ja monet yritykset ovat luoneet erityisiä osastoja, joiden tehtävänä on varmistaa, että heidän tekoälynsä käytetään asianmukaisesti. Yrityksille tarvitaan hyvin määritelty vastuullinen tekoälykehys, joka kattaa eettisyyden, avoimuuden, vastuun, reiluuden, yksityisyyden ja turvallisuuden. Kun keskustelut ja uudistukset jatkuvat, tuore yhteistyötutkimus MIT Sloan Management Review ja Boston Consulting Group tarjoaa yksinkertaisen yleissuunnan – he kirjoittivat, “Jos haluat olla vastuullinen tekoälyjohtaja, keskity olemaan vastuullinen yritys.” rs eettisyys, avoimuus, vastuu, reiluus, yksityisyys ja turvallisuus. Kun keskustelut ja uudistukset jatkuvat, tuore yhteistyötutkimus MIT Sloan Management Review ja Boston Consulting Group tarjoaa yksinkertaisen yleissuunnan – he kirjoittivat, “Jos haluat olla vastuullinen tekoälyjohtaja, keskity olemaan vastuullinen yritys.”