Hvordan bedrifter kan skape ansvarlige og transparente AI – Ledende eksperter

Av Eric Paternoster, CEO av Infosys Public Services

Sundar Pichai, CEO av Google -morselskapet Alphabet, har beskrevet utviklingen av AI som “mer profondt enn ild eller elektrisitet”, og COVID-19 har ført til en ny urgensi i å løse denne teknologiens løfte. Anvendelser av AI er nå fast i søkelyset, og forbedrer COVID-behandlinger, sporer potensielle COVID-bærere og setter ut sanntids-chatboter for forsyningstrengte brukere av nettbutikker. Disse anvendelsene har vist at AI forbedrer et bedrifts motstandsevne og gir fordeler for det bredere samfunnet.

Så, sammen med “sky-native”, kan buzzordet for siste kvartal være “AI-først-transformasjon”, en betegnelse som bransjepraktikere tror vil holde sant selv etter at COVID er borte. For mange bedrifter er løftet om lavere kostnader (dvs. forsyningskjedeanalyser som matcher tilbud med etterspørsel) og beundringsverdige økninger i produktivitet (dvs. når banker bruker dokument- og identitetsverifisering i sanntid) for godt å ignorere.

Hvorfor AI-først-transformasjon?

I AI-først-transformasjon, bruker en bedrift AI som en nordstjerne, og arbeider for å bruke det ikke bare intelligent, men også på en måte som påvirker beslutninger som tas av mennesker, prosesser og systemer i stor skala. Det stemmer organisasjoner inn i endrede dynamikker mellom ansatte, partnere og kunder. Dette muliggjør at de kan svært raskt endre retning og møte skiftende etterspørsel, samtidig som de skaper langsiktige konkurransefordeler.

Men ikke alle bedrifter er på samme nivå av AI-modning. Det finnes noen som kan kalles “konvensjonell AI-gruppe”, eller H1. Disse bedriftene, som har mindre erfaring og investering, bruker vanligvis klassiske algoritmer som naive Bayes, som har vært rundt i 250 år, eller tilfeldig skog (utviklet av Tin Kam Ho i 1995) for å supplere fragmentert intelligens innen eksisterende systemer. Slike anvendelser av AI er strengt regelbasert og ganske stiv, mangler evnen til å generalisere fra reglene de oppdager. Så finnes det “dypt-læring-gruppen”, eller H2. Disse bedriftene omfavner mer kompleks AI, inkludert neurale maskinoversettelser og transkripsjonsbaserte systemer, for å utvinne samtaleinnsikter. Slike systemer har mer makt, men kan ikke enkelt forklare hvorfor de gjør tingene de gjør. De mangler også transparens. For disse to gruppene, er AI som oftest ikke pålitelig eller pålitelig og kan ta forvrengede beslutninger som bringer bedriften negativ oppmerksomhet fra myndigheter, regulatorer og det generelle publikum.

Disse bedriftene må nå gjøre bevegelser for å ta sine AI-implementeringer et skritt videre – til en tredje leir (H3) hvor AI er selv-lærende og generativ. På dette punktet er AI-systemer semi-overvåket eller til og med uovervåket. De er transparente og oppnår “sammenheng” gjennom fleroppgave-læring. Disse systemene leverer rikere intelligens og gir sanntids-, handlebare innsikter. Dette gjøres gjennom godt styrt, styrt AI som er tolkbar og forklarlig på alle stadier.

Hvordan arbeide mot mer ansvarlige og transparente AI

AI brukes stadig mer for å styre skoler, arbeidsplasser og andre offentlige enheter. I disse settingene er det viktigere enn noen gang at AI er rettferdig og transparent. Imidlertid, mens samfunnet arbeider gjennom denne eksplosjonen av AI-tilpasning, gir regulatoriske organer begrenset veiledning på passende utvikling og utrulling av AI-teknologier. Derfor ligger ansvaret på bedriftene å ta ledelsen. Den bredere teknologiindustrien må sette finansiell muskel og menneskelig kapital i arbeid, og omdanne initielle implementeringer av fragmentert AI til effektive, kreative, ansvarlige og transparente intelligens-drevne økosystemer. For å gå inn i dette rommet, bør bedriftene gjøre følgende fire ting:

• Hold mennesker i løkken: AI-modeller er ofte designet for å operere uavhengig av mennesker. Imidlertid er det menneskelige elementet avgjørende i mange tilfeller. Mennesker må gjennomgå beslutninger og unngå forvrengninger og feil som ofte sporer AI-prosjekter. To eksempler inkluderer svindelforespørsler og saker hvor loven er involvert. Vi anbefaler at bedriftene ansetter AI-utøvere langsomt, men jevnt over tid for å få en fot i AI-først-reisen.
• Fjern forvrengde datasett: Et upartisk datasett er en kritisk forutsetning for å lage pålitelige, rettferdige og ikke-diskriminerende AI-modeller. For å få en fornemmelse av dens betydning, brukes AI til å kortliste CV-er og kreditvurderinger av banker, og det har sogar funnet veien inn i noen rettslige systemer. I dette landskapet har ukontrollerte forvrengninger hatt virkelige implikasjoner.
• Sikre at beslutninger er forklarbare: Denne funksjonen er dekket av mange av de store nyhetsutgavene, og rettferdig. XAI hjelper med å forklare hvorfor et AI-system tok en bestemt beslutning. Det avdekker hvilke funksjoner av det dype læringssystemet som ble brukt mer enn andre for å gjøre sin prediksjon eller hypotese. Å forstå funksjonsviktighet og å kunne rettferdiggjøre hvordan beslutninger nås, er avgjørende for anvendelser som autonome kjøretøy og datavisjon brukt i medisinske biopsier.
• Pålitelig reproduksjon av funn: En vanlig nødvendighet i forskningsprosjekter, bør AI-modeller være konsistente når de gir prediksjoner over tid. Slike modeller bør ikke være fased når de presenteres med nytt data.

Disse fire ting vil skape transparente, intelligens-drevne økosystemer, som går mot det vi kaller en “levende bedrift”. Her tas ubiasede, forklarbare beslutninger i nesten-sanntid, med hele bedriften som fungerer som et sansende organ som styres av mennesker. Les Infosys Knowledge Institute-hvitpaperet for å finne ut mer.