Objašnjivost može riješiti problem umjetne inteligencije u svakoj industriji: nedostatak transparentnosti

By: Migüel Jetté, potpredsjednik odjela za istraživanje i razvoj Govor, revolucija.

U svojim početnim fazama, AI se možda mogao odmarati na lovorikama novosti. Bilo je u redu da strojno učenje sporo uči i održava neproziran proces u koji je prosječnom korisniku nemoguće prodrijeti u izračun umjetne inteligencije. To se mijenja. Kako sve više industrija poput zdravstva, financija i kaznenog pravosuđa počinje koristiti AI na načine koji mogu imati stvaran utjecaj na živote ljudi, sve više ljudi želi znati kako se koriste algoritmi, kako se prikupljaju podaci i jednostavno koliko su točne njegove mogućnosti. Ako tvrtke žele ostati na čelu inovacija na svojim tržištima, moraju se osloniti na umjetnu inteligenciju kojoj će njihova publika vjerovati. Objašnjivost umjetnom inteligencijom ključni je sastojak za produbljivanje tog odnosa.

Objašnjivost umjetne inteligencije razlikuje se od standardnih postupaka umjetne inteligencije jer ljudima nudi način da razumiju kako algoritmi strojnog učenja stvaraju izlaz. Objašnjiva umjetna inteligencija je sustav koji ljudima može pružiti potencijalne rezultate i nedostatke. To je sustav strojnog učenja koji može ispuniti samu ljudsku želju za poštenjem, odgovornošću i poštovanjem privatnosti. Objašnjiva umjetna inteligencija je imperativ za tvrtke kako bi izgradile povjerenje potrošača.

Dok se umjetna inteligencija širi, pružatelji umjetne inteligencije moraju shvatiti da crna kutija ne može. Modeli crne kutije kreiraju se izravno iz podataka i često čak ni programer koji je stvorio algoritam ne može identificirati što je dovelo do naučenih navika stroja. Ali savjestan potrošač ne želi se baviti nečim toliko neprobojnim da se ne može smatrati odgovornim. Ljudi žele znati kako algoritam umjetne inteligencije dolazi do određenog rezultata bez misterija izvornog ulaza i kontroliranog izlaza, posebno kada su pogrešne procjene umjetne inteligencije često uzrokovane pristranostima stroja. Kako umjetna inteligencija postaje sve naprednija, ljudi žele pristup procesu strojnog učenja kako bi razumjeli kako je algoritam došao do svojih specifičnih rezultata. Lideri u svakoj industriji moraju shvatiti da ljudi prije ili kasnije više neće preferirati ovaj pristup, već će ga zahtijevati kao potrebnu razinu transparentnosti.

ASR sustavi kao što su glasovni pomoćnici, tehnologija transkripcije i druge usluge koje ljudski govor pretvaraju u tekst posebno su mučen predrasudama. Kada se usluga koristi za sigurnosne mjere, pogreške zbog naglasaka, dobi ili podrijetla osobe mogu biti ozbiljne pogreške, pa se problem mora shvatiti ozbiljno. ASR se može učinkovito koristiti u policijskim tjelesnim kamerama, na primjer, za automatsko snimanje i transkripciju interakcija - čuvanje zapisa koji bi, ako se točno transkribira, mogao spasiti živote. Praksa objašnjivosti zahtijevat će da se AI ne oslanja samo na kupljene skupove podataka, već da nastoji razumjeti karakteristike dolaznog zvuka koje bi mogle pridonijeti pogreškama ako postoje. Što je akustični profil? Ima li buke u pozadini? Je li govornik iz zemlje koja nije prvi engleski ili iz generacije koja koristi vokabular koji umjetna inteligencija još nije naučila? Strojno učenje mora biti proaktivno u bržem učenju i može započeti prikupljanjem podataka koji se mogu pozabaviti tim varijablama.

Potreba postaje očigledna, ali put do implementacije ove metodologije neće uvijek imati jednostavno rješenje. Tradicionalni odgovor na problem je dodavanje više podataka, ali bit će potrebno sofisticiranije rješenje, posebno kada su kupljeni skupovi podataka koje mnoge tvrtke koriste sami po sebi pristrani. To je zato što je kroz povijest bilo teško objasniti određenu odluku koju je donijela umjetna inteligencija, a to je zbog prirode složenosti modela od kraja do kraja. Međutim, sada možemo, i možemo započeti s pitanjem kako su ljudi uopće izgubili povjerenje u AI.

AI će neizbježno griješiti. Tvrtke trebaju izgraditi modele koji su svjesni potencijalnih nedostataka, identificirati kada i gdje se problemi događaju i stvoriti stalna rješenja za izgradnju snažnijih AI modela:

1. Kada nešto pođe po zlu, programeri će morati objasniti što se dogodilo i razviti neposredan plan za poboljšanje modela kako bi se smanjile buduće slične pogreške.
2. Da bi stroj doista znao je li bio u pravu ili u krivu, znanstvenici to trebaju stvoriti povratnu petlju tako da AI može naučiti svoje nedostatke i razvijati se.
3. Još jedan način na koji ASR može izgraditi povjerenje dok se AI još poboljšava jest stvoriti sustav koji može dati rezultate povjerenja, i ponuditi razloge zašto je umjetna inteligencija manje samouvjerena. Na primjer, tvrtke obično generiraju rezultate od nula do 100 kako bi odražavale nesavršenosti vlastite umjetne inteligencije i uspostavile transparentnost sa svojim klijentima. U budućnosti bi sustavi mogli pružiti post-hoc objašnjenja zašto je zvuk bio izazovan nudeći više metapodataka o zvuku, kao što je percipirana razina buke ili manje razumljiv naglasak.

Dodatna transparentnost rezultirat će boljim ljudskim nadzorom obuke i izvedbe umjetne inteligencije. Što smo otvoreniji o tome gdje se trebamo poboljšati, to smo odgovorniji za poduzimanje radnji na tim poboljšanjima. Na primjer, istraživač može htjeti znati zašto je ispisan pogrešan tekst kako bi mogao ublažiti problem, dok transkripcionist može htjeti dokaze zašto je ASR pogrešno protumačio unos kako bi pomogao u procjeni njegove valjanosti. Održavanje ljudi u tijeku može ublažiti neke od najočitijih problema koji nastaju kada se umjetna inteligencija ne kontrolira. Također može ubrzati vrijeme potrebno AI-ju da uhvati svoje pogreške, poboljša se i na kraju ispravi u stvarnom vremenu.

Umjetna inteligencija ima mogućnosti poboljšati ljudske živote, ali samo ako je ljudi izgrade da ispravno proizvodi. Moramo smatrati odgovornima ne samo ove sustave, već i ljude koji stoje iza inovacije. Očekuje se da će se AI sustavi budućnosti pridržavati načela koje su postavili ljudi, a samo do tada ćemo imati sustav kojem ljudi vjeruju. Vrijeme je da postavimo temelje i težimo tim načelima sada dok u konačnici ljudi još uvijek služe sami sebi.