Seletatavus võib lahendada iga tööstuse AI probleemi: läbipaistvuse puudumine

Autor: Migüel Jetté, teadus- ja arendustegevuse kõne asepresident pööre.

Oma tärkavatel etappidel võis AI olla saanud puhata uudsuse loorberitele. See oli okei, et masinõpe õppis aeglaselt ja säilitas läbipaistmatu protsessi, kus AI arvutusi on tavatarbijal võimatu tungida. See muutub. Kuna rohkem tööstusharusid, nagu tervishoid, rahandus ja kriminaalõigussüsteem, hakkavad AI-d kasutama viisil, mis võib inimeste elule reaalset mõju avaldada, soovivad üha rohkem inimesi teada, kuidas algoritme kasutatakse, kuidas andmeid hangitakse ja lihtsalt. kui täpsed on selle võimalused. Kui ettevõtted soovivad oma turgudel innovatsiooni esirinnas püsida, peavad nad lootma tehisintellektile, mida nende publik usaldab. Tehisintellekti seletatavus on selle suhte süvendamise põhikomponent.

AI seletatavus erineb tavapärastest tehisintellekti protseduuridest, kuna see annab inimestele võimaluse mõista, kuidas masinõppe algoritmid väljundit loovad. Selgitav AI on süsteem, mis võib pakkuda inimestele potentsiaalseid tulemusi ja puudused. See on masinõppesüsteem, mis suudab täita inimliku soovi õigluse, vastutuse ja privaatsuse austamise järele. Tarbijate usalduse loomiseks on ettevõtete jaoks hädavajalik seletatav tehisintellekt.

Kuigi tehisintellekt laieneb, peavad tehisintellekti pakkujad mõistma, et must kast ei saa seda teha. Musta kasti mudelid luuakse otse andmetest ja sageli ei suuda isegi algoritmi loonud arendaja tuvastada, mis masina õpitud harjumusi põhjustas. Kuid kohusetundlik tarbija ei taha tegeleda millegi nii läbitungimatuga, et seda ei saa vastutusele võtta. Inimesed tahavad teada, kuidas AI-algoritm jõuab konkreetse tulemuseni ilma lähtesisendi ja kontrollitud väljundi saladuseta, eriti kui AI-i valearvestused on sageli tingitud masina eelarvamustest. AI arenedes soovivad inimesed juurdepääsu masinõppeprotsessile, et mõista, kuidas algoritm konkreetse tulemuseni jõudis. Iga valdkonna juhid peavad mõistma, et varem või hiljem ei eelista inimesed enam seda juurdepääsu, vaid nõuavad seda läbipaistvuse vajaliku tasemena.

ASR-süsteemid, nagu häältoega assistendid, transkriptsioonitehnoloogia ja muud teenused, mis muudavad inimkõne tekstiks, on eriti olulised. kimbutavad eelarvamused. Kui teenust kasutatakse turvalisuse tagamiseks, võivad aktsentidest, inimese vanusest või taustast tulenevad vead olla tõsised vead, mistõttu tuleb probleemi tõsiselt võtta. ASR-i saab tõhusalt kasutada politsei kehakaamerates, näiteks interaktsioonide automaatseks salvestamiseks ja transkribeerimiseks – salvestades, mis võib täpse transkribeerimise korral päästa elusid. Seletavuse praktika eeldab, et AI ei tugineks ainult ostetud andmekogumitele, vaid püüab mõista sissetuleva heli omadusi, mis võivad põhjustada vigu, kui neid on. Mis on akustiline profiil? Kas taustal on müra? Kas kõneleja on pärit riigist, kus inglise keel ei ole esmajoones, või põlvkonnast, kes kasutab sõnavara, mida tehisintellekt pole veel õppinud? Masinõpe peab olema ennetav, et kiiremini õppida ja see võib alata andmete kogumisega, mis suudavad neid muutujaid käsitleda.

Vajadus on muutumas ilmseks, kuid selle metoodika rakendamise teel ei ole alati lihtsat lahendust. Traditsiooniline vastus probleemile on andmete lisamine, kuid vaja on keerukamat lahendust, eriti kui paljude ettevõtete kasutatavad ostetud andmekogumid on oma olemuselt kallutatud. Selle põhjuseks on asjaolu, et ajalooliselt on olnud raske selgitada AI tehtud konkreetset otsust ja see on tingitud täielike mudelite keerukuse olemusest. Kuid me saame nüüd ja saame alustada küsimusega, kuidas inimesed kaotasid usalduse AI vastu.

Paratamatult teeb AI vigu. Ettevõtted peavad looma mudeleid, mis on teadlikud võimalikest puudustest, tuvastama, millal ja kus probleemid ilmnevad, ning looma pidevaid lahendusi tugevamate tehisintellekti mudelite loomiseks.

1. Kui midagi läheb valesti, peavad arendajad selgitama, mis juhtus ja koostage kohene plaan mudeli täiustamiseks, et vähendada tulevasi sarnaseid vigu.
2. Teadlased peavad selleks, et masin saaks teada, kas see oli õige või vale luua tagasiside ring et tehisintellekt saaks teada oma puudustest ja areneda.
3. Teine viis ASR-i jaoks usalduse loomiseks ajal, mil tehisintellekt on veel paranemas, on see luua süsteem, mis suudab anda usaldusskooreja pakkuge põhjuseid, miks tehisintellekt on vähem enesekindel. Näiteks loovad ettevõtted tavaliselt hinded nullist 100-ni, et kajastada nende endi tehisintellekti puudusi ja luua klientidega läbipaistvus. Tulevikus võivad süsteemid pakkuda post-hoc selgitusi selle kohta, miks heli esitamine oli keeruline, pakkudes heli kohta rohkem metaandmeid, nagu tajutav müratase või vähem mõistetav aktsent.

Täiendava läbipaistvuse tulemuseks on parem inimjärelevalve tehisintellekti koolituse ja jõudluse üle. Mida avatumalt oleme selles osas, kus peame parandama, seda vastutustundlikumad oleme nende täiustustega seotud meetmete võtmise eest. Näiteks võib teadlane soovida teada, miks vigane tekst väljastati, et nad saaksid probleemi leevendada, samas kui transkriptsioonispetsialist võib soovida tõendeid selle kohta, miks ASR sisendit valesti tõlgendas, et aidata selle kehtivust hinnata. Inimeste kursis hoidmine võib leevendada mõningaid ilmsemaid probleeme, mis tekivad siis, kui tehisintellekti ei kontrollita. Samuti võib see kiirendada aega, mis kulub tehisintellektile oma vigade tabamiseks, parandamiseks ja lõpuks end reaalajas parandamiseks.

AI-l on võime inimeste eluolu parandada, kuid ainult siis, kui inimesed loovad selle õigeks tootmiseks. Peame vastutusele võtma mitte ainult need süsteemid, vaid ka innovatsiooni taga olevad inimesed. Tuleviku AI-süsteemidelt eeldatakse inimeste poolt seatud põhimõtete järgimist ja alles selle ajani on meil süsteem, mida inimesed usaldavad. On aeg panna alus ja püüdlema nende põhimõtete poole nüüd, samal ajal kui inimesed teenivad iseennast.