Недостатак поуздане вештачке интелигенције може да успори иновације и пословну вредност

Недавно истраживање међу глобалним пословним лидерима показује да је АИ од поверења главни приоритет, али многи не предузимају довољно корака да то постигну, али по коју цену?

Заиста, ИБМ анкета открили су да се невероватних 85% испитаника слаже да је већа вероватноћа да ће потрошачи изабрати компанију која је транспарентна у вези са начином на који се њени модели вештачке интелигенције граде, управљају и користе.

Међутим, већина је признала да није предузела кључне кораке како би осигурала да је њихова АИ поуздана и одговорна, као што је смањење пристрасности (74%), праћење варијација у перформансама и померање модела (68%) и обезбеђивање да могу да објасне АИ-покренуту одлуке (61%). Ово је забрињавајуће, посебно када узмете у обзир да употреба вештачке интелигенције наставља да расте – са 35% оних који су рекли да сада користе вештачку интелигенцију у свом пословању, у односу на 31% пре годину дана.

Недавно сам присуствовао само по позиву Самит о корпоративним иновацијама у Торонту где су учесници разменили иновативне идеје и представили технологије спремне да обликују будућност. Имао сам привилегију да учествујем на три округла стола у оквиру финансијских услуга, осигурања и малопродајних сегмената са три кључне области које су се појавиле: потреба за већом транспарентношћу како би се подстакло поверење у вештачку интелигенцију, демократизација вештачке интелигенције путем без-кода/ниског кода и развој за испоручују брже време за добијање вредности и смањење ризика кроз најбоље праксе регулаторног управљања АИ.

Повећајте поверење у АИ технологије. ЦОВИД-19 је појачао и убрзао тренд ка прихватању четботова са вештачком интелигенцијом, виртуелних финансијских помоћника и бесконтактног приступања корисницима. Овај тренд ће се наставити као што је потврђено у истраживање Цап Гемини што показује да 78% анкетираних потрошача планира да повећа употребу АИ технологија, укључујући управљање дигиталним идентитетом у својим интеракцијама са организацијама за финансијске услуге.

Без обзира на инхерентне предности, јавља се низ изазова. Главни међу њима је континуирано неповерење потрошача у технологије вештачке интелигенције и како њихова свеприсутна природа утиче на њихова права на приватност и безбедност. 30% потрошача је изјавило да би им било лакше да деле своје биометријске информације када би њихови пружаоци финансијских услуга обезбедили више транспарентности у објашњавању како се њихови подаци прикупљају, управљају и обезбеђују.

ЦИО морају усвојити поуздани принципи вештачке интелигенције и увести ригорозне мере које штите приватност и безбедносна права. Они то могу постићи кроз шифровање, минимизирање података и сигурнија аутентификација, укључујући разматрање нових стандарди децентрализованог дигиталног идентитета. Као резултат тога, ваши напори за интелигентну аутоматизацију и самоуслужне понуде ће бити више прихваћени и биће потребно мање људске интервенције.

Уклоните препреке демократизацији АИ. Постоји растући помак ка развоју АИ апликација без кода/ниског кода, што истраживање предвиђања да ће достићи 45.5 милијарди долара до 2025. Главни покретач је брже време за вредновање са побољшањима у продуктивности развоја апликација за 10к.

На пример, 56% анкетираних организација за финансијске услуге разматра прикупљање података од зајмопримаца као један од најизазовнијих и најнеефикаснијих корака у процесу аплицирања за кредит, што резултира високим стопама напуштања кредита. Док је доказано да технологије биометријске идентификације и прикупљања података вођене вештачком интелигенцијом побољшавају ефикасност у процесу подношења захтева за кредит, оне такође могу стварају ризике усклађености посебно, приватност података, поверљивост и АИ алгоритамска пристрасност.

Да би се ублажили и отклонили такви ризици, апликације са ниским кодом/без кода морају укључити свеобухватно тестирање како би се осигурало да раде у складу са почетним циљевима дизајна, уклонили потенцијалну пристрасност у скупу података за обуку која може укључивати пристрасност узорковања, пристрасност означавања и безбедна је од супротстављања. АИ напади који могу негативно утицати на АИ алгоритамске резултате. Разматрање принципи одговорне науке о подацима правичности, тачности, поверљивости и безбедности је најважније.

Развити АИ управљање и регулаторни оквир. Управљање вештачком интелигенцијом више није лепо имати иницијативу, већ императив. Према ОЕЦД-овом трагачу о националним политикама вештачке интелигенције, готово је 700 АИ регулаторних иницијатива у развоју у преко 60 земаља. Међутим, постоје добровољни кодекси понашања и етички принципи вештачке интелигенције које су развиле међународне организације за стандарде као што су Институт електротехничких и електронских инжењера („ИЕЕЕ“) и Национални институт за стандарде и технологију (НИСТ).

Забринутост организација окружује претпоставку да ће прописи о вештачкој интелигенцији наметнути више ригорозне обавезе поштовања на њих, подржане тешким механизмима спровођења, укључујући казне за непоштовање. Ипак, регулација вештачке интелигенције је неизбежна.

Европа и Северна Америка заузимају проактивне ставове који ће захтевати од ЦИО-а да сарађују са својим технолошким и пословним колегама како би формирали ефикасне политике. На пример, Европска комисија је предложила а Закон о вештачкој интелигенцији предлаже да се за добављаче вештачке интелигенције уведу обавезе засноване на ризику ради заштите права потрошача, док истовремено промовишу иновације и економске могућности повезане са АИ технологијама.

Поред тога, у јуну 2022., канадска савезна влада објавила је дуго очекивани Закон о примени дигиталне повеље који штити од штетних утицаја високоризичних АИ система. САД такође настављају са регулаторним иницијативама за вештачку интелигенцију, иако на секторској основи.  Савезна трговинска комисија (ФТЦ), Биро за финансијску заштиту потрошача (ЦФПБ) и Одбор федералних резерви сви савијају своје регулаторне мишиће кроз своје механизме спровођења како би заштитили потрошаче од негативних утицаја који проистичу из повећане примене АИ који могу довести до дискриминаторних исхода, иако ненамерних. Регулаторни оквир за вештачку интелигенцију је неопходан за сваку иновативну компанију.

Постизање поуздане вештачке интелигенције захтева увиде засноване на подацима

Имплементација веродостојне вештачке интелигенције не може се постићи без приступа заснованог на подацима како би се утврдило где примена АИ технологија може имати највећи утицај пре него што се настави са имплементацијом. Да ли се ради о побољшању ангажовања клијената, или да би се остварила оперативна ефикасност или да би се ублажили ризици усклађености?

Сваки од ових покретача пословања захтева разумевање начина на који се процеси извршавају, како се обрађују ескалације и изузеци и идентификују варијације у блокадама извршења процеса и њиховим основним узроцима. На основу такве анализе засноване на подацима, организације могу доносити пословне одлуке на основу информација о утицају и исходима повезаним са имплементацијом решења заснованих на вештачкој интелигенцији како би се смањила трења при укључивању корисника и побољшала оперативна ефикасност. Једном када организације имају користи од увида заснованих на подацима, онда могу да аутоматизују високо радно интензивне процесе као што су испуњавање мандата усклађености са АИ, ревизија усклађености, КИЦ и АМЛ у финансијским услугама.

Главни закључак је да је саставни део аутоматизације процеса са омогућеном вештачком интелигенцијом имплементација најбољих пракси АИ вредне поверења. Етичку употребу вештачке интелигенције не треба посматрати само као законску и моралну обавезу, већ и као пословни императив. Има доброг пословног смисла бити транспарентан у примени АИ. Подстиче поверење и ствара лојалност бренду.