Недостаток довірчих штучного інтелекту може гальмувати інновації та бізнес-цінність

Недавнє опитування серед глобальних бізнес-лідерів показало, що довірчий штучний інтелект є одним із головних пріоритетів, проте багато з них не роблять достатніх кроків для досягнення цього, але яка ціна?

Дійсно, опитування IBM показало, що 85% респондентів погоджуються, що споживачі більш імовірно оберуть компанію, яка є прозорою щодо того, як її моделі штучного інтелекту створюються, керуються та використовуються.

Однак, більшість визнали, що вони не зробили ключових кроків для забезпечення того, щоб їхній штучний інтелект був довірчим та відповідальним, таких як зменшення упередженості (74%), відстеження варіацій продуктивності та дрейфу моделі (68%), та забезпечення того, щоб вони могли пояснити рішення, прийняті штучним інтелектом (61%). Це турбує, особливо якщо врахувати, що використання штучного інтелекту продовжує зростати – 35% заявили, що вони зараз використовують штучний інтелект у своєму бізнесі, у порівнянні з 31% минулого року.

Нещодавно я взяв участь у закритому Корпоративному інноваційному саміті у Торонто, де учасники обмінювалися інноваційними ідеями та демонстрували технології, які готуються сформувати майбутнє. У мене була привілей взяти участь у трьох раундах дискусій у сфері фінансових послуг, страхування та роздрібної торгівлі з трьома ключовими напрямками: необхідність більшої прозорості для формування довіри до штучного інтелекту, демократизація штучного інтелекту через no-code/low-code, та розвиток для забезпечення швидшого часу до отримання цінності та мінімізації ризиків через найкращі практики регулювання штучного інтелекту.

Повышення довіри до технологій штучного інтелекту. COVID-19 посилив та прискорив тенденцію до використання штучного інтелекту у чат-ботах, віртуальних фінансових асистентах та безконтактній реєстрації клієнтів. Ця тенденція продовжиться, як підтверджується у дослідженні Cap Gemini, яке показало, що 78% споживачів планують збільшити використання технологій штучного інтелекту, включаючи цифрове керування ідентифікацією у взаємодії з фінансовими організаціями.

Внутрішні переваги, проте, супроводжуються рядом викликів. Головним серед них є тривала недовіра споживачів до технологій штучного інтелекту та їхнього всепроникного впливу на їхні права на приватність та безпеку. 30% споживачів заявили, що вони будуть більш комфортно відчувати себе, якщо їхні фінансові послугові провайдери нададуть більше прозорості щодо пояснення того, як їхня інформація збирається, керується та захищається.

CIO повинні прийняти довірчі принципи штучного інтелекту та встановити суворі заходи, які захищають права на приватність та безпеку. Вони можуть досягти цього шляхом шифрування, мінімалізації даних та безпечної аутентифікації, включаючи розгляд нових децентралізованих стандартів цифрової ідентифікації. Таким чином, ваші зусилля щодо інтелектуальної автоматизації та самозахисту побачать більше прийняття та потребуватимуть менше людського втручання.

Видалення бар’єрів для демократизації штучного інтелекту. Є зростаючий зсув до розвитку застосунків штучного інтелекту з використанням no-code/low-code, який, за дослідженням, передбачається досягти $45,5 млрд до 2025 року. Головним драйвером є швидший час до отримання цінності з покращенням продуктивності розробки застосунків в 10 разів.

Наприклад, 56% фінансових організацій, опитаних, вважають збір даних від боржників одним з найбільш складних та неефективних кроків у процесі реєстрації кредиту, що призводить до високих рівнів відмов. Хоча технології штучного інтелекту, спрямовані на біометричну ідентифікацію та збір даних, доведено, що вони покращують ефективність у процесі реєстрації кредиту, вони також можуть створити ризики дотримання законодавства, особливо щодо конфіденційності даних, конфіденційності та упередженості алгоритмів штучного інтелекту.

Для мінімізації та ліквідації таких ризиків застосунки no-code/low-code повинні включати комплексне тестування для забезпечення того, щоб вони виконувались згідно з початковими цілями проєкту, усунути потенційну упередженість у навчальному наборі даних, яка може включати вибіркову упередженість, мітку упередженості, та бути захищеними від атак штучного інтелекту, які можуть негативно вплинути на результати алгоритмів штучного інтелекту. Розгляд принципів відповідальності даних справедливості, точності, конфіденційності та безпеки є важливим.

Розробка структури управління та регулювання штучного інтелекту. Управління штучним інтелектом вже не є бажаним, а обов’язковим. За даними трекера національної політики штучного інтелекту ОЕСР, існує понад 700 ініціатив регулювання штучного інтелекту, які розробляються у понад 60 країнах. Проте, існують добровільні кодекси поведінки та етичні принципи штучного інтелекту, розроблені міжнародними організаціями стандартизації, такими як Інститут електротехніки та електроніки (IEEE) та Національний інститут стандартів та технологій (NIST).

Стурбованість організацій полягає в тому, що регулювання штучного інтелекту може накласти на них більш суворих вимог дотримання законодавства з суворими механізмами виконання, включаючи штрафи за невиконання. Проте, регулювання штучного інтелекту є неминучим.

Європа та Північна Америка займають активну позицію щодо регулювання штучного інтелекту, яке вимагатиме від CIO співпрацювати зі своїми технологічними та бізнес-партнерами для формування ефективної політики. Наприклад, запропонований Закон про штучний інтелект Європейської комісії пропонує встановити ризикові зобов’язання для постачальників штучного інтелекту для захисту прав споживачів, одночасно сприяючи інноваціям та економічним можливостям, пов’язаним із технологіями штучного інтелекту.

Крім того, у червні 2022 року федеральний уряд Канади опублікував свій довгоочікуваний Закон про цифрову хартію, який захищає від негативних наслідків високоризикових систем штучного інтелекту. США також продовжують ініціативи щодо регулювання штучного інтелекту, хоча й на секторальному рівні. Федеральна торгова комісія (FTC), Бюро із захисту прав споживачів у сфері фінансів (CFPB) та Федеральна резервна система всі демонструють свою регуляторну силу через свої механізми виконання для захисту споживачів від негативних наслідків, пов’язаних із застосуванням штучного інтелекту, які можуть призвести до дискримінаційних результатів, хоча й неумисних. Структура регулювання штучного інтелекту є обов’язковою для будь-якої інноваційної компанії.

Досягнення довірчого штучного інтелекту вимагає даних, заснованих на фактах.

Реалізація довірчого штучного інтелекту не може бути досягнута без даних, заснованих на фактах, для визначення того, де застосування технологій штучного інтелекту може мати найбільший вплив до початку реалізації. Чи це для покращення взаємодії з клієнтами, чи для реалізації операційних ефективностей, чи для мінімізації ризиків дотримання законодавства?

Кожен з цих бізнес-драйверів вимагає розуміння того, як процеси виконуються, як обробляються ескалації та винятки, та визначення варіацій у виконанні процесів та їхніх основних причин. На основі такого аналізу, заснованого на фактах, організації можуть приймати обґрунтовані бізнес-рішення щодо впливу та результатів, пов’язаних із реалізацією рішень, заснованих на штучному інтелекті, для зменшення тертя під час реєстрації клієнтів та покращення операційних ефективностей. Як тільки організації мають вигоду від даних, заснованих на фактах, тоді вони можуть автоматизувати високо трудомісткі процеси, такі як виконання вимог законодавства щодо штучного інтелекту, аудит дотримання законодавства, KYC та AML у сфері фінансів.

Головний висновок полягає в тому, що інтегральною частиною автоматизації процесів, заснованої на штучному інтелекті, є реалізація найкращих практик довірчого штучного інтелекту. Етичне використання штучного інтелекту не повинно розглядатися лише як юридична та моральна зобов’язання, а як бізнес-імператив. Це має добрий бізнес-сенс бути прозорим у застосуванні штучного інтелекту. Це сприяє довірі та породжує лояльність до бренду.