Недостаток довірчих штучного інтелекту може гальмувати інновації та бізнес-цінність

Нещодавнє опитування серед світових лідерів бізнесу показало, що довірчий штучний інтелект є пріоритетом, проте багато з них не роблять достатніх кроків для його досягнення, але яку ціну вони платять?

Дійсно, опитування IBM показало, що 85% респондентів погоджуються, що споживачі більш схильні обирати компанію, яка є прозорою щодо того, як побудовані, керуються та використовуються її моделі штучного інтелекту.

Однак більшість з них визнали, що не зробили ключових кроків для забезпечення довірчих та відповідальних моделей штучного інтелекту, таких як зменшення упередженості (74%), відстеження змін у продуктивності та моделей (68%), та забезпечення можливості пояснити рішення, прийняті штучним інтелектом (61%). Це особливо хвилює, якщо врахувати, що використання штучного інтелекту продовжує зростати – 35% заявили, що зараз використовують штучний інтелект у своєму бізнесі, проти 31% минулого року.

Нещодавно я взяв участь у закритій Корпоративній інноваційній конференції у Торонто, де учасники обмінювалися інноваційними ідеями та демонстрували технології, які можуть сформувати майбутнє. У мене була можливість взяти участь у трьох раундах дискусій у сфері фінансових послуг, страхування та роздрібної торгівлі, де виникли три ключові питання: необхідність більшої прозорості для формування довіри до штучного інтелекту, демократизація штучного інтелекту через низькокодові/безкодові рішення та розвиток для забезпечення швидшого часу реалізації та мінімізації ризиків через найкращі практики регулювання штучного інтелекту.

Збільшити довіру до технологій штучного інтелекту. Пандемія COVID-19 посилила та прискорила тенденцію до впровадження штучного інтелекту у бізнесі, зокрема у сфері чат-ботів, віртуальних фінансових помічників та безконтактної реєстрації клієнтів. Ця тенденція продовжиться, як підтверджується дослідженням Cap Gemini, яке показало, що 78% споживачів планують збільшити використання технологій штучного інтелекту, включаючи управління цифровою ідентифікацією у взаємодії з фінансовими організаціями.

Хоча наявні переваги, виникають певні проблеми. Головною серед них є недовіра споживачів до технологій штучного інтелекту та їхнього впливу на права приватності та безпеки. 30% споживачів заявили, що будуть більш комфортно відчувати себе, якщо їхні фінансові послугові організації нададуть більше прозорості щодо того, як збираються, керуються та забезпечуються їхні біометричні дані.

ЦіО повинні прийняти довірчі принципи штучного інтелекту та впровадити суворі заходи для захисту прав приватності та безпеки. Це можна досягти за допомогою шифрування, мінімалізації даних та безпечної аутентифікації, включаючи розгляд нових стандартів децентралізованої цифрової ідентифікації. Таким чином, ваші зусилля щодо інтелектуальної автоматизації та самозапису побачать більшу прийняття та менше потреби в людському втручанні.

Видалити бар’єри для демократизації штучного інтелекту. Є зростаюча тенденція до розвитку низькокодових/безкодових застосунків штучного інтелекту, яка, за даними дослідження, досягне 45,5 мільярдів доларів США до 2025 року. Головним чинником є швидший час реалізації з покращенням продуктивності розробки застосунків на 10 разів.

Наприклад, 56% фінансових організацій вважають збір даних від боржників одним з найбільш складних та неефективних етапів процесу подачі заявки на кредит, що призводить до високих показників відмов. Хоча технології штучного інтелекту з біометричною ідентифікацією та збором даних можуть покращити ефективність процесу подачі заявки на кредит, вони також можуть створити ризик відповідності, особливо щодо конфіденційності даних, секретності та упередженості алгоритмів штучного інтелекту.

Для мінімізації та усунення таких ризиків низькокодові/безкодові застосунки повинні включати комплексне тестування для забезпечення того, що вони працюють відповідно до початкових цілей, усунення потенційних упередженостей у наборі даних, які можуть включати вибіркову упередженість, маркову упередженість, та забезпечення безпеки від атак штучного інтелекту, які можуть негативно вплинути на результати алгоритмів штучного інтелекту. Розгляд принципів відповідальності даних справедливості, точності, конфіденційності та безпеки є важливим.

Розробити кадрову базу штучного інтелекту та нормативну базу. Регулювання штучного інтелекту вже не є бажаним, а обов’язковим. За даними трекера національних політик штучного інтелекту ОЕСР, існує понад 700 ініціатив щодо регулювання штучного інтелекту у понад 60 країнах. Однак існують добровільні кодекси поведінки та принципи етичного штучного інтелекту, розроблені міжнародними організаціями зі стандартизації, такими як Інститут електротехніки та електроніки (IEEE) та Національний інститут стандартів та технологій (NIST).

Побоювання організацій оточують припущення, що регулювання штучного інтелекту накладе на них більш суворі обов’язки щодо дотримання законодавства, підтримані суворими механізмами виконання, включаючи штрафи за невиконання законодавства. Однак регулювання штучного інтелекту є неминучим.

Європа та Північна Америка приймають активну позицію, яка вимагатиме від ЦіО співпрацювати зі своїми технологічними та бізнес-партнерами для формування ефективної політики. Наприклад, запропонований Європейською комісією Закон про штучний інтелект пропонує встановити ризико-орієнтовані зобов’язання для постачальників штучного інтелекту щодо захисту прав споживачів, одночасно сприяючи інноваціям та економічним можливостям, пов’язаним зі штучним інтелектом.

Крім того, у червні 2022 року канадський федеральний уряд опублікував свою довгоочікувану Закон про реалізацію цифрової хартії, який захищає від негативних наслідків високоризикових систем штучного інтелекту. США також продовжують роботу над ініціативами щодо регулювання штучного інтелекту, хоча й на секторальному рівні. Федеральна торгова комісія (FTC), Бюро захисту споживачів у сфері фінансів (CFPB) та Федеральна резервна система усі демонструють свою регуляторну активність через механізми виконання законодавства для захисту споживачів від негативних наслідків, пов’язаних із зростанням застосування штучного інтелекту, які можуть привести до дискримінаційних результатів, хоча й неумисних. Кадрова база штучного інтелекту є обов’язковою для будь-якої інноваційної компанії.

Досягнення довірчого штучного інтелекту вимагає даних, одержаних з допомогою штучного інтелекту.

Реалізація довірчого штучного інтелекту не може бути досягнута без даних, одержаних з допомогою штучного інтелекту, для визначення того, де застосування технологій штучного інтелекту може мати найбільший вплив до початку реалізації. Чи це для покращення взаємодії з клієнтами, чи для реалізації операційних ефективностей, чи для мінімізації ризиків відповідності?

Кожен з цих бізнес-драйверів вимагає розуміння того, як виконуються процеси, як обробляються ескалації та винятки, та визначення варіацій у виконанні процесів та їхніх підстав. На основі такого аналізу, заснованого на даних, організації можуть приймати обґрунтовані бізнес-рішення щодо впливу та результатів, пов’язаних з реалізацією рішень на основі штучного інтелекту для зменшення тертя при реєстрації клієнтів та покращення операційних ефективностей. Як тільки організації мають дані, одержані з допомогою штучного інтелекту, вони можуть автоматизувати високотрудоємкі процеси, такі як виконання вимог законодавства щодо штучного інтелекту, аудит відповідності, KYC та AML у фінансових послугах.

Головним висновком є те, що інтегральною частиною автоматизації процесів зі штучним інтелектом є реалізація довірчих найкращих практик штучного інтелекту. Етичне використання штучного інтелекту не повинно розглядатися лише як юридична та моральна зобов’язаність, а як бізнес-імператив. Це має сенс бути прозорим у застосуванні штучного інтелекту. Це сприяє довірі та лояльності до бренду.