Як галузі готуються до прискореного впровадження штучного інтелекту, новий акцент на етиці та відповідальності

Від: Пандуранг Камат, технічний директор Persistent Systems

Штучний інтелект (ШІ) у своїй основі є машинним навчання (МН), процес, за допомогою якого машини вчаться покращувати свою продуктивність на основі даних. Огромна кількість існуючих даних сьогодні означає, що ШІ мав родючий ґрунт для розвитку, прискорюючись за останні кілька років. І обіцянка ШІ змусила технологів і виконавців у різних галузях думати творчо про його різні застосування.

Від часу промислової революції кожен період швидкого технологічного прогресу супроводжується рівними частками ентузіазму та тривоги. Консорціум Всесвітньої павутини (W3C), група, яка створює стандарти для розробників веб-індустрії, зазначає, що “зростає усвідомлення того, що застосування машинного навчання супроводжується ризиками та може привести до шкоди” – зокрема в таких областях, як: упередженість, приватність, безпека, стійкість та загальна підзвітність.

“Є чіткий попит на етичний підхід до МН, який спостерігається у діяльності громадянського суспільства, появі близько 100 наборів етичних принципів ШІ у світі та урядових заходах щодо регулювання ШІ”, – зазначає група. “Якщо технології не узгоджені з цінностями суспільств, у яких вони діють, вони ризикують підірвати ці цінності”.

Виберіть мудро

На поверхні важко сперечатися з тим, що підвищена швидкість та продуктивність є поганими для бізнесу. Але для деяких галузей багато чого залежить від процесу прийняття рішень, який, на думку деяких, не повинен бути залишений алгоритму. Подивившись на beberapa найбільших галузей, ми можемо побачити, наскільки ми вразливі до помилок машини, і чому відповідальний ШІ так важливий.

Банківська справа, фінансові послуги та страхування (BFSI)

Світовий економічний форум (WEF) та Deloitte вивчили процес впровадження ШІ у компанії BFSI, знайшовши, що “хоча ШІ може допомогти створити корисні бізнес-інсайти з величезної кількості інформації”, “чужість ШІ” буде джерелом серйозного ризику.

“ШІ мислить не як люди”, – зазначається у звіті. “Системи ШІ не слідують людським конструкціям логіки та поводяться дуже по-різному від людських акторів при виконанні однієї й тієї ж задачі. Крім того, самонавчання ШІ дозволяє їм еволюціонувати без людського втручання, що може привести до несподіваних результатів на основі невідомих змінних”.

Заступники відповідального ШІ стверджують, що машинне навчання створює серйозні проблеми у таких питаннях, як автоматична оцінка ризику, кредитування та прийняття рішень щодо надання кредитів, які історично були упередженими щодо певних демографічних груп. Недавні дослідження показали, що кредитори, які використовують ШІ-орієнтовані двигуни прийняття рішень, були більш схильні відмовляти у видачі іпотечних кредитів людям кольору – у деяких випадках 80% чорношкірих заявників мали більші шанси бути відхилені.

Охорона здоров’я

Деякі роки тому Журнал американської медичної асоціації (JAMA) розглянув впровадження ШІ у сфері охорони здоров’я, знайшовши, що виклики численні, включаючи “нереалістичні очікування, упередженість та непредставницькі дані, недостатню пріоритезацію рівності та інклюзивності, ризик посилення нерівностей у сфері охорони здоров’я, низький рівень довіри та невизначені нормативні середовища”.

Не зовсім переконлива рекомендація, але є вищий стандарт для відповідального ШІ у сфері охорони здоров’я, особливо враховуючи його потенційне життя чи смерть. У цілому медичні працівники оптимістично, але обережно ставляться до майбутнього ШІ, зосереджуючись на освіті інших практиків щодо його використання у клінічному середовищі та створенні керівних принципів щодо того, як рухатися вперед відповідально, щоб вигідно використовувати всіх пацієнтів.

ЗМІ

PwC оцінює, що ШІ забезпечить 15,7 трильйонів доларів глобального економічного зростання до 2030 року, але за даними Salesforce менше половини (48%) клієнтів довіряють компаніям використовувати ШІ етично, а 65% стурбовані неетичним використанням ШІ. На перетині прибутку та довіри знаходяться медійні компанії – ранні приймачі з величезним охопленням та впливом. І є занепокоєння щодо того факту, що ШІ не є “встановіть і забудьте” застосуванням, тобто для медійних компаній їхня відповідальність полягає не лише у виробництві контенту, а й у його постійному моніторингу після розгортання.

Як реклама подається та персоналізується? Як контент досягає певної аудиторії, а що є повідомленням? Хто вчить ШІ “як” вчитися? І як можна націлюватися на конкретних споживачів, одночасно поважаючи приватність? Це лише деякі питання, які турбують медійні компанії, коли вони балансують етику з отриманням конкурентної переваги.

Відповідь на відповідальність

Прогрес у розвитку відповідального ШІ є очевидним щодня – законодавці розробляють нормативні акти, споживачі вимагають більшої прозорості, а багато компаній створили спеціальні відділи, які забезпечують відповідальне використання ШІ. Компаніям потрібна чітко визначена структура відповідального ШІ, яка охоплює етику, прозорість, підзвітність, справедливість, приватність та безпеку. Коли тривають дебати та реформи, недавнє спільне дослідження MIT Sloan Management Review та Boston Consulting Group пропонує деякі загальні рекомендації – вони написали, “Якщо ви хочете бути відповідальним лідером ШІ, зосередьтеся на тому, щоб бути відповідальною компанією”. Як дебати та реформи продовжуються, recentне спільне дослідження MIT Sloan Management Review та Boston Consulting Group пропонує деякі загальні рекомендації – вони написали, “Якщо ви хочете бути відповідальним лідером ШІ, зосередьтеся на тому, щоб бути відповідальною компанією.”