Перемістіться швидко, але не ламайте нічого: Як збалансувати відповідальну адоптацію штучного інтелекту та інновації

За даними недавнього глобального опитування компанії McKinsey, хоча 78% організацій зараз використовують штучний інтелект принаймні в одній бізнес-функції, лише 13% найняли спеціалістів з відповідального використання штучного інтелекту, а лише 6% мають спеціалістів з етики штучного інтелекту.

Це, чесно кажучи, безвідповідальне поведінка.

Хоча в минулому я був великим прихильником етосу «перемістіться швидко та ламайте речі» в долині Силіконової, ми не можемо дозволити собі бути такими безтурботними з штучним інтелектом – технологією, яка є більш потужною, ніж все, що ми бачили раніше, і зростає з величезною швидкістю.

Адоптація штучного інтелекту без будь-яких значимих обмежень є саме тим швидким рухом та обхідним шляхом, який гарантовано в кінцевому підсумку призведе до негативних наслідків та ризикує все зламати. Досить лише одного інциденту з упередженим штучним інтелектом або його неправильним використанням, щоб зруйнувати роки будівництва репутації бренду.

І хоча багато CIO та CTO знають про ці ризики, вони, здається, діють під припущенням, що регулятори в кінцевому підсумку втруться та врятують їх від створення власних рамок, що призводить до великої кількості розмов про ризики з дуже мало фактичної нагляду.

Хоча я не сумніваюсь, що регуляції в кінцевому підсумку з’являться, я менш впевнений, що вони будуть встановлені в найближчий час. Чат-бот ChatGPT був представлений приблизно три роки тому, і ми тільки зараз починаємо бачити речі, такі як засідання Сенату щодо безпеки чат-ботів. Реальність полягає в тому, що це може зайняти роки, перш ніж ми побачимо будь-які значимі регуляції.

Натомість ніж використовувати це як виправдання для зволікання з внутрішнім наглядом, це повинно спонукати компанії до більш активного підходу. Особливо якщо врахувати, що коли регуляції нарешті з’являться, компанії без власних рамок будуть спішно адаптувати свою діяльність до вимог законодавства. Це було саме те, що відбулося, коли були прийняті GDPR та CCPA.

Так само, як стартапи початку 2000-х років, які зараз є великими корпоративними технологічними гігантами, повинні відповідати вищим стандартам, ми колективно повинні дорослішати в нашому підході до відповідальності за штучний інтелект.

Не існує «купіть зараз, сплатіть пізніше» для відповідальних розгортань штучного інтелекту – почніть зараз

Перший крок до більш відповідального підходу до штучного інтелекту полягає в тому, щоб перестати чекати на регулятори та встановити власні правила. Будь-яка перевага, яку ви думаєте, що отримуєте, уникаючи заходи безпеки сьогодні, лише повернеться до вас в майбутньому, коли ви будете змушені проходити дуже дорогий та руйнівний процес адаптації до законодавства.

Очевидно, що для багатьох проблема полягає в тому, щоб знати, з чого почати. Наша компанія недавно провела опитування серед 500 CIO та CTO великих підприємств, і майже половина (48%) назвала «визначення того, що становить відповідальне використання або розгортання штучного інтелекту» однією з проблем забезпечення етичного використання штучного інтелекту.

Одним з простих місць для початку є розширення фокусу за межі можливостей, які забезпечує штучний інтелект, та розглянення можливих ризиків. Наприклад, хоча використання штучного інтелекту може заощадити час працівників, воно також відкриває можливість великої кількості особистих даних (PII) або комерційних секретів, які можуть бути поділені з незатвердженими та не затвердженими моделями.

Будь-яка цифрова компанія сьогодні знайома з життєвим циклом розробки програмного забезпечення (SDLC), який забезпечує рамки для будівництва якісних продуктів. Найкращі практики нагляду за штучним інтелектом повинні бути вбудовані в цю щоденну роботу, щоб забезпечити, що відповідальне прийняття рішень стає частиною звичайної діяльності, а не післяthought.

Регуляторний орган, такий як комітет з етики або наглядової ради, повинен бути створений для визначення стандартів того, як застосування штучного інтелекту виглядає всередині організації, та визначення метрик для моніторингу та підтримання цього стандарту. Функціонально це виглядає як інструменти штучного інтелекту та нагляд за моделями, затвердження рішень, управління ризиками, відповідність законодавству та стандартам, а також прозора комунікація. Хоча це технічно може бути «новим» процесом, воно не дуже відрізняється від найкращих практик роботи з даними та підтримання кібербезпеки та може бути автоматизовано для забезпечення раннього виявлення будь-яких проблем.

Очевидно, що не всі ризики вимагають такого самого рівня уваги, тому також важливо розробити процес управління ризиками, щоб ваша команда могла зосередитися на тому, що було визначено як високий пріоритет.

Нарешті, і найголовніше, прозора комунікація щодо практик нагляду як всередині компанії, так і зовні є найважливішими. Це включає в себе підтримання живих документів для стандартів нагляду та надання постійного навчання для оновлення команд.

Перестаньте вважати нагляд загрозою інноваціям

Це цілком можливо, що справжня загроза для відповідального штучного інтелекту є переконанням, що нагляд і інновації є взаємовиключними.

Нагляд повинен бути розглянутий як стратегічний партнер, а не як якийсь засіб гальмування інновацій.

Одна з причин, чому нагляд розглядається як сила тертя, яка сповільнює розвиток, полягає в тому, що його часто залишають на кінці процесу розробки продукту, але обмеження повинні бути частиною процесу. Як згадувалося вище, нагляд може бути вбудований у цикли спринту, щоб команда продукту могла рухатися швидко, тоді як автоматичні перевірки на справедливість, упередженість та відповідність законодавству проводяться паралельно. В довгостроковій перспективі це окупиться, оскільки клієнти, працівники та регулятори відчувають більшу впевненість, коли бачать відповідальність, закладену з самого початку.

І це було доведено дослідженнями. Дослідження показало, що організації з добре реалізованими рамками нагляду за даними та штучним інтелектом мають покращення фінансових результатів на 21-49%. Недолання встановити ці рамки також має свої власні наслідки. Згідно з тим же дослідженням, до 2027 року більшість організацій (60%) «не зможуть реалізувати очікувану вартість своїх випадків використання штучного інтелекту через несуцільні рамки етичного нагляду».

Виняток з аргументу, що нагляд не повинен відбуватися за рахунок інновацій, полягає в тому, що юридичні команди, які беруть участь у цих розмовах, мають тенденцію сповільнювати речі. Однак, на мою думку, створення команди з нагляду, ризиків та відповідності (GRC) значно сприяє тому, щоб все рухалося гладко та швидко, служачи містом між юридичними та продуктовими командами.

Коли команда GRC керується добре, вона будує позитивні відносини з юридичною командою, служачи їхніми очима на місці та забезпечуючи їм необхідні звіти, а також співпрацює з командою розробки для мінімізації майбутніх ризиків судових процесів та штрафів. В кінцевому підсумку це ще більше підтверджує, що інвестиції в нагляд на ранній стадії є найкращим способом забезпечення того, що нагляд не буде заважати інноваціям.

Створіть системи нагляду та управління, які можуть масштабуватися

Незважаючи на те, що багато з опитаних CIO та CTO вважають, що регуляції можуть обмежити інновації, подібна велика кількість (84%) очікує, що їхня компанія збільшить нагляд за штучним інтелектом у найближчі 12 місяців. Враховуючи ймовірність того, що інтеграції штучного інтелекту продовжуватимуть розширюватися та масштабуватися з часом, також важливо, щоб системи нагляду могли масштабуватися разом з ними.

Щось, що я часто бачу на ранніх стадіях реалізації штучного інтелекту в підприємствами, полягає в тому, що різні підрозділи компанії працюють в ізоляції, тобто вони проводять різні розгортання паралельно та з різними баченнями того, що таке «відповідальний штучний інтелект». Для уникнення цих несумісностей компанії повинні створити спеціальний центр досконалості штучного інтелекту, який поєднує технічну, юридичну та бізнес-експертизу.

Центр досконалості штучного інтелекту повинен встановити стандарти компанії та багаторівневі процеси затвердження, де є гладкий перехід для випадків низького ризику. Це підтримує швидкість, а також забезпечує, що розгортання з високим ризиком проходять через більш офіційні перевірки безпеки. Аналогічно, центр досконалості повинен встановити показники безпеки штучного інтелекту для топ-менеджерів, щоб відповідальність не загубилася в щоденних бізнес-функціях.

Але щоб зробити це реальністю, виконавцям потрібно покращити видимість індикаторів нагляду. Панелі, які забезпечують дані в режимі реального часу про ці індикатори, були б значно більш ефективними, ніж поточна норма статичних звітів про відповідність, які стають застарілими та часто залишаються непрочитаними. Ідеально було б, якщо компанії також створювали реєстри ризиків штучного інтелекту, так само, як вони вже відстежують ризики кібербезпеки, а також зберігали аудитні сліди, які відображають, хто створив реалізацію ML/ШІ, як вона була протестована та як вона працює з часом.

Найважливіше, що потрібно пам’ятати, полягає в тому, що відповідальний штучний інтелект вимагає, щоб нагляд був постійним процесом. Це не лише питання затвердження на етапі запуску, а й постійного моніторингу протягом всього життєвого циклу моделі. Отже, навчання є ключовим. Розробники, технологи та бізнес-лідери повинні бути навчені відповідальним практикам штучного інтелекту, щоб вони могли виявити проблеми на ранній стадії та підтримувати високі стандарти нагляду, коли системи еволюціонують. Завдяки цьому розгортання штучного інтелекту будуть більш надійними, ефективними та прибутковими – без необхідності ламати щось у процесі.