У 2022 році компанії мали в середньому 3,8 моделей ІІ у виробництві. Сьогодні сім із десяти компаній експериментують з генеративним ІІ, що означає, що кількість моделей ІІ у виробництві стрімко зростатиме у найближчі роки. В результаті промислові обговорення навколо відповідального ІІ набули більшої актуальності.

Добра новина полягає в тому, що понад половина організацій вже відстоюють етику ІІ. Однак лише близько 20% реалізували комплексні програми з рамками, управлінням та захистом для нагляду за розробкою моделей ІІ та активного виявлення та пом’якшення ризиків. У зв’язку з швидким темпом розвитку ІІ лідери повинні рухатися вперед зараз, щоб реалізувати рамки та зрілі процеси. Регуляторні акти по всьому світу вже приймаються, і вже одна з двох організацій мала невдачу з відповідальним ІІ.

Виклики реалізації відповідального ІІ

Відповідальне ІІ охоплює до 20 різних бізнес-функцій, що збільшує складність процесів та прийняття рішень. Команди відповідального ІІ повинні працювати з ключовими зацікавленими сторонами, включаючи керівництво; власників бізнесу; команди даних, ІІ та ІТ; та партнерів, щоб:

• Створити рішення ІІ, які є справедливими та вільними від упередженості: Команди та партнери можуть використовувати різні техніки, такі як дослідницький аналіз даних, для виявлення та пом’якшення потенційних упереджень до розробки рішень – таким чином, моделі будуються з урахуванням справедливості з самого початку. Команди та партнери також можуть переглянути дані, використані на етапах попередньої обробки, проектування алгоритмів та після обробки, щоб забезпечити, що вони є репрезентативними та збалансованими. Крім того, вони можуть використовувати техніки справедливості групи та окремих осіб, щоб забезпечити, що алгоритми справедливо ставляться до різних груп та осіб. І підходи контрфактичної справедливості моделюють результати, якщо певні фактори змінені, що допомагає виявити та звернути увагу на упередженість.
• Продвигати прозорість та пояснюваність ІІ: Прозорість ІІ означає, що легко зрозуміти, як працюють моделі ІІ та приймають рішення. Пояснюваність означає, що ці рішення можна легко передати іншим у не-технічних термінах. Використання загальних термінів, проведення регулярних обговорень з зацікавленими сторонами та створення культури осведомленості та безперервного навчання ІІ можуть допомогти досягти цих цілей.
• Забезпечити конфіденційність та безпеку даних: Моделі ІІ використовують величезні об’єми даних. Компанії використовують перші та треті дані для живлення моделей. Вони також використовують техніки навчання, що зберігають конфіденційність, такі як створення синтетичних даних для подолання проблем розрідженості. Лідери та команди будуть хотіти переглянути та розвинути заходи безпеки даних, щоб забезпечити, що конфіденційні та чутливі дані все ще захищені під час їх використання новими способами. Наприклад, синтетичні дані повинні імітувати ключові характеристики клієнтів, але не бути відстежуваними до окремих осіб.
• Реалізувати управління: Управління буде варіюватися залежно від корпоративної зрілості ІІ. Однак компанії повинні встановити принципи та політики ІІ з самого початку. По мірі зростання використання моделей ІІ вони можуть призначити офіцерів ІІ; реалізувати рамки; створити механізми відповідальності та звітності; та розвинути програми зворотного зв’язку та безперервного покращення.

Критичні фактори програми відповідального ІІ

Що відрізняє компанії, які є лідерами відповідального ІІ, від інших? Вони:

• Створити бачення та цілі для ІІ: Лідери спілкуються своїм баченням та цілями для ІІ та тим, як воно приносить користь компанії, клієнтам та суспільству.
• Встановити очікування: Старші лідери встановлюють правильні очікування з командами для створення рішень відповідального ІІ з самого початку, а не намагатися адаптувати рішення після їх завершення.
• Реалізувати рамку та процеси: Партнери надають рамки відповідального ІІ з прозорими процесами та захистом. Наприклад, перевірки конфіденційності даних, справедливості та упередженості повинні бути закладені на етапі підготовки даних, розробки моделі та постійного моніторингу.
• Отримати доступ до галузевих, промислових та навичок ІІ: Команди хочуть прискорити інновації рішень ІІ, щоб збільшити конкурентоспроможність бізнесу. Вони можуть звернутися до партнерів за відповідними галузевими та промисловими навичками, такими як розробка та виконання стратегії даних та ІІ, поєднана з аналітикою клієнтів, технологією маркетингу, ланцюгом постачання та іншими можливостями. Партнери також можуть надати повний спектр навичок ІІ, включаючи інженерію, розробку, операції та інженерні можливості великих мовних моделей, використовуючи рамки та процеси відповідального ІІ для проектування, розробки, операціоналізації та промислової реалізації рішень.
• Отримати доступ до прискорювачів: Партнери пропонують доступ до екосистеми ІІ, що скорочує час розробки пілотних проектів традиційного та генеративного ІІ на 50%. Підприємства отримують вертикальні рішення, які збільшують їхню конкурентоспроможність на ринку.
• Забезпечити прийняття командами та відповідальність: Команди підприємств та партнерів проходять навчання з нових політик та процесів. Крім того, підприємства проводять аудит команд за дотриманням ключових політик.
• Використати правильні метрики для кількісної оцінки результатів: Лідери та команди використовують бенчмарки та інші метрики для демонстрації того, як відповідальне ІІ приносить бізнес-користь, щоб підтримувати високий рівень залучення зацікавлених сторін.
• Моніторити системи ІІ: Партнери надають послуги з моніторингу моделей, що вирішують проблеми проактивно та забезпечують надійність результатів.

План відповідального ІІ зараз

Якщо ваша компанія прискорює інновації ІІ, вам, ймовірно, потрібна програма відповідального ІІ. Перейдіть проактивно, щоб зменшити ризики, зрілі програми та процеси та продемонструвати відповідальність перед зацікавленими сторонами.

Партнер може надати необхідні навички, рамки, інструменти та партнерства, щоб розблокувати бізнес-користь відповідального ІІ. Розгорніть моделі, які є справедливими та вільними від упередженості, впровадьте контроль та збільшіть відповідність вимогам компанії, готуючись до майбутніх регуляторних актів.