Чому GenAI застряє без сильного управління

Когда компанії намагаються перевести проекти Generative AI з експериментального етапу до етапу виробництва – багато бізнесів залишаються застряглими на пілотному етапі. Як підкреслює наше недавнє дослідження, 92% організацій стурбовані тим, що пілотні проекти GenAI прискорюються, не вирішуючи фундаментальні проблеми з даними. Ще більш показово: 67% не змогли масштабувати навіть половину своїх пілотних проектів до виробництва. Ця виробнича прогалина менше пов’язана з технологічною зрілістю, а більше з готовністю основних даних. Потенціал GenAI залежить від сили ґрунту, на якому він стоїть. І сьогодні, для більшості організацій, цей ґрунт найкраще описується як хиткий.

Чому GenAI застряє на пілотному етапі

Хоча рішення GenAI, безумовно, могутні, вони ефективні лише наскільки ефективні дані, які їх годують. Старий вислів “сміття в, сміття out” сьогодні правдивіший, ніж будь-коли. Без довірчих, повних, уповноважених і пояснюваних даних моделі GenAI часто дають результати, які є неточними, упередженими або непридатними для мети.

На жаль, організації поспішали розгортати низькозатратні випадки використання, наприклад, чат-боти, що пропонують персоналізовані відповіді з різних внутрішніх документів. І хоча вони дещо покращують досвід клієнтів, вони не вимагають глибоких змін у даних інфраструктури компанії. Але для стратегічного масштабування GenAI, наприклад, у сфері охорони здоров’я, фінансових послуг або автоматизації ланцюгів постачання, потрібно інший рівень зрілості даних.

Фактично, 56% керівників даних називають надійність даних ключевим бар’єром для розгортання ІІ. Інші проблеми – це неповні дані (53%), питання конфіденційності (50%) та більші пробіли у управлінні ІІ (36%).

Немає управління, немає GenAI

Щоб перевести GenAI за межі пілотного етапу, компанії повинні розглядати управління даними як стратегічну необхідність для свого бізнесу. Вони повинні забезпечити, щоб дані були достатньо хороші для живлення моделей ІІ, і для цього потрібно відповісти на наступні питання:

• Чи походять дані, використані для навчання моделі, з правильних систем?
• Чи видалено особисту ідентифікаційну інформацію та дотримано всіх правил даних та конфіденційності?
• Чи є прозорість, і чи можна довести походження даних, які використовує модель?
• Чи можна задокументувати процеси даних і бути готовим показати, що дані не містять упереджень?

Управління даними також повинно бути вбудовано в культуру організації. Для цього потрібно будувати грамотність ІІ по всіх командах. Закон ЄС про ІІ формалізує цю відповідальність, вимагаючи від постачальників та користувачів систем ІІ докладати зусиль, щоб працівники мали достатню грамотність ІІ, щоб розуміти, як працюють ці системи та як їх використовувати відповідально. Однак ефективне впровадження ІІ виходить за рамки технічних знань. Воно також вимагає сильної основи у навичках роботи з даними, від розуміння управління даними до формулювання аналітичних питань. Розгляд грамотності ІІ в ізоляції від грамотності даних був би короткозорим, враховуючи, як тісно вони пов’язані.

У питаннях управління даними ще є робота, яку потрібно зробити. Серед бізнесів, які хочуть збільшити свої інвестиції в управління даними, 47% погоджуються, що відсутність грамотності даних є одним із основних бар’єрів. Це підкреслює необхідність будівництва високорівневої підтримки та розвитку правильних навичок по всій організації. Без цих основ навіть найпотужніші моделі ІІ будуть боротися за надання результатів.

Розробка ІІ, яка повинна бути відповідальною

У сучасному регуляторному середовищі вже недостатньо, щоб ІІ просто “працювала”, вона також повинна бути прозорою та пояснюваною. Закон ЄС про ІІ та запропонований урядом Великої Британії план дій ІІ вимагають прозорості у високоризикових випадках використання ІІ. Інші країни слідують цьому прикладу, і більше 1 000 пов’язаних законопроєктів знаходяться в порядку денному в 69 країнах.

Цей глобальний рух до відповідальності є прямим результатом зростаючих вимог споживачів та зацікавлених сторін щодо справедливості алгоритмів. Наприклад, організаціям потрібно буде сказати причини, чому клієнту було відмовлено у кредіті або встановлено преміальну ставку страхування. Щоб це зробити, їм потрібно буде знати, як модель прийняла це рішення, а це залежить від наявності ясної, аудиторської трасування даних, які були використані для навчання.

Якщо немає пояснюваності, бізнес ризикує втрачати довіру клієнтів, а також зазнає фінансових та юридичних наслідків. Як наслідок, трасування походження даних і виправдання результатів не є “бажаним”, а вимогою з боку законодавства.

І коли GenAI розширюється за межі простих інструментів до повноцінних агентів, які можуть приймати рішення та діяти відповідно, ставки для сильного управління даними зростають ще вище.

Кроки для побудови довірчих ІІ

Отже, що таке добре? Щоб масштабувати GenAI відповідально, організації повинні прагнути прийняти єдину стратегію даних по трьох напрямках:

• Приспособити ІІ до бізнесу: Каталогізувати дані навколо ключових бізнес-цілей, забезпечуючи, щоб вони відображали унікальний контекст, виклики та можливості, специфічні для вашого бізнесу.
• Установити довіру до ІІ: Установити політики, стандарти та процеси для дотримання законодавства та нагляду за етичним та відповідальним розгортанням ІІ.
• Побудувати дані ІІ-готові потоки: Об’єднати різноманітні джерела даних у стійку основу даних для надійного живлення ІІ, вбудовуючи заздалегідь побудовану підключення GenAI.

Когда організації роблять це правильно, управління прискорює значення ІІ. Наприклад, у фінансових послугах хедж-фонди використовують ген ІІ для перевершення людських аналітиків у прогнозуванні ціни акцій при одночасному значному зниженні витрат. У виробництві оптимізація ланцюгів постачання, керованих ІІ, дозволяє організаціям реагувати в реальному часі на геополітичні зміни та екологічний тиск.

І ці не просто футуристичні ідеї, вони відбуваються зараз, керуючись довірчими даними.

З сильними основами даних компанії зменшують дрейф моделі, обмежують цикли повторного навчання та збільшують швидкість отримання цінності. Тому управління не є бар’єром; воно є засобом для інновацій.

Що далі?

Після експериментів організації переходять за межі чат-ботів та інвестують у трансформаційні можливості. Від персоналізації взаємодій з клієнтами до прискорення медичних досліджень, поліпшення психічного здоров’я та спрощення регуляторних процесів, GenAI починає демонструвати свій потенціал у різних галузях.

Однак ці здобутки залежать цілком від даних, які їх підтримують. GenAI починається з побудови сильної основи даних через сильне управління даними. І хоча GenAI та агентська ІІ продовжуватимуть еволюціонувати, вони не замінять людський нагляд у найближчому майбутньому. Натомість ми вступаємо в фазу структурованого створення цінності, де ІІ стає надійним співпілотом. З правильними інвестиціями у якість даних, управління та культуру, бізнес може нарешті перетворити GenAI з перспективного пілотного проекту у щось, що повністю злітає з землі.