Чому GenAI зупиняється без сильного управління

Оскільки компанії намагаються перевести проекти генеративного штучного інтелекту з експериментального етапу у виробничий, багато підприємств залишаються в пілотному режимі. Як показує наше нещодавнє дослідження. 92% організацій стурбовані тим, що пілотні проекти GenAI прискорюються без попереднього вирішення фундаментальних проблем з даними.Ще більш показово: 67% не змогли масштабувати навіть половину своїх пілотних проектів до виробничого рівня. Цей розрив у виробництві менше пов'язаний з технологічною зрілістю, а більше з готовністю базових даних. Потенціал GenAI залежить від міцності ґрунту, на якому він стоїть. А сьогодні для більшості організацій цей ґрунт у кращому випадку хиткий.

Чому GenAI застряг у пілотному проекті

Хоча рішення GenAI, безумовно, потужні, вони ефективні лише настільки, наскільки ефективні дані, які їх живлять. Старе прислів'я «сміття на вході — сміття на виході» сьогодні актуальніше, ніж будь-коли. Без достовірних, повних, справедливих та пояснень даних моделі GenAI часто дають результати, які є неточними, упередженими або непридатними для використання.

На жаль, організації поспішили впроваджувати малозабезпечені сценарії використання, такі як чат-боти на базі штучного інтелекту, що пропонують персоналізовані відповіді з різних внутрішніх документів. І хоча це певною мірою покращує взаємодію з клієнтами, вони не вимагають суттєвих змін в інфраструктурі даних компанії. Але для стратегічного масштабування GenAI, будь то в охороні здоров'я, фінансових послугах чи автоматизації ланцюгів поставок, потрібен інший рівень зрілості даних.

Насправді, 56% директорів з обробки даних називають надійність даних ключовою перешкодою для впровадження штучного інтелекту.Інші проблеми включають неповні дані (53%), проблеми конфіденційності (50%) та значніші прогалини в управлінні штучним інтелектом (36%).

Ні управління, ні GenAI

Щоб вивести GenAI за межі пілотної стадії, компанії повинні ставитися до управління даними як до стратегічного імперативу для свого бізнесу. Їм потрібно переконатися, що дані відповідають завданням, необхідним для живлення моделей штучного інтелекту, і для цього необхідно вирішити такі питання:

• Чи дані, що використовуються для навчання моделі, надходять з правильних систем?
• Чи видалили ми особисту інформацію та дотрималися всіх правил щодо даних та конфіденційності?
• Чи прозорі ми, і чи можемо ми довести походження даних, що використовуються моделлю?
• Чи можемо ми задокументувати наші процеси обробки даних та бути готовими продемонструвати, що дані не мають упередженості?

Управління даними також має бути вбудованим у культуру організації. Для цього необхідно розвивати грамотність у сфері ШІ у всіх командах. Закон ЄС про ШІ формалізує цю відповідальність, вимагаючи від постачальників і користувачів систем ШІ докласти всіх зусиль для забезпечення достатньої грамотності співробітників у сфері ШІ, переконавшись, що вони розуміють, як працюють ці системи та як відповідально їх використовувати. Однак ефективне впровадження ШІ виходить за рамки технічних знань. Воно також вимагає міцної основи навичок роботи з даними, від розуміння управління даними до формулювання аналітичних питань. Розгляд грамотності у сфері ШІ окремо від грамотності у сфері даних був би недалекоглядним, враховуючи те, наскільки тісно вони взаємопов'язані.

Що стосується управління даними, то ще є над чим працювати. Серед компаній, які хочуть збільшити свої інвестиції в управління даними, 47% погоджуються, що брак грамотності в роботі з даними є головною перешкодоюЦе підкреслює необхідність побудови підтримки на вищому рівні та розвитку необхідних навичок в організації, що має вирішальне значення. Без цих основ навіть найпотужніші програми магістра права (LLM) матимуть труднощі з досягненням результатів.

Розробка штучного інтелекту, який має нести відповідальність

У нинішньому регуляторному середовищі вже недостатньо, щоб ШІ «просто працював», його також потрібно підзвітувати та пояснювати. Закон ЄС про ШІ і запропонований Великою Британією План дій ШІ вимагає прозорості у випадках використання ШІ з високим рівнем ризику. Інші наслідують цей приклад, і Понад 1,000 пов'язаних законопроектів з питань політики стоять на порядку денному у 69 країнах.

Цей глобальний рух до підзвітності є прямим результатом зростання вимог споживачів та зацікавлених сторін щодо справедливості в алгоритмах. Наприклад, організації повинні мати можливість назвати причини, чому клієнту було відмовлено в кредиті або стягнуто страхову премію. Для цього їм потрібно знати, як модель прийняла це рішення, а це, у свою чергу, залежить від наявності чіткого, аудиторського сліду даних, які використовувалися для її навчання.

Якщо немає можливості пояснення, бізнес ризикує втратити довіру клієнтів, а також зіткнутися з фінансовими та юридичними наслідками. Як наслідок, відстеження походження даних та обґрунтування результатів — це не «приємна річ», а вимога дотримання вимог.

І оскільки GenAI розширюється від використання як простих інструментів до повноцінних агентів, які можуть приймати рішення та діяти відповідно до них, ставки на надійне управління даними ще більше зростають.

Кроки для створення надійного штучного інтелекту

Отже, як виглядає якість? Щоб масштабувати GenAI відповідально, організації повинні прагнути прийняти єдину стратегію даних, що охоплює три основні напрямки:

• Адаптуйте ШІ до бізнесуКаталогізуйте свої дані навколо ключових бізнес-цілей, гарантуючи, що вони відображають унікальний контекст, виклики та можливості, характерні для вашого бізнесу.
• Встановлення довіри до штучного інтелектуВстановити політики, стандарти та процеси для дотримання вимог та нагляду за етичним та відповідальним розгортанням штучного інтелекту.
• Створюйте конвеєри, готові до роботи зі штучним інтелектом (ШІ)Об’єднайте різноманітні джерела даних у стійку основу даних для надійного штучного інтелекту з попередньо вбудованим підключенням GenAI.

Коли організації роблять це правильно, управління прискорює зростання цінності штучного інтелекту. Наприклад, у сфері фінансових послуг хедж-фонди... використання штучного інтелекту покоління для перевершування аналітиків-людей у ​​прогнозуванні цін на акції водночас значно знижуючи витрати. У виробництві оптимізація ланцюга поставок за допомогою штучного інтелекту дозволяє організаціям реагувати в режимі реального часу на геополітичні зміни та тиск на навколишнє середовище.

І це не просто футуристичні ідеї, вони втілюються в життя вже зараз, завдяки достовірним даним.

Завдяки міцній основі даних компанії зменшують відхилення моделей, обмежують цикли перенавчання та збільшують швидкість досягнення цінності. Ось чому управління не є перешкодою, а рушійною силою інновацій.

Що далі?

Після експериментів організації виходять за рамки чат-ботів та інвестують у трансформаційні можливості. Від персоналізації взаємодії з клієнтами до прискорення медичних досліджень, поліпшення психічного здоров'я та спрощуючи регуляторні процеси, GenAI починає демонструвати свій потенціал у різних галузях.

Однак ці здобутки повністю залежать від даних, що лежать в їх основі. GenAI починається зі створення міцної бази даних через надійне управління даними. І хоча GenAI та агентний ШІ продовжуватимуть розвиватися, вони не замінять людський нагляд найближчим часом. Натомість ми вступаємо у фазу створення структурованої цінності, де ШІ стає надійним другим пілотом. Завдяки правильним інвестиціям у якість даних, управління та культуру, бізнес нарешті може перетворити GenAI з перспективного пілотного проекту на щось, що повністю зможе запуститися в життя.