Корпоративний ШІ залежить від даних, яким можна довіряти

У 2025 році компанії інвестували приблизно $30 мільярдів‑$40 мільярдів у генеративний ШІ, проте проект MIT NANDA виявив, що лише 5 відсотків з понад 300 корпоративних впроваджень які він дослідив приносили вимірювані фінансові результати.

Я працював у корпоративних програмах управління даними понад 25 років. Ще до того, як генеративний ШІ з’явився в обговоренні, я бачив, як швидко технології втрачають довіру, коли люди не можуть покластися на дані, що їх підкріплюють. Генеративний ШІ підвищує ставки, бо може перетворити сумнівні дані на впевнену відповідь.

Колись ми казали «сміття на вході — сміття на виході». Тепер це «сміття на вході — катастрофа на виході». Коли дані виглядали підозріло, людина могла використати власний суд і звернутися до спеціаліста з даних. Спеціаліст проводив аналіз кореневих причин, визначав проблему і застосовував виправлення. Сьогодні агенти можуть діяти на будь‑яких даних, які вони зустрічають. Без обізнаного людського контролю результат може стати частиною операцій, використаним у рішеннях і масштабуватись по всій організації.

Ту ж проблему можна спостерігати в чат‑боті. Пропуск управління може перетворити погані або недостатньо зрозумілі дані на відповідь, що звучить авторитетно, миттєво і в масштабі.

Довіра — справжнє перепоно для впровадження

Коли внутрішній чат‑бот дає комусь впевнену, але неправильну відповідь, ця людина може більше не довіряти йому. У великій організації ШІ також знайде дані, які ви б хотіли, щоб він не знаходив. Я порівнюю це з брудними шкарпетками під ліжком: ці дані можуть бути поза полем зору, але ШІ їх знайде і використає.

Контекст має подорожувати разом із даними і бути фундаментом, на якому спираються великі мовні моделі. Перш ніж модель ШІ використає дані, люди повинні знати, що вони означають, звідки вони походять, хто є їх власником і які бізнес‑правила та політики їх оточують.

Керівництво може це пропустити, бо система рідко падає. ШІ може бути впевнено неправильним; він може, наприклад, запропонувати клей для вашої піци (очень старий приклад). Уявіть чат‑бот, який дає впевнену, але неправильну відповідь, і працівники втрачають довіру до нього. Відновлення цієї довіри займає набагато більше часу, ніж встановлення правильних контролів заздалегідь.

Це руйнування проявляється і в даних. Співробітники більш ніж у 90 відсотках компаній які вивчало MIT продовжують використовувати особисті інструменти ШІ поза офісом, навіть після того, як офіційний пілот, створений їхнім роботодавцем, не здобув їхньої довіри. Коли затверджений інструмент не завоював довіру, співробітники шукають інший спосіб виконати роботу.

Багато досліджень ШІ цього року вказують на ту ж проблему: організації рухаються вперед з ШІ, не підготувавши дані до довірливості. За оцінками Gartner майже дві третини організацій або не мають належних практик управління даними для ШІ, або не впевнені, чи вони їх мають. Окреме дослідження IDC виявило подібний розрив у довірі: 78 відсотків організацій стверджують, що повністю довіряють своєму ШІ, але лише 40 відсотків фактично інвестували в управління та пояснювальну роботу, яка могла б виправдати цю довіру.

Невідповідність між впевненістю та інвестиціями допомагає пояснити, чому так багато ініціатив ШІ зупиняються до того, як досягнуть виробництва, або не відповідають запланованій цінності.

Управління ШІ тепер — конкурентна перевага

Більшу частину моєї кар’єри управління даними вважалося однією з найменш гламурних частин корпоративного ІТ. Каталогізація метаданих,, визначення власності, профілювання даних і управління робочими процесами могли виглядати як прибирання. Люди часто пропускали це, бо зусилля здавалися більшими, ніж цінність, яку вони створювали.

ШІ змінив це. Він стає можливістю управління в таких сферах, як розробка схематичних моделей даних, створення галузевих глосаріїв і рекомендація та активація політик даних. Навіть лінійність даних тепер можна вивести і оптимізувати швидше, ніж раніше, що полегшує отримання вартості від керованих конвеєрів даних та спостережуваності.

Регулювання також підвищує терміновість прозорості даних. EU AI Act став широко застосовним 2 серпня 2026 року, включаючи правила прозорості для певних систем і контенту, створеного ШІ. Акт також встановлює окремі вимоги для високоризикових систем, включаючи документацію та інформацію, що допомагає розгортальникам інтерпретувати їхні результати, хоча деякі положення щодо високих ризиків будуть впроваджені пізніше.

Для компаній практичний урок простий: чітка лінійність і управління спрощують документування того, які дані були використані, звідки вони походять і як система має функціонувати.

Регулятивна картина в США залишається невизначеною. Без комплексного федерального закону про ШІ компанії змушені орієнтуватися у різних вимогах штатів, навіть коли Білий дім намагається обмежити можливість штатів створювати та впроваджувати власні правила ШІ. AI Act Колорадо, найповніша державна рамка, вже була відкладена і переписана один раз у цьому конфлікті, а її основні зобов’язання перенесено на 2027 рік. Для багатьох американських компаній спокуса полягає в тому, щоб зачекати, доки невизначеність розсіється.

Я стверджую, що це неправильний інстинкт. Яка б модель регулювання не перемогла в США, базова вимога не зникне. Знайте, звідки ваші дані походять. Знайте, чи хтось їх фактично верифікував перед тим, як ШІ їх використав. Розвиток цієї дисципліни зараз допоможе компаніям підготуватися до нових правил і перетворити перспективні пілотні проєкти ШІ у інструменти, які бізнес може використовувати з упевненістю.

Що відрізняє 5 %

Дозвольте розповісти про одного клієнта. Їхня команда головної бухгалтерії мусила переглядати 300 окремих електронних таблиць щоразу, коли в книгах з’являлася розбіжність. Триста. Хтось нарешті перетворив цей хаос у єдиний керований актив даних, включивши розрахунки, звіти та базові дані в один пакет, перевірений заздалегідь. Наступного разу, коли виникла проблема, виправлення зайняло лише частину зусиль, які раніше вимагалися. Само по собі цей процес зекономив приблизно 750 днів праці. Це мільйони доларів економії лише за рахунок очищення.

Покращення стало можливим завдяки тому, що правильні дані стали легкодоступними та достатньо надійними, щоб їх можна було використовувати без сумнівів. Спільна робота та повторне використання це забезпечили. Довіра до продуктів даних може бути узгоджена зі стандартами корпорації, розширена та оновлена з часом, оцінена за рівнем довіри та керована за цінністю. Такий підхід зменшує потребу у створенні сотень чи тисяч продуктів, прив’язаних до окремих фізичних таблиць баз даних.

Сильні програми роблять цю довіру видимою. У маркетплейсах даних, з якими я працюю, активи можуть бути класифіковані як золоті, срібні або бронзові за такими факторами, як якість, кураторство, використання та власність. Бізнес‑користувач може побачити, наскільки надійний актив, перед його використанням. Така прозорість допомагає людям припинити гадати і робить їх більш схильними повторно використовувати вже існуючі дані.

Показник у 95 відсотків — це попередження про те, наскільки випадково багато компаній ставилися до даних, що стоять за генеративним ШІ. Організації, які досягають прогресу, дають людям чітке уявлення про те, звідки їхні дані походять, як вони були верифіковані і чи підходять вони для конкретного завдання. Після багатьох років, коли управління даними розглядалося як фонове завдання, ШІ нарешті робить їхню цінність видимою.