ШІ для підприємств залежить від даних, яким можна довіряти

У 2025 році компанії інвестували приблизно від 30 до 40 мільярдів доларів у генеративний ШІ, проте проект NANDA Массачусетського технологічного інституту виявив, що лише 5 % з понад 300 впроваджень у підприємствах він дослідив, які приносили вимірювані фінансові результати.

Я працював у програмах управління даними підприємств понад 25 років. Ще задовго до того, як генеративний ШІ з’явився в обговоренні, я бачив, як швидко технології втрачають довіру, коли люди не можуть покладатися на дані, що їх стоять. Генеративний ШІ підвищує ставки, оскільки може перетворювати сумнівні дані на впевнену відповідь.

Раніше ми казали «сміття на вході — сміття на виході». Тепер це «сміття на вході — катастрофа на виході». Коли дані виглядали підозріло, людина могла використати власний розсуд і звернутися до спеціаліста з даних. Спеціаліст проводив аналіз причин, виявляв проблему та застосовував виправлення. Сьогодні агенти можуть діяти з будь-якими даними, які вони зустрічають. Без компетентного людського контролю результат може стати частиною операцій, використовуватися у рішеннях і масштабуватися по всій організації.

Ту ж проблему можна спостерігати в чат-боті. Прихована управлінська політика може перетворити погані чи недостатньо зрозумілі дані на відповідь, що звучить авторитетно, одразу і в масштабі.

Довіра — справжнє перепоно впровадження

Коли внутрішній чат-бот дає комусь впевнену, але неправильну відповідь, ця людина може більше не довіряти йому. У великій організації ШІ також знайде дані, які ви б хотіли, щоб він не знаходив. Я порівнюю це з брудними шкарпетками під ліжком: ці дані можуть бути поза полем зору, але ШІ їх знайде і використає.

Контекст має супроводжувати дані і бути фундаментом, на якому базуються великі мовні моделі (LLM). Перш ніж модель ШІ використовує дані, люди повинні знати, що вони означають, звідки вони походять, хто є їх власником і які бізнес‑правила та політики їх оточують.

Керівництво може це пропустити, бо система рідко падає. ШІ може бути впевнено неправильним; він може запропонувати клей для вашої піци (застарілий приклад). Уявіть чат-бот, який дає впевнену, але неправильну відповідь, і працівники перестають йому довіряти. Відновлення цієї довіри займає набагато більше часу, ніж впровадження правильних контролів з самого початку.

Це руйнування проявляється і в даних. Співробітники більш ніж 90 % компаній вивчав MIT продовжують використовувати особисті інструменти ШІ поза офісом, навіть після того, як офіційний пілот, створений їхнім роботодавцем, не здобув їхньої довіри. Коли затверджений інструмент не завоював довіру, співробітники шукають інший спосіб виконати роботу.

Більшість досліджень ШІ цього року вказують на ту ж проблему: організації просуваються вперед з ШІ, не виконавши роботу, необхідну для того, щоб їхні дані були довіреними. за оцінками Gartner, що майже дві третини організацій або не мають належних практик управління даними для ШІ, або не впевнені, чи вони їх мають. Окремі дослідження IDCвиявили подібну прогалину у сфері довіри: 78 % організацій стверджують, що повністю довіряють своєму ШІ, але лише 40 % фактично інвестували в роботу з управління та пояснюваності, яка могла б виправдати цю довіру.

Розбіжність між впевненістю та інвестиціями допомагає пояснити, чому так багато ініціатив ШІ зупиняються до досягнення виробництва або не відповідають запланованій цінності.

Управління ШІ тепер — конкурентна перевага

Більшу частину моєї кар’єри управління даними було однією з найменш привабливих складових корпоративного ІТ. Каталогізація метаданих, визначення власності, профілювання даних та управління робочими процесами могли виглядати як прибиральна робота. Люди часто її оминали, бо зусилля здавалися більшими за отриману цінність.

ШІ змінив це. Він стає можливістю управління у таких сферах, як розробка схем даних, створення галузевих глосаріїв та рекомендація й активація політик даних. Навіть лінійність даних тепер можна виводити та оптимізувати швидше, ніж раніше, що полегшує отримання цінності від керованих конвеєрів даних та їх спостережуваності.

Регулювання також робить прозорість даних більш нагальною. Закон про ШІ ЄС надав широке застосування 2 серпня 2026 року, включаючи правила прозорості для певних систем та контенту, створеного ШІ. Закон також встановлює окремі вимоги для систем високого ризику, включаючи документацію та інформацію, що допомагає розгортальникам інтерпретувати їхні результати, хоча деякі положення щодо високого ризику мають пізніші терміни.

Для компаній практичний висновок простий: чітка лінійність та управління спрощують документування того, які дані були використані, звідки вони походять і як система повинна працювати.

Регуляторна картина у США залишається невизначеною. Без всеосяжного федерального закону про ШІ компанії змушені орієнтуватися у різних вимогах штатів, навіть коли Білий дім намагається обмежити можливість штатів створювати та впроваджувати власні правила ШІ. Закон про ШІ штату Колорадо, найповніша державна нормативна база, вже був один раз відкладений і переписаний у цьому конфлікті, а його ключові зобов’язання перенесені на 2027 рік. Для багатьох американських компаній спокуса полягає в тому, щоб чекати, доки невизначеність не зникне.

Я вважаю, що це неправильний інстинкт. Яка б модель регулювання в США не перемогла, базова вимога не зникне. Знайте, звідки походять ваші дані. Дізнайтеся, чи хтось їх дійсно верифікував до того, як ШІ їх використав. Розвиток цієї дисципліни зараз допоможе компаніям підготуватися до нових правил і перетворити перспективні пілотні проекти ШІ у інструменти, які бізнес може впевнено використовувати.

Що відрізняє 5 %

Дозвольте розповісти про одного клієнта. Їхня команда головної бухгалтерії мусила переглядати 300 окремих електронних таблиць щоразу, коли в книгах з’являлася розбіжність. Триста. Хтось нарешті перетворив цей хаос у єдиний керований актив даних, включивши розрахунки, звіти та базові дані в один пакет, який був верифікований заздалегідь. Коли наступного разу виникла проблема, виправлення зайняло лише частину зусиль, які раніше потрібні були. Само по собі цей процес заощадив приблизно 750 днів праці. Це мільйони доларів економії лише завдяки наведенню порядку.

Покращення стало можливим завдяки тому, що правильні дані стали легкодоступними та достатньо надійними для використання без сумнівів. Спільна робота та повторне використання зробили це можливим. Довірені продукти даних можна узгоджувати зі стандартами корпорації, розширювати та оновлювати з часом, оцінювати за рівнем довіри та керувати їхньою вартістю. Такий підхід зменшує потребу створювати сотні чи тисячі продуктів, пов’язаних із окремими фізичними таблицями баз даних.

Сильні програми роблять цю довіру видимою. У маркетплейсах даних, з якими я працюю, активи можна класифікувати як золото, срібло або бронза за такими критеріями, як якість, кураторство, використання та власність. Бізнес‑користувач може побачити, наскільки надійний актив, перед тим як його використати. Така прозорість допомагає людям припинити здогадки і підвищує готовність повторно використовувати вже існуючі дані.

Показник у 95 % — це попередження про те, наскільки неуважно багато компаній ставилися до даних, що стоять за генеративним ШІ. Організації, які досягають прогресу, надають людям чіткий огляд того, звідки походять їхні дані, як вони були верифіковані та чи підходять вони для завдання. Після багатьох років, коли управління даними розглядалося як фонове завдання, ШІ нарешті робить їхню цінність помітною.