Корпоративный ИИ зависит от данных, которым можно доверять

В 2025 году компании инвестировали, по оценкам, от 30 до 40 миллиардов долларов в генеративный ИИ, однако проект NANDA Массачусетского технологического института обнаружил, что лишь 5 процентов из более чем 300 корпоративных внедрений которые он изучил давали измеримые финансовые результаты.

Я более 25 лет работаю в корпоративных программах по работе с данными. Еще до того, как генеративный ИИ стал темой обсуждения, я видел, как быстро теряется доверие к технологиям, когда люди не могут полагаться на данные, лежащие в их основе. Генеративный ИИ повышает ставки, потому что может превратить сомнительные данные в уверенный ответ.

Раньше мы говорили «мусор на входе — мусор на выходе». Теперь это «мусор на входе — катастрофа на выходе». Когда данные выглядели подозрительно, человек мог воспользоваться своим суждением и обратиться к специалисту по данным. Специалист проводил анализ первопричин, выявлял проблему и применял исправление. Сегодня агенты могут действовать на основе любых данных, с которыми они сталкиваются. Без компетентного человеческого контроля результат может стать частью операций, использоваться в решениях и масштабироваться по всей организации.

Та же проблема может проявиться в чат‑боте. Пропуск управления может превратить плохие или плохо понятые данные в ответ, звучащий авторитетно, мгновенно и в масштабе.

Доверие — реальный барьер внедрения

Когда внутренний чат‑бот дает кому‑то уверенный, но неверный ответ, этот человек может перестать ему доверять. В крупной организации ИИ также найдет данные, которые вы бы предпочли, чтобы он не нашел. Я сравниваю это с грязными носками под кроватью: эти данные могут быть скрыты от глаз, но ИИ всё равно их найдет и использует.

Контекст должен сопровождать данные и служить фундаментом, на котором опираются модели LLM. Прежде чем модель ИИ использует данные, людям необходимо знать, что они означают, откуда они пришли, кто является их владельцем и какие бизнес‑правила и политики их регулируют.

Руководство может упустить это, потому что система редко падает. ИИ может уверенно ошибаться; он может, например, предложить клей для вашей пиццы (очень старый пример). Представьте чат‑бот, который дает уверенный, но неверный ответ, и сотрудники перестают ему доверять. Восстановление этого доверия занимает гораздо больше времени, чем внедрение правильных контролей с самого начала.

Это эрозия проявляется и в данных. Сотрудники более чем в 90 % компаний MIT изучил по‑прежнему используют личные инструменты ИИ в стороне, даже после того, как официальный пилот, запущенный их работодателем, не завоевал их доверие. Когда одобренный инструмент не завоевал доверие, сотрудники ищут другой способ выполнить работу.

Большая часть исследований ИИ в этом году указывает на ту же проблему: организации внедряют ИИ, не проведя работу по обеспечению доверия к данным. Gartner оценил, что почти две трети организаций либо не имеют надлежащих практик управления данными для ИИ, либо не уверены, что они их имеют. Отдельные исследования IDC обнаружили аналогичный разрыв в области доверия: 78 % организаций заявляют, что полностью доверяют своему ИИ, но лишь 40 % действительно инвестировали в работу по управлению и объяснимости, которая могла бы оправдать это доверие.

Несоответствие между уверенностью и инвестициями помогает объяснить, почему так многие инициативы ИИ застревают до выхода в продакшн или не соответствуют ожидаемой ценности.

Управление ИИ теперь является конкурентным преимуществом

Большую часть моей карьеры управление данными считалось одной из наименее привлекательных частей корпоративных ИТ. Каталогизация метаданных, определение прав собственности, профилирование данных и управление рабочими процессами могли ощущаться как работа уборщика. Люди часто обходили её, потому что усилия казались больше, чем получаемая ценность.

ИИ изменил это. Он становится возможностью управления в таких областях, как проектирование схем данных, создание отраслевых глоссариев и рекомендация и активация политик данных. Даже происхождение данных теперь можно выводить и упрощать быстрее, чем раньше, делая ценность управляемых конвейеров данных и их наблюдаемости более очевидной.

Регулирование также делает прозрачность данных более срочной. EU AI Act стал широко применимым 2 августа 2026 года, включая правила прозрачности для определённых систем и контента, созданного ИИ. Акт также устанавливает отдельные требования для высокорисковых систем, включая документацию и информацию, помогающую внедрителям интерпретировать их выводы, хотя некоторые положения для высокорисковых систем будут введены позже.

Для компаний практический вывод прост: ясное происхождение и управление упрощают документирование того, какие данные использовались, откуда они пришли и как система должна работать.

Регулятивная картина в США остаётся неопределённой. Без всеобъемлющего федерального закона об ИИ компании вынуждены ориентироваться на различные требования штатов, даже когда Белый дом пытается ограничить возможность штатов создавать и применять собственные правила ИИ. Закон штата Колорадо об ИИ, самая комплексная государственная рамка, уже был отложен и переписан один раз в ходе этой борьбы, а его основные обязательства перенесены на 2027 год. Для многих американских компаний соблазнённо ждать, пока неопределённость не исчезнет.

Я бы сказал, что это неверный инстинкт. Какой бы регулятивный механизм в конце концов не победил в США, базовое требование не исчезнет. Знайте, откуда пришли ваши данные. Знайте, проверял ли кто‑то их перед тем, как ИИ их использовал. Формирование такой дисциплины сейчас поможет компаниям подготовиться к новым правилам и превратить перспективные пилоты ИИ в инструменты, которые бизнес может использовать с уверенностью.

Что отличает 5 %

Позвольте рассказать о клиенте. Их команда главной бухгалтерии должна была просматривать 300 отдельных таблиц каждый раз, когда в книгах возникало расхождение. Триста. Кто‑то в конце концов преобразовал весь этот беспорядок в единый управляемый набор данных, включив расчёты, отчёты и исходные данные в один пакет и проверив их заранее. В следующий раз, когда возникала проблема, исправление требовало лишь небольшую часть прежних усилий. Только в этом процессе было сэкономлено примерно 750 дней труда. Это миллионы долларов экономии только за счёт очистки.

Улучшение произошло за счёт того, что правильные данные стали легко находить и достаточно надёжными, чтобы использовать их без сомнений. Сотрудничество и повторное использование сделали это возможным. Доверенные продукты данных могут соответствовать корпоративным стандартам, расширяться и обновляться со временем, оцениваться по уровню доверия и управляться для получения ценности. Такой подход уменьшает необходимость создания сотен или тысяч продуктов, привязанных к отдельным физическим таблицам баз данных.

Сильные программы делают это доверие видимым. На рынках данных, с которыми я работаю, активы могут классифицироваться как золотые, серебряные или бронзовые в зависимости от таких факторов, как качество, курирование, использование и владение. Бизнес‑пользователь может увидеть, насколько надёжным является актив, прежде чем использовать его. Такая видимость помогает людям перестать гадать и делает их более готовыми повторно использовать уже существующие данные.

Показатель 95 % — это предупреждение о том, как небрежно многие компании относились к данным, лежащим в основе генеративного ИИ. Организации, достигающие прогресса, предоставляют людям чёткий обзор того, откуда пришли их данные, как они были проверены и подходят ли они для задачи. После лет, когда управление данными рассматривалось как фоновая работа, ИИ наконец делает их ценность видимой.