Корпоративный ИИ зависит от данных, которым можно доверять

В 2025 году компании инвестировали, по оценкам, от 30 до 40 миллиардов долларов в генеративный ИИ, однако проект MIT NANDA обнаружил, что лишь 5 процентов из более чем 300 корпоративных внедрений, которые он изучил, давали измеримые финансовые результаты. он изучил.

Я более 25 лет работаю в корпоративных программах управления данными. Еще до того, как генеративный ИИ стал предметом обсуждения, я наблюдал, как быстро технологии теряют доверие, когда люди не могут полагаться на лежащие в их основе данные. Генеративный ИИ повышает ставки, поскольку может превратить сомнительные данные в уверенный ответ.

Раньше мы говорили «мусор на входе — мусор на выходе». Сейчас это «мусор на входе — катастрофа на выходе». Когда данные выглядели подозрительно, человек мог воспользоваться своим суждением и обратиться к специалисту по данным. Специалист проводил анализ первопричин, выявлял проблему и применял исправление. Сегодня агенты могут действовать на основе любых встреченных данных. Без компетентного человеческого контроля результат может стать частью операций, использоваться в принятии решений и масштабироваться по всей организации.

Та же проблема может проявиться в чат‑боте. Пренебрежение управлением может превратить плохие или плохо понятые данные в ответ, звучащий авторитетно, мгновенно и в масштабах.

Доверие — реальное препятствие для внедрения

Когда внутренний чат‑бот дает уверенный, но неверный ответ, пользователь может перестать ему доверять. В крупной организации ИИ также обнаружит те данные, которые вы бы предпочли, чтобы он не нашёл. Я сравниваю это с грязными носками под кроватью: эти данные могут быть скрыты от глаз, но ИИ всё равно найдёт их и использует.

Контекст должен сопровождать данные и служить фундаментом, на котором опираются большие языковые модели. Прежде чем ИИ‑модель использует данные, людям необходимо знать, что они означают, откуда они пришли, кто является их владельцем и какие бизнес‑правила и политики их регулируют.

Руководство может упустить это, потому что система редко выходит из строя. ИИ может уверенно ошибаться; он может, к примеру, предложить клей для вашей пиццы (очень старый пример). Представьте чат‑бот, который даёт уверенный, но неверный ответ, и сотрудники перестают ему доверять. Восстановление этого доверия занимает гораздо больше времени, чем предварительное внедрение правильных контролей.

Это разложение проявляется и в данных. Сотрудники более чем 90 процентов компаний, изученных MIT, продолжают использовать личные инструменты ИИ в стороне, даже после того как официальный пилот, запущенный их работодателем, не завоевал их доверие. Когда одобренный инструмент не заслужил доверия, сотрудники ищут иной способ выполнить работу.

Большая часть исследований ИИ в этом году указывает на ту же проблему: организации продвигаются вперёд с ИИ, не выполнив работу по обеспечению доверия к своим данным. Gartner оценил, что почти две трети организаций либо не имеют надлежащих практик управления данными для ИИ, либо не уверены, что они их имеют. Отдельное исследование IDC выявило аналогичный разрыв в области доверия: 78 процентов организаций заявляют, что полностью доверяют своему ИИ, но лишь 40 процентов действительно инвестировали в управление и объяснимость, которые могли бы оправдать это доверие.

Несоответствие между уверенностью и инвестициями помогает объяснить, почему многие инициативы в области ИИ застревают до выхода в производство или не соответствуют ожидаемой ценности.

Управление ИИ теперь — конкурентное преимущество

Большую часть моей карьеры управление данными было одной из наименее привлекательных частей корпоративных ИТ. Каталогизация метаданных, определение владельцев, профилирование данных и управление рабочими процессами могли ощущаться как уборочная работа. Люди часто её обходили, потому что усилия казались больше, чем ценность, которую они приносили.

ИИ изменил это. Он становится возможностью управления в таких областях, как разработка схем данных, создание отраслевых глоссариев и рекомендация и активация политик данных. Даже происхождение данных теперь можно выводить и упрощать быстрее, чем раньше, что упрощает реализацию ценности управляемых конвейеров данных и наблюдаемости.

Регулирование также делает прозрачность данных более срочной. EU AI Act стал широко применимым 2 августа 2026 года, включая правила прозрачности для определённых систем и контента, созданного ИИ. Закон также устанавливает отдельные требования к системам высокого риска, включая документацию и информацию, помогающую развертывающим интерпретировать их результаты, хотя некоторые положения о высоком риске вступят в силу позже.

Для компаний практический вывод прост: ясная прослеживаемость и управление упрощают документирование использованных данных, их происхождения и того, как система должна работать.

Регуляторная ситуация в США остаётся неопределённой. В отсутствие всеобъемлющего федерального закона об ИИ компании вынуждены ориентироваться на различные требования штатов, даже при том, что Белый дом стремится ограничить возможность штатов создавать и применять собственные правила ИИ. AI Act штата Колорадо, самая комплексная государственная рамка, уже был один раз отложен и переписан в ходе этой борьбы, а его основные обязательства перенесены на 2027 год. Для многих американских компаний соблазн заключается в том, чтобы дождаться, пока неопределённость рассеется.

Я считаю, что это неверный инстинкт. Какой бы ни была в конце концов принята в США регулятивная модель, базовое требование не исчезнет. Знайте, откуда пришли ваши данные. Знайте, проверяли ли их кто‑то перед тем, как ИИ их использовал. Формирование этой дисциплины уже сейчас поможет компаниям подготовиться к новому регулированию и превратить перспективные пилотные проекты ИИ в инструменты, которыми бизнес может пользоваться уверенно.

Что отличает 5 процентов

Позвольте рассказать о одном клиенте. Их команда бухгалтерского учета должна была просматривать 300 отдельных электронных таблиц каждый раз, когда в книгах возникала несоответствие. Триста. В конце концов кто‑то перестроил весь этот беспорядок в единый управляемый ресурс данных, включив расчёты, отчёты и базовые данные в один пакет, проверенный заранее. В следующий раз, когда возникла проблема, исправление потребовало лишь часть прежних усилий. Только в этом процессе было сэкономлено примерно 750 дней труда. Это миллионы долларов экономии, просто за счёт очистки.

Улучшение произошло благодаря тому, что нужные данные стали легко доступными и достаточно надёжными для использования без постоянных сомнений. Сотрудничество и повторное использование сделали это возможным. Доверенные продукты данных могут быть согласованы с корпоративными стандартами, расширяться и обновляться со временем, оцениваться по уровню доверия и управляться в целях создания ценности. Такой подход уменьшает необходимость создания сотен или тысяч продуктов, привязанных к отдельным физическим таблицам баз данных.

Сильные программы делают это доверие видимым. На рынках данных, с которыми я работаю, активы могут классифицироваться как золотые, серебряные или бронзовые в зависимости от таких факторов, как качество, курирование, использование и владение. Бизнес‑пользователь может увидеть, насколько надёжным является актив, прежде чем использовать его. Такая прозрачность помогает людям перестать гадать и делает их более готовыми повторно использовать уже существующие данные.

Показатель в 95 процентов служит предупреждением о том, насколько небрежно многие компании относились к данным, лежащим в основе генеративного ИИ. Организации, добившиеся прогресса, предоставляют людям чёткое представление о том, откуда пришли их данные, как они были проверены и подходят ли они для задачи. После многих лет, когда управление данными воспринималось как фоновая работа, ИИ наконец делает их ценность видимой.

Источники оригинальной статьи: forbes.com [1] · gartner.com [2] · sas.com [3] · digital-strategy.ec.europa.eu [4] · artificialintelligenceact.eu [5]