Лидеры мнений

Управление корпоративным ИИ начинается с инфраструктуры баз данных

Phillip Merrick
Добавьте Unite.AI в избранные источники в Google
Ключевые моменты% пилотных проектов ИИ на уровне предприятия терпят неудачу, потому что управление не…
Показать больше
  • % пилотных проектов ИИ на уровне предприятия терпят неудачу, потому что управление не встроено на уровне данных.
  • Автономные агенты требуют контроля на уровне данных, поскольку неконтролируемые записи могут каскадно распространяться по системам.
  • Управление на основе инфраструктуры на уровне базы данных закрывает разрыв между пилотным проектом и промышленной эксплуатацией.

Эксперименты с ИИ внутри компаний идут быстрее, чем когда-либо, но путь к промышленной эксплуатации по-прежнему остаётся медленным. Команды запускают пилотные проекты, испытывают модели и показывают многообещающие результаты за недели, а иногда и за дни. Однако, когда приходит время внедрять эти системы в большом масштабе, прогресс часто останавливается. Возникают опасения по поводу безопасности, ужесточаются требования к соблюдению норм, множатся вопросы управления. 

Исследование MIT The GenAI Divide: State of AI in Business 2025 показало, что 95% корпоративных пилотных проектов ИИ не приносят измеримого результата для бизнеса. Только 5% доходят до промышленной эксплуатации и дают реальную финансовую отдачу. Исследование охватило более 300 внедрений ИИ и 150 интервью с руководителями. Его вывод: главное препятствие заключается не в возможностях модели, а в неудачной интеграции с корпоративными системами. Большинство организаций считают это вопросом правил, который нужно решать на уровне высшего руководства. Я бы сказал, что управление ИИ — системная задача, начинающаяся на уровне данных.

Почему проекты ИИ застревают на пилотной стадии

Многие инициативы в области ИИ сталкиваются с трудностями, потому что среды создания прототипов принципиально не соответствуют реальным условиям корпоративного внедрения. Разработчиков побуждают действовать быстро: использовать гибкие инструменты, наборы данных со слабым контролем и инфраструктуру самообслуживания, чтобы как можно скорее доказать ценность решения. Это идеально для экспериментов, но не переносится напрямую в промышленную среду, где необходимы возможность аудита, строгий контроль доступа, соблюдение нормативных требований и устойчивость к сбоям.

В результате механизмы управления часто вводят лишь после успешной проверки концепции. К этому моменту то, что должно было помогать внедрению, превращается в ограничение. Командам приходится приспосабливать модели безопасности задним числом, заново проектировать потоки данных и пересматривать исходные предположения о соблюдении норм, которые следовало заложить в основу с самого начала.

Так растёт разрыв между тем, что системы ИИ могут продемонстрировать в контролируемых условиях, и тем, что компании способны безопасно и надёжно внедрить в промышленную эксплуатацию.

При этом современный технологический стек ИИ развивается с упором на скорость и доступность, нередко в ущерб контролю. Удобные для разработчиков платформы облегчают запуск пилотных проектов, но могут скрывать, где находятся данные, как они используются и кто имеет к ним доступ. 

Это создаёт реальные эксплуатационные и регуляторные риски: непреднамеренное раскрытие данных, неясные границы данных между средами и недостаточную возможность аудита поведения системы. Эти проблемы непосредственно выявляются при проверках готовности к промышленной эксплуатации и оценке соблюдения норм. Опросы компаний неизменно показывают, что проблемы качества данных и управления ими входят в число главных причин неудач проектов ИИ: они упоминаются в 60–70% случаев. Ситуацию осложняет растущая зависимость от сторонней инфраструктуры и управляемых сервисов баз данных. Она способна ещё сильнее раздробить владение данными и затруднить соблюдение нормативных требований. Во многих случаях организации предполагают, что платформы сами обеспечивают управление, хотя на деле ответственность распределена между несколькими уровнями технологического стека.

Возникает парадокс: инструменты, ускоряющие эксперименты с ИИ, часто сами создают затруднения при переходе к промышленной эксплуатации.

База данных как реальный уровень управления

Чтобы устранить это несоответствие, нужно переосмыслить, где именно осуществляется управление.

Управление часто представляют как выработку правил юридическими подразделениями, специалистами по соблюдению норм или высшим руководством с последующим обеспечением исполнения через документацию и процедуры проверки. Эти механизмы необходимы, но сами по себе недостаточны. Управление приобретает смысл лишь тогда, когда его требования принудительно обеспечиваются на уровне системы.

На практике это происходит там, где данные хранятся, преобразуются и становятся доступны для обращения. Поэтому база данных и окружающая её инфраструктура данных образуют самый важный уровень управления в стеке ИИ.

Современные базы данных — не пассивные хранилища. Они задают права доступа, обеспечивают требования к географическому размещению данных, управляют шифрованием и контролем ключей, создают журналы аудита для соблюдения норм и надзора за безопасностью. Всё чаще они также служат точкой контроля, через которую системы ИИ взаимодействуют с корпоративными данными.

Это важно, потому что системы ИИ наследуют состояние управления той инфраструктуры данных, от которой зависят. Если базовому уровню базы данных недостаёт структуры, контроля или прозрачности, эти слабости напрямую переходят в построенные поверх него системы ИИ. Никакие правила на последующем уровне приложений не способны полностью компенсировать неуправляемую основу данных.

Отсюда следует более широкий архитектурный сдвиг: управление необходимо встраивать в инфраструктуру с самого начала, а не добавлять после внедрения. Подход к ИИ с приоритетом инфраструктуры означает проектирование систем, где управление — встроенное свойство, а не внешнее ограничение. Обращение к данным проходит через контролируемые интерфейсы. Запросы и взаимодействия систем по умолчанию записываются в журналы. Требования к соблюдению норм, включая ограничения доступа, правила сроков хранения и географического размещения данных, обеспечиваются на уровне системы, а не ручным надзором или проверкой постфактум.

Для этого нужны такие архитектурные решения, как защищённые уровни посредничества при выполнении запросов, контроль доступа на основе политик и централизованная наблюдаемость распределённых сред данных. Эти механизмы обеспечивают непрерывное выполнение правил управления вместо их периодической проверки.

Разница между упреждающим управлением и реагированием постфактум принципиальна. Реактивный подход пытается исправить проблемы после создания и внедрения систем. Упреждающий подход предотвращает их появление, встраивая средства контроля непосредственно в архитектуру системы.

В средах ИИ от этого различия зависит, смогут ли системы масштабироваться или остановятся в развитии.

Когда появляются агенты

Автономные агенты меняют условия управления так, как большинство организаций ещё не готово принять. Агент не только читает данные. Он записывает их, запускает действия в разных системах и делает и то и другое без участия человека.

Это полностью меняет характер сбоев. Запрос без должного контроля возвращает неверный ответ. Агент без должного контроля действует на основе этого ответа: обновляет записи, запускает последующие рабочие процессы и распространяет решения между системами ещё до того, как кто-либо заметит ошибку.

Поэтому защитные ограничения нельзя оставлять только на уровне приложений. Агент, работающий с несколькими системами, всегда найдёт путь наименьшего сопротивления. Контроль должен обеспечиваться на уровне данных, где каждая операция чтения и записи проходит через посреднический механизм и фиксируется в журнале независимо от того, что её запустило.

Gartner прогнозирует, что более 40% проектов агентного ИИ будут отложены или отменены из-за проблем управления и надёжности. Мне эта цифра кажется низкой, ведь она предполагает, что организации правильно определят управление как причину, а не станут винить модель или инструменты. Первопричина обычно остаётся незаметной, пока не обернётся большими затратами.

От экспериментов к ИИ, готовому к промышленной эксплуатации

Организации, успешно переводящие ИИ из экспериментов в промышленную эксплуатацию, обычно объединяет одна черта: они заблаговременно согласуют среды разработки и эксплуатации. 

Они не позволяют экспериментальным системам отдаляться от ограничений промышленной среды, а проектируют обе среды по единым принципам управления, безопасности и доступа к данным. Это уменьшает затруднения на более поздних этапах жизненного цикла, когда модели переходят от прототипов к рабочим нагрузкам промышленной эксплуатации.

Такое согласование всё важнее, поскольку большинство компаний по-прежнему не располагают зрелой инфраструктурой ИИ промышленного уровня. Сохраняются пробелы в безопасном доступе к данным, мониторинге, наблюдаемости и обеспечении нормативного соответствия. Они не изолированы: это структурные проблемы, проявляющиеся, когда ИИ выходит за пределы пилотных сред и включается в критически важные рабочие процессы.

Ещё одно серьёзное несоответствие между прототипированием и промышленной эксплуатацией возникает, когда рабочие приложения и базы данных необходимо размещать на собственных площадках или в строго управляемых облачных учётных записях, а прототипы разрабатывались на облачных платформах баз данных.

В зрелых организациях к рабочим нагрузкам ИИ применяют такую же строгость, как к другим системам, подпадающим под нормативное регулирование. Это означает единообразное ведение журналов, строгий контроль доступа, непрерывный мониторинг и чёткое распределение подотчётности между командами. Кроме того, подразделения инженерии данных, платформенной инженерии, безопасности и соблюдения норм должны теснее взаимодействовать с самого начала, а не подключаться задним числом.

Преимущества этого подхода не сводятся к снижению рисков. Компании также получают более быстрые циклы внедрения, меньше сбоев при промышленной эксплуатации и больше внутреннего доверия к системам ИИ. В этом контексте масштабирование ИИ связано не столько с новаторством моделей, сколько со зрелостью инфраструктуры.

Управление — архитектурная необходимость

В конечном счёте обсуждение управления ИИ должно выйти за рамки правил и перейти к архитектуре. 

Управление часто считают надзорной функцией, но на практике оно обеспечивается системами, определяющими порядок доступа к данным и их использования. База данных — не просто уровень хранения, а точка контроля безопасности, соблюдения норм и целостности работы всего стека ИИ.

По мере того как ИИ глубже встраивается в корпоративные рабочие процессы, значение этой точки контроля заметно возрастает. Каждое взаимодействие модели с корпоративными данными становится событием, на которое распространяется управление, независимо от того, предусмотрели ли это организации в явном виде.

Сделав приоритетом управление на основе инфраструктуры, начиная с уровня базы данных, компании могут преодолеть разрыв между пилотным проектом и промышленной эксплуатацией. Так они превращают ИИ из отдельных экспериментов в устойчивую, масштабируемую возможность, встроенную во всю организацию.

Филипп Меррик является сооснователем и директором по продуктам в pgEdge. Предприниматель, технолог и опытный руководитель с глубокими корнями в инфраструктуре данных и облачных платформах, которые обеспечивают работу современных систем искусственного интеллекта. Сооснователь и/или генеральный директор webMethods, EDB, SparkPost, Fugue и pgEdge; возглавлял компании от стадии стартапа до IPO и трех выходов в диапазоне 9-10 цифр.