ИИ принимает решения каждую минуту. Большинство систем управления по-прежнему работает в квартальном ритме

Система, использующая ИИ, может повлиять на сотни операционных решений ещё до того, как руководящий комитет назначит следующее заседание. Системы управления, построенные на ежеквартальных проверках, никогда не были рассчитаны на такой темп, и именно из-за этого несоответствия многие корпоративные программы внедрения ИИ начинают испытывать трудности.

Мы тратим огромное количество времени на споры о том, какие модели следует внедрять. Однако Gartner прогнозирует, что к концу 2026 года организации откажутся от 60% проектов в области ИИ, не обеспеченных данными, подготовленными для работы с ИИ. Большинство неудач корпоративных проектов в области ИИ почти никак не связано с самой моделью. Причина в более фундаментальной проблеме: организации не имеют достоверного и целостного представления о собственном бизнесе.

Скрытая цена данных, «готовых для ИИ»

Большинство компаний недооценивает усилия, необходимые для определения ответственности за данные, а также для обеспечения управления данными, доверия к ним и понимания их контекста. Лишь немногие вкладываются в межфункциональную экспертизу и операционную модель, необходимые для создания систем управления, которые обеспечивают прозрачность, объяснимость и подотчётность, требуемые для выхода ИИ за рамки пилотных проектов.

Я призываю клиентов пройти простой тест. Может ли организация чётко объяснить, кто отвечает за данные, как они связаны с бизнес-процессами, какие меры контроля регулируют их использование и кто несёт конечную ответственность за решения, принимаемые с помощью ИИ? Если нет, её инициативы в области ИИ вряд ли увенчаются успехом — независимо от того, сколько средств она вложит в платформы, инфраструктуру или модели.

Первым шагом на пути любой компании к внедрению ИИ должны стать инвестиции в систему управления и практическую операционную модель, которые обеспечат чёткое распределение ответственности, подотчётности и полномочий по принятию решений. Я вижу, что большинство организаций поступает наоборот: сначала внедряет модели и инфраструктуру, а уже потом закладывает основы, необходимые для масштабного применения ИИ.

Однако решения, принимаемые с помощью ИИ, зависят не только от отдельных точек данных: важно также понимать, как информация связана с бизнес-процессами, политиками, распределением ответственности и операционным контекстом. Если эти связи фрагментированы, организациям не стоит удивляться, что рекомендации ИИ становятся непоследовательными.

Когда приложения на основе ИИ допускают опасные ситуации, дают сбои или выдают противоречивые рекомендации, важные вопросы касаются организации работы, а не технологий. Кто отвечает за данные? Кто отвечает за решение? Кто может отменить решение ИИ? Как передаются на рассмотрение исключительные случаи? Без ответов на эти вопросы компании рискуют создать автоматизацию без подотчётности.

Доверие формируется до внедрения

Доверие к ИИ формируется задолго до запуска любой модели. Для эффективного управления необходимо сотрудничество специалистов в области технологий, бизнес-подразделений, управления рисками, юриспруденции, соблюдения нормативных требований и безопасности, поскольку системы ИИ работают на стыке организационных подразделений, тогда как ответственность зачастую остаётся разобщённой. Многие проблемы управления, которые связывают с ИИ, на деле являются проявлениями более давних трудностей с распределением ответственности за данные и полномочий по принятию решений — технология лишь выявила их.

В большинстве организаций уже действуют системы управления, основанные на политиках безопасности, нормативных требованиях и процедурах согласования. Однако им часто не хватает целостного представления о том, как все эти элементы связаны между собой.

Доверие возникает, когда заинтересованные стороны понимают обоснование рекомендаций, уверены в достоверности исходных данных и знают, что необходимые меры контроля и механизмы эскалации предусмотрены. Ничего из этого нельзя добавить задним числом после инцидента.

Когда квартальное управление сталкивается с решениями, принимаемыми каждую минуту

Традиционные модели управления опираются на периодические проверки, заседания руководящих комитетов и отчётность по итогам работы. Системы, использующие ИИ, непрерывно формируют рекомендации в больших масштабах. Существующие системы управления не ошибочны, но они слишком медленны и оторваны от операционного процесса принятия решений. Ежеквартальный цикл проверок не может регулировать решения, принимаемые каждый час и каждый день.

Наибольших успехов, по моим наблюдениям, добиваются организации, которые встраивают управление непосредственно в операционные процессы с помощью контроля соблюдения политик, процедур согласования, мониторинга, возможности аудита и надзора со стороны человека. Они взяли курс на переход от периодического управления к непрерывному, чтобы в режиме реального времени видеть, какие данные используются, на какие решения оказывается влияние, кто несёт ответственность и когда требуется вмешательство человека.

Непрерывное управление — это не просто мониторинг результатов работы ИИ. Оно подразумевает понимание того, какую информацию использует ИИ, остаётся ли она достоверной и по-прежнему ли решения соответствуют бизнес-политикам и целям.

ИИ будет противоречить самому себе

Крупные организации и так ежедневно работают с конкурирующими приоритетами. Службы безопасности стремятся снизить риски, операционные подразделения — обеспечить стабильность, бизнес-подразделения — действовать быстрее, а финансовые — эффективнее расходовать средства. Теперь к ним добавляются системы ИИ, обученные на разных наборах данных и под разные цели, поэтому они, естественно, будут отражать эти приоритеты.

Система ИИ для обеспечения безопасности может рекомендовать немедленно устранить критическую уязвимость, тогда как операционное подразделение отложит это изменение, поскольку затронутая система обеспечивает работу критически важной бизнес-службы. Обе позиции могут быть обоснованными. Для разрешения таких конфликтов необходимы чётко определённые полномочия по принятию решений, закреплённая ответственность за риски и установленные пути эскалации.

ИИ должен предоставлять данные, контекст и рекомендации, однако ответственность за баланс между деловыми, операционными факторами и рисками должна оставаться за организацией.

Как справляться со скептицизмом, когда обнаруживаются несоответствия

Если ИИ выдает противоречивую рекомендацию, очевидно, что в будущем бизнес будет относиться к ней скептически. Доверие восстанавливается, когда заинтересованные стороны понимают, почему была дана рекомендация, какие данные использовались и кто по-прежнему несет ответственность за результат.

ИИ часто выявляет проблемы с качеством данных, пробелы в распределении ответственности и несогласованность процессов, которые уже существовали в организации. Гораздо продуктивнее использовать такие ситуации как возможность улучшить управление и рабочие процедуры, а не защищать технологию. Со временем доверие завоевывают благодаря прозрачности, последовательности и доказуемым результатам для бизнеса.

Надежная информационная основа

Обсуждение готовности к внедрению ИИ обычно сосредоточено на моделях, инфраструктуре и инструментах. На практике организации, добивающиеся наибольших успехов, вкладываются в нечто более фундаментальное: надежную информационную основу. Она обеспечивает бизнес-контекст, объясняющий, как информация связана с процессами, политиками, распределением ответственности и операционными решениями, и дает ИИ более прочную основу для рекомендаций, которые организации могут понимать, контролировать и которым могут доверять.

Даже самая совершенная модель ИИ не может компенсировать слабое управление информацией, неясное распределение ответственности или недостаточный бизнес-контекст. Организациям необходимо создать контекст, систему управления, институциональную память и интеллектуальные инструменты для принятия решений, которые позволят ответственно и эффективно использовать ИИ в большом масштабе.

Эта работа идет медленнее и менее заметна, чем внедрение новой модели, но в конечном счете именно от нее зависит, принесет ли модель долгосрочную пользу бизнесу.