Управление ИИ терпит неудачу, потому что компании решают неправильную проблему

Корпорации быстро внедряют ИИ во многие бизнес-функции – от обслуживания клиентов до аналитики до операций и внутренних рабочих процессов – все это делается для того, чтобы оставаться конкурентоспособными. Но растущие реорганизации рабочей силы и инвестиции в автоматизацию демонстрируют, как быстро организации перестраивают работу вокруг возможностей ИИ. Несмотря на скорость внедрения, управление отстает.

Исследования отрасли показывают, что только около одной трети организаций, использующих ИИ, имеют формальные стратегии соответствия требованиям или управления. В результате растет разрыв между инновациями и контролем. И проблема не только в том, что усилия по управлению медленные или неполные. Это более глубокая структурная проблема.

Многие организации пытаются управлять выходными данными ИИ, не перерабатывая системы, которые производят решения на основе ИИ в первую очередь. Управление, наложенное после развертывания, неизбежно создает трение. Но управление, встроенное в процесс принятия решений, становится бизнес-активатором. Разница определяет, станет ли ИИ конкурентным преимуществом или постоянным источником операционных и репутационных рисков.

Итак, как можно сократить разрыв между инновациями и контролем? Давайте углубимся.

Разрыв между инновациями и управлением на самом деле является системным разрывом

В целом, организации не намеренно игнорируют проблемы управления. Вместо этого они пытаются применить рамки управления в рамках устаревших организационных структур, которые никогда не были предназначены для управления автоматизированным принятием решений в крупном масштабе.

Инициативы ИИ часто развиваются быстрее, чем процессы соответствия требованиям и управления рисками, по нескольким причинам. Ответственность за риск ИИ часто неясна, с разделением ответственности между ИТ, безопасностью и соответствием требованиям. В результате полномочия по принятию решений фрагментированы среди комитетов и групп рассмотрения, что снижает подотчетность. Механизмы контроля часто вступают в действие только после развертывания систем, а не до начала автоматизированного принятия решений, влияющего на клиентов и операции.

Эти структурные пробелы приводят к предсказуемым результатам: правовому воздействию, связанному с предвзятыми или ошибочными выходными данными, операционным сбоем, когда автоматизированные системы терпят неудачу незаметно, и репутационному ущербу, когда решения ИИ конфликтуют с ценностями компании или ожиданиями клиентов. Проблема не заключается в отсутствии усилий. Это проблема проектирования системы.

Организации не могут улучшить результаты ИИ без переработки того, как принимаются решения, подотчетность и контроль функционируют на протяжении всей организации.

Управление должно быть направлено на согласование, а не на ограничение

В то же время обсуждения управления часто застревают, потому что они представляются как ограничения на инновации. Команды часто воспринимают управление как нечто, что замедляет развертывание или добавляет бремена соответствия требованиям. Такое представление естественным образом создает сопротивление.

На самом деле, управление должно быть направлено на согласование. Решения на основе ИИ должны соответствовать намерениям руководства. Толерантность к риску должна быть явной и понятной для команд. Подотчетность должна быть明но назначена и сделана видимой.

Клиенты, партнеры и регулирующие органы все чаще судят организации о том, насколько ответственно развертывается инновация. Именно здесь вступает в действие эффективное управление. Оно поддерживает инновации, обеспечивая прозрачность в принятии решений, устанавливая четкие пути подотчетности и эскалации, и предоставляя уверенность в том, что выходные данные ИИ соответствуют бизнес-целям и этическим ожиданиям. Когда оно правильно встроено, оно становится функцией управления, а не обязанностью по соответствию требованиям.

Нельзя прикрепить управление к сломанной системе

Многие предприятия начинают инициативы управления, накладывая политики и процессы утверждения на существующие организационные структуры. Хотя такой подход хорошо намерен, он часто сохраняет фрагментацию и замедляет принятие решений, не решая основные проблемы. Более эффективный путь начинается с фундаментальных вопросов: Кто владеет решениями по риску ИИ? Кто имеет полномочия утверждать или останавливать развертывание, когда возникают риски?

Оттуда управление может быть операционализировано через практические шаги. Организации должны оценить, где ИИ уже влияет на принятие решений. Использование ИИ должно быть сопоставлено с нормативными обязательствами и бизнес-рисками, что в свою очередь обеспечивает рассмотрение рисков и утверждение в рамках рабочих процессов развертывания, а не послеthought.

Необходимы также непрерывный контроль и процессы эскалации, чтобы обнаружить неудачи на ранней стадии. Командам необходимо обучение по риску ИИ, подотчетности и ответственной эксплуатации, чтобы управление стало частью повседневной деятельности. Наконец, масштабируемые рамки управления и поддерживающие платформы помогают поддерживать последовательность по мере расширения использования ИИ.

Цель состоит не в том, чтобы замедлить поток решений, а в том, чтобы переработать их так, чтобы ответственные решения принимались быстрее и с меньшим количеством сюрпризов.

Сильное управление меняет поведение

Когда инициативы ИИ терпят неудачу, организации часто обвиняют сотрудников в обходе политики или развертывании инструментов без контроля. На самом деле, поведение сотрудников обычно отражает системные стимулы и структурное проектирование.

Если команды вознаграждаются за скорость, без явной подотчетности, инструменты ИИ будут развертываться без достаточного рассмотрения. Это приводит к распространению теневого внедрения ИИ, особенно когда процессы управления неясны или обременительны. Сотрудники естественным образом выберут путь наименьшего сопротивления – который часто приводит к плохой практике управления.

Напротив, когда подотчетность становится видимой, а полномочия по принятию решений четкими, поведение меняется органично. Парадоксально, организации со сильными структурами управления часто развертывают ИИ быстрее, потому что риски обнаруживаются раньше, полномочия по принятию решений определены, и меньше поздних сюрпризов заставляют задерживать или отменять развертывание. Это компании, которые откладывают управление, часто испытывают публичные промахи, регулирующий контроль и дорогостоящие усилия по исправлению, которые в конечном итоге замедляют инновации намного больше, чем активный контроль бы.

Управление ИИ в конечном итоге является решением руководства

Управление ИИ не может добиться успеха как наложение после того, как инновация уже произошла. Оно должно стать частью того, как организации принимают решения, назначают подотчетность и управляют рисками на протяжении всей организации. Руководители теперь сталкиваются с знакомым выбором: продолжать оптимизировать устаревшие системы управления, принимая повторяющиеся неудачи управления, или переработать структуры подотчетности и контроля, чтобы поддержать операции на основе ИИ.

Организации, которые рассматривают управление как стратегическую инфраструктуру – инвестируя в контроль, подотчетность и масштабируемые рамки – будут развертывать ИИ с большей скоростью и уверенностью, защищая доверие заинтересованных сторон. В эпоху, когда ИИ все больше формирует бизнес-результаты, управление не является барьером для инноваций. Это основа, которая позволяет инновациям масштабироваться ответственно.