Влияние доверия к данным на успех ИИ по данным MIND: отчет раскрывает, почему большинство инициатив ИИ строится на нестабильных основах

Отчет «Влияние доверия к данным на успех проектов ИИ» компании MIND, подготовленный в сотрудничестве с CISO ExecNet, содержит жесткое послание: внедрение ИИ ускоряется с такой скоростью, что намного опережает способность организаций обеспечить безопасность и управление данными, которые его питают. В результате образуется все расширяющийся разрыв между амбициями и выполнением, где большинство предприятий развертывают ИИ в крупном масштабе без основного доверия, необходимого для того, чтобы сделать его надежным, безопасным или успешным.

Внедрение ИИ опережает доверие к данным

ИИ больше не является экспериментальным. Он уже встроен во все операции предприятий. Приблизительно 90% организаций используют инструменты генеративного ИИ уровня предприятия, но основная инфраструктура данных не поспевает за этим.

Этот дисбаланс создает опасную реальность. Хотя системы ИИ быстро интегрируются в рабочие процессы, принятие решений и системы, ориентированные на клиентов, данные, которые питают эти системы, остаются плохо классифицированными, слабо управляемыми и несогласованно защищенными. Почти две трети руководителей служб информационной безопасности сообщают о низкой уверенности в своей способности обеспечить правильные меры безопасности данных в средах ИИ.

Этот разрыв не является теоретическим. Он уже дает измеримые результаты. Только около одной пятой инициатив ИИ достигают своих намеченных показателей эффективности, что показывает, что неудача не является исключительным случаем, а системной проблемой, напрямую связанной со слабыми основами данных.

Основная проблема: структурный разрыв между скоростью и безопасностью

В основе отчета лежит простой, но сильный тезис: доверие к данным является решающим фактором в успехе или неудаче ИИ.

Доверие к данным относится к уверенности организации в том, что ее системы, включая ИИ, используют данные безопасно и соответствующим образом. Когда это доверие высоко, ИИ может быстро масштабироваться и давать значимые результаты. Когда оно низко, ИИ становится непредсказуемым, рискованным и часто неэффективным.

Большинство организаций движется быстрее, чем когда-либо предполагали их модели управления. Фреймворки безопасности были построены для человеческих пользователей, работающих с человеческой скоростью, в то время как системы ИИ работают мгновенно, имеют широкий доступ к данным и лишены способности учитывать контекст при оценке.

Это создает структурный разрыв. Политики могут существовать, но механизмы обеспечения соблюдения правил не могут поспевать за скоростью и масштабом ИИ. Организации не борются с определением правил. Они борются с их применением в реальном времени.

Почему основы работы с данными не поддерживают ИИ

Одним из наиболее откровенных прозрений является то, что ИИ не вводит совершенно новые риски. Вместо этого он раскрывает годы накопленных проблем с данными, которые ранее были скрыты.

В течение многих лет с плохим управлением данными можно было справляться, потому что никакая система не могла легко получить доступ ко всему одновременно. ИИ полностью меняет это. С момента, когда система ИИ подключается к источнику данных, она может мгновенно раскрыть всю доступную информацию, включая неклассифицированные, слишком широко распространенные или чувствительные данные.

Это устраняет то, на что многие организации невольно полагались: тот факт, что данные были трудно найти. Теперь все видно и может использоваться в крупном масштабе.

Последствия значительны. Организации часто не знают, какие данные доступны инструментам ИИ, какие данные используют их агенты или даже какие системы ИИ работают в их средах. Эти слепые пятна создают условия, при которых риск не только присутствует, но и активно нарастает.

ИИ не ведет себя как человек, и это меняет все

Основной недостаток текущих моделей безопасности предприятий заключается в том, что они предполагают человеческое поведение. Люди применяют суждение, работают с ограниченной скоростью и могут быть обучены или проходить аудит. Агенты ИИ не делают ничего из этого.

Системы ИИ наследуют разрешения и действуют на их основании без колебаний. Они не фильтруют информацию на основе контекста или намерения. Если они могут получить доступ к данным, они будут обрабатывать их, независимо от того, является ли этот доступ подходящим.

Это несоответствие между ориентированными на человека фреймворками безопасности и скоростью работы машин создает фундаментальную проблему управления. Организации применяют правила, разработанные для людей, к системам, которые ведут себя совершенно иначе.

Результатом является чрезмерное раскрытие. Инструменты ИИ могут непреднамеренно раскрыть чувствительную информацию, работать за пределами намеченных границ или генерировать выходные данные на основе ненадежных или неотслеживаемых источников данных.

Большинство инициатив ИИ терпят неудачу, и многие даже не знают об этом

Многие неудачи ИИ остаются невидимыми. Организации часто измеряют успех по метрикам, основанным на деятельности, таким как использование, обработанные запросы или сгенерированные выходные данные.

Эти метрики создают ложное чувство прогресса. Система может казаться очень активной, производя неточные результаты, раскрывая чувствительные данные или не обеспечивая бизнес-ценности.

Это создает разрыв в измерении. Без четко определенных показателей эффективности, основанных на результатах, организации не могут различать успешные и терпящие неудачу инициативы ИИ. Неудача становится нормализованной, неправильно диагностированной или незамеченной.

Основная причина этих неудач редко заключается в самой модели ИИ. Вместо этого это состояние данных. Плохая классификация, неконтролируемый доступ и несогласованное качество данных создают нестабильные основы, которые никакая модель не может компенсировать.

ИИ является испытанием на зрелость безопасности

ИИ действует как усилитель существующих слабостей. Организации с сильным управлением данными, управлением идентификацией и возможностями обеспечения соблюдения правил могут эффективно масштабировать ИИ. Те, у кого этих основ нет, сталкиваются с растущими рисками.

Только небольшая часть организаций в настоящее время имеет уровень зрелости безопасности, необходимый для безопасного развертывания ИИ в крупном масштабе. Для большинства ИИ вводит потенциал серьезных последствий, от провальных проектов до рисков, связанных с регулированием и, в крайних случаях, угрожающих бизнесу событий.

ИИ не является по своей природе опасным. Он просто ускоряет влияние условий, которые уже существуют в среде данных организации.

Конкурентный разрыв уже формируется

Хотя большая часть обсуждения сосредоточена на риске, отчет также подчеркивает значительную возможность. Организации, которые достигают высоких уровней доверия к данным, получают явное конкурентное преимущество.

С чистыми, классифицированными и хорошо управляемыми данными инициативы ИИ могут двигаться быстрее, масштабироваться более уверенно и обеспечивать более надежные результаты. Безопасность становится стимулом, а не препятствием.

Эти организации не только снижают риск. Они строят инфраструктуру, которая позволяет непрерывное экспериментирование, более быструю итерацию и устойчивый конкурентный импульс.

Между тем, организации, которые откладывают инвестиции в доверие к данным, сталкиваются с нарастающими недостатками. Каждая новая инициатива ИИ добавляет сложность, увеличивает степень уязвимости и делает более трудным различать ценность и риск. Разрыв между этими двумя группами уже расширяется и, вероятно, ускорится по мере продолжения внедрения ИИ.

Что организациям нужно делать дальше

Путь вперед заключается в основополагающих улучшениях, а не в инкрементных исправлениях.

Первый шаг – это видимость. Организации должны понимать, какие данные у них есть, где они находятся и как осуществляется доступ к ним. Без этого управление и обеспечение соблюдения правил невозможны.

Второй шаг – это расширение фреймворков идентификации для включения нечеловеческих акторов. Агенты ИИ должны рассматриваться как идентичности с четко ограниченной областью разрешений, а не как инструменты, наследующие широкий доступ.

Третий шаг – это определение успеха до развертывания. Инициативы ИИ должны иметь четкие бизнес-результаты, требования к качеству данных и измеримые показатели эффективности, установленные заранее.

Наконец, организации должны построить механизмы обеспечения соблюдения правил, которые работают на скорости ИИ. Политики сами по себе являются недостаточными. Средства контроля в реальном времени, мониторинг и возможности аудита необходимы для эффективного управления потоками данных.

В конечном итоге все дело в основах

Отчет «Влияние доверия к данным на успех проектов ИИ» компании MIND убедительно обосновывает, что будущее ИИ не определяется моделями, алгоритмами или вычислительной мощностью. Оно определяется чем-то гораздо менее заметным, но гораздо более критическим: качеством, управлением и надежностью данных, лежащих в основе.

Организации, которые признают это и инвестируют в доверие к данным, не только снижают риск, но и открывают полный потенциал ИИ как конкурентного преимущества. Те, кто не делает этого, будут и дальше сталкиваться с застопорившимися инициативами, скрытыми неудачами и растущей уязвимостью по мере того, как ИИ будет масштабироваться за пределы их способности его контролировать.