Влияние доверия к данным на успех ИИ: отчет MIND раскрывает, почему большинство инициатив ИИ строятся на нестабильных основах

Отчет «Влияние доверия к данным на успех проектов ИИ» компании MIND, подготовленный в сотрудничестве с CISO ExecNet, содержит жесткое послание: внедрение ИИ ускоряется с такой скоростью, что опережает способность организаций обеспечить безопасность и управление данными, которые его питает. В результате образуется все расширяющийся разрыв между амбициями и выполнением, где большинство предприятий развертывают ИИ в крупном масштабе без основного доверия, необходимого для того, чтобы сделать его надежным, безопасным или успешным.

Внедрение ИИ опережает доверие к данным

ИИ больше не является экспериментальным. Он уже встроен во все операции предприятий. Приблизительно 90% организаций используют инструменты генеративного ИИ уровня предприятия, но основная инфраструктура данных не поспевает за этим.

Этот дисбаланс создает опасную реальность. Хотя системы ИИ быстро интегрируются в рабочие процессы, принятие решений и системы, ориентированные на клиентов, данные, которые питают эти системы, остаются плохо классифицированными, слабо управляемыми и несогласованно защищенными. Почти две трети руководителей служб информационной безопасности сообщают о низкой уверенности в своей способности обеспечить правильные меры безопасности данных в средах ИИ.

Этот разрыв не является теоретическим. Он уже дает измеримые результаты. Только около одной пятой инициатив ИИ достигают своих намеченных показателей эффективности, что показывает, что неудача не является исключительным случаем, а системной проблемой, напрямую связанной со слабыми основами данных.

Основная проблема: структурный разрыв между скоростью и безопасностью

В основе отчета лежит простая, но мощная теза: доверие к данным является решающим фактором в успехе или неудаче ИИ.

Доверие к данным относится к уверенности организации в том, что ее системы, включая ИИ, используют данные безопасно и соответствующим образом. Когда это доверие высоко, ИИ может быстро масштабироваться и давать значимые результаты. Когда оно низко, ИИ становится непредсказуемым, рискованным и часто неэффективным.

Большинство организаций движется быстрее, чем их модели управления были когда-либо разработаны для обработки. Фреймворки безопасности были построены для человеческих пользователей, работающих с человеческой скоростью, в то время как системы ИИ работают мгновенно, доступ к данным широко и лишены контекстного суждения.

Это создает структурный разрыв. Политики могут существовать, но механизмы обеспечения не могут поспевать за скоростью и масштабом ИИ. Организации не борются с определением правил. Они борются с их применением в реальном времени.

Почему основы данных терпят неудачу в ИИ

Одним из наиболее откровенных прозрений является то, что ИИ не вводит совершенно новые риски. Вместо этого он раскрывает годы накопленных проблем с данными, которые ранее были скрыты.

В течение многих лет плохое управление данными было терпимо, потому что никакая система не могла легко получить доступ ко всему одновременно. ИИ полностью меняет это. С момента, когда система ИИ подключается к источнику данных, она может мгновенно раскрыть всю доступную информацию, включая неклассифицированные, чрезмерно общие или чувствительные данные.

Это устраняет то, на что многие организации невольно полагались: тот факт, что данные были трудно найти. Теперь все видно и доступно в крупном масштабе.

Последствия значительны. Организации часто не знают, какие данные доступны инструментам ИИ, какие данные используют их агенты или даже какие системы ИИ работают в их средах. Эти слепые пятна создают условия, при которых риск не только присутствует, но и активно нарастает.

ИИ не ведет себя как человек, и это меняет все

Основной недостаток текущих моделей безопасности предприятий заключается в том, что они предполагают человеческое поведение. Люди применяют суждение, работают с ограниченной скоростью и могут быть обучены или проходить аудит. Агенты ИИ не делают ничего из этого.

Системы ИИ наследуют разрешения и действуют на них без колебаний. Они не фильтруют информацию на основе контекста или намерения. Если они могут получить доступ к данным, они будут обрабатывать их, независимо от того, является ли этот доступ подходящим.

Этот несоответствие между ориентированными на человека фреймворками безопасности и скоростью работы машин создает фундаментальную проблему управления. Организации применяют правила, разработанные для людей, к системам, которые ведут себя совершенно иначе.

Результатом является чрезмерное раскрытие. Инструменты ИИ могут непреднамеренно раскрыть чувствительную информацию, работать за пределами намеченных границ или генерировать выходные данные на основе ненадежных или неотслеживаемых источников данных.

Большинство инициатив ИИ терпят неудачу, и многие даже не знают об этом

Многие неудачи ИИ остаются невидимыми. Организации часто измеряют успех по метрикам, основанным на деятельности, таким как использование, обработанные запросы или сгенерированные выходные данные.

Эти метрики создают ложное чувство прогресса. Система может казаться очень активной, производя неточные результаты, раскрывая чувствительные данные или не обеспечивая бизнес-ценности.

Это создает разрыв в измерении. Без четко определенных показателей эффективности, основанных на результатах, организации не могут различать успешные и терпящие неудачу инициативы ИИ. Неудача становится нормализованной, неправильно диагностированной или незамеченной.

Основная причина этих неудач редко заключается в самой модели ИИ. Вместо этого это состояние данных. Плохая классификация, неконтролируемый доступ и несогласованное качество данных создают нестабильные основы, которые никакая модель не может компенсировать.

ИИ является испытанием на зрелость безопасности

ИИ действует как усилитель существующих слабостей. Организации с сильным управлением данными, управлением идентификацией и возможностями обеспечения могут эффективно масштабировать ИИ. Те, у кого этих основ нет, сталкиваются с растущими рисками.

Только небольшая часть организаций в настоящее время имеет уровень зрелости безопасности, необходимый для безопасного развертывания ИИ в крупном масштабе. Для большинства ИИ вводит потенциал серьезных последствий, от провальных проектов до регулируемого воздействия и, в крайних случаях, угрожающих бизнесу событий.

ИИ не является по своей природе опасным. Он просто ускоряет влияние условий, которые уже существуют в среде данных организации.

Конкурентный разрыв уже формируется

Хотя большая часть обсуждения сосредоточена на риске, отчет также подчеркивает значительную возможность. Организации, которые достигают высоких уровней доверия к данным, получают явное конкурентное преимущество.

С чистыми, классифицированными и хорошо управляемыми данными инициативы ИИ могут двигаться быстрее, масштабироваться более уверенно и обеспечивать более надежные результаты. Безопасность становится стимулом, а не препятствием.

Эти организации не только снижают риск. Они строят инфраструктуру, которая позволяет непрерывное экспериментирование, более быструю итерацию и устойчивый конкурентный импульс.

Между тем, организации, которые откладывают инвестиции в доверие к данным, сталкиваются с нарастающими недостатками. Каждая новая инициатива ИИ добавляет сложность, увеличивает раскрытие и делает более трудным различать ценность и риск. Разрыв между этими двумя группами уже расширяется и, вероятно, ускорится по мере продолжения внедрения ИИ.

Что организациям нужно делать дальше

Путь вперед заключается в основополагающих улучшениях, а не в инкрементных исправлениях.

Первый шаг – это видимость. Организации должны понимать, какие данные у них есть, где они находятся и как к ним доступ. Без этого управление и обеспечение являются невозможными.

Второй шаг – это расширение фреймворков идентификации для включения нечеловеческих акторов. Агенты ИИ должны рассматриваться как идентификации со скоординированными разрешениями, а не как инструменты, наследующие широкий доступ.

Третий шаг – это определение успеха до развертывания. Инициативы ИИ должны иметь четкие бизнес-результаты, требования к качеству данных и измеримые показатели эффективности, установленные заранее.

Наконец, организации должны построить механизмы обеспечения, которые работают на скорости ИИ. Политики сами по себе являются недостаточными. Время-реальные контроли, мониторинг и возможности аудита необходимы для эффективного управления потоками данных.

В конечном итоге все дело в основах

Отчет «Влияние доверия к данным на успех проектов ИИ» компании MIND делает убедительный аргумент, что будущее ИИ не определяется моделями, алгоритмами или вычислительной мощностью. Оно определяется чем-то гораздо менее заметным, но гораздо более критическим: качеством, управлением и надежностью данных, лежащих в основе.

Организации, которые признают это и инвестируют в доверие к данным, не только снижают риск, но и открывают полный потенциал ИИ как конкурентного преимущества. Те, кто не делает этого, будут продолжать испытывать застрявшие инициативы, скрытые неудачи и растущее раскрытие по мере того, как ИИ будет масштабироваться за пределы их способности его контролировать.