Данные — а не ИИ — являются ключом

Искусственный интеллект стал так глубоко укоренен в бизнесе, что почти каждая операция была затронута этой технологией каким-то образом. И глядя на использование ИИ в частности, мы видим, как организации погружаются в новые формы ИИ, чтобы инновировать и совершенствовать существующие системы. Фактически, недавний опрос лидеров ИТ обнаружил, что 98% либо уже используют агентский ИИ для оркестровки случаев использования GenAI, либо планируют сделать это в ближайшем будущем.

Среди взрывного роста инструментов и технологий ИИ, которые появились за последние несколько лет, агенты ИИ быстро становятся одним из самых популярных. Эти агенты помогают организациям делать все и вся — от улучшения опыта и поддержки клиентов до автоматизации внутренних процессов или оптимизации существующих моделей GenAI, уже используемых. Но масштабирование многочисленных преимуществ агентов ИИ и ИИ в целом во всей организации не обходится без трудностей.

Причина, по которой многие организации борются с ИИ и агентами ИИ в частности, заключается в доверии, а не в технологии. Агенты ИИ по своей природе работают с множеством систем. Где бы эти системы ни находились, более чем вероятно, что они полагаются на высокочувствительные данные — будь то огромный объем данных клиентов, медицинская информация или банковские и финансовые данные. Вот где лежит проблема. Втягивание огромных объемов данных в любую модель ИИ без надлежащей инфраструктуры защиты данных и безопасности оставляет предприятия с значительным риском.

Независимо от вывода модели ИИ, она полезна только в том случае, если данные, которые ее обучили, можно доверять. Но это не только вопрос обеспечения безопасности данных. Особенно с агентами ИИ есть большая автономность в том, как эти модели работают. Обеспечение того, чтобы они были оснащены пониманием того, кто должен иметь доступ к данным, когда они должны быть доступны и как, имеет решающее значение для построения доверия.

Преодоление сложностей с защитой данных не является невозможным. С правильными политиками данных, управлением метаданными, API и фреймворками авторизации уровня предприятия лидеры ИТ могут обеспечить, чтобы данные, которые питают их ИИ, были безопасными и достоверными.

Давайте посмотрим ближе.

Навигация по защите данных и необходимости ИИ в масштабе

Одной из более широких целей интеграции агентов ИИ в предприятие является оптимизация рабочих процессов во всей операции и системах. Но делать это без каких-либо ограничений может непреднамеренно раскрыть чувствительные данные на пути. В то время, когда утечки данных и злонамеренные атаки постоянно эволюционируют, любые данные, которые становятся доступными или доступными неавторизованным пользователям, могут привести к катастрофе — не только для инициативы ИИ, но и для всего предприятия. Средняя стоимость утечки данных превышает $4 миллиона по состоянию на 2025 год, согласно IBM. Принятие ИИ ускоряется, часто оставляя управление и безопасность в пыли, когда лидеры предприятий толкают к большему инновациям, глубже пониманию и новым возможностям для роста. Но даже когда принятие ИИ взлетает, регулирующие политики и требования эволюционируют, чтобы идти в ногу и обеспечить безопасность данных.

От GDPR до CCPA и даже устоявшихся политик, таких как HIIPA, регулирующие сложности представляют собой сложную задачу для масштабирования агентов ИИ. Инструменты ИИ, требующие огромных объемов данных, когда они остаются без проверки, приглашают увеличенный риск. Когда модели ИИ охватывают все эти внутренние системы, чувствительные данные часто перемещаются и доступны в процессе. Когда речь идет о данных, регулирующие органы во всем мире уделяют больше внимания обеспечению конфиденциальности, эффективного управления и надежной безопасности.

Более недавние политики, такие как DORA — набор руководств по управлению рисками ИКТ для финансовых компаний, работающих в ЕС, — явно требуют классификации и отчетности о инцидентах с ИКТ, включая те, которые влияют на конфиденциальность, целостность или доступность данных. И хотя эта политика имеет первичный акцент на операционной устойчивости, последствия распространяются на принятие ИИ. Когда все больше инициатив ИИ, включая те, которые используют агентов ИИ, подключаются к данным в масштабе предприятия, риск несанкционированного доступа растет. Если проект ИИ приведет к потере или раскрытию данных, регулирования, такие как эти, быстро станут актуальными.

С учетом того, что на кону так много, важно, чтобы организации предприятий не потеряли из виду, насколько важны безопасность, управление и доступ к данным.

Создание основы для питания агентов ИИ

Предприятиям необходимо создать основу, которая основана на эффективном управлении, с жесткими ограничениями и принудительными правилами, которые определяют, что агенты могут и не могут делать. В сердце этой основы лежит управление данными — высокоуровневые политики, стандарты и структуры, которые управляют использованием данных ответственно во всей организации. Эти политики обеспечивают, чтобы агенты не превышали свои роли, будь то доступ к ограниченным наборам данных или инициация процессов без человеческого надзора.

Реализация прочной политики управления данными должна начаться с нескольких ключевых моментов. Это включает в себя подотчетность и владение, качество и последовательность данных, безопасность и конфиденциальность, соблюдение требований и аудит, а также прозрачность и прослеживаемость.

С этими моментами в качестве основы управления лидеры предприятий получают больший контроль над принятием решений, больше доверия к своим данным и снижение регулируемого риска, связанного с хранилищами данных. Это делается путем использования возможностей, таких как управление метаданными, классификация данных и происхождение для повышения прозрачности и видимости того, кто или какие инструменты ИИ могут получить доступ. Каждый из этих механизмов позволяет предприятиям отслеживать, откуда берутся данные, как они передаются и как они преобразуются.

Технология важна, но доверие является первостепенным

Каждый раз, когда появляется новая модель ИИ или инновация, принятие взлетает. Но с любой инициативой ИИ возникают риски — хотя не всегда там, где можно подумать. Технические проблемы, которые часто препятствуют принятию новых инструментов, не всегда являются виновниками медленной интеграции ИИ. Часто это сводится к данным. Конкретно, доверие к этим данным и проблемы вокруг конфиденциальности. Поскольку ИИ движется так быстро, иногда может быть сложно обеспечить, чтобы такие вещи, как контроль доступа, управление данными, происхождение и соблюдение требований, идти в ногу с этим темпом.

Управление является важной частью доверия, но оно также требует эффективных оценок. Особенно в агентском ИИ все еще существует значущая пропасть в стандартизированных оценках, но они необходимы для доказательства систем, которые ведут себя надежно и безопасно.

Независимо от того, хотите ли вы оптимизировать производительность внутренних систем, улучшить обнаружение мошенничества или просто сделать опыт клиентов для клиентов более гладким, лучшие агенты ИИ и инициативы ИИ в целом строятся на основе доверенных данных, конфиденциальности и безопасности.