3 соображения для безопасных и надежных агентов ИИ для предприятий

По данным Gartner, 30% проектов GenAI, вероятно, будут брошены после доказательства концепции к концу 2025 года. Раннее внедрение GenAI показало, что большинство предприятий не были готовы к эффективному развертыванию ИИ из-за отсутствия готовности их инфраструктуры данных и практик управления. Первая волна продукцизации GenAI столкнулась с значительными препятствиями, и многие организации боролись с переходом от стадии доказательства концепции к получению значимой бизнес-ценности.

Когда мы вступаем во вторую волну продукцизации генеративного ИИ, компании осознают, что успешная реализация этих технологий требует больше, чем просто подключение модели обработки языка к их данным. Ключ к разблокировке потенциала ИИ заключается в трех основных столпах: подготовке данных и обеспечении их готовности к интеграции с ИИ; совершенствовании практик управления данными для решения уникальных проблем, которые представляет GenAI; и развертывании агентов ИИ таким образом, чтобы безопасное и надежное использование было естественным и интуитивным, чтобы пользователям не пришлось учиться специальным навыкам или точным шаблонам использования. Вместе эти столпы создают прочную основу для безопасных и эффективных агентов ИИ в корпоративной среде.

Правильная подготовка данных для ИИ

Хотя структурированные данные могут казаться организованными на первый взгляд, будучи аккуратно расположенными в таблицах и столбцах, модели обработки языка часто испытывают трудности с пониманием и эффективной работой с этими структурированными данными. Это происходит потому, что в большинстве предприятий данные не помечены семантически осмысленным образом. Данные часто имеют загадочные метки, например, “ID” без явного указания на то, является ли это идентификатором для клиента, продукта или транзакции. С структурированными данными также сложно захватить правильный контекст и отношения между различными взаимосвязанными точками данных, такими как связь между шагами в пути клиента. Как и в случае с компьютерным зрением, где нам пришлось пометить каждое изображение, чтобы обеспечить осмысленное взаимодействие, организации теперь должны выполнить сложную задачу семантического пометки своих данных и документирования отношений во всех системах для обеспечения осмысленных взаимодействий с ИИ.

Кроме того, данные разбросаны по множеству разных мест – от традиционных серверов до различных облачных сервисов и разных программных приложений. Этот лоскутное одеяло систем приводит к критическим проблемам интероперабельности и интеграции, которые становятся еще более проблематичными при реализации решений ИИ.

Другой фундаментальный вызов заключается в несоответствии бизнес-определений в разных системах и отделах. Например, команды по поддержке клиентов могут определять “апгрейд” одним образом, а команда продаж – другим. Когда вы подключаете агент ИИ или чат-бот к этим системам и начинаете задавать вопросы, вы получите разные ответы, потому что определения данных не согласованы. Это несоответствие не является незначительной неудобством – это критический барьер для реализации надежных решений ИИ.

Плохое качество данных создает классическую ситуацию “мусор на входе, мусор на выходе“, которая становится экспоненциально более серьезной, когда инструменты ИИ развертываются по всему предприятию. Неправильные или запутанные данные влияют не только на один анализ – они распространяют неверную информацию на всех пользователей системы через их вопросы и взаимодействия. Чтобы построить доверие к системам ИИ для реальных бизнес-решений, предприятиям необходимо обеспечить, чтобы их приложения ИИ имели данные, которые являются чистыми, точными и понятными в правильном бизнес-контексте. Это представляет собой фундаментальный сдвиг в том, как организации должны думать о своих активах данных в эпоху ИИ – где качество, согласованность и семантическая ясность становятся столь же важными, как и сами данные.

Укрепление подходов к управлению

Управление данными было основным направлением для организаций в последние годы, в основном сосредоточенным на управлении и защите данных, используемых в аналитике. Компании предпринимали усилия по картографированию чувствительной информации, соблюдению стандартов доступа, соблюдению законов, таких как GDPR и CCPA, и обнаружению личных данных. Эти инициативы имеют решающее значение для создания данных, готовых к ИИ. Однако, когда организации вводят агенты генеративного ИИ в свои рабочие процессы, вызов управления распространяется за пределы самих данных и охватывает весь опыт взаимодействия пользователей с ИИ.

Мы теперь сталкиваемся с необходимостью управлять не только основными данными, но и процессом, посредством которого пользователи взаимодействуют с этими данными через агенты ИИ. Существующее законодательство, такое как закон Европейского Союза об ИИ, и более регулирования на горизонте подчеркивают необходимость управления процессом ответов на вопросы. Это означает обеспечение того, чтобы агенты ИИ предоставляли прозрачные, объяснимые и прослеживаемые ответы. Когда пользователи получают ответы в “черном ящике” – например, задав вопрос “Сколько пациентов с гриппом были госпитализированы вчера?” и получив только “50” без контекста – трудно доверять этой информации для критических решений. Без знания источника данных, метода расчета или определений терминов, таких как “госпитализирован” и “вчера”, выходные данные ИИ теряют надежность.

В отличие от взаимодействия с документами, где пользователи могут отслеживать ответы до конкретных PDF-файлов или политик, чтобы проверить точность, взаимодействия с структурированными данными через агенты ИИ часто лишены этого уровня прослеживаемости и объяснимости. Чтобы решить эти проблемы, организации должны реализовать меры управления, которые не только защищают чувствительные данные, но и делают опыт взаимодействия с ИИ управляемым и надежным. Это включает в себя установление надежных контролей доступа для обеспечения того, чтобы только уполномоченный персонал мог получить доступ к конкретной информации, определение rõких обязанностей по владению и управлению данными, а также обеспечение того, чтобы агенты ИИ предоставляли объяснения и ссылки на свои выходные данные. Реализуя меры управления для решения этих вопросов, предприятия могут безопасно использовать силу агентов ИИ, соблюдая эволюционирующие регулирования и сохраняя доверие пользователей.

Думая за пределами инженерии запросов

Когда организации вводят агенты генеративного ИИ в попытке улучшить доступность данных, инженерия запросов возникла как новый технический барьер для бизнес-пользователей. Хотя она позиционируется как перспективная карьерная траектория, инженерия запросов по сути является рекреацией тех же барьеров, с которыми мы боролись в аналитике данных. Создание идеальных запросов не отличается от написания специализированных запросов SQL или построения фильтров панелей – это сдвиг технической экспертизы из одного формата в другой, все еще требующий специализированных навыков, которыми большинство бизнес-пользователей не обладают и не должны обладать.

Предприятия давно пытаются решить проблему доступности данных, обучая пользователей лучше понимать системы данных, создавая документацию и разрабатывая специализированные роли. Но этот подход является обратным – мы просим пользователей адаптироваться к данным, а не делать данные адаптируемыми для пользователей. Инженерия запросов угрожает продолжить этот шаблон, создавая еще один слой технических посредников.

Истинная демократизация данных требует систем, которые понимают бизнес-язык, а не пользователей, которые понимают язык данных. Когда руководители спрашивают о удержании клиентов, они не должны иметь идеальную терминологию или запросы. Системы должны понимать намерения, распознавать соответствующие данные через разные метки (будь то “отток”, “удержание” или “жизненный цикл клиента”), и предоставлять контекстные ответы. Это позволяет бизнес-пользователям сосредоточиться на решениях, а не учиться задавать технически идеальные вопросы.

Заключение

Агенты ИИ принесут важные изменения в то, как предприятия работают и принимают решения, но они также несут свои уникальные проблемы, которые необходимо решить до их развертывания. С ИИ каждая ошибка усиливается, когда неподготовленные пользователи имеют самообслуживание, что делает крайне важным правильную основу.

Организации, которые успешно решают фундаментальные проблемы качества данных, семантического выравнивания и управления, а также выходят за пределы ограничений инженерии запросов, будут расположены к безопасной демократизации доступа к данным и принятию решений. Лучший подход заключается в создании сотрудничества, которое облегчает командную работу и выравнивает взаимодействия человека и машины, а также взаимодействия машины и машины. Это гарантирует, что выводы ИИ являются точными, безопасными и надежными, способствуя культуре во всей организации, которая управляет, защищает и максимизирует данные до их полного потенциала.