Почему GenAI застревает без сильного управления

Когда компании пытаются перевести проекты Generative AI из экспериментальной фазы в производственную – многие бизнесы остаются в режиме пилотного проекта. Как показывает наше недавнее исследование, 92% организаций обеспокоены тем, что пилотные проекты GenAI ускоряются без решения фундаментальных проблем с данными. Еще более показательно: 67% не смогли масштабировать даже половину своих пилотных проектов до производства. Этот производственный разрыв связан не столько с технологической зрелостью, сколько с готовностью лежащих в основе данных. Потенциал GenAI зависит от прочности основы, на которой он стоит. И сегодня, для большинства организаций, эта основа является наиболее шаткой.

Почему GenAI застревает в пилотном режиме

Хотя решения GenAI, безусловно, мощны, они так же эффективны, как и данные, которые их питают. Старая пословица “мусор на входе, мусор на выходе” сегодня более актуальна, чем когда-либо. Без доверенных, полных, уполномоченных и объяснимых данных модели GenAI часто производят результаты, которые являются неточными, предвзятыми или непригодными для использования.

К сожалению, организации поспешили внедрить проекты с низкими затратами, такие как чат-боты, работающие на основе ИИ, которые предоставляют адаптированные ответы из различных внутренних документов. И хотя они улучшают опыт клиентов до определенной степени, они не требуют глубоких изменений в инфраструктуре данных компании. Но для стратегического масштабирования GenAI, будь то в сфере здравоохранения, финансовых услуг или автоматизации цепочки поставок, требуется более высокий уровень зрелости данных.

Фактически, 56% руководителей служб данных цитируют надежность данных как ключевое препятствие для развертывания ИИ. Другие проблемы включают неполные данные (53%), проблемы с конфиденциальностью (50%) и более крупные пробелы в управлении ИИ (36%).

Нет управления, нет GenAI

Чтобы перевести GenAI за пределы пилотной фазы, компании должны рассматривать управление данными как стратегическую императив для своего бизнеса. Они должны обеспечить, чтобы данные были пригодны для питания моделей ИИ, и для этого необходимо решить следующие вопросы:

• Являются ли данные, используемые для обучения модели, полученными из правильных систем?
• Удалили ли мы личную идентифицирующую информацию и следовали всем правилам и регламентам по данным и конфиденциальности?
• Являемся ли мы прозрачными и можем ли мы доказать происхождение данных, используемых моделью?
• Можем ли мы задокументировать наши процессы работы с данными и быть готовыми показать, что данные не содержат предвзятости?

Управление данными также должно быть встроено в культуру организации. Для этого требуется построение грамотности ИИ во всех командах. Акт ИИ ЕС формализует эту ответственность, требуя от поставщиков и пользователей систем ИИ приложить все усилия для обеспечения того, чтобы сотрудники имели достаточную грамотность ИИ, понимали, как работают эти системы, и знали, как использовать их ответственно. Однако эффективное внедрение ИИ выходит за рамки технических знаний. Оно также требует прочной основы в навыках работы с данными, от понимания управления данными до формулирования аналитических вопросов. Рассмотрение грамотности ИИ в изоляции от грамотности данных было бы недальновидным, учитывая, насколько они тесно связаны.

В плане управления данными еще много работы предстоит. Среди бизнесов, которые хотят увеличить свои инвестиции в управление данными, 47% согласны с тем, что отсутствие грамотности данных является одним из основных препятствий. Это подчеркивает необходимость построения поддержки на высшем уровне и развития правильных навыков во всей организации, что является крайне важным. Без этих оснований даже самые мощные модели будут бороться за то, чтобы достичь своих целей.

Разработка ИИ, который должен быть подотчетен

В текущей нормативной среде уже недостаточно, чтобы ИИ просто “работал”, он также должен быть подотчетен и объясним. Акт ИИ ЕС и предложенный план действий по ИИ Великобритании требуют прозрачности в высокорисковых случаях использования ИИ. Другие следуют их примеру, и более 1000 связанных законопроектов находятся в повестке дня в 69 странах.

Это глобальное движение к подотчетности является прямым результатом растущих требований потребителей и заинтересованных сторон к справедливости в алгоритмах. Например, организации должны быть в состоянии объяснить, почему клиент был отклонен для получения кредита или почему ему был начислен премиальный страховой тариф. Чтобы это сделать, им необходимо знать, как модель приняла это решение, а это, в свою очередь, зависит от наличия четкого, аудиторского следа данных, использованных для ее обучения.

Если нет объяснимости, бизнес рискует потерять доверие клиентов, а также столкнуться с финансовыми и юридическими последствиями. Следовательно, отслеживаемость происхождения данных и обоснование результатов не является “приятным”, а требованием соблюдения.

И когда GenAI расширяет свое использование за пределы простых инструментов до полностью развитых агентов, которые могут принимать решения и действовать на их основе, ставки для сильного управления данными возрастают еще выше.

Шаги для построения доверенного ИИ

Итак, что такое хороший результат? Чтобы масштабировать GenAI ответственно, организации должны стремиться принять единую стратегию данных на основе трех столпов:

• Адаптировать ИИ к бизнесу: Каталогизировать ваши данные вокруг ключевых бизнес-целей, обеспечивая, чтобы они отражали уникальный контекст, проблемы и возможности, специфичные для вашего бизнеса.
• Установить доверие к ИИ: Установить политики, стандарты и процессы для соблюдения и надзора за этическим и ответственным развертыванием ИИ.
• Построить готовые к ИИ данные-пайплайны: Объединить ваши разнообразные источники данных в прочную основу для прочного ИИ, включая предварительно построенную связь с GenAI.

Когда организации это делают правильно, управление ускоряет ценность ИИ. Например, в финансовых услугах хедж-фонды используют генеративный ИИ для превосходства над человеческими аналитиками в прогнозировании цен на акции, при этом значительно снижая затраты. В производстве оптимизация цепочки поставок, управляемая ИИ, позволяет организациям реагировать в режиме реального времени на геополитические изменения и экологическое давление.

И эти не просто футуристические идеи, они реализуются сейчас, благодаря доверенным данным.

С прочными основами данных компании снижают смещение модели, ограничивают циклы повторного обучения и увеличивают скорость получения ценности. Вот почему управление не является препятствием; оно является катализатором инноваций.

Что дальше?

После экспериментирования организации переходят за пределы чат-ботов и инвестируют в трансформационные возможности. От персонализации взаимодействия с клиентами до ускорения медицинских исследований, улучшения психического здоровья и упрощения нормативных процессов, GenAI начинает демонстрировать свой потенциал в различных отраслях.

Однако эти достижения полностью зависят от лежащих в их основе данных. GenAI начинается с построения прочной основы данных посредством сильного управления данными. И хотя GenAI и агентский ИИ будут продолжать эволюционировать, они не заменят человеческий надзор в ближайшее время. Вместо этого мы вступаем в фазу структурированного создания ценности, где ИИ становится надежным сопилотом. С правильными инвестициями в качество данных, управление и культуру, бизнес может, наконец, превратить GenAI из перспективного пилотного проекта в что-то, что полностью взлетит.