Почему GenAI застревает на стадии пилота

Когда компании пытаются перейти от экспериментов с Генеративным ИИ к производству, многие бизнесы остаются застрявшими на стадии пилота. Как показывает наше недавнее исследование, 92% организаций обеспокоены тем, что пилоты GenAI ускоряются без решения фундаментальных проблем с данными. Более того: 67% не смогли масштабировать даже половину своих пилотов до производства. Этот пробел в производстве связан не столько с технологической зрелостью, сколько с готовностью лежащих в основе данных. Потенциал GenAI зависит от прочности основы, на которой он стоит. И сегодня, для большинства организаций, эта основа является шаткой.

Почему GenAI застревает на стадии пилота

Хотя решения GenAI действительно мощные, они так же эффективны, как и данные, которые их питают. Старая пословица “мусор на входе, мусор на выходе” сегодня более актуальна, чем когда-либо. Без доверенных, полных, уполномоченных и объяснимых данных модели GenAI часто производят результаты, которые являются неточными, предвзятыми или непригодными для использования.

К сожалению, организации спешат развертывать низкоэффективные варианты использования, такие как чат-боты с ИИ, которые предоставляют адаптированные ответы из различных внутренних документов. И хотя они улучшают опыт клиентов до определенной степени, они не требуют глубоких изменений в инфраструктуре данных компании. Но для стратегического масштабирования GenAI, будь то в здравоохранении, финансовых услугах или автоматизации цепочки поставок, требуется другой уровень зрелости данных.

В действительности, 56% руководителей данных считают надежность данных ключевым барьером для развертывания ИИ. Другие проблемы включают неполные данные (53%), проблемы с конфиденциальностью (50%) и более крупные пробелы в управлении ИИ (36%).

Нет управления, нет GenAI

Чтобы вывести GenAI за пределы стадии пилота, компании должны рассматривать управление данными как стратегическую императив для своего бизнеса. Они должны обеспечить, чтобы данные были пригодны для питания моделей ИИ, и для этого необходимо решить следующие вопросы:

• Являются ли данные, используемые для обучения модели, полученными из правильных систем?
• Удалили ли мы личную информацию и следовали ли всем правилам и законам о конфиденциальности?
• Являемся ли мы прозрачными и можем ли мы доказать происхождение данных, используемых моделью?
• Можем ли мы документировать наши процессы работы с данными и быть готовыми показать, что данные не содержат предвзятости?

Управление данными также должно быть встроено в культуру организации. Для этого необходимо развивать грамотность ИИ во всех командах. Закон ЕС об ИИ формализует эту ответственность, требуя от поставщиков и пользователей систем ИИ прилагать усилия для обеспечения того, чтобы сотрудники были достаточно грамотными в ИИ, понимали, как эти системы работают, и знали, как использовать их ответственно. Однако эффективное внедрение ИИ выходит за рамки технических знаний. Оно также требует прочной основы в навыках работы с данными, от понимания управления данными до постановки аналитических вопросов. Рассмотрение грамотности ИИ в изоляции от грамотности данных было бы недальновидным, учитывая, насколько они тесно связаны.

В плане управления данными еще есть работа, которую необходимо выполнить. Среди бизнесов, которые хотят увеличить инвестиции в управление данными, 47% согласны с тем, что отсутствие грамотности данных является основным барьером. Это подчеркивает необходимость построения поддержки на высшем уровне и развития необходимых навыков во всей организации. Без этих оснований даже самые мощные модели ИИ будут бороться за то, чтобы достичь своих целей.

Разработка ИИ, который должен быть подотчетен

В текущей нормативной среде уже недостаточно, чтобы ИИ просто “работал”, он также должен быть подотчетен и объясним. Закон ЕС об ИИ и предложенный план действий Великобритании по ИИ требуют прозрачности в высокорисковых случаях использования ИИ. Другие страны следуют этому примеру, и более 1000 связанных законопроектов находятся в повестке дня в 69 странах.

Это глобальное движение к подотчетности является прямым результатом растущих требований потребителей и заинтересованных сторон к справедливости в алгоритмах. Например, организации должны быть в состоянии объяснить, почему клиент был отклонен для кредита или почему ему был назначен премиальный тариф на страховку. Чтобы сделать это, им необходимо знать, как модель приняла это решение, и это, в свою очередь, зависит от наличия четкой, аудиторской трассировки данных, использованных для обучения.

Если нет объяснимости, бизнес рискует потерять доверие клиентов, а также столкнуться с финансовыми и юридическими последствиями. Следовательно, отслеживаемость происхождения данных и обоснование результатов не являются “хорошим”, а требованием соблюдения.

И по мере того, как GenAI расширяется за пределы использования в качестве простых инструментов и становится полноценными агентами, которые могут принимать решения и действовать на их основе, ставки для сильного управления данными возрастают еще больше.

Шаги для построения доверенного ИИ

Итак, что такое “хорошо”? Чтобы масштабировать GenAI ответственно, организации должны стремиться принять единую стратегию данных на основе трех столпов:

• Адаптировать ИИ к бизнесу: Каталогизировать данные вокруг ключевых бизнес-целей, обеспечивая, чтобы они отражали уникальный контекст, проблемы и возможности, специфичные для вашего бизнеса.
• Установить доверие к ИИ: Установить политики, стандарты и процессы для соблюдения и надзора за этическим и ответственным развертыванием ИИ.
• Построить готовые к ИИ данные: Объединить разнообразные источники данных в прочную основу для надежного ИИ, включая предварительно построенную связь с GenAI.

Когда организации делают это правильно, управление ускоряет ценность ИИ. Например, в финансовых услугах хедж-фонды используют генеративный ИИ для превзойденения человеческих аналитиков в прогнозировании цен на акции, одновременно значительно снижая затраты. В производстве оптимизация цепочки поставок, управляемая ИИ, позволяет организациям реагировать в реальном времени на геополитические изменения и экологическое давление.

И эти не просто футуристические идеи, они реализуются сейчас, благодаря доверенным данным.

С прочной основой данных компании снижают смещение моделей, ограничивают циклы повторного обучения и увеличивают скорость получения ценности. Это почему управление не является препятствием; оно является катализатором инноваций.

Что дальше?

После экспериментов организации переходят за пределы чат-ботов и инвестируют в трансформационные возможности. От персонализации взаимодействия с клиентами до ускорения медицинских исследований, улучшения психического здоровья и упрощения регуляторных процессов, GenAI начинает демонстрировать свой потенциал в различных отраслях.

Однако эти достижения полностью зависят от лежащих в основе данных. GenAI начинается с построения прочной основы данных, через сильное управление данными. И хотя GenAI и агентный ИИ будут продолжать эволюционировать, они не заменят человеческий надзор в ближайшее время. Вместо этого мы вступаем в фазу структурированного создания ценности, где ИИ становится надежным сопилотом. С правильными инвестициями в качество данных, управление и культуру, бизнес может наконец превратить GenAI из перспективного пилота в нечто, что полностью взлетает.