Интервью

Садипа Виесекара, вице-президент направления Private Cloud AI в HPE — серия интервью

Antoine Tardif
Добавьте Unite.AI в избранные источники в Google
Sadeepa Wijesekara, Vice President of Private Cloud AI at HPE
Ключевые моментыЭкономика ИИ становится бизнес-дисциплиной только тогда, когда пилотные проекты…
Показать больше
  • Экономика ИИ становится бизнес-дисциплиной только тогда, когда пилотные проекты масштабируются в производство и в разговор включается финансы.
  • Стоимость за токен измеряет потребление, тогда как стоимость за бизнес-результат показывает, имеет ли инвестиция реальный смысл.
  • Агентные рабочие процессы могут резко умножить потребление токенов даже при продолжающемся снижении цен на инференс.

Sadeepa Wijesekara — вице-президент направления Private Cloud AI в Hewlett Packard Enterprise (HPE), где он руководит разработкой корпоративного ПО и платформ ИИ для частных облачных сред. Он помогает организациям безопасно внедрять ИИ в масштабах всей компании, увязывая решения об инфраструктуре с потребностями бизнеса. К экономике промышленного применения ИИ он подходит с инженерной точки зрения: рассматривает управление нагрузками, выбор моделей и затраты на обеспечение надежной работы всё более автономных систем.

Hewlett Packard Enterprise (HPE) предлагает корпоративные технологии в сфере ИИ, облачных решений, сетей, вычислительных систем и хранения данных. В портфель Private Cloud AI входят решения для организаций, которые развертывают ИИ-нагрузки на контролируемой ими инфраструктуре наряду с гибридным облаком и внешними сервисами. В этом интервью Виесекара рассказывает, почему расходы на ИИ следует оценивать с точки зрения бизнес-результатов, как агентные рабочие процессы меняют потребление ресурсов и какие финансовые и операционные факторы влияют на решения о выборе моделей, оркестрации и инфраструктуры.

HPE расширила внедрение ИИ, охватив более 70 000 сотрудников. Какой опыт это дало вам и когда, на ваш взгляд, экономика ИИ перестает быть исключительно вопросом ИТ и становится более широкой бизнес-дисциплиной?

Экономика ИИ становится более широкой бизнес-дисциплиной, когда компании переходят от пилотных проектов к промышленному внедрению. Пилотный проект позволяет проверить, справляется ли ИИ с задачей, но может скрыть неэффективность из-за небольшого числа пользователей. Когда их количество вырастает с 10 до 10 000, приходится учитывать затраты, задержки и надежность, а также понимать, какую ценность создает ИИ. На этом этапе к обсуждению должны подключиться финансовые специалисты и руководители, отвечающие за бизнес-процессы, в которых используется ИИ. ИТ-специалисты могут измерить объем ресурсов, потребляемых приложением, но именно бизнес-руководителям нужно определить, оправдывают ли результаты такие инвестиции.

Многие организации по-прежнему уделяют большое внимание таким показателям, как стоимость токена, оценивая генеративный ИИ. Почему, на ваш взгляд, стоимость достижения бизнес-результата — более значимый показатель и как компаниям следует рассчитывать ее на практике?

Стоимость токена показывает, сколько ресурсов ИИ вы потребили, но не говорит о том, принесло ли это потребление полезный результат. Сначала компаниям следует определить бизнес-результат, а затем рассчитать совокупные затраты на его достижение. Модель — лишь одна составляющая этих затрат; к ним также относятся ПО, хранение данных, их передача, управление и трудозатраты сотрудников. Сопоставление этих расходов с ценностью, созданной в рамках конкретного бизнес-процесса, позволяет лучше понять, оправданы ли инвестиции с экономической точки зрения.

По мере того как ИИ переходит от индивидуальных помощников к агентным и мультиагентным системам, способным выполнять длинные цепочки задач, насколько резко может вырасти потребление ресурсов, даже если стоимость инференса продолжит снижаться?

Потребление ресурсов может очень быстро расти, поскольку один запрос пользователя способен запустить гораздо больше работы в фоновом режиме. Агент может извлекать информацию и обращаться к инструментам, выполняя несколько шагов, прежде чем выдать результат. В одном показательном сравнении HPE простой обмен сообщениями с чат-ботом требовал около 400 токенов, а агентный запрос RAG — около 21 500. Даже если цены на токены снижаются, общее потребление всё равно может резко вырасти по мере того, как ИИ берется за более сложные задачи.

Как компаниям оценить, действительно ли сценарий использования ИИ создает экономическую ценность, а не просто повышает показатели производительности или позволяет проводить впечатляющие демонстрации?

Прежде чем масштабировать сценарий использования ИИ, необходимо обосновать его с точки зрения бизнеса и определить четкие ключевые показатели эффективности. Компаниям нужно понимать, сколько стоит бизнес-процесс и как изменятся эти затраты после внедрения ИИ. Также важно отличать улучшение выполнения отдельной операции от улучшения бизнес-результата. Экономия времени приобретает большую ценность, если благодаря ей удается решить больше проблем клиентов, сократить число ошибок или выполнить работу, которая прежде оставалась несделанной. При оценке следует учитывать качество результата, а также необходимость дополнительной проверки или переделки. Успешная демонстрация доказывает наличие определенных возможностей, а решение о масштабировании должно опираться на измеримые улучшения бизнес-процесса. В некоторых случаях анализ может показать, что ИИ — не подходящее решение.

Управление маршрутизацией моделей и оркестрация ИИ всё чаще рассматриваются как способы контролировать затраты. Какую выгоду компании могут получить, динамически выбирая для каждой задачи между небольшими и передовыми моделями, специализированными моделями и традиционным ПО?

Важно подбирать модель в соответствии с задачей. Мы видели, как компании направляют совершенно разные рабочие нагрузки на одну и ту же дорогостоящую передовую модель, поскольку на начальном этапе для них было важнее всего запустить ИИ. При небольшом числе пользователей это может быть приемлемо, но с ростом распространения ИИ затраты быстро увеличиваются. Передовая модель может быть оправданна для сложных рассуждений, тогда как для рутинной задачи может хватить модели поменьше. Для конкретной предметной области лучше подойдет специализированная модель, а предсказуемую задачу с четкими правилами традиционное программное обеспечение может выполнять эффективнее. Оркестрация помогает объединить эти варианты в рабочем процессе и задействовать более мощную модель, когда этого требует задача. По мере повышения возможностей моделей с открытыми весами у компаний появляется больше возможностей выполнять определенные рабочие нагрузки на собственной инфраструктуре, а не платить за внешние модели. В масштабах крупного предприятия такие решения о маршрутизации могут существенно снизить затраты, сохраняя при этом требуемое бизнесу качество.

В какой момент с экономической точки зрения выполнение рабочих нагрузок ИИ перестает быть арендой вычислительных ресурсов через API или публичное облако и начинает требовать владения большей частью базовой инфраструктуры или контроля над ней? Какие факторы следует учитывать предприятиям, принимая такое решение?

Я сравниваю это с арендой и покупкой. Аренда может быть разумным выбором, пока компании экспериментируют или спрос значительно колеблется. Когда использование становится более масштабным и предсказуемым, владение большей частью инфраструктуры или контроль над ней могут стать экономически оправданными. Собственная инфраструктура также позволяет проводить дополнительные эксперименты с ИИ в периоды низкой загрузки и эффективнее использовать уже вложенные средства. Компаниям необходимо учитывать характеристики рабочей нагрузки, а также затраты на электроэнергию, управление и поддержание систем в актуальном состоянии. Для многих крупных предприятий оптимальный подход, вероятно, будет сочетать частную инфраструктуру и внешние сервисы — в зависимости от рабочей нагрузки.

HPE расширяет свою инфраструктуру для частного ИИ, поскольку предприятия переводят все больше рабочих нагрузок в промышленную эксплуатацию. В каких случаях частный ИИ дает наиболее существенное экономическое преимущество по сравнению с использованием ИИ исключительно через публичные облачные сервисы?

Частный ИИ может давать значительное экономическое преимущество при длительных рабочих нагрузках, если компании эффективно используют принадлежащие им вычислительные мощности. Согласно одному анализу HPE, проведенному при заданных допущениях о рабочих нагрузках, стоимость HPE Private Cloud AI оценивалась примерно в 45 долларов за узло-час против примерно 102 долларов для эквивалентной арендованной облачной конфигурации. Результаты будут различаться в зависимости от рабочей нагрузки, поэтому их следует пересчитывать для каждой среды. Частный ИИ также дает компаниям альтернативную финансовую модель: инфраструктура становится активом, который приносит организации пользу.

ИИ-агенты влекут за собой затраты, выходящие за рамки инференса: в их числе извлечение данных, вызовы инструментов, мониторинг, безопасность и управление. Какие расходы организации чаще всего недооценивают, планируя бюджет на агентный ИИ в масштабах предприятия?

Думаю, компании могут недооценивать объем работы, необходимой для того, чтобы агенты оставались надежными, безопасными и полезными в долгосрочной перспективе. Помимо инференса, возникают расходы на извлечение и подготовку данных, доступ к внешним инструментам и передачу информации между системами. Повторные вызовы инструментов или неудачные попытки могут увеличить затраты, так и не приведя к выполнению задачи. Компаниям также необходимо закладывать в бюджет расходы на оценку результатов, мониторинг поведения агентов, управление правами доступа, а также поддержание мер безопасности и механизмов управления. В эти расчеты следует включать и человеческий контроль, в том числе время, которое сотрудники тратят на проверку исключений или исправление ошибок. Чтобы понимать стоимость успешно выполненной задачи, необходимо видеть весь рабочий процесс целиком.

Вы подчеркивали важность учета потребления ресурсов ИИ в привязке к конкретным бизнес-задачам. Как должна выглядеть эффективная внутренняя система оценки и как часто организациям следует пересматривать вопрос о том, оправдывает ли приложение ИИ постоянные затраты на вычисления и эксплуатацию?

Система оценки должна напрямую связывать использование ресурсов с бизнес-обоснованием. Компаниям необходимо понимать, какое приложение потребляет ресурсы и какой результат от него ожидается. В HPE мы отслеживаем ключевые показатели эффективности и связанные с ними удельные затраты для каждого сценария использования, чтобы оценить, приносит ли он ожидаемые результаты. Я хотел бы видеть такие данные и на уровне отдельных подразделений и бизнес-процессов, чтобы финансовый директор мог понять, сколько стоит процесс сейчас и сколько он будет стоить с применением ИИ. Это должен быть непрерывный процесс, поскольку со временем могут меняться и интенсивность использования, и экономика приложения. Компаниям также следует проводить повторную оценку при существенном изменении модели, цены или рабочего процесса, поскольку такие изменения могут повлиять как на затраты, так и на ценность приложения.

Если заглянуть на три-пять лет вперед, как, по вашему мнению, будет меняться экономика корпоративного ИИ по мере его внедрения в большинство бизнес-процессов? Будет ли управление потреблением ИИ со временем опираться на такие практики, как FinOps для облачных сервисов, или организациям потребуется совершенно новая операционная модель?

Думаю, экономика ИИ будет развиваться на основе принципов FinOps, таких как прозрачность затрат, их распределение и подотчётность, и при этом эти принципы будут дополнены оценкой качества и ценности работы, которую выполняет ИИ. По мере того как агенты будут брать на себя всё больше этапов бизнес-процессов, компаниям потребуется понимать, во сколько обходится успешное выполнение таких процессов, включая повторные попытки, вмешательство человека и соответствие результата требуемым стандартам. Как ожидаю, это станет общей ответственностью ИТ-подразделений, финансовых служб и операционных подразделений. Мы пока только начинаем вырабатывать единые подходы к таким сравнениям между организациями и отраслями. Со временем я хотел бы видеть стандартные показатели, которые позволят компаниям оценивать, насколько эффективно они используют ИИ, и отражать это в отчёте о прибылях и убытках (P&L).

Спасибо за замечательное интервью! Читателям, которые хотят больше узнать о частном облачном ИИ, корпоративной инфраструктуре и масштабировании рабочих нагрузок ИИ, стоит посетить HPE.

Антуан — дальновидный лидер и партнёр-основатель Unite.AI, движимый неизменной страстью к формированию и продвижению будущего ИИ и робототехники. Как предприниматель, основавший несколько компаний, он верит, что ИИ изменит общество столь же радикально, как электричество, и часто с воодушевлением говорит о потенциале прорывных технологий и общего искусственного интеллекта (AGI).

Как футуролог, он стремится исследовать, как эти инновации будут формировать наш мир. Кроме того, он основатель Securities.io — платформы, посвящённой инвестициям в передовые технологии, которые переопределяют будущее и преобразуют целые отрасли.