Лир Корият, генеральный директор Quali – Интервью

Лир Корият, генеральный директор Quali, является опытным технологическим руководителем и предпринимателем с почти двумя десятилетиями опыта работы в Quali, где он помог сформировать компанию от ее ранних инженерных и операционных основ до глобального поставщика облачно-агностических решений Environment as a Service для команд DevOps, IT и платформ. С момента назначения генеральным директором и членом совета директоров в 2011 году он руководил расширением Quali на территории США, Европы, Азии и Израиля, опираясь на предыдущие роли вице-президента по исследованиям и разработкам, операционного директора и генерального директора, где он создал инженерные, продажные, службы поддержки клиентов, юридические, деловые и международные операции. Его опыт также включает создание и руководство компанией Intellitech Engineering, приобретенной системной и механической инженерной компанией, обслуживающей оборонные и гражданские клиенты, а также наставнические роли в Google Launchpad Accelerator и Центре предпринимательства и технологий Сутарджа при Университете Калифорнии в Беркли, где он консультирует стартапы по стратегии продукта, выполнению маркетинга, DevOps и масштабированию.

Quali разрабатывает программное обеспечение для автоматизации инфраструктуры и платформенной инженерии, предназначенное для помощи организациям в предоставлении управляемых, самообслуживаемых облачных сред без замедления команд разработки. Платформа Torque предоставляет каталоговый слой самообслуживания для платформенных команд, позволяя утверждать планы, контролировать доступ на основе ролей, управлять жизненным циклом, атрибутировать затраты, обеспечивать соблюдение политики и предоставлять реальное время видимости во всех средах. Quali позиционирует Torque как способ стандартизации доставки инфраструктуры в многооблачных и гибридных облачных настройках, с поддержкой использования случаев, включая разработку программного обеспечения, тестирование, демонстрации, обучение, развертывание концепции доказательства, MLOps, агентский ИИ, автоматизацию конвейера CI/CD и GPU в качестве сервиса. Более широкий портфель продуктов также включает CloudShell, который превращает инфраструктуру в многократные блоки с низким кодом или без кода для сложных сред на локальных и облачных инфраструктурах.

Вы основали и расширили несколько технологических компаний до того, как возглавить Quali, и ваша карьера охватывает военные системы, робототехнику, инженерную инфраструктуру и облачную автоматизацию. Как эти опыт повлияли на ваше видение построения платформ инфраструктуры ИИ, и что убедило вас, что это правильный момент для фокусировки на управлении инфраструктурой, родной для ИИ?

Моя карьера постоянно центрировалась на сложных системах, которые должны работать надежно в сложных условиях. Я начал с робототехники и аэрокосмической промышленности, разрабатывая системы автоматизации и симуляции для оборонных приложений, где повторяемость и управление были операционными требованиями, а не предпочтениями инженерии. Эти среды научили меня, что самые сложные проблемы возникают, когда несколько систем и процессов должны работать вместе последовательно во времени.

Эта перспектива сохранилась в Quali. За последнее десятилетие инфраструктура предприятий стала все более распределенной по разным уровням. Каждый новый уровень решил конкретную техническую проблему, но он также ввел еще один интерфейс управления, еще один операционный рабочий процесс и еще один источник сложности. Организации стали очень хорошими в создании инфраструктуры, но гораздо менее эффективными в управлении ею, когда она уже существует.

ИИ ускорил этот дисбаланс, и операционные проблемы все чаще определяют, достигает ли инициатива ИИ производства или остается застрявшей на этапе пилотного проекта. Именно поэтому я считаю, что управление инфраструктурой, родной для ИИ, стало необходимым. Вызов заключается в обеспечении непрерывной работы инфраструктуры ИИ в гетерогенных средах, сохраняя при этом управление, безопасность и контроль затрат, оптимизируя использование.

Суверенный ИИ быстро стал приоритетом для правительств и предприятий. Что большинство организаций неправильно понимают о суверенитете, и почему вы считаете, что управление инфраструктурой становится столь же важным, как владение моделью?

Многие обсуждения суверенного ИИ сосредоточены на резиденции данных и владении инфраструктурой. Это необходимые компоненты, но они решают только часть операционной реальности.

Как только организации начинают развертывать автономные агенты, основной вопрос смещается от того, где находится инфраструктура, к тому, как системы ИИ работают внутри этой инфраструктуры. Современные агенты выделяют ресурсы, извлекают информацию, инициируют рабочие процессы и взаимодействуют с производственными системами. Каждое из этих действий требует обеспечения соблюдения политики.

Это меняет то, как суверенитет должен быть оценен. Владение инфраструктурой не автоматически обеспечивает операционный контроль, если системы ИИ могут выполнять действия без детерминированного управления. Предприятиям необходимо продемонстрировать, кто инициировал действие, какие политики управляли им, какие ресурсы были доступны и как эти решения могут быть проанализированы. Вызов заключается в обеспечении непрерывной работы инфраструктуры ИИ в гетерогенных средах, сохраняя при этом управление, безопасность и контроль затрат, оптимизируя использование.

Я ожидаю, что управление инфраструктурой станет столь же стратегически важным, как разработка модели, поскольку оно обеспечивает операционную основу, которая позволяет организациям масштабировать ИИ ответственно. Когда предприятия принимают несколько моделей, несколько облаков и все более автономные рабочие процессы, управление становится слоем, который сохраняет эти среды безопасными и подотчетными во всей инфраструктуре.

Агенты ИИ все чаще получают полномочия по выделению ресурсов, развертыванию рабочих нагрузок и принятию операционных решений. Какие ограничения должны быть установлены до того, как предприятия смогут безопасно доверять автономным системам критическую инфраструктуру?

Многие организации уже развертывают агенты ИИ в производстве. Вопрос заключается в том, как эти агенты работают внутри четко определенных границ.

Первым требованием является детерминированное обеспечение соблюдения политики на уровне выполнения. Агенты должны быть способны выполнять только действия, которые соответствуют предварительно определенным политикам инфраструктуры. Эти политики не должны полагаться на модель, которая решает, является ли действие подходящим. Они должны быть обеспечены независимо от самой модели.

Контроль доступа также важен. Постоянные разрешения создают ненужный операционный риск. Доступ должен быть выделен для конкретной задачи, ограничен ресурсами, необходимыми для ее выполнения, и отозван автоматически после завершения работы. Эта модель позволяет организациям расширять автоматизацию без расширения поверхности атаки.

Каждое действие также требует полного аудиторского следа. Когда системы ИИ становятся более автономными, предприятиям необходимо понимать, какой агент выполнил действие, когда оно произошло, какая политика авторизовала его и какие изменения были сделаны. Этот уровень прослеживаемости поддерживает операционную устранение неполадок, а также соблюдение нормативных требований.

Я также считаю, что автономная инфраструктура должна работать в управляемых средах, а не в неограниченной инфраструктуре. Хорошо определенные среды обеспечивают явные границы ресурсов, контроли жизненного цикла и операционные политики до начала выполнения рабочих нагрузок агентом. Это позволяет организациям увеличить автоматизацию, сохраняя при этом предсказуемое операционное поведение при продолжающемся масштабировании развертывания ИИ.

Вы часто обсуждаете переход от традиционной автоматизации к тому, что вы называете интеллектуальной контрольной плоскостью. Что фундаментально меняется, когда инфраструктура начинает работать на основе намерения, а не статических правил и рабочих процессов?

Традиционная автоматизация выполняет предварительно определенные шаги. Это работает, когда инфраструктура предсказуема, рабочие нагрузки стабильны и изменения происходят через управляемые человеком рабочие процессы. Инфраструктура ИИ не работает так.

Рабочие нагрузки ИИ динамичны. Запросы на GPU меняются быстро, среды создаются и разрушаются часто, и агентам может потребоваться доступ к ресурсам для конкретных задач. Интеллектуальная контрольная плоскость понимает цель среды, кто ее владелец, какова ее стоимость, какие политики применяются и соответствует ли текущее состояние предполагаемому состоянию.

Этот контекст меняет управление инфраструктурой. Система может обнаружить отклонение, рекомендовать оптимизацию, обеспечить соблюдение политики и управлять решениями о жизненном цикле против предполагаемого результата, а не статического сценария.

Инфраструктура GPU стала одной из самых больших проблем в развертывании ИИ. Считаете ли вы, что отрасль неправильно подходит к использованию GPU, и какие операционные изменения могут значительно улучшить эффективность без простого добавления большего количества оборудования?

Отрасль часто рассматривает проблему GPU как проблему закупок. Во многих предприятиях более насущной проблемой является эффективность использования.

Мы видим организации с кластерами GPU, которые предварительно выделяются для пиковой нагрузки, простаивают между запусками обучения или остаются прикрепленными к средам после завершения работы. Это создает высокую стоимость без соответствующей бизнес-ценности.

Улучшение эффективности GPU начинается с контроля жизненного цикла. Среды должны быть выделены по требованию, сопоставлены с рабочей нагрузкой, атрибутированы команде или проекту и разрушены автоматически после завершения задачи. Предприятиям также необходимо иметь видимость использования, затрат на рабочую нагрузку и бизнес-цели за каждой средой.

Добавление оборудования может все еще быть необходимо, но неуправляемая емкость GPU только расширяет проблему стоимости.

Многие предприятия сейчас работают в публичном облаке, частном облаке, локальных средах и инфраструктуре края. Как вы видите эволюцию гибридных сред ИИ в течение следующих пяти лет, и какие проблемы остаются нерешенными сегодня?

Гибридный ИИ станет дефолтной моделью предприятия. Организации будут использовать публичное облако для гибкости, локальную инфраструктуру для контроля и управления затратами и среды края, где задержка, локальность данных или операционные требования требуют этого.

Нерешенной проблемой остается согласованность. Большинство предприятий уже работают в нескольких поставщиках, облаках, инструментах автоматизации и типах инфраструктуры. ИИ добавляет кластеры GPU, среды обслуживания моделей, конвейеры тонкой настройки и агентные рабочие нагрузки к этой смеси.

В течение следующих пяти лет ведущие организации будут теми, которые создадут один операционный стандарт во всех этих средах. Им необходимо будет обеспечить согласованное выделение, обеспечение соблюдения политики, атрибуцию затрат, аудит и управление жизненным циклом, независимо от того, где выполняется рабочая нагрузка.

DevOps преобразовал доставку программного обеспечения за последнее десятилетие. Считаете ли вы, что инфраструктура ИИ требует совершенно новой операционной модели или это естественная эволюция DevOps и платформенной инженерии?

Инфраструктура ИИ расширяет DevOps, но она также вводит требования, которые традиционные практики DevOps не были разработаны для обработки.

DevOps улучшил доставку программного обеспечения, стандартизировав конвейеры, автоматизируя повторяющуюся работу и предоставляя командам более быстрый доступ к ресурсам, которые им необходимы. Инфраструктура ИИ требует той же дисциплины, но рабочие нагрузки более интенсивны по ресурсам, менее предсказуемы и более зависимы от специализированной инфраструктуры.

Платформенная инженерия становится центральной в этой среде. Командам необходимо управляемый самообслуживаемый доступ к проверенным средам, а не к билетным системам выделения или ручным настройкам. Операционная модель все еще ценит скорость и автоматизацию, но она также требует более сильного управления, контроля затрат и контекста инфраструктуры с самого начала.

Операции без участия человека давно являются целью в управлении инфраструктурой. Насколько близко мы к真正 автономной инфраструктуре, и какие технические и организационные барьеры все еще стоят на пути?

Мы гораздо ближе к автономной инфраструктуре, чем многие люди осознают, но ограничивающим фактором является управление, а не автоматизация. Агенты ИИ уже могут выделять среды, развертывать рабочие нагрузки, исследовать аномалии и рекомендовать меры по исправлению. Вызов заключается в обеспечении того, чтобы эти действия выполнялись в пределах четко определенных границ политики.

Организациям также необходимо иметь уверенность в том, что автономные системы могут объяснить, что они сделали, почему они сделали это и под какой политикой они действовали. Этот уровень прослеживаемости все еще отсутствует во многих средах предприятий. Автономная инфраструктура станет мейнстримом, когда управление, аудит и обеспечение соблюдения политики будут встроены в операционный слой, а не добавлены после этого.

Когда рабочие нагрузки ИИ становятся более динамичными и интенсивными по ресурсам, перерасходы затрат становятся серьезной проблемой. Какие наиболее распространенные ошибки делают предприятия при попытке масштабировать инфраструктуру ИИ, и как они могут их избежать?

Многие организации фокусируются на приобретении большего количества вычислительных ресурсов, прежде чем понять, насколько эффективно они используют инфраструктуру, которую они уже имеют.

Мы регулярно видим среды, которые остаются активными после завершения проектов, ресурсы GPU, зарезервированные для рабочих нагрузок, которые никогда не выполняются, и мало видимости в том, какие команды или приложения стимулируют затраты на инфраструктуру. Рабочие нагрузки ИИ усиливают эти неэффективности, поскольку спрос меняется быстро, а инфраструктура GPU дорогая.

Решение начинается с управления. Каждая среда должна иметь определенного владельца, бизнес-цель, жизненный цикл и профиль затрат с момента ее выделения. Когда организации сочетают обеспечение соблюдения политики с автоматическим разрушением и непрерывной видимостью использования, расходы на инфраструктуру становятся намного легче предсказать и оправдать.

Взглянув вперед, что будет отличать организации, которые успешно операционализируют ИИ в масштабе, от тех, кто будет бороться, и какие тенденции инфраструктуры должны технологические лидеры внимательно отслеживать прямо сейчас, которые все еще находятся под радаром?

Организации, которые преуспеют, будут рассматривать инфраструктуру ИИ как операционную способность, а не как коллекцию технологий. Модели будут продолжать улучшаться, и оборудование будет продолжать становиться более мощным. Операция этих сред последовательно в нескольких командах и платформах останется более сложной задачей.

Одна тенденция, которая заслуживает более внимательного отношения, – это сдвиг в сторону интеллекта инфраструктуры. Платформы инфраструктуры начинают понимать контекст того, что они управляют, кто владеет средой, какую рабочую нагрузку она поддерживает, сколько она стоит, соответствует ли она политике и когда ее следует оптимизировать или утилизировать. Этот операционный контекст станет все более ценным, когда предприятия будут развертывать больше агентов ИИ и более гетерогенную инфраструктуру.

Я также ожидаю, что управление станет конкурентным преимуществом. Организации, которые смогут выделять инфраструктуру быстро, сохраняя при этом видимость, обеспечение соблюдения политики, контроль затрат и аудит, переведут проекты ИИ из пилотного в производственный режим намного быстрее, чем те, кто все еще полагается на фрагментированные операционные модели.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить Quali.