Ліор Коріат, генеральний директор Quali – Серія інтерв’ю

Ліор Коріат, генеральний директор Quali, – досвідчений технологічний виконавець та підприємець з майже двома десятиліттями досвіду роботи в Quali, де він допоміг сформувати компанію з її ранньої інженерної та операційної основи в глобального постачальника хмарних рішень Environment as a Service для команд DevOps, IT та платформ. З моменту призначення генеральним директором та членом ради директорів у 2011 році він очолив розширення Quali по всьому світу, в США, Європі, Азії та Ізраїлі, будуючи на попередніх ролях віце-президента з досліджень і розробок, операційного директора, генерального директора, де він заснував інженерні, продажні, служби клієнтів, юридичні, бізнес-розробки та міжнародні операції. Його досвід також включає заснування та керівництво компанією Intellitech Engineering, придбаною системою інженерії та механічної інженерії, що обслуговує оборонну та цивільну клієнтуру, а також наставницькі ролі в Google Launchpad Accelerator та центрі підприємництва та технологій UC Berkeley, де він радить стартапам щодо стратегії продукту, виконання виходу на ринок, DevOps та масштабування.

Quali розробляє програмне забезпечення для автоматизації інфраструктури та інженерії платформи, призначене для допомоги організаціям у доставці керованих, самозаправних хмарних середовищ без сповільнення команд розробки. Його платформа Torque забезпечує каталогований самозаправний шар для платформених команд, що дозволяє затверджені блупринти, рольові засоби контролю доступу, керування життєвим циклом, атрибуція витрат, забезпечення політики та реальний час видимості по всім середовищам. Quali позиціонує Torque як засіб стандартизації доставки інфраструктури по всьому багатокристалічному та гібридному хмарному середовищу, з підтримкою випадків використання, включаючи розробку програмного забезпечення, тестування, демонстрації, навчання, розгортання доказів концепції, MLOps, агентський AI, автоматизацію конвеєра CI/CD та GPU-as-a-Service. Її ширший портфель продукції також включає CloudShell, який перетворює інфраструктуру в багаторазові низькокодові або безкодові будівельні блоки для складних середовищ по всьому локальному та хмарному середовищу.

Ви заснували та розширили кілька технологічних компаній до того, як очолили Quali, а ваша кар’єра охоплює військові системи, робототехніку, інфраструктурну інженерію та хмарну автоматизацію. Як ці досвіди вплинули на ваше бачення будівництва платформ інфраструктури AI, і що переконало вас, що це правильний момент для зосередження уваги на керуванні інфраструктурою AI?

Моя кар’єра постійно центрувалася на складних системах, які повинні працювати надійно в умовах високих вимог. Я почав у робототехніці та аерокосмічній галузі, розробляючи системи автоматизації та моделювання для оборонних застосунків, де повторюваність та керування були операційними вимогами, а не інженерними перевагами. Ці середовища навчили мене, що найскладніші проблеми виникають там, де кілька систем та процесів повинні працювати разом послідовно протягом часу.

Цей погляд перенісся в Quali. За останні десять років підприємства інфраструктури стали все більш розподіленими по різних рівнях. Кожний новий рівень вирішував певну технічну проблему, але він також вводив ще один інтерфейс керування, ще один робочий процес операцій та ще один джерело складності. Організації стали дуже хорошими у створенні інфраструктури, проте значно менше ефективними у її керуванні після того, як вона існувала.

AI прискорив цю дисбаланс, а операційні виклики все частіше визначають, чи досягне ініціатива AI стадії виробництва чи залишається на стадії пілотного проекту. Саме тому я вважаю, що керування інфраструктурою AI стало необхідним. Викликом є забезпечення безперервної роботи інфраструктури AI по всьому гетерогенному середовищу підтримання керування, безпеки та дисципліни витрат при оптимізації використання.

Суверенний AI швидко став пріоритетом для урядів та підприємств. Що більшість організацій не розуміють про суверенітет, і чому ви вважаєте, що керування інфраструктурою стає таким же важливим, як і володіння моделлю?

Багато дискусій про суверенний AI зосереджуються на резиденції даних та власності інфраструктури. Це необхідні компоненти, проте вони охоплюють лише частину операційної реальності.

Як тільки організації починають розгортання автономних агентів, основним питанням стає не місце розташування інфраструктури, а те, як системи AI працюють всередині цієї інфраструктури. Сучасні агенти забезпечують ресурси, витягують інформацію, ініціюють робочі процеси та взаємодіють з системами виробництва. Кожна з цих дій вимагає забезпечення політики.

Це змінює оцінку суверенітету. Володіння інфраструктурою не автоматично забезпечує операційний контроль, якщо системи AI можуть виконувати дії без детермінованого керування. Підприємства повинні продемонструвати, хто ініціював дію, яка політика керувала нею, які ресурси були доступні, та як ці рішення можуть бути перевірені. Викликом є забезпечення безперервної роботи інфраструктури AI по всьому гетерогенному середовищу підтримання керування, безпеки та дисципліни витрат при оптимізації використання.

Я очікую, що керування інфраструктурою стане так само стратегічно важливим, як і розробка моделі, оскільки воно забезпечує операційний каркас, який дозволяє організаціям масштабувати AI відповідально. Коли підприємства приймають кілька моделей, кілька хмар та все більш автономні робочі процеси, керування стає шаром, який утримує ці середовища в безпеці та підзвітності по всій інфраструктурі.

Агенти AI все частіше отримують повноваження щодо забезпечення ресурсів, розгортання робочих процесів та прийняття операційних рішень. Які перехідні засоби повинні бути на місці, перш ніж підприємства зможуть безпечно довіряти автономним системам критичну інфраструктуру?

Багато організацій вже розгортають агенти AI у виробництві. Питанням є те, як ці агенти працюють всередині чітко визначених меж.

Першим вимогами є детерміноване забезпечення політики на рівні виконання. Агенти повинні бути здатні виконувати тільки ті дії, які відповідають попередньо визначеним інфраструктурним політикам. Ці політики не можуть покладатися на те, що модель вирішить, чи дія є відповідною. Вони повинні бути забезпечені незалежно від самої моделі.

Контроль доступу є рівнозначно важливим. Постійні дозволи створюють непотрібний операційний ризик. Доступ повинен бути забезпечений для конкретної задачі, обмежений ресурсами, необхідними для виконання, та скасований автоматично після завершення роботи. Ця модель дозволяє організаціям розширювати автоматизацію без розширення поверхні атаки.

Кожна дія також потребує повного аудиту. Коли системи AI стають все більш автономними, підприємства повинні розуміти, який агент виконав дію, коли це відбулося, яка політика авторизувала її, та які зміни були зроблені. Цей рівень слідкості підтримує операційну розслідування, а також відповідність нормативним вимогам.

Я також вважаю, що автономна інфраструктура повинна працювати всередині керованих середовищ, а не по всій необмеженій інфраструктурі. Визначені середовища забезпечують явні межі ресурсів, керування життєвим циклом та операційні політики до того, як агент починає виконувати робочі процеси. Це дозволяє організаціям збільшувати автоматизацію, зберігаючи при цьому передбачувану операційну поведінку під час масштабування розгортання AI.

Ви часто обговорюєте перехід від традиційної автоматизації до того, що ви називаєте інтелектуальною контрольною площиною. Що фундаментально змінюється, коли інфраструктура починає працювати навколо наміру, а не статичних правил та робочих процесів?

Традиційна автоматизація виконує попередньо визначені кроки. Це працює, коли інфраструктура передбачувана, робочі процеси стабільні, а зміни відбуваються через людські керовані робочі процеси. Інфраструктура AI не працює таким чином.

Робочі процеси AI є динамічними. Вимога до GPU змінюється швидко, середовища створюються та розбираються часто, а агенти можуть потребувати доступу до ресурсів для конкретних завдань. Інтелектуальна контрольна площина розуміє мету середовища, хто ним володіє, яку вартість воно має, які політики застосовуються, та чи живий стан все ще відповідає наміченому стану.

Цей контекст змінює керування інфраструктурою. Система може виявити дрейф, рекомендувати оптимізацію, забезпечити політику, та керувати рішеннями щодо життєвого циклу проти наміченого результату, а не статичного скрипту.

Інфраструктура GPU стала однією з найбільших瓶очок у розгортанні AI. Чи вважаєте ви, що галузь підходить до використання інфраструктури GPU неправильно, та які операційні зміни можуть суттєво покращити ефективність без простого додавання більшої кількості апаратного забезпечення?

Галузь часто розглядає проблему GPU як проблему придбання. У багатьох підприємствах більш негайною проблемою є використання.

Ми бачимо організації з кластерами GPU, які попередньо виділені для пікової вимоги, простоюють між тренувальними запусками, або залишаються прикріпленими до середовищ після завершення роботи. Це створює високі витрати без відповідної бізнес-цінності.

Покращення ефективності GPU починається з керування життєвим циклом. Середовища повинні бути забезпечені на вимогу, відповідати роботі, атрибутуватися до команди або проекту, та розібрані автоматично після завершення завдання. Підприємства також потребують видимості використання, вартості на робочий процес, та бізнес-мети кожної середовища.

Додавання апаратного забезпечення може все ще бути необхідним, проте некерованна потужність GPU тільки розширює проблему витрат.

Багато підприємств тепер працюють по всьому публічному хмарному середовищу, приватному хмарному середовищу, локальному середовищу та інфраструктурі краю. Як ви бачите розвиток гібридних середовищ AI протягом наступних п’яти років, та які виклики залишаються нерозв’язаними сьогодні?

Гібридні середовища AI стануть домопоглядовим підприємством. Організації будуть використовувати публічне хмарне середовище для гнучкості, локальну інфраструктуру для контролю та керування витратами, а середовища краю там, де затримка, локальність даних або операційні вимоги вимагають цього.

Нерозв’язаним викликом залишається узгодженість. Більшість підприємств вже працюють по всьому декільком постачальникам, хмарам, інструментам автоматизації та типам інфраструктури. AI додає кластери GPU, середовища подачі моделей, трубопроводи тонкої настройки, агентські робочі процеси та автоматизацію конвеєра CI/CD до цієї суміші.

За наступні п’ять років лідируючими організаціями будуть ті, які створять один операційний стандарт по всьому цим середовищам. їм потрібно буде узгоджене забезпечення, забезпечення політики, атрибуція витрат, аудитність та керування життєвим циклом, незалежно від того, де працює робочий процес.

DevOps перетворив доставку програмного забезпечення протягом останнього десятиліття. Чи вважаєте ви, що інфраструктура AI вимагає цілком нової операційної моделі, або це природна еволюція DevOps та інженерії платформи?

Інфраструктура AI розширює DevOps, проте вона також вводить вимоги, яких традиційна практика DevOps не була призначена обробляти.

DevOps покращив доставку програмного забезпечення, стандартизуючи конвеєри, автоматизуючи повторювані роботи, та надаючи командам швидкий доступ до ресурсів, необхідних їм. Інфраструктура AI вимагає такої самої дисципліни, проте робочі процеси більш інтенсивні щодо ресурсів, менш передбачувані, та більш залежні від спеціалізованої інфраструктури.

Інженерія платформи стає центральною в цьому середовищі. Командам потрібен керований самозаправний доступ до валідованих середовищ, а не запитний чи ручний конфігураційний процес. Операційна модель все ще цінує швидкість та автоматизацію, проте вона також вимагає сильнішого керування, контролю витрат та контексту інфраструктури з самого початку.

Операції без людського втручання давно є метою керування інфраструктурою. Наскільки ми близькі до真正ої автономної інфраструктури, та які найбільші технічні та організаційні бар’єри все ще стоять на шляху?

Ми значно ближче до автономної інфраструктури, ніж більшість людей розуміють, проте обмежувальним фактором є керування, а не автоматизація. Агенти AI вже можуть забезпечувати середовища, розгортати робочі процеси, розслідувати аномалії, та рекомендувати виправлення. Викликом є забезпечення того, щоб ці дії відбувалися всередині чітко визначених меж політики.

Організаціям також потрібна впевненість, що автономні системи можуть пояснити, що вони зробили, чому вони це зробили, та під якою політикою вони діяли. Цей рівень слідкості все ще відсутній у багатьох підприємницьких середовищах. Автономна інфраструктура стане загальною, коли керування, аудитність та забезпечення політики будуть закладені в операційний шар, а не додані пізніше.

Когда робочі процеси AI стають більш динамічними та інтенсивними щодо ресурсів, перевитрати витрат стають великою проблемою. Які найпоширеніші помилки, які підприємства роблять при спробі масштабувати інфраструктуру AI, та як вони можуть уникнути їх?

Багато організацій зосереджуються на придбанні більшої кількості обчислювальних ресурсів, перш ніж зрозуміти, наскільки ефективно вони використовують інфраструктуру, яку вже мають.

Ми регулярно бачимо середовища, які залишаються активними після завершення проєктів, ресурси GPU, зарезервовані для робочих процесів, які ніколи не запускаються, та мало видимості використання, витрат на робочий процес, та бізнес-мети кожної середовища. Робочі процеси AI посилюють ці неефективності, оскільки вимога змінюється швидко, а інфраструктура GPU дорога.

Рішення починається з керування. Кожне середовище повинно мати визначеного власника, бізнес-мету, життєвий цикл, та профіль витрат з моменту його забезпечення. Коли організації поєднують забезпечення політики з автоматичним розбиранням та безперервною видимістю використання, витрати на інфраструктуру стають значно легше передбачуваними та виправданими.

Оглядаючи вперед, що відокремить організації, які успішно оперціоналізують AI у масштабі, від тих, які борються, та які тенденції інфраструктури повинні технологічні лідери уважно розглянути зараз, які все ще літають під радаром?

Організації, які успішно оперціоналізують AI у масштабі, будуть розглядати інфраструктуру AI як операційну здатність, а не колекцію технологій. Моделі будуть продовжувати покращуватися, а апаратне забезпечення стане все більш потужним. Операція цих середовищ послідовно по всьому командам та платформам залишається складнішою проблемою.

Одна тенденція, яка заслуговує більшої уваги, – це перехід до інтелектуальної інфраструктури. Платформи інфраструктури починають розуміти контекст того, що вони керують, хто володіє середовищем, який робочий процес воно підтримує, яку вартість воно має, чи відповідає воно політиці, та коли воно повинно бути оптимізовано або видалено. Цей операційний контекст стане все більш цінним, коли підприємства розгортають більше агентів AI та все більш гетерогенної інфраструктури.

Я також очікую, що керування стане конкурентною перевагою. Організації, які можуть забезпечити інфраструктуру швидко, зберігаючи при цьому видимість, забезпечення політики, контроль витрат, та аудитність, перемістять проєкти AI з пілотної стадії у виробництво значно швидше, ніж ті, які все ще покладаються на фрагментовані операційні моделі.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Quali.