Lior Koriat, Qualin toimitusjohtaja – Haastattelusarja

Lior Koriat, Qualin toimitusjohtaja, on kokenut teknologiajohtaja ja yrittäjä, jolla on lähes kaksi vuosikymmentä kokemusta Qualista, jossa hän on auttanut muotoilemaan yritystä sen varhaisista insinööri- ja operatiivisista perustoimista globaaliksi, pilviägnostiseksi Environment as a Service -ratkaisujen tarjoajaksi DevOps-, IT- ja alustatiimeille. Toimitusjohtajana ja hallituksen jäsenenä vuodesta 2011 lähtien hän on johtanut Qualin laajentumista Yhdysvaltoihin, Eurooppaan, Aasiaan ja Israeliin, rakentamalla aikaisempien roolien pohjalta tutkimus- ja kehitysjohtajana, operatiivisena johtajana ja toimitusjohtajana, jossa hän perusti insinööri-, myynti-, asiakastuki-, lakiasiat, liiketoimintakehitys- ja kansainväliset operatiiviset toiminnot. Taustalla on myös perustamis- ja johtamiskokemus Intellitech Engineering -yhtiöstä, joka on hankittu järjestelmä- ja mekaniikkasuunnitteluyritys, joka palvelee puolustus- ja siviiliasiakkaita, sekä mentorointirooleja Google Launchpad Acceleratorilla ja UC Berkeley:n Sutardja Center for Entrepreneurship & Technology -keskuksessa, jossa hän neuvoo startup-yrityksiä tuotestrategiasta, markkinointitoimenpiteistä, DevOpsista ja skaalautumisesta.

Quali kehittää infrastruktuurin automaatio- ja alustasuunnittelun ohjelmistoja, jotka on suunniteltu auttamaan organisaatioita toimittamaan hallitut, itsepalvelupilviympäristöt ilman kehitystiimien hidastamista. Torque-alusta tarjoaa katalogipohjaisen itsepalvelukerroksen alustatiimeille, mahdollistaen hyväksyttyjä suunnitelmia, roolipohjaisia käyttöoikeuksia, elinkaaren hallintaa, kustannusmäärittelyä, käytäntöjen valvontaa ja reaaliaikaisen näkyvyyden ympäristöjen yli. Quali asettaa Torquen standardoimaan infrastruktuurin toimittamisen monipilvi- ja hybridipilviympäristöissä, tukeen käyttötapauksia, kuten ohjelmistokehitystä, testausta, demoja, koulutusta, todistuskykyisiä käyttöönottoja, MLOpsia, agenteja, CI/CD-pipeline-automatiikkaa ja GPU-palveluja. Laajempi tuoteportfolio sisältää myös CloudShellin, joka muuttaa infrastruktuurin uudelleen käytettäviksi matalan koodin tai koodittomaksi rakennuspalikoiksi monimutkaisiin ympäristöihin sekä paikallisen ja pilvi-infrastruktuurin yli.

Olet perustanut ja laajentanut useita teknologiayrityksiä ennen kuin johtajaksi Qualiin, ja urasi kattaa sotilasjärjestelmiä, robottiikkaa, infrastruktuurin insinööritöitä ja pilviautomaatiota. Miten nämä kokemukset ovat vaikuttaneet visioosi AI-infrastruktuurin rakentamisesta, ja mikä vakuutti sinut siitä, että tämä on oikea hetki keskittyä AI-ominaisuuksiin?

Uraani on aina keskittynyt monimutkaisiin järjestelmiin, jotka on toimittava luotettavasti vaativissa olosuhteissa. Aloin robottiikasta ja avaruustechnologiasta, kehittäen automaatio- ja simulaatiojärjestelmiä puolustussovelluksiin, joissa toistettavuus ja hallinto olivat operatiivisia vaatimuksia eikä insinöörien mieltymyksiä. Nämä ympäristöt opettivat minulle, että vaikeimmat ongelmat syntyvät, kun useat järjestelmät ja prosessit on toimittava yhdessä johdonmukaisesti ajan myötä.

Tämä näkökulma on vaikuttanut Qualiin. Viimeisen vuosikymmenen aikana yritysten infrastruktuuri on muuttunut yhä enemmän hajautetuksi eri kerroksilla. Jokainen uusi kerros ratkaisi tietyn teknisen ongelman, mutta se esitteli myös uuden hallintaliittymän, uuden operatiivisen työnkulun ja uuden monimutkaisuuden lähteen. Organisaatiot ovat tulleet hyviksi infrastruktuurin luomisessa, mutta vähemmän tehokkaiksi sen hallinnassa, kun se on olemassa.

AI on kiihdyttänyt tätä epätasapainoa, ja operatiiviset haasteet määräävät yhä enemmän, pääsevätkö AI-alihankkeet tuotantoon vai jäävätkö ne koekäyttöön. Siksi uskon, että AI-ominaisuuksien hallinta on tullut välttämättömäksi. Haaste on toimittaa AI-infrastruktuuria jatkuvasti heterogeenisissä ympäristöissä hallinnon, turvallisuuden ja kustannusdiscipliinin ylläpitämisellä samalla, kun hyötyä optimoidaan.

Suvereeni AI on nopeasti tullut tärkeäksi hallituksille ja yrityksille. Mitä useimmat organisaatiot ymmärtävät väärin suvereenisuudesta, ja miksi uskot, että infrastruktuurin hallinta on tuleva yhtä tärkeäksi kuin mallin omistajuus?

Monet suvereenisen AI-keskustelut keskittyvät tietojen sijaintiin ja infrastruktuurin omistamiseen. Nämä ovat välttämättömiä osia, mutta ne käsittelevät vain osaa operatiivisesta todellisuudesta.

Kun organisaatiot alkavat käyttää autonomisia agenteja, ensisijainen kysymys siirtyy siitä, missä infrastruktuuri sijaitsee, siihen, miten AI-järjestelmät toimivat infrastruktuurin sisällä. Nykyaikaiset agentit varastoivat resursseja, noutavat tietoja, käynnistävät työnkulkuja ja vuorovaikuttavat tuotantojärjestelmien kanssa. Jokainen näistä toimista edellyttää käytäntöjen valvontaa.

Tämä muuttaa sitä, miten suvereenisuutta tulisi arvioida. Infrastruktuurin omistaminen ei välttämättä tarjoa operatiivista valvontaa, jos AI-järjestelmät voivat suorittaa toimia ilman determinististä hallintaa. Yrityksillä on osoitettava, kuka aloitti toiminnon, mitkä käytännöt ohjasivat sitä, mitkä resurssit käytettiin ja miten nämä päätökset voidaan auditioida. Haaste on toimittaa AI-infrastruktuuria jatkuvasti heterogeenisissä ympäristöissä hallinnon, turvallisuuden ja kustannusdiscipliinin ylläpitämisellä samalla, kun hyötyä optimoidaan.

Odottan, että infrastruktuurin hallinta tulee olemaan yhtä strategisesti tärkeä kuin mallin kehitys, koska se tarjoaa operatiivisen kehyksen, joka mahdollistaa yritysten skaalata AI-vastuulla. Kun yritykset omaksuvat useita malleja, useita pilviympäristöjä ja yhä enemmän autonomisia työnkulkuja, hallinta tulee olemaan kerros, joka pitää nämä ympäristöt turvallisina ja vastuullisina koko infrastruktuurin hallinnan yli.

AI-agentit saavat yhä useammin valtuudet varata resursseja, käyttää työmäärää ja tehdä operatiivisia päätöksiä. Mitkä varotoimet on asetettava paikoilleen, ennen kuin yritykset voivat turvallisesti luottaa autonomisiin järjestelmiin kriittisen infrastruktuurin kanssa?

Monet organisaatiot ovat jo käyttäneet AI-agenteja tuotannossa. Kysymys on, miten nämä agentit toimivat selkeästi määritellyissä rajoissa.

Ensimmäinen vaatimus on deterministinen käytäntöjen valvonta suorituskerrassa. Agentit eivät saa suorittaa toimia, jotka eivät ole yhdenmukaisia etukäteen määritellyjen infrastruktuurin käytäntöjen kanssa. Nämä käytännöt eivät voi riippua mallin päätöksestä siitä, onko toiminto sopiva. Ne on valvottava itsenäisesti mallista.

Pääsyvalvonta on yhtä tärkeä. Pysyvät valtuudet luovat tarpeettoman operatiivisen riskin. Pääsy on varattava tietyn tehtävän suorittamiseksi, rajoitettu vain tarvittaviin resursseihin ja peruutettu automaattisesti, kun työ on valmis. Tämä malli mahdollistaa organisaatioiden laajentaa automaatiota ilman, että he laajentavat hyökkäyspintaa.

Jokainen toiminto tarvitsee myös täydellisen auditin. Kun AI-järjestelmät tulevat yhä autonomisemmiksi, yrityksillä on oltava ymmärrys siitä, mikä agentti suoritti toiminnon, milloin se tapahtui, mikä käytäntö valvotti sitä ja mitkä muutokset tehtiin. Tämä jäljityskyky tukee operatiivista vianetsintää sekä sääntelynmukaista noudattamista.

Uskon myös, että autonomisen infrastruktuurin on toimittava hallitussa ympäristössä eikä rajoittamattomassa infrastruktuurissa. Hyvin määritellyt ympäristöt tarjoavat eksplisiittiset resurssirajat, elinkaaren valvontaa ja operatiivisia käytäntöjä ennen kuin agentti alkaa suorittaa työmäärää. Tämä mahdollistaa organisaatioiden lisätä automaatiota samalla, kun ne ylläpitävät ennustettavaa operatiivista käyttäytymistä AI-käyttöönottojen jatkuessa.

Usein keskustelit siirtymisestä perinteisestä automaatiosta siihen, mitä kutsut älykkääksi ohjauskerrokseksi. Mitä muuttuu perustavanlaatuisesti, kun infrastruktuuri alkaa toimia aikomuksen sijaan staattisten sääntöjen ja työnkulkujen mukaan?

Perinteinen automaatio suorittaa etukäteen määritellyt vaiheet. Tämä toimii, kun infrastruktuuri on ennustettavissa, työmäärä on vakaata ja muutokset tapahtuvat ihmisten hallinnoimien työnkulkujen kautta. AI-infrastruktuuri ei toimi näin.

AI-työmäärät ovat dynaamisia. GPU-vaatimus muuttuu nopeasti, ympäristöt luodaan ja puretaan usein, ja agenteilla voi olla tarve päästä resursseihin tiettyihin tehtäviin. Älykäs ohjauskerros ymmärtää ympäristön tarkoituksen, kuka omistaa sen, mitä se maksaa, mitkä käytännöt ovat voimassa ja onko live-tila edelleen vastaava kuin tarkoitetun tuloksen tila.

Tämä konteksti muuttaa infrastruktuurin hallintaa. Järjestelmä voi havaita poikkeamat, suositella optimointia, valvoa käytäntöjä ja hallita elinkaaren päätöksiä tarkoitetun tuloksen sijaan staattista käsikirjoitusta vastaan.

GPU-infrastruktuuri on tullut yhdeksi suurimmista pullonkauloista AI-käyttöönotossa. Uskotko, että teollisuus lähestyy GPU-käytön tehostamista väärällä tavalla, ja mitkä operatiiviset muutokset voivat parantaa tehokkuutta ilman, että pelkästään lisätään laitteita?

Teollisuus usein kohdellaan GPU-ongelmaa hankintana. Monissa yrityksissä lähempänä oleva ongelma on kuitenkin käyttö.

Näemme organisaatioita, joilla on GPU-klusterit, jotka on varattu huippukysynnölle, ovat hiljaa työmäärän välillä tai ovat edelleen kiinni ympäristöissä, kun työ on päättynyt. Tämä luo korkean kustannuksen ilman liiketoimintarajaa. Tehokkuuden parantaminen alkaa elinkaaren hallinnasta. Ympäristöt on varattava tarpeen mukaan, yhdistettävä työmäärään, attribuoitu tiimille tai projektille ja purettu automaattisesti, kun tehtävä on valmis. Yrityksillä on myös oltava näkyvyyttä käytön, työmäärän kustannuksen ja ympäristön liiketoimintatarkoituksen osalta.

Lisäämällä laitteita voi edelleen olla tarpeen, mutta hallitsematon GPU-kapasiteetti laajentaa vain kustannusongelmaa.

Monet yritykset toimivat nykyään julkisessa pilvessä, yksityisissä pilvessä, paikallisympäristöissä ja reunainfrastruktuurissa. Miten näet hybridien AI-ympäristöjen kehittyvän seuraavan viiden vuoden aikana, ja mitkä haasteet ovat edelleen ratkaisematta?

Hybridi-AI tulee olemaan oletusarvoinen yritysmalli. Organisaatiot käyttävät julkista pilveä joustavuuden vuoksi, paikallista infrastruktuuria hallinnan ja kustannushallinnan vuoksi ja reunaympäristöjä, kun viive, datan sijainti tai operatiiviset vaatimukset vaativat sitä.

Ratkaisematon haaste on johdonmukaisuus. Useimmat yritykset toimivat jo useiden toimittajien, pilvien, automaatio-työkalujen ja infrastruktuurityyppien yli. AI lisää GPU-klustereita, mallipalveluympäristöjä, hienosäätöputkia, agenteja ja CI/CD-pipeline-automatiikkaa tähän sekaan.

Seuraavan viiden vuoden aikana johtavat organisaatiot ovat ne, jotka luovat yhden operatiivisen standardin näiden ympäristöjen yli. Heidän on oltava johdonmukainen varaus, käytäntöjen valvonta, kustannusmäärittely, auditointi ja elinkaaren hallinta, riippumatta siitä, missä työmäärä suoritetaan.

DevOps muutti ohjelmistojen toimittamisen viimeisen vuosikymmenen aikana. Luuletko, että AI-infrastruktuuri vaatii täysin uuden operatiivisen mallin, vai onko se DevOpsin ja alustainsinööritöiden luonnollinen kehitys?

AI-infrastruktuuri laajentaa DevOpsia, mutta se esittää myös vaatimuksia, joita perinteiset DevOps-käytännöt eivät ole suunniteltu käsittämään.

DevOps paransi ohjelmistojen toimittamista standardoimalla putkistot, automatisoimalla toistettavat työt ja antamalla tiimille nopeammin pääsyn resursseihin, joita he tarvitsivat. AI-infrastruktuuri vaatii samaa kuria, mutta työmäärät ovat resursseja vaativampia, vähemmän ennustettavissa ja riippuvaisempia erikoistuneesta infrastruktuurista.

Alustainsinööritöistä tulee keskeisiä tässä ympäristössä. Tiimien on oltava hallitun itsepalvelun pääsy validoiduille ympäristöille, eikä lippu- tai manuaalisten konfiguraatioiden kautta. Operatiivinen malli arvostaa edelleen nopeutta ja automaatiota, mutta se vaatii myös vahvempaa hallintaa, kustannushallintaa ja infrastruktuurin kontekstia alusta alkaen.

Zero-touch-operations on ollut pitkään tavoitteena infrastruktuurin hallinnassa. Kuinka lähellä olemme todella autonomisesta infrastruktuurista, ja mitkä ovat suurimmat tekniset ja organisaatiotason esteet, jotka edelleen estävät sen?

Olemme paljon lähempänä autonomista infrastruktuuria, kuin useimmat ihmiset tajuvat, mutta rajoittava tekijä on hallinta eikä automaatio. AI-agentit voivat jo varata ympäristöjä, käyttää työmäärää, tutkia poikkeamia ja suositella korjaustoimia. Haaste on varmistaa, että nämä toimet tapahtuvat selkeästi määritellyissä käytäntöjen rajoissa.

Organisaatioiden on myös oltava varma, että autonomiset järjestelmät voivat selittää, mitä he tekivät, miksi he tekivät sen ja minkä käytännön mukaan he toimivat. Tämä taso jäljittävyyttä puuttuu edelleen monista yritysten ympäristöistä. Autonominen infrastruktuuri tulee yleiseksi, kun hallinta, auditointi ja käytäntöjen valvonta on sisällytetty operatiiviseen kerrokseen eikä lisätty myöhemmin.

Kun AI-työmäärät tulevat dynaamisemmiksi ja resursseja vaativammiksi, ylityökustannukset tulevat suureksi huoleksi. Mitkä ovat yleisimmät virheet, joita yritykset tekevät yrittäessään skaalata AI-infrastruktuuria, ja miten he voivat välttää niitä?

Monet organisaatiot keskittyvät hankkimaan enemmän laskentakapasiteettia ennen kuin ymmärtävät, miten tehokkaasti he käyttävät jo olemassa olevaa infrastruktuuria.

Näemme ympäristöjä, jotka ovat edelleen aktiivisia, kun projektit on valmis, GPU-resursseja, jotka on varattu työmäärälle, jota ei koskaan suoriteta, ja vähän näkyvyyttä siitä, mitkä tiimit tai sovellukset ajavat infrastruktuurin kustannuksia. AI-työmäärät lisäävät nämä tehokkuuden puutteet, koska kysyntä muuttuu nopeasti ja GPU-infrastruktuuri on kallista.

Ratkaisu alkaa hallinnasta. Jokaisen ympäristön on oltava määritetty omistaja, liiketoimintatarkoitus, elinkaari ja kustannusprofiili varauksesta lähtien. Kun organisaatiot yhdistävät käytäntöjohtoisen varauksen automaattiseen purkamiseen ja jatkuvaan näkyvyyteen käytön osalta, infrastruktuurin kulutuksesta tulee paljon helpompi ennustaa ja perustella.

Mitä erottaa organisaatiot, jotka onnistuvat operationalisoimaan AI:n laajassa mittakaavassa, niistä, jotka kamppailevat, ja mitkä teknologiatrendit tulisi teknologiajohtajien seurata tällä hetkellä, jotka ovat edelleen alla radarin?

Onnistuneet organisaatiot kohtelevat AI-infrastruktuuria operatiivisena kykynä eikä teknologioiden kokoelmana. Mallit jatkavat parantumista, ja laitteet tulevat yhä tehokkaammaksi. Toimittaminen näistä ympäristöistä jatkuvasti useiden tiimien ja alustojen yli on edelleen haasteellisempi.

Yksi trendi, joka ansaitsee enemmän huomiota, on siirtymä kohti infrastruktuurin älykkyyttä. Infrastruktuurin alustat alkavat ymmärtää kontekstia, mitä he hallinnoivat, kuka omistaa ympäristön, minkä työmäärän se tukee, miten paljon se maksaa, onko se käytännön mukainen ja milloin se on optimoitava tai poistettava. Tämä operatiivinen konteksti tulee olemaan yhä arvokkaampi, kun yritykset käyttävät enemmän AI-agenteja ja heterogeenisempaa infrastruktuuria.

Odottan myös, että hallinta tulee kilpailuedulla. Organisaatiot, jotka voivat toimittaa infrastruktuuria nopeasti samalla, kun he ylläpitävät näkyvyyttä, käytäntöjen valvontaa, kustannusdiscipliiniä ja auditointia, siirtävät AI-projekteja koekäytöstä tuotantoon paljon nopeammin kuin ne, jotka edelleen riippuvat fragmentoiduista operatiivisista malleista. Kiitos hienosta haastattelusta, lukijat, jotka haluavat oppia lisää, kannattaa vierailla Qualin sivustolla.