Lior Koriat, CEO di Quali – Serie di Interviste

Lior Koriat, CEO di Quali, è un esperto tecnologico e imprenditore con quasi due decenni di esperienza in Quali, dove ha contribuito a plasmare l’azienda dalle sue fondamenta ingegneristiche e operative fino a diventare un fornitore globale di soluzioni Environment as a Service cloud-agnostic per team DevOps, IT e piattaforme. Da quando è diventato CEO e membro del consiglio di amministrazione nel 2011, ha guidato l’espansione di Quali in tutto il mondo, negli Stati Uniti, in Europa, in Asia e in Israele, costruendo su ruoli precedenti come VP R&D, COO e CEO, dove ha stabilito ingegneria, vendite, supporto clienti, affari legali, sviluppo aziendale e operazioni internazionali. Il suo background include anche la fondazione e la guida di Intellitech Engineering, un’azienda di ingegneria dei sistemi e meccanica acquisita che serve clienti della difesa e civili, nonché ruoli di mentoraggio con Google Launchpad Accelerator e il Sutardja Center for Entrepreneurship & Technology dell’Università della California, Berkeley, dove consiglia le startup su strategia di prodotto, esecuzione di go-to-market, DevOps e scalabilità.

Quali sviluppa software di automazione dell’infrastruttura e ingegneria delle piattaforme progettati per aiutare le organizzazioni a fornire ambienti cloud governati e self-service senza rallentare i team di sviluppo. La sua piattaforma Torque fornisce un livello di self-service basato su catalogo per i team di piattaforma, abilitando blueprint approvati, controlli di accesso basati su ruoli, gestione del ciclo di vita, attribuzione dei costi, applicazione delle politiche e visibilità in tempo reale degli ambienti. Quali posiziona Torque come un modo per standardizzare la consegna dell’infrastruttura attraverso setup multi-cloud e ibrido, con supporto per casi d’uso che includono sviluppo software, testing, demo, formazione, distribuzioni di prova, MLOps, AI agente, automazione della pipeline CI/CD e GPU-as-a-Service. Il suo portfolio di prodotti più ampio include anche CloudShell, che trasforma l’infrastruttura in blocchi di costruzione riutilizzabili a basso codice o senza codice per ambienti complessi su infrastrutture on-premises e cloud.

Hai fondato e scalato diverse aziende tecnologiche prima di guidare Quali, e la tua carriera abbraccia sistemi militari, robotica, ingegneria delle infrastrutture e automazione cloud. Come hanno influenzato queste esperienze la tua visione per la costruzione di piattaforme di infrastruttura AI, e cosa ti ha convinto che questo era il momento giusto per concentrarti sulla gestione dell’infrastruttura nativa AI?

La mia carriera si è sempre concentrata su sistemi complessi che devono operare in modo affidabile in condizioni di forte stress. Ho iniziato nella robotica e nell’aerospaziale, sviluppando sistemi di automazione e simulazione per applicazioni della difesa, dove la ripetibilità e la governance erano requisiti operativi piuttosto che preferenze ingegneristiche. Quegli ambienti mi hanno insegnato che i problemi più difficili emergono dove più sistemi e processi devono lavorare insieme in modo coerente nel tempo.

Quella prospettiva si è portata avanti in Quali. Nel corso dell’ultimo decennio, l’infrastruttura aziendale è diventata sempre più distribuita su diversi livelli. Ogni nuovo livello ha risolto un problema tecnico specifico, ma ha anche introdotto un’altra interfaccia di gestione, un altro flusso di lavoro operativo e un’altra fonte di complessità. Le organizzazioni sono diventate molto brave a creare infrastrutture, ma molto meno efficaci nel governarle una volta che esistevano.

L’AI ha accelerato quel disequilibrio, e le sfide operative determinano sempre più se un’iniziativa AI raggiunge la produzione o rimane bloccata nella fase di pilotaggio. È per questo che credo che la gestione dell’infrastruttura nativa AI sia diventata necessaria. La sfida è operare l’infrastruttura AI in modo continuo attraverso ambienti eterogenei mantenendo la governance, la sicurezza e il controllo dei costi mentre si ottimizza l’utilizzo.

L’AI sovrana è diventata rapidamente una priorità per i governi e le aziende. Cosa fraintendono la maggior parte delle organizzazioni riguardo alla sovranità, e perché credi che la governance dell’infrastruttura stia diventando altrettanto importante della proprietà del modello?

Molte discussioni sull’AI sovrana si concentrano sulla residenza dei dati e sulla proprietà dell’infrastruttura. Questi sono componenti necessari, ma affrontano solo una parte della realtà operativa.

Una volta che le organizzazioni iniziano a distribuire agenti autonomi, la principale domanda si sposta da dove risiede l’infrastruttura a come i sistemi AI operano all’interno di quell’infrastruttura. Gli agenti moderni provvedono alle risorse, recuperano le informazioni, avviano i flussi di lavoro e interagiscono con i sistemi di produzione. Ognuna di quelle azioni richiede l’applicazione delle politiche.

Questo cambia il modo in cui la sovranità dovrebbe essere valutata. Possedere l’infrastruttura non fornisce automaticamente il controllo operativo se i sistemi AI possono eseguire azioni senza una governance deterministica. Le aziende devono dimostrare chi ha iniziato un’azione, quali politiche l’hanno governata, quali risorse sono state accessibili e come quelle decisioni possono essere verificate. La sfida è operare l’infrastruttura AI in modo continuo attraverso ambienti eterogenei mantenendo la governance, la sicurezza e il controllo dei costi mentre si ottimizza l’utilizzo.

Mi aspetto che la governance dell’infrastruttura diventi strategicamente importante quanto lo sviluppo del modello, poiché fornisce il quadro operativo che consente alle organizzazioni di scalare l’AI in modo responsabile. Mentre le aziende adottano più modelli, più cloud e flussi di lavoro sempre più autonomi, la governance diventa il livello che mantiene quegli ambienti sicuri e responsabili in tutta l’infrastruttura.

Gli agenti AI sono sempre più autorizzati a provvedere alle risorse, distribuire i carichi di lavoro e prendere decisioni operative. Quali guardrail devono essere in posto prima che le aziende possano fidarsi di sistemi autonomi con infrastrutture critiche?

Molte organizzazioni stanno già distribuendo agenti AI in produzione. La domanda è come quegli agenti operano all’interno di confini chiaramente definiti.

Il primo requisito è l’applicazione deterministica delle politiche al livello di esecuzione. Gli agenti dovrebbero essere in grado di eseguire solo azioni che sono conformi alle politiche dell’infrastruttura predefinite. Queste politiche non possono fare affidamento sul modello che decide se un’azione è appropriata. Devono essere applicate indipendentemente dal modello stesso.

Il controllo di accesso è altrettanto importante. Le autorizzazioni persistenti creano rischi operativi non necessari. L’accesso dovrebbe essere concesso per la specifica attività che si sta svolgendo, limitato alle risorse richieste e revocato automaticamente una volta completato il lavoro. Questo modello consente alle organizzazioni di ampliare l’automazione senza ampliare la loro superficie di attacco.

Ogni azione necessita anche di una traccia di audit completa. Mentre i sistemi AI diventano più autonomi, le aziende devono capire quale agente ha eseguito un’azione, quando è accaduta, quale politica l’ha autorizzata e quali modifiche sono state apportate. Quel livello di tracciabilità supporta la risoluzione dei problemi operativi, nonché la conformità normativa.

Credo anche che l’infrastruttura autonoma debba operare all’interno di ambienti governati piuttosto che su infrastrutture non restrittive. Ambienti ben definiti forniscono confini di risorse espliciti, controlli del ciclo di vita e politiche operative prima che un agente inizi a eseguire carichi di lavoro. Ciò consente alle organizzazioni di aumentare l’automazione mantenendo un comportamento operativo prevedibile mentre le distribuzioni AI continuano a scalare.

Spesso discuti il passaggio dall’automazione tradizionale a ciò che chiami un piano di controllo intelligente. Cosa cambia fondamentalmente quando l’infrastruttura inizia a operare intorno all’intento piuttosto che a regole e flussi di lavoro statici?

L’automazione tradizionale esegue passaggi predefiniti. Ciò funziona quando l’infrastruttura è prevedibile, i carichi di lavoro sono stabili e i cambiamenti avvengono attraverso flussi di lavoro gestiti dall’uomo. L’infrastruttura AI non opera in quel modo.

I carichi di lavoro AI sono dinamici. La domanda di GPU cambia rapidamente, gli ambienti vengono creati e demoliti frequentemente e gli agenti possono aver bisogno di accedere alle risorse per attività specifiche. Un piano di controllo intelligente comprende lo scopo di un ambiente, chi lo possiede, quanto costa, quali politiche si applicano e se lo stato live corrisponde ancora allo stato inteso.

Quel contesto cambia la gestione dell’infrastruttura. Il sistema può rilevare la deriva, raccomandare l’ottimizzazione, applicare le politiche e prendere decisioni relative al ciclo di vita contro l’esito previsto piuttosto che uno script statico.

L’infrastruttura GPU è diventata una delle maggiori bottiglie di collo nella distribuzione AI. Credi che l’industria stia affrontando l’utilizzo della GPU in modo errato e quali cambiamenti operativi potrebbero migliorare drasticamente l’efficienza senza semplicemente aggiungere più hardware?

L’industria tratta spesso il problema GPU come un problema di approvvigionamento. In molte aziende, il problema più immediato è l’utilizzo.

Vediamo organizzazioni con cluster GPU che sono pre-allocati per la domanda di picco, rimangono inattivi tra le esecuzioni di training, o rimangono collegati agli ambienti dopo che il lavoro è terminato. Ciò crea costi elevati senza un valore aziendale corrispondente.

Migliorare l’efficienza della GPU inizia con il controllo del ciclo di vita. Gli ambienti dovrebbero essere provisionati su richiesta, abbinati al carico di lavoro, attribuiti a un team o progetto e demoliti automaticamente quando il compito è completato. Le aziende hanno anche bisogno di visibilità nell’utilizzo, nel costo per carico di lavoro e nello scopo aziendale dietro ogni ambiente.

Molte aziende operano oggi su cloud pubblico, cloud privato, ambienti on-premises e infrastrutture edge. Come vedi l’evoluzione degli ambienti AI ibridi nei prossimi cinque anni e quali sfide rimangono irrisolte oggi?

Gli ambienti AI ibridi diventeranno il modello aziendale predefinito. Le organizzazioni useranno il cloud pubblico per la flessibilità, le infrastrutture on-premises per il controllo e la gestione dei costi, e gli ambienti edge dove la latenza, la località dei dati o i requisiti operativi lo richiedono.

La sfida irrisolta è la coerenza. La maggior parte delle aziende già opera su più vendor, cloud, strumenti di automazione e tipi di infrastruttura. L’AI aggiunge cluster GPU, ambienti di servizio dei modelli, pipeline di fine-tuning e carichi di lavoro agente a quella miscela.

Nel corso dei prossimi cinque anni, le organizzazioni leader saranno quelle che creano uno standard operativo unico attraverso quegli ambienti. Avranno bisogno di provisioning coerente, applicazione delle politiche, attribuzione dei costi, gestione del ciclo di vita e tracciabilità, indipendentemente da dove viene eseguito il carico di lavoro.

DevOps ha trasformato la consegna del software nel corso dell’ultimo decennio. Pensi che l’infrastruttura AI richieda un modello operativo completamente nuovo o è l’evoluzione naturale di DevOps e ingegneria delle piattaforme?

L’infrastruttura AI estende DevOps, ma introduce anche requisiti che le pratiche DevOps tradizionali non erano progettate per gestire.

DevOps ha migliorato la consegna del software standardizzando le pipeline, automatizzando il lavoro ripetibile e dando ai team un accesso più rapido alle risorse di cui avevano bisogno. L’infrastruttura AI richiede la stessa disciplina, ma i carichi di lavoro sono più intensivi in termini di risorse, meno prevedibili e più dipendenti da infrastrutture specializzate.

L’ingegneria delle piattaforme diventa centrale in questo ambiente. I team hanno bisogno di accesso self-service governato a ambienti validati, piuttosto che provisioning basato su ticket o configurazioni manuali una tantum. Il modello operativo ancora valorizza la velocità e l’automazione, ma richiede anche una governance, un controllo dei costi e un contesto infrastrutturale più forti fin dall’inizio.

Le operazioni zero-touch sono state a lungo un obiettivo nella gestione dell’infrastruttura. Quanto siamo vicini a un’infrastruttura veramente autonoma e quali sono le principali barriere tecniche e organizzative che ancora si frappongono?

Siamo molto più vicini all’infrastruttura autonoma di quanto la maggior parte delle persone si renda conto, ma il fattore limitante è la governance piuttosto che l’automazione. Gli agenti AI possono già provvedere agli ambienti, distribuire i carichi di lavoro, indagare le anomalie e raccomandare la correzione. La sfida è assicurarsi che quelle azioni avvengano all’interno di confini di politica chiaramente definiti.

Le organizzazioni hanno anche bisogno della fiducia che i sistemi autonomi possano spiegare cosa hanno fatto, perché l’hanno fatto e sotto quale politica hanno agito. Quel livello di tracciabilità è ancora mancante in molti ambienti aziendali. L’infrastruttura autonoma diventerà mainstream quando la governance, la tracciabilità e l’applicazione delle politiche saranno integrate nel livello operativo invece di essere aggiunte in un secondo momento.

Man mano che i carichi di lavoro AI diventano più dinamici e intensivi in termini di risorse, le eccedenze di costo stanno diventando una preoccupazione maggiore. Quali sono gli errori più comuni che le aziende commettono quando cercano di scalare l’infrastruttura AI e come possono evitarli?

Molte organizzazioni si concentrano sull’acquisto di più calcolo prima di capire quanto stanno utilizzando efficientemente l’infrastruttura che già possiedono.

Vediamo regolarmente ambienti che rimangono attivi dopo la fine dei progetti, risorse GPU riservate per carichi di lavoro che non vengono eseguiti e poca visibilità nei costi dell’infrastruttura. I carichi di lavoro AI amplificano quelle inefficienze perché la domanda cambia rapidamente e l’infrastruttura GPU è costosa.

La soluzione inizia con la governance. Ogni ambiente dovrebbe avere un proprietario definito, uno scopo aziendale, un ciclo di vita e un profilo di costo dal momento in cui viene provisionato. Quando le organizzazioni combinano il provisioning basato sulle politiche con il teardown automatico e la visibilità continua nell’utilizzo, la spesa per l’infrastruttura diventa molto più facile da prevedere e giustificare.

Guardando avanti, cosa distinguerà le organizzazioni che operazionalizzano con successo l’AI su larga scala da quelle che lottano e quali tendenze dell’infrastruttura le leader tecnologiche dovrebbero tenere d’occhio oggi che sono ancora sotto il radar?

Le organizzazioni che avranno successo tratteranno l’infrastruttura AI come una capacità operativa piuttosto che una raccolta di tecnologie. I modelli continueranno a migliorare e il hardware continuerà a diventare più potente. Operare quegli ambienti in modo coerente attraverso più team e piattaforme rimarrà la sfida più difficile.

Una tendenza che merita più attenzione è il passaggio verso l’intelligenza dell’infrastruttura. Le piattaforme di infrastruttura stanno iniziando a comprendere il contesto di ciò che gestiscono, chi possiede un ambiente, quale carico di lavoro supporta, quanto costa, se è conforme alle politiche e quando dovrebbe essere ottimizzato o ritirato. Quel contesto operativo diventerà sempre più prezioso mentre le aziende distribuiscono più agenti AI e più infrastrutture eterogenee.

Mi aspetto anche che la governance diventi un vantaggio competitivo. Le organizzazioni che possono provvedere all’infrastruttura rapidamente mantenendo la visibilità, l’applicazione delle politiche, il controllo dei costi e la tracciabilità saranno in grado di spostare i progetti AI dalla fase di pilotaggio alla produzione molto più velocemente di quelle che ancora si affidano a modelli operativi frammentati.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Quali.