Lior Koriat, CEO al Quali – Seria de interviuri

Lior Koriat, CEO al Quali, este un experimentat director de tehnologie și antreprenor, cu aproape două decenii de experiență la Quali, unde a ajutat la modelarea companiei de la fundațiile sale inginerești și operaționale inițiale într-un furnizor global de soluții de mediu ca serviciu pentru echipele DevOps, IT și platforme. De la numirea sa ca CEO și membru al consiliului de administrație în 2011, el a condus expansiunea Quali în Statele Unite, Europa, Asia și Israel, construind pe rolurile sale anterioare de VP R&D, COO și CEO, unde a stabilit inginerie, vânzări, suport clienți, juridic, dezvoltare de afaceri și operațiuni internaționale. Experiența sa include, de asemenea, fondarea și conducerea Intellitech Engineering, o companie de inginerie mecanică și sisteme achiziționată, care deservește clienți din domeniul apărării și civili, precum și roluri de mentorat cu Google Launchpad Accelerator și UC Berkeley’s Sutardja Center for Entrepreneurship & Technology, unde oferă consultanță pentru startup-uri pe strategia de produs, execuția de lansare pe piață, DevOps și scalare.

Quali dezvoltă software de automatizare a infrastructurii și inginerie de platformă, proiectat pentru a ajuta organizațiile să furnizeze medii de cloud guvernate, fără a încetini echipele de dezvoltare. Platforma Torque oferă un strat de auto-servire pe bază de catalog pentru echipele de platforme, permițând blueprint-uri aprobate, controale de acces bazate pe rol, gestionare a ciclului de viață, alocare a costurilor, aplicare a politicilor și vizibilitate în timp real în toate mediile. Quali poziționează Torque ca o modalitate de a standardiza livrarea infrastructurii în medii multi-cloud și hibride, cu suport pentru cazuri de utilizare, inclusiv dezvoltarea de software, testare, demo, instruire, implementări de concepte, MLOps, AI agenți, automatizarea pipeline-ului CI/CD și GPU ca serviciu. Portofoliul său mai larg de produse include, de asemenea, CloudShell, care transformă infrastructura în blocuri de construcție reutilizabile cu cod redus sau fără cod pentru medii complexe, atât în infrastructura locală, cât și în cea bazată pe cloud.

Ați fondat și extins mai multe companii de tehnologie înainte de a conduce Quali, iar cariera dvs. cuprinde sisteme militare, robotică, inginerie de infrastructură și automatizare de cloud. Cum v-au influențat aceste experiențe viziunea pentru construirea de platforme de infrastructură pentru inteligență artificială și ce v-a convins că acesta este momentul potrivit pentru a se concentra pe gestionarea infrastructurii native pentru inteligență artificială?

Cariera mea s-a concentrat constant pe sisteme complexe care trebuie să funcționeze în mod fiabil în condiții solicitante. Am început în robotică și aerospațial, dezvoltând sisteme de automatizare și simulare pentru aplicații de apărare, unde repetabilitatea și guvernanța erau cerințe operaționale, nu doar preferințe inginerești. Acele medii mi-au învățat că cele mai grele probleme apar acolo unde multiple sisteme și procese trebuie să funcționeze împreună în mod consecvent de-a lungul timpului.

Această perspectivă s-a extins și la Quali. În ultimul deceniu, infrastructura întreprinderilor a devenit din ce în ce mai distribuită pe diferite straturi. Fiecare strat nou a rezolvat o anumită problemă tehnică, dar a introdus și un nou interfață de gestionare, un nou flux de lucru operațional și o nouă sursă de complexitate. Organizațiile au devenit foarte bune la crearea de infrastructură, dar mult mai puțin eficiente în gestionarea acesteia odată ce a fost creată.

Inteligența artificială a accelerat acest dezechilibru, iar provocările operaționale determină din ce în ce mai mult dacă o inițiativă de inteligență artificială ajunge la producție sau rămâne blocată în stadiul de pilot. De aceea, cred că gestionarea infrastructurii native pentru inteligență artificială a devenit necesară. Provocarea constă în operarea infrastructurii de inteligență artificială în mod continuu în medii eterogene, menținând guvernanța, securitatea și disciplina costurilor, în timp ce se optimizează utilizarea.

Inteligența artificială suverană a devenit rapid o prioritate pentru guverne și întreprinderi deopotrivă. Ce nu înțeleg majoritatea organizațiilor despre suveranitate și de ce credeți că guvernanța infrastructurii devine la fel de importantă ca și proprietatea modelului?

Discuțiile despre inteligență artificială suverană se concentrează adesea pe rezidența datelor și proprietatea infrastructurii. Acestea sunt componente necesare, dar abordează doar o parte a realității operaționale.

Odată ce organizațiile încep să implementeze agenți autonomi, întrebarea principală se schimbă de la unde se află infrastructura la modul în care sistemele de inteligență artificială funcționează în cadrul acestei infrastructuri. Agenții moderni alocă resurse, accesează informații, inițiază fluxuri de lucru și interacționează cu sisteme de producție. Fiecare dintre aceste acțiuni necesită aplicarea politicilor.

Aceasta schimbă modul în care suveranitatea ar trebui evaluată. Deținerea infrastructurii nu oferă automat control operațional dacă sistemele de inteligență artificială pot executa acțiuni fără o guvernanță deterministă. Întreprinderile trebuie să demonstreze cine a inițiat o acțiune, care politici au guvernat-o, ce resurse au fost accesate și cum aceste decizii pot fi auditate. Provocarea constă în operarea infrastructurii de inteligență artificială în mod continuu în medii eterogene, menținând guvernanța, securitatea și disciplina costurilor, în timp ce se optimizează utilizarea.

Mă aștept ca guvernanța infrastructurii să devină la fel de strategic importantă ca și dezvoltarea modelului, deoarece oferă cadrul operațional care permite organizațiilor să scaleze inteligența artificială în mod responsabil. Pe măsură ce întreprinderile adoptă multiple modele, multiple cloud-uri și fluxuri de lucru din ce în ce mai autonome, guvernanța devine stratul care menține aceste medii securizate și responsabile pe întreaga avere de infrastructură.

Agenții de inteligență artificială primesc din ce în ce mai mult autoritatea de a aloca resurse, de a implementa sarcini și de a lua decizii operaționale. Ce garduri trebuie să fie în loc înainte ca întreprinderile să poată încredința în mod sigur sisteme autonome cu infrastructura critică?

Majoritatea organizațiilor implementează deja agenți de inteligență artificială în producție. Întrebarea este cum funcționează acești agenți în cadrul unor limite clar definite.

Prima cerință este aplicarea politicilor în mod determinist la nivelul de execuție. Agenții ar trebui să poată efectua doar acțiuni care respectă politicile de infrastructură predefinite. Aceste politici nu pot depinde de modelul care decide dacă o acțiune este adecvată. Ele trebuie să fie aplicate în mod independent de modelul însuși.

Controlul accesului este la fel de important. Permisiunile persistente creează riscuri operaționale inutile. Accesul ar trebui să fie alocat pentru sarcina specifică care este efectuată, limitat la resursele necesare și revocat automat odată ce lucrul este complet. Acest model permite organizațiilor să extindă automatizarea fără a-și extinde suprafața de atac.

Fiecare acțiune necesită, de asemenea, un traseu de audit complet. Pe măsură ce sistemele de inteligență artificială devin mai autonome, întreprinderile trebuie să înțeleagă care agent a efectuat o acțiune, când a avut loc, ce politică a autorizat-o și ce modificări au fost efectuate. Acest nivel de trasabilitate sprijină debusolarea operațională, precum și conformitatea regulamentară.

Cred, de asemenea, că infrastructura autonomă ar trebui să funcționeze în medii guvernate, mai degrabă decât în infrastructuri nelimitate. Medii bine definite oferă limite de resurse explicite, controale de ciclu de viață și politici operaționale înainte ca un agent să înceapă să execute sarcini. Acest lucru permite organizațiilor să crească automatizarea, menținând în același timp un comportament operațional previzibil, pe măsură ce implementările de inteligență artificială continuă să se extindă.

Deseori discutați despre trecerea de la automatizarea tradițională la ceea ce numiți un plan de control inteligent. Ce se schimbă fundamental atunci când infrastructura începe să funcționeze în jurul intenției, mai degrabă decât a regulilor și fluxurilor de lucru statice?

Automatizarea tradițională execută pași predefiniți. Acest lucru funcționează atunci când infrastructura este previzibilă, sarcinile de lucru sunt stabile și modificările au loc prin fluxuri de lucru gestionate de oameni. Infrastructura de inteligență artificială nu funcționează în acest fel.

Sarcinile de lucru de inteligență artificială sunt dinamice. Cererea de GPU se schimbă rapid, mediile sunt create și distruse frecvent, iar agenții pot avea nevoie de acces la resurse pentru sarcini specifice. Un plan de control inteligent înțelege scopul unui mediu, cine îl deține, ce costuri implică, ce politici se aplică și dacă starea live încă corespunde stării intenționate.

Acest context schimbă gestionarea infrastructurii. Sistemul poate detecta deriva, recomanda optimizarea, aplica politica și gestiona deciziile de ciclu de viață împotriva rezultatului intenționat, mai degrabă decât a unui script static.

Infrastructura GPU a devenit una dintre cele mai mari blocaje în implementarea inteligenței artificiale. Credeți că industria abordează în mod greșit utilizarea GPU și ce schimbări operaționale ar putea îmbunătăți dramatic eficiența fără a adăuga pur și simplu mai mult hardware?

Industria tratează adesea problema GPU ca pe o problemă de achiziție. În multe întreprinderi, problema imediată este utilizarea.

Vedem organizații cu clusteruri de GPU care sunt alocate pentru cererea de vârf, rămân inactive între rulări de antrenament sau rămân atașate la medii după ce lucrul a fost terminat. Acest lucru creează costuri ridicate fără a se potrivi cu valoarea afacerii.

Îmbunătățirea eficienței GPU începe cu controlul ciclului de viață. Mediile ar trebui să fie alocate la cerere, să corespundă sarcinii de lucru, să fie atribuite unei echipe sau unui proiect și să fie distruse automat atunci când sarcina este completă. Întreprinderile au, de asemenea, nevoie de vizibilitate în ceea ce privește utilizarea, costul pe sarcină de lucru și scopul comercial din spatele fiecărui mediu.

Adăugarea de hardware poate fi încă necesară, dar capacitatea de GPU necontrolată extinde doar problema de cost.

În următorii cinci ani, cum credeți că vor evolua mediile hibride de inteligență artificială și ce provocări rămân nerezolvate în prezent?

Mediile hibride de inteligență artificială vor deveni modelul implicit pentru întreprinderi. Organizațiile vor utiliza cloud-ul public pentru flexibilitate, infrastructura locală pentru control și gestionarea costurilor, iar mediile de margine acolo unde latența, localizarea datelor sau cerințele operaționale o cer.

Provocarea nerezolvată este consistența. Majoritatea întreprinderilor operează deja în medii multiple, cu mai mulți furnizori, cloud-uri, unelte de automatizare și tipuri de infrastructură. Inteligența artificială adaugă clusteruri de GPU, medii de servire a modelului, conducte de finisare, sarcini de lucru agenți și fluxuri de lucru CI/CD la această mixtură.

În următorii cinci ani, organizațiile lider vor fi cele care creează un standard operațional unic pe aceste medii. Vor avea nevoie de alocare consistentă, aplicare a politicilor, alocare a costurilor, auditabilitate și gestionare a ciclului de viață, indiferent de unde rulează sarcina de lucru.

DevOps a transformat livrarea de software în ultimul deceniu. Credeți că infrastructura de inteligență artificială necesită un model operațional complet nou sau este o evoluție naturală a DevOps și ingineriei de platformă?

Infrastructura de inteligență artificială extinde DevOps, dar introduce și cerințe pe care practicile tradiționale de DevOps nu au fost proiectate să le gestioneze.

DevOps a îmbunătățit livrarea de software prin standardizarea conductelor, automatizarea lucrului repetitiv și oferirea de acces mai rapid la resursele de care echipele aveau nevoie. Infrastructura de inteligență artificială necesită aceeași disciplină, dar sarcinile de lucru sunt mai intense din punct de vedere al resurselor, mai imprevizibile și mai dependente de infrastructură specializată.

Ingineria de platformă devine centrală în acest mediu. Echipele au nevoie de acces auto-servit și guvernat la medii validate, mai degrabă decât de alocare pe bază de ticket sau configurări manuale unice. Modelul de operare încă valorizează viteza și automatizarea, dar necesită și o guvernanță, control al costurilor și context de infrastructură mai puternice de la început.

Operațiunile fără atingere au fost de mult timp un obiectiv în gestionarea infrastructurii. Cât de aproape suntem de a avea cu adevărat infrastructură autonomă și ce sunt cele mai mari bariere tehnice și organizaționale care încă stau în cale?

Suntem mult mai aproape de infrastructura autonomă decât cred majoritatea oamenilor, dar factorul limitativ este guvernanța, mai degrabă decât automatizarea. Agenții de inteligență artificială pot deja aloca medii, implementa sarcini de lucru, investiga anomalii și recomanda remedieri. Provocarea constă în a se asigura că aceste acțiuni au loc în cadrul unor limite de politică clar definite.

Organizațiile au, de asemenea, nevoie de încredere că sistemele autonome pot explica ce au făcut, de ce l-au făcut și sub ce politică au acționat. Acest nivel de trasabilitate lipsește încă în multe medii de întreprindere. Infrastructura autonomă va deveni mainstream atunci când guvernanța, auditabilitatea și aplicarea politicilor vor fi integrate în stratul operațional, mai degrabă decât adăugate ulterior.

Pe măsură ce sarcinile de lucru de inteligență artificială devin mai dinamice și mai intense din punct de vedere al resurselor, depășirile de cost devin o preocupare majoră. Care sunt cele mai comune greșeli pe care le fac întreprinderile atunci când încearcă să scaleze infrastructura de inteligență artificială și cum le pot evita?

Majoritatea organizațiilor se concentrează pe achiziționarea de mai multe computere înainte de a înțelege cât de eficient utilizează infrastructura pe care o au deja.

Regulat vedem medii care rămân active după ce proiectele sunt finalizate, resurse de GPU rezervate pentru sarcini de lucru care nu rulează și puțină vizibilitate în ceea ce privește care echipe sau aplicații determină costurile de infrastructură. Sarcinile de lucru de inteligență artificială amplifică aceste ineficiențe, deoarece cererea se schimbă rapid și infrastructura de GPU este scumpă.

Soluția începe cu guvernanța. Fiecare mediu ar trebui să aibă un proprietar definit, un scop comercial, un ciclu de viață și un profil de cost de la momentul alocării. Atunci când organizațiile combină alocarea bazată pe politică cu demolarea automată și vizibilitatea continuă a utilizării, cheltuielile cu infrastructura devin mult mai ușor de prezis și justificat.

Privind înainte, ce va diferenția organizațiile care vor reuși să opereze inteligența artificială la scară de cele care se vor lupta și ce tendințe de infrastructură ar trebui liderii tehnici să urmărească în prezent, dar care sunt încă sub radar?

Organizațiile care vor reuși vor trata infrastructura de inteligență artificială ca o capacitate operațională, mai degrabă decât o colecție de tehnologii. Modelele vor continua să se îmbunătățească, iar hardware-ul va continua să devină mai puternic. Operarea acestor medii în mod consecvent pe multiple echipe și platforme va rămâne provocarea mai dificilă.

O tendință care merită mai multă atenție este schimbarea către inteligența infrastructurii. Platformele de infrastructură încep să înțeleagă contextul a ceea ce gestionează, cine deține un mediu, ce sarcină de lucru susține, cât costă, dacă respectă politica și când ar trebui să fie optimizat sau pensionat. Acest context operațional va deveni din ce în ce mai valoros pe măsură ce întreprinderile implementează mai mulți agenți de inteligență artificială și o infrastructură mai eterogenă.

Cred, de asemenea, că guvernanța va deveni un avantaj competitiv. Organizațiile care pot aloca infrastructură rapid, menținând în același timp vizibilitatea, aplicarea politicilor, controlul costurilor și auditabilitatea, vor muta proiectele de inteligență artificială de la pilot la producție mult mai rapid decât cele care se bazează încă pe modele operaționale fragmentate.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre Quali pot vizita Quali.