Lior Koriat, PDG de Quali – Série d’entretiens

Lior Koriat, PDG de Quali, est un dirigeant expérimenté dans le domaine de la technologie et un entrepreneur qui compte près de deux décennies d’expérience chez Quali, où il a contribué à façonner l’entreprise à partir de ses fondements techniques et opérationnels pour en faire un fournisseur mondial de solutions de service d’environnement agnostique au cloud pour les équipes DevOps, IT et plateformes. Depuis qu’il est devenu PDG et membre du conseil d’administration en 2011, il a dirigé l’expansion de Quali aux États-Unis, en Europe, en Asie et en Israël, en s’appuyant sur ses précédents rôles en tant que vice-président de la R&D, directeur des opérations et PDG, où il a établi les fonctions d’ingénierie, de vente, de support client, de droit, de développement commercial et d’exploitation internationale. Son parcours comprend également la fondation et la direction d’Intellitech Engineering, une société d’ingénierie des systèmes et de mécanique acquise qui dessert des clients de la défense et du secteur civil, ainsi que des rôles de mentorat avec Google Launchpad Accelerator et le Sutardja Center for Entrepreneurship & Technology de l’UC Berkeley, où il conseille les startups sur la stratégie de produit, l’exécution de la mise sur le marché, DevOps et la mise à l’échelle.

Quali développe des logiciels d’automatisation d’infrastructure et d’ingénierie de plateforme conçus pour aider les organisations à fournir des environnements cloud gérés et en libre-service sans ralentir les équipes de développement. Sa plateforme Torque propose une couche de service en libre-service basée sur un catalogue pour les équipes de plateforme, permettant des modèles approuvés, des contrôles d’accès basés sur les rôles, une gestion du cycle de vie, une attribution de coûts, une application des politiques et une visibilité en temps réel sur les environnements. Quali positionne Torque comme un moyen de normaliser la livraison d’infrastructure sur les configurations multi-cloud et hybride, avec une prise en charge de cas d’utilisation tels que le développement de logiciels, les tests, les démonstrations, la formation, les déploiements de preuve de concept, MLOps, l’IA agente, l’automatisation de la chaîne de production CI/CD et le service GPU. Son portefeuille de produits plus large comprend également CloudShell, qui transforme l’infrastructure en blocs de construction réutilisables à faible code ou sans code pour des environnements complexes sur les infrastructures sur site et dans le cloud.

Vous avez fondé et développé plusieurs sociétés de technologie avant de diriger Quali, et votre carrière s’étend sur les systèmes militaires, la robotique, l’ingénierie d’infrastructure et l’automatisation du cloud. Comment ces expériences ont-elles influencé votre vision pour la construction de plateformes d’infrastructure d’IA, et qu’est-ce qui vous a convaincu que c’était le moment opportun pour se concentrer sur la gestion d’infrastructure native pour l’IA ?

Ma carrière a toujours porté sur des systèmes complexes qui doivent fonctionner de manière fiable dans des conditions exigeantes. J’ai commencé dans la robotique et l’aérospatiale, en développant des systèmes d’automatisation et de simulation pour des applications de défense, où la reproductibilité et la gouvernance étaient des exigences opérationnelles plutôt que des préférences d’ingénierie. Ces environnements m’ont enseigné que les problèmes les plus difficiles surgissent lorsque plusieurs systèmes et processus doivent fonctionner ensemble de manière cohérente dans le temps.

Cette perspective s’est poursuivie chez Quali. Au cours de la dernière décennie, l’infrastructure d’entreprise est devenue de plus en plus distribuée sur différentes couches. Chaque nouvelle couche a résolu un problème technique spécifique, mais elle a également introduit une nouvelle interface de gestion, un nouveau flux de travail opérationnel et une nouvelle source de complexité. Les organisations sont devenues très compétentes pour créer de l’infrastructure, mais beaucoup moins efficaces pour la gérer une fois qu’elle existe.

L’IA a accéléré ce déséquilibre, et les défis opérationnels déterminent de plus en plus si une initiative d’IA atteint la production ou reste coincée au stade pilote. C’est pourquoi je crois que la gestion d’infrastructure native pour l’IA est devenue nécessaire. Le défi consiste à exploiter en continu l’infrastructure d’IA sur des environnements hétérogènes tout en maintenant la gouvernance, la sécurité et la discipline de coûts tout en optimisant l’utilisation.

L’IA souveraine est devenue une priorité pour les gouvernements et les entreprises. Que les organisations comprennent-elles mal le plus souvent sur la souveraineté, et pourquoi croyez-vous que la gouvernance de l’infrastructure devient tout aussi importante que la propriété du modèle ?

De nombreuses discussions sur l’IA souveraine se concentrent sur la résidence des données et la propriété de l’infrastructure. Ce sont des composants nécessaires, mais ils ne répondent qu’à une partie de la réalité opérationnelle.

Une fois que les organisations commencent à déployer des agents autonomes, la question principale passe de l’emplacement de l’infrastructure à la manière dont les systèmes d’IA fonctionnent à l’intérieur de cette infrastructure. Les agents modernes provisionnent des ressources, récupèrent des informations, lancent des flux de travail et interagissent avec les systèmes de production. Chacune de ces actions nécessite une application des politiques.

Cela modifie la manière dont la souveraineté doit être évaluée. Posséder l’infrastructure ne fournit pas automatiquement un contrôle opérationnel si les systèmes d’IA peuvent exécuter des actions sans gouvernance déterministe. Les entreprises doivent démontrer qui a initié une action, quelles politiques la régissaient, quelles ressources ont été accédées et comment ces décisions peuvent être auditées. Le défi consiste à exploiter en continu l’infrastructure d’IA sur des environnements hétérogènes tout en maintenant la gouvernance, la sécurité et la discipline de coûts tout en optimisant l’utilisation.

Je m’attends à ce que la gouvernance de l’infrastructure devienne tout aussi stratégiquement importante que le développement de modèles, car elle fournit le cadre opérationnel qui permet aux organisations de mettre à l’échelle l’IA de manière responsable. À mesure que les entreprises adoptent plusieurs modèles, plusieurs clouds et des flux de travail de plus en plus autonomes, la gouvernance devient la couche qui maintient ces environnements sécurisés et responsables sur l’ensemble de l’infrastructure.

Les agents d’IA sont de plus en plus souvent dotés de l’autorité pour provisionner des ressources, déployer des charges de travail et prendre des décisions opérationnelles. Quelles garanties doivent être en place avant que les entreprises puissent se fier en toute sécurité à des systèmes autonomes pour des infrastructures critiques ?

De nombreuses organisations déployeront déjà des agents d’IA en production. La question est de savoir comment ces agents fonctionnent dans des limites clairement définies.

La première exigence est l’application déterministe des politiques au niveau de l’exécution. Les agents ne devraient être en mesure de réaliser que des actions qui sont conformes aux politiques d’infrastructure prédéfinies. Ces politiques ne peuvent pas reposer sur le modèle qui décide si une action est appropriée. Elles doivent être appliquées de manière indépendante du modèle lui-même.

Le contrôle d’accès est tout aussi important. Les autorisations persistantes créent un risque opérationnel inutile. L’accès doit être provisionné pour la tâche spécifique qui est effectuée, limité aux ressources requises et révoqué automatiquement une fois le travail terminé. Ce modèle permet aux organisations d’augmenter l’automatisation sans élargir leur surface d’attaque.

Chaque action nécessite également une traçabilité complète. À mesure que les systèmes d’IA deviennent plus autonomes, les entreprises doivent comprendre quel agent a effectué une action, quand elle s’est produite, quelle politique l’a autorisée et quels changements ont été apportés. Ce niveau de traçabilité prend en charge la dépannage opérationnel ainsi que la conformité réglementaire.

Je crois également que l’infrastructure autonome devrait fonctionner dans des environnements gérés plutôt que sur une infrastructure non restreinte. Des environnements bien définis fournissent des limites de ressources explicites, des contrôles de cycle de vie et des politiques opérationnelles avant qu’un agent commence à exécuter des charges de travail. Cela permet aux organisations d’augmenter l’automatisation tout en maintenant un comportement opérationnel prévisible à mesure que les déploiements d’IA continuent de se développer.

Vous discutez souvent du passage de l’automatisation traditionnelle à ce que vous appelez un plan de contrôle intelligent. Qu’est-ce qui change fondamentalement lorsque l’infrastructure commence à fonctionner autour de l’intention plutôt que de règles et de flux de travail statiques ?

L’automatisation traditionnelle exécute des étapes prédéfinies. Cela fonctionne lorsque l’infrastructure est prévisible, les charges de travail sont stables et les changements se produisent par le biais de flux de travail gérés par l’homme. L’infrastructure d’IA ne fonctionne pas de cette manière.

Les charges de travail d’IA sont dynamiques. La demande de GPU change rapidement, les environnements sont créés et détruits fréquemment, et les agents peuvent avoir besoin d’accéder à des ressources pour des tâches spécifiques. Un plan de contrôle intelligent comprend l’objectif d’un environnement, qui le possède, combien il coûte, quelles politiques s’appliquent et si l’état actif correspond toujours à l’état prévu.

Ce contexte modifie la gestion de l’infrastructure. Le système peut détecter les écarts, recommander l’optimisation, appliquer les politiques et prendre des décisions de cycle de vie par rapport au résultat prévu plutôt qu’à un script statique.

L’infrastructure de GPU est devenue l’un des plus grands goulets d’étranglement dans le déploiement de l’IA. Pensez-vous que l’industrie aborde incorrectement l’utilisation de la GPU, et quels changements opérationnels pourraient améliorer considérablement l’efficacité sans simplement ajouter plus de matériel ?

L’industrie traite souvent le problème de la GPU comme un problème d’approvisionnement. Dans de nombreuses entreprises, le problème le plus immédiat est l’utilisation.

Nous voyons des organisations dotées de grappes de GPU qui sont pré-allouées pour la demande de pointe, qui restent inactives entre les exécutions d’entraînement, ou qui restent attachées à des environnements après la fin du travail. Cela crée un coût élevé sans valeur commerciale correspondante.

L’amélioration de l’efficacité de la GPU commence par le contrôle du cycle de vie. Les environnements doivent être provisionnés à la demande, adaptés à la charge de travail, attribués à une équipe ou à un projet et détruits automatiquement lorsque la tâche est terminée. Les entreprises ont également besoin d’une visibilité sur l’utilisation, le coût par charge de travail et l’objectif commercial derrière chaque environnement.

De nombreuses entreprises opèrent désormais sur le cloud public, le cloud privé, les environnements sur site et l’infrastructure de bord. Comment voyez-vous l’évolution des environnements d’IA hybrides au cours des cinq prochaines années, et quels défis restent-ils sans solution aujourd’hui ?

L’IA hybride deviendra le modèle d’entreprise par défaut. Les organisations utiliseront le cloud public pour la flexibilité, l’infrastructure sur site pour le contrôle et la gestion des coûts, et les environnements de bord lorsque la latence, la localité des données ou les exigences opérationnelles l’exigent.

Le défi non résolu est la cohérence. La plupart des entreprises opèrent déjà sur plusieurs fournisseurs, clouds, outils d’automatisation et types d’infrastructure. L’IA ajoute des grappes de GPU, des environnements de service de modèles, des pipelines de fine-tuning, des charges de travail d’IA agente et des automatisations de pipeline CI/CD à ce mélange.

Au cours des cinq prochaines années, les organisations de premier plan seront celles qui créent une norme opérationnelle unique sur ces environnements. Ils devront disposer d’une provision, d’une application de politiques, d’une attribution de coûts, d’une gestion du cycle de vie et d’une traçabilité cohérentes, quelle que soit l’exécution de la charge de travail.

DevOps a transformé la livraison de logiciels au cours de la dernière décennie. Pensez-vous que l’infrastructure d’IA nécessite un modèle opérationnel entièrement nouveau, ou est-elle l’évolution naturelle de DevOps et de l’ingénierie de plateforme ?

L’infrastructure d’IA prolonge DevOps, mais elle introduit également des exigences que les pratiques DevOps traditionnelles n’étaient pas conçues pour gérer.

DevOps a amélioré la livraison de logiciels en normalisant les pipelines, en automatisant les travaux répétitifs et en donnant aux équipes un accès plus rapide aux ressources dont elles ont besoin. L’infrastructure d’IA nécessite la même discipline, mais les charges de travail sont plus intensives en ressources, moins prévisibles et plus dépendantes d’une infrastructure spécialisée.

L’ingénierie de plateforme devient centrale dans cet environnement. Les équipes ont besoin d’un accès en libre-service géré à des environnements validés, plutôt que d’une provision basée sur des tickets ou de configurations manuelles uniques. Le modèle opérationnel valorise toujours la vitesse et l’automatisation, mais il nécessite également une gouvernance, un contrôle des coûts et un contexte d’infrastructure plus solides dès le départ.

Les opérations sans intervention humaine ont longtemps été un objectif dans la gestion de l’infrastructure. Sommes-nous proches de l’infrastructure vraiment autonome, et quels sont les plus grands obstacles techniques et organisationnels qui s’opposent encore à cela ?

Nous sommes beaucoup plus proches de l’infrastructure autonome que la plupart des gens ne le réalisent, mais le facteur limitant est la gouvernance plutôt que l’automatisation. Les agents d’IA peuvent déjà provisionner des environnements, déployer des charges de travail, enquêter sur les anomalies et recommander des correctifs. Le défi consiste à s’assurer que ces actions se produisent dans des limites de politiques clairement définies.

Les organisations ont également besoin de la confiance que les systèmes autonomes puissent expliquer ce qu’ils ont fait, pourquoi ils l’ont fait et sous quelle politique ils ont agi. Ce niveau de traçabilité fait encore défaut dans de nombreux environnements d’entreprise. L’infrastructure autonome deviendra courante lorsque la gouvernance, la traçabilité et l’application des politiques seront intégrées dans la couche opérationnelle au lieu d’être ajoutées par la suite.

À mesure que les charges de travail d’IA deviennent plus dynamiques et plus intensives en ressources, les dépassements de coûts deviennent une préoccupation majeure. Quelles sont les erreurs les plus courantes que les entreprises commettent lorsqu’elles tentent de mettre à l’échelle l’infrastructure d’IA, et comment peuvent-elles les éviter ?

De nombreuses organisations se concentrent sur l’acquisition de plus de calcul avant de comprendre à quel point elles utilisent efficacement l’infrastructure dont elles disposent déjà.

Nous voyons régulièrement des environnements qui restent actifs après la fin des projets, des ressources de GPU réservées pour des charges de travail qui ne s’exécutent jamais, et peu de visibilité sur lesquelles équipes ou applications entraînent les coûts d’infrastructure. Les charges de travail d’IA amplifient ces inef ficacités, car la demande change rapidement et l’infrastructure de GPU est coûteuse.

La solution commence par la gouvernance. Chaque environnement doit avoir un propriétaire défini, un objectif commercial, un cycle de vie et un profil de coûts dès le moment où il est provisionné. Lorsque les organisations combinent la provision basée sur les politiques avec la démolition automatique et une visibilité continue sur l’utilisation, les dépenses d’infrastructure deviennent beaucoup plus faciles à prédire et à justifier.

En regardant vers l’avenir, qu’est-ce qui distinguera les organisations qui mettront à l’échelle l’IA avec succès de celles qui auront des difficultés, et quels sont les tendances d’infrastructure que les dirigeants technologiques devraient surveiller en ce moment qui passent encore inaperçues ?

Les organisations qui réussiront traiteront l’infrastructure d’IA comme une capacité opérationnelle plutôt que comme une collection de technologies. Les modèles continueront de s’améliorer, et le matériel deviendra de plus en plus puissant. L’exploitation de ces environnements de manière cohérente sur plusieurs équipes et plateformes restera le défi le plus difficile.

Une tendance qui mérite plus d’attention est le passage vers l’intelligence d’infrastructure. Les plates-formes d’infrastructure commencent à comprendre le contexte de ce qu’elles gèrent, qui possède un environnement, quelle charge de travail il prend en charge, combien il coûte, s’il est conforme aux politiques et quand il doit être optimisé ou mis hors service. Ce contexte opérationnel deviendra de plus en plus précieux à mesure que les entreprises déployeront plus d’agents d’IA et d’infrastructures hétérogènes.

Je m’attends également à ce que la gouvernance devienne un avantage concurrentiel. Les organisations qui pourront provisionner l’infrastructure rapidement tout en maintenant la visibilité, l’application des politiques, le contrôle des coûts et la traçabilité feront passer les projets d’IA de la phase pilote à la production beaucoup plus rapidement que celles qui s’appuient encore sur des modèles opérationnels fragmentés.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Quali.