Liran Hason, Co-Fondateur et PDG d’Aporia – Série d’entretiens

Liran Hason est le co-fondateur et PDG d’Aporia, une plate-forme d’observabilité ML full-stack utilisée par des entreprises du Fortune 500 et des équipes de science des données à travers le monde pour assurer une IA responsable. Aporia s’intègre sans effort à n’importe quelle infrastructure ML. Que ce soit un serveur FastAPI sur Kubernetes, un outil de déploiement open-source comme MLFlow ou une plate-forme d’apprentissage automatique comme AWS Sagemaker

Auparavant, Liran était architecte ML chez Adallom (acquis par Microsoft (MSFT )), puis investisseur chez Vertex Ventures.

Vous avez commencé à coder à l’âge de 10 ans, qu’est-ce qui vous a initialement attiré vers les ordinateurs, et sur quoi travailliez-vous ?

C’était en 1999, et un ami m’a appelé pour me dire qu’il avait créé un site Web. Après avoir tapé une adresse de 200 caractères dans mon navigateur, j’ai vu un site Web avec son nom dessus. J’étais étonné par le fait qu’il avait créé quelque chose sur son ordinateur et que je pouvais le voir sur le mien. Cela m’a rendu super curieux de savoir comment cela fonctionnait et comment je pouvais faire la même chose. J’ai demandé à ma mère de m’acheter un livre sur HTML, qui a été mon premier pas dans la programmation.

Je trouve une grande joie à relever des défis techniques, et au fil du temps, ma curiosité n’a fait que grandir. J’ai appris ASP, PHP et Visual Basic, et j’ai vraiment tout consommé.

Quand j’avais 13 ans, j’ai déjà commencé à prendre des petits boulots, en créant des sites Web et des applications de bureau.

Quand je n’avais pas de travail actif, je travaillais sur mes propres projets – généralement différents sites Web et applications destinés à aider les autres à atteindre leurs objectifs :

Blue-White Programming – c’est un langage de programmation hébreu, similaire à HTML, que j’ai créé après avoir réalisé que les enfants en Israël qui n’ont pas un niveau élevé d’anglais sont limités ou éloignés du monde de la programmation.

Blinky – Mes grands-parents sont sourds et utilisent la langue des signes pour communiquer avec leurs amis. Lorsque des logiciels de vidéoconférence comme Skype et ooVoo sont apparus, cela leur a permis pour la première fois de discuter avec des amis même s’ils n’étaient pas dans la même pièce (comme nous le faisons tous avec nos téléphones). Cependant, comme ils ne pouvaient pas entendre, ils n’étaient pas en mesure de savoir lorsqu’ils recevaient un appel entrant. Pour les aider, j’ai écrit un logiciel qui identifie les appels vidéo entrants et les avertit en faisant clignoter un tableau de LEDs dans un petit appareil matériel que j’ai construit et connecté à leur ordinateur.

Ce ne sont que quelques-uns des projets que j’ai réalisés en tant qu’adolescent. Ma curiosité n’a jamais cessé et je me suis retrouvé en train d’apprendre C, C++, Assembly, et comment fonctionnent les systèmes d’exploitation, et j’ai vraiment essayé d’apprendre autant que possible.

Pouvez-vous partager l’histoire de votre parcours en tant qu’architecte de machine learning chez Adallom, acquis par Microsoft ?

J’ai commencé mon parcours chez Adallom après mon service militaire. Après 5 ans dans l’armée en tant que capitaine, j’ai vu une grande opportunité de rejoindre une entreprise émergente et un marché – en tant que l’un des premiers employés. L’entreprise était dirigée par de grands fondateurs, que je connaissais de mon service militaire, et soutenue par des VC de premier plan – comme Sequoia. L’éruption des technologies cloud sur le marché était encore dans son enfance relative, et nous construisions l’une des premières solutions de sécurité cloud à l’époque. Les entreprises commençaient tout juste à passer d’un environnement local au cloud, et nous voyions de nouvelles normes industrielles émerger – telles que Office 365, Dropbox (DBX ), Marketo, Salesforce , et autres.

Pendant mes premières semaines, j’avais déjà compris que je voulais créer ma propre entreprise un jour. Je me sentais, d’un point de vue technique, prêt à relever n’importe quel défi qui se présenterait, et si ce n’était pas moi, je savais que j’avais les bonnes personnes pour m’aider à surmonter tout obstacle.

Adallom avait besoin de quelqu’un qui avait une connaissance approfondie de la technologie, mais qui pouvait également être en contact avec les clients. En avançant comme dans un film, et je me retrouve dans un avion pour les États-Unis, pour la première fois de ma vie, pour rencontrer des personnes de LinkedIn (avant Microsoft). Quelques semaines plus tard, et ils sont devenus notre premier client payant aux États-Unis. C’était juste l’un des nombreux grands groupes – Netflix , Disney, et Safeway – que j’ai aidés à résoudre des problèmes de cloud critiques. C’était super éducatif et un solide constructeur de confiance.

Pour moi, rejoindre Adallom était vraiment rejoindre un endroit où je croyais au marché, je croyais à l’équipe, et je croyais à la vision. Je suis extrêmement reconnaissant pour l’opportunité qui m’a été donnée là-bas.

Le but de ce que je faisais était et est très important. Pour moi, c’était la même chose dans l’armée, c’était toujours important. Je pouvais facilement voir comment l’approche d’Adallom de connexion aux solutions SaaS, puis de surveillance de l’activité des utilisateurs, de ressources, de recherche d’anomalies, etc. allait être la façon dont les choses seraient faites. J’ai réalisé que cela allait être l’approche de l’avenir. Donc, j’ai définitivement vu Adallom comme une entreprise qui allait être couronnée de succès.

J’étais responsable de l’ensemble de l’architecture de notre infrastructure ML. Et j’ai vu et vécu de première main le manque de bons outils pour l’écosystème. Oui, c’était clair pour moi qu’il devait y avoir une solution dédiée dans un endroit centralisé où vous pouvez voir tous vos modèles ; où vous pouvez voir les décisions qu’ils prennent pour votre entreprise ; où vous pouvez suivre et devenir proactif avec vos objectifs ML. Par exemple, nous avions des moments où nous apprenions des problèmes dans nos modèles de machine learning beaucoup trop tard, et ce n’est pas bien pour les utilisateurs et certainement pas pour l’entreprise. C’est là que l’idée d’Aporia a commencé à se former.

Pouvez-vous partager l’histoire de la genèse d’Aporia ?

Mon expérience personnelle avec la machine learning commence en 2008, dans le cadre d’un projet collaboratif à l’Institut Weizmann, avec l’Université de Bath et un centre de recherche chinois. Là, j’ai construit un système d’identification biométrique en analysant des images de l’iris. J’ai pu atteindre 94 % de précision. Le projet a été un succès et a été applaudi d’un point de vue de recherche. Mais pour moi, j’avais construit des logiciels depuis que j’avais 10 ans, et quelque chose me semblait, d’une certaine façon, pas réel. Vous ne pouviez pas vraiment utiliser le système d’identification biométrique que j’avais construit dans la vie réelle, car il ne fonctionnait bien que pour le jeu de données spécifique que j’avais utilisé. Ce n’est pas déterministe.

C’est un peu de contexte. Lorsque vous construisez un système de machine learning, par exemple pour l’identification biométrique, vous voulez que les prédictions soient déterministes – vous voulez savoir que le système identifie avec précision une personne donnée, n’est-ce pas ? Tout comme votre iPhone ne déverrouille pas si cela ne reconnaît pas la bonne personne à l’angle approprié, c’est le résultat souhaité. Mais ce n’était pas le cas avec la machine learning à l’époque où j’ai commencé à m’y intéresser.

Environ sept ans plus tard, j’ai vécu de première main, chez Adallom, la réalité de l’exécution de modèles de production sans garde-fous fiables, car ils prennent des décisions pour notre entreprise qui affectent nos clients. Ensuite, j’ai eu la chance de travailler en tant qu’investisseur chez Vertex Ventures, pendant trois ans. J’ai vu comment de plus en plus d’organisations utilisaient la ML, et comment les entreprises passaient de la simple discussion sur la ML à la mise en œuvre réelle de la machine learning. Cependant, ces entreprises ont adopté la ML uniquement pour être confrontées aux mêmes problèmes que nous rencontrions chez Adallom.

Tout le monde s’est précipité pour utiliser la ML, et ils ont essayé de construire des systèmes de surveillance en interne. Évidemment, ce n’était pas leur activité principale, et ces défis sont assez complexes. C’est là que j’ai également réalisé que c’était mon opportunité de faire un impact énorme.

La ML est adoptée dans presque tous les secteurs, y compris les soins de santé, les services financiers, l’automobile, et d’autres, et elle va toucher la vie de chacun et avoir un impact sur nous tous. C’est là que la valeur d’Aporia se révèle – en permettant à toutes ces utilisations qui changent la vie de fonctionner comme prévu et d’aider à améliorer notre société. Parce que, comme pour tout logiciel, vous allez avoir des bogues, et la machine learning n’est pas différente. Si elle n’est pas surveillée, ces problèmes de ML peuvent vraiment nuire à la continuité de l’entreprise et avoir un impact sur la société avec des résultats biaisés involontaires. Prenez la tentative d’Amazon de mettre en œuvre un outil de recrutement basé sur l’IA (AMZN ) – un biais involontaire a causé le modèle de machine learning à recommander fortement les candidats masculins par rapport aux candidats féminins. C’est évidemment un résultat indésirable. Il faut donc une solution dédiée pour détecter les biais involontaires avant qu’ils n’atteignent les actualités et n’affectent les utilisateurs finals.

Pour que les organisations puissent s’appuyer sur la ML et en tirer parti, elles doivent savoir quand elle ne fonctionne pas correctement, et maintenant, avec les nouvelles réglementations, les utilisateurs de ML devront souvent trouver des moyens d’expliquer leurs prédictions de modèles. À la fin, il est essentiel de rechercher et de développer de nouveaux modèles et projets innovants, mais une fois que ces modèles rencontrent le monde réel et prennent des décisions réelles pour les gens, les entreprises et la société, il y a un besoin clair de solution d’observabilité complète pour s’assurer que l’on peut faire confiance à l’IA.

Pouvez-vous expliquer l’importance de l’IA transparente et explicative ?

Alors que cela peut sembler similaire, il y a une distinction importante à faire entre les logiciels traditionnels et la machine learning. Dans les logiciels, vous avez un ingénieur logiciel, qui écrit du code, définit la logique de l’application, nous savons exactement ce qui se passera dans chaque flux de code. C’est déterministe. C’est ainsi que les logiciels sont généralement construits, les ingénieurs créent des cas de test, testent les cas de bord, arrivent à 70 % – 80 % de couverture – vous vous sentez suffisamment bien pour le publier. Si des alertes apparaissent, vous pouvez facilement déboguer et comprendre quel flux a mal tourné, et le corriger.

Ce n’est pas le cas avec la machine learning. Au lieu qu’un humain définit la logique, elle est définie dans le cadre du processus d’entraînement du modèle. Lorsque nous parlons de logique, contrairement aux logiciels traditionnels, il ne s’agit pas d’un ensemble de règles, mais plutôt d’une matrice de millions et de milliards de nombres qui représentent l’esprit, le cerveau du modèle de machine learning. Et c’est une boîte noire, nous ne connaissons pas vraiment le sens de chaque nombre dans cette matrice. Mais nous savons statistiquement, donc c’est probabiliste, et pas déterministe. Cela peut être précis 83 % ou 93 % du temps. Cela soulève beaucoup de questions, n’est-ce pas ? Premièrement, comment pouvons-nous faire confiance à un système que nous ne pouvons pas expliquer la façon dont il arrive à ses prédictions ? Deuxièmement, comment pouvons-nous expliquer les prédictions pour des industries hautement réglementées – telles que le secteur financier. Par exemple, aux États-Unis, les entreprises financières sont obligées par la loi d’expliquer à leurs clients pourquoi ils ont été rejetés pour une demande de prêt.

L’incapacité à expliquer les prédictions de la machine learning en texte lisible par l’homme pourrait être un obstacle majeur à l’adoption massive de la ML à travers les industries. Nous voulons savoir, en tant que société, que le modèle ne prend pas de décisions biaisées. Nous voulons nous assurer que nous comprenons ce qui conduit le modèle à une décision spécifique. C’est là que l’explicabilité et la transparence sont extrêmement cruciales.

Comment fonctionne la solution d’IA transparente et explicative d’Aporia ?

L’outil d’IA transparente et explicative d’Aporia fonctionne dans le cadre d’un système d’observabilité de la machine learning unifié. Sans une visibilité approfondie des modèles de production et une solution de surveillance et d’alerte fiable, il est difficile de faire confiance aux informations d’IA explicatives – il n’y a pas besoin d’expliquer les prédictions si la sortie est peu fiable. Et c’est là qu’Aporia intervient, en fournissant une visibilité unique sur tous les modèles en cours d’exécution, une surveillance personnalisable, des capacités d’alerte, des outils de débogage, une enquête sur les causes profondes et une IA explicative. Une solution d’observabilité complète dédiée à tout problème qui se pose en production.

La plate-forme Aporia est agnostique et équipe les entreprises axées sur l’IA, les équipes de science des données et de ML avec un tableau de bord centralisé et une visibilité complète sur la santé de leurs modèles, les prédictions et les décisions – leur permettant de faire confiance à leur IA. En utilisant l’IA explicative d’Aporia, les organisations sont en mesure de garder tous les parties prenantes concernées dans la boucle en expliquant les décisions de la machine learning avec un simple clic de souris – obtenir des insights lisibles par l’homme sur des prédictions de modèles spécifiques ou simuler des situations “Et si ?”. En outre, Aporia suit en permanence les données qui sont alimentées dans le modèle ainsi que les prédictions, et envoie des alertes proactivement en cas d’événements importants, notamment la dégradation des performances, les biais involontaires, la dérive des données et même les opportunités d’améliorer votre modèle. Enfin, avec l’outil d’enquête d’Aporia, vous pouvez aller à la racine de tout événement pour remédier et améliorer tout modèle en production.

Certaines des fonctionnalités proposées incluent des outils d’enquête sur les points de données et les séries chronologiques, comment ces outils aident-ils à prévenir les biais et la dérive de l’IA ?

Les points de données fournissent une vue en direct des données que le modèle reçoit et des prédictions qu’il fait pour l’entreprise. Vous pouvez obtenir un flux en direct de cela et comprendre exactement ce qui se passe dans votre entreprise. Donc, cette capacité de visibilité est cruciale pour la transparence. Parfois, les choses changent avec le temps et il y a une corrélation entre plusieurs changements avec le temps – c’est le rôle de l’enquête sur les séries chronologiques.

Récemment, de grands détaillants ont vu tous leurs outils de prédiction basés sur l’IA échouer lorsqu’il s’agissait de prédire les problèmes de chaîne d’approvisionnement, comment la plate-forme Aporia résoudrait-elle ce problème ?

Le principal défi pour identifier ce type de problèmes est enraciné dans le fait que nous parlons de prédictions futures. Cela signifie que nous prédisons que quelque chose va se produire ou ne pas se produire dans le futur. Par exemple, combien de personnes vont acheter une chemise spécifique ou un nouveau PlayStation.

Ensuite, il faut du temps pour rassembler tous les résultats réels – plus de quelques semaines. Ensuite, nous pouvons résumer et dire, ok, c’était la demande réelle que nous avons vue. Ce laps de temps, nous parlons de quelques mois au total. C’est ce qui nous amène du moment où le modèle fait la prédiction jusqu’au moment où l’entreprise sait exactement si elle était correcte ou non. Et à ce stade, il est généralement trop tard, l’entreprise a soit perdu des revenus potentiels, soit sa marge a été compressée, car ils doivent vendre les surplus à des remises importantes.

C’est un défi. Et c’est exactement là que la plate-forme Aporia intervient et devient très, très utile à ces organisations. Premièrement, elle permet aux organisations d’obtenir facilement de la transparence et de la visibilité sur les décisions qui sont prises – Y a-t-il des fluctuations ? Y a-t-il quelque chose qui ne fait pas de sens ? Deuxièmement, alors que nous parlons de grands détaillants, nous parlons de quantités énormes d’inventaire, et les suivre manuellement est presque impossible. C’est là que les entreprises et les équipes de machine learning apprécient le plus Aporia, en tant que système de surveillance automatisé et personnalisable 24h/24. Aporia suit en permanence les données et les prédictions, il analyse le comportement statistique de ces prédictions, et il peut anticiper et identifier les changements dans le comportement des consommateurs et les changements dans le comportement des données dès qu’ils se produisent. Au lieu d’attendre six mois pour réaliser que la prévision de la demande était incorrecte, vous pouvez en quelques jours identifier que nous sommes sur la mauvaise voie avec nos prévisions de demande. Aporia raccourcit ainsi ce laps de temps de quelques mois à quelques jours. C’est un changement de jeu important pour tout praticien de la ML.

Y a-t-il autre chose que vous aimeriez partager sur Aporia ?

Nous sommes en constante croissance et nous recherchons des personnes incroyables avec des esprits brillants pour rejoindre le voyage d’Aporia. Consultez nos postes ouverts.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus devraient visiter Aporia.