Liran Hason, Mitgründer und CEO von Aporia – Interview-Serie

Liran Hason ist der Mitgründer und CEO von Aporia, einer Full-Stack-ML-Überwachungsplattform, die von Fortune-500-Unternehmen und Datenwissenschaftlerteams auf der ganzen Welt verwendet wird, um verantwortungsvolle KI zu gewährleisten. Aporia integriert sich nahtlos in jede ML-Infrastruktur. Ob es sich um einen FastAPI-Server auf Kubernetes, ein Open-Source-Deploy-Tool wie MLFlow oder eine Machine-Learning-Plattform wie AWS Sagemaker handelt

Bevor er Aporia gründete, war Liran ML-Architekt bei Adallom (erworben von Microsoft (MSFT )) und später Investor bei Vertex Ventures.

Sie haben mit dem Programmieren begonnen, als Sie 10 Jahre alt waren. Was hat Sie ursprünglich an Computern interessiert, und woran haben Sie gearbeitet?

Es war 1999, und ein Freund von mir rief mich an und sagte, er habe eine Website erstellt. Nachdem ich eine 200 Zeichen lange Adresse in meinem Browser eingegeben hatte, sah ich eine Website mit seinem Namen darauf. Ich war erstaunt darüber, dass er etwas auf seinem Computer erstellt hatte und ich es auf meinem eigenen Computer sehen konnte. Dies machte mich sehr neugierig darauf, wie es funktioniert und wie ich das Gleiche tun kann. Ich bat meine Mutter, mir ein HTML-Buch zu kaufen, das mein erster Schritt in die Programmierung war.

Ich finde großen Spaß daran, technische Herausforderungen anzunehmen, und mit der Zeit wuchs meine Neugier nur noch mehr. Ich lernte ASP, PHP und Visual Basic und konsumierte alles, was ich konnte.

Als ich 13 Jahre alt war, nahm ich bereits einige Freelance-Jobs an, um Websites und Desktop-Anwendungen zu erstellen.

Wenn ich keine aktive Arbeit hatte, arbeitete ich an meinen eigenen Projekten – meistens verschiedene Websites und Anwendungen, die darauf abzielten, anderen Menschen zu helfen, ihre Ziele zu erreichen:

Blue-White-Programmierung – ist eine hebräische Programmiersprache, ähnlich wie HTML, die ich entwickelte, nachdem ich erkannt hatte, dass Kinder in Israel, die nicht über ein hohes Maß an Englischkenntnissen verfügen, von der Welt der Programmierung ausgeschlossen oder abgeschreckt werden.

Blinky – Meine Großeltern sind taub und verwenden Gebärdensprache, um mit ihren Freunden zu kommunizieren. Als Videokonferenz-Software wie Skype und ooVoo aufkam, ermöglichte es ihnen erstmals, mit Freunden zu sprechen, auch wenn sie sich nicht im selben Raum befanden (wie wir alle mit unseren Telefonen tun). Allerdings konnten sie nicht hören, dass sie einen eingehenden Anruf hatten. Um ihnen zu helfen, schrieb ich eine Software, die eingehende Videoanrufe erkennt und sie durch Blinken eines LED-Arrays in einem kleinen Hardware-Gerät alarmiert, das ich an ihren Computer angeschlossen hatte.

Das sind nur einige der Projekte, die ich als Teenager erstellt habe. Meine Neugier hat nie aufgehört, und ich habe mich daran gemacht, C, C++, Assembly und wie Betriebssysteme funktionieren zu lernen und wirklich versucht, so viel wie möglich zu lernen.

Können Sie die Geschichte Ihrer Reise als Machine-Learning-Architekt bei Microsoft-acquired Adallom teilen?

Ich begann meine Reise bei Adallom nach meinem Militärdienst. Nach 5 Jahren in der Armee als Hauptmann sah ich eine großartige Gelegenheit, einem aufstrebenden Unternehmen und Markt beizutreten – als einer der ersten Mitarbeiter. Das Unternehmen wurde von großartigen Gründern geleitet, die ich aus meinem Militärdienst kannte, und von Top-Tier-Venture-Capital-Gebern unterstützt – wie Sequoia. Der Ausbruch von Cloud-Technologien auf den Markt war noch in seinen Anfängen, und wir bauten eine der ersten Cloud-Sicherheitslösungen zu dieser Zeit. Unternehmen begannen gerade, von On-Premise- zu Cloud-Technologien überzugehen, und wir sahen neue Branchenstandards entstehen – wie Office 365, Dropbox (DBX ), Marketo, Salesforce und andere.

Während meiner ersten Wochen wusste ich bereits, dass ich eines Tages mein eigenes Unternehmen gründen wollte. Ich fühlte mich von der technischen Seite her für jede Herausforderung gerüstet, und wenn nicht ich, wusste ich, dass ich die richtigen Menschen kannte, um mir zu helfen, alles zu überwinden.

Adallom hatte einen Bedarf an jemandem, der tiefgreifendes Wissen über die Technologie hatte, aber auch kundennah sein konnte. Ein paar Wochen später und ich war auf einem Flug in die USA, um mit Leuten von LinkedIn (vor Microsoft) zu sprechen. Ein paar Wochen später und sie wurden unser erster zahlender Kunde in den USA. Dies war nur einer von vielen großen Konzernen – Netflix , Disney und Safeway – für die ich half, kritische Cloud-Probleme zu lösen. Es war sehr lehrreich und ein starker Vertrauensaufbau.

Für mich war es wichtig, dass ich mich einem Unternehmen anschloss, an das ich glaubte, einem Team, das ich respektierte, und einer Vision, die ich teilte. Ich bin extrem dankbar für die Gelegenheit, die ich dort erhalten habe.

Der Zweck dessen, was ich tue, war und ist sehr wichtig. Für mich war es genauso in der Armee, es war immer wichtig. Ich konnte leicht sehen, wie der Adallom-Ansatz, der darin bestand, SaaS-Lösungen zu verbinden, dann die Aktivität von Benutzern und Ressourcen zu überwachen, Anomalien zu finden und so weiter, die Art und Weise war, wie Dinge in Zukunft gemacht werden würden. Ich erkannte, dass Adallom ein Unternehmen war, das erfolgreich sein würde.

Ich war für die gesamte Architektur unserer ML-Infrastruktur verantwortlich. Und ich sah und erlebte erstmals die mangelnde ordnungsgemäße Werkzeugausstattung für das Ökosystem. Ja, es war mir klar, dass es eine dedizierte Lösung in einem zentralen Ort geben musste, an dem man alle Modelle sehen kann; an dem man sehen kann, welche Entscheidungen sie für das Geschäft treffen; an dem man ML-Ziele verfolgen und proaktiv werden kann. Zum Beispiel hatten wir Zeiten, in denen wir erst viel zu spät von Problemen in unseren Machine-Learning-Modellen erfahren haben, und das ist nicht gut für die Benutzer und definitiv nicht für das Geschäft. Hier begann die Idee für Aporia, sich zu formen.

Können Sie die Genesis-Geschichte hinter Aporia teilen?

Meine eigene persönliche Erfahrung mit Machine Learning beginnt im Jahr 2008, als Teil eines gemeinsamen Projekts am Weizmann-Institut, zusammen mit der University of Bath und einem chinesischen Forschungszentrum. Dort baute ich ein biometrisches Identifizierungssystem, indem ich Bilder der Iris analysierte. Ich konnte eine Genauigkeit von 94% erreichen. Das Projekt war ein Erfolg und wurde von der Forschungsgemeinschaft gelobt. Aber für mich, da ich seit meinem 10. Lebensjahr Software entwickelte, fühlte es sich irgendwie nicht real an. Man konnte das biometrische Identifizierungssystem, das ich entwickelt hatte, nicht im realen Leben verwenden, weil es nur für das spezifische Dataset funktionierte, das ich verwendet hatte. Es war nicht deterministisch genug.

Das ist nur ein bisschen Hintergrund. Wenn man ein Machine-Learning-System baut, zum Beispiel für biometrische Identifizierung, möchte man, dass die Vorhersagen deterministisch sind – man möchte wissen, dass das System genau eine bestimmte Person erkennt, richtig? Genau wie Ihr iPhone nicht entsperrt, wenn es die richtige Person im richtigen Winkel nicht erkennt, ist dies das gewünschte Ergebnis. Aber das war wirklich nicht der Fall mit Machine Learning, als ich zum ersten Mal in den Raum kam.

Vor etwa sieben Jahren und ich erlebte erstmals die Realität, Produktionsmodelle ohne zuverlässige Schutzmechanismen zu betreiben, als sie Entscheidungen für unser Geschäft trafen, die unsere Kunden betrafen. Dann hatte ich das Glück, als Investor bei Vertex Ventures zu arbeiten, für drei Jahre. Ich sah, wie immer mehr Organisationen ML einsetzten und wie Unternehmen von der Diskussion über ML zu tatsächlichem Machine Learning übergingen. Allerdings wurden diese Unternehmen von den gleichen Problemen herausgefordert, mit denen wir bei Adallom konfrontiert waren.

Jeder eilte, ML zu verwenden, und sie versuchten, Überwachungssysteme in-house zu bauen. Offensichtlich war dies nicht ihr Kerngeschäft, und diese Herausforderungen sind ziemlich komplex. Hier erkannte ich auch, dass dies meine Chance war, einen großen Einfluss zu haben.

KI wird in fast jeder Branche eingesetzt, einschließlich Gesundheitswesen, Finanzdienstleistungen, Automotive und anderen, und sie wird jeden berühren und uns alle beeinflussen. Hier zeigt Aporia seinen wahren Wert – indem es all diese lebensverändernden Anwendungsfälle ermöglicht, wie beabsichtigt zu funktionieren und unsere Gesellschaft zu verbessern. Denn wie bei jeder Software gibt es auch bei Machine Learning Fehler, und wenn sie unbeachtet bleiben, können sie den Geschäftsbetrieb stören und unbeabsichtigte Vorurteile verursachen. Nehmen Sie Amazons Versuch, ein AI-Rekrutierungstool zu implementieren – unbeabsichtigte Vorurteile veranlassten das Machine-Learning-Modell, männliche Kandidaten gegenüber weiblichen zu bevorzugen. Dies ist offensichtlich ein unerwünschtes Ergebnis. Also muss es eine dedizierte Lösung geben, um unbeabsichtigte Vorurteile zu erkennen, bevor sie in die Nachrichten gelangen und Endbenutzer betreffen.

Für Organisationen, die ordnungsgemäß auf Machine Learning vertrauen und von seinen Vorteilen profitieren möchten, müssen sie wissen, wenn es nicht richtig funktioniert, und mit neuen Vorschriften benötigen ML-Anwender oft Möglichkeiten, ihre Modellvorhersagen zu erklären. Letztendlich ist es entscheidend, neue Modelle und innovative Projekte zu erforschen und zu entwickeln, aber sobald diese Modelle die reale Welt treffen und echte Entscheidungen für Menschen, Unternehmen und die Gesellschaft treffen, gibt es einen klaren Bedarf an einer umfassenden Überwachungslösung, um sicherzustellen, dass sie der KI vertrauen können.

Können Sie die Bedeutung transparenter und erklärbarer KI erklären?

Während es sich ähnlich anhören mag, gibt es einen wichtigen Unterschied zwischen traditioneller Software und Machine Learning. In der Software haben Sie einen Software-Entwickler, der Code schreibt, die Logik der Anwendung definiert, wir wissen genau, was in jedem Code-Fluss passieren wird. Es ist deterministisch. So wird Software normalerweise gebaut, die Entwickler erstellen Testfälle, testen Randfälle, erreichen 70% – 80% Abdeckung – man fühlt sich gut genug, um es in die Produktion zu bringen. Wenn Warnungen auftauchen, kann man leicht debuggen und verstehen, welcher Fluss schiefgelaufen ist, und es beheben.

Das ist nicht der Fall bei Machine Learning. Stattdessen wird die Logik während des Trainingsprozesses des Modells definiert. Wenn man über Logik spricht, handelt es sich nicht um eine Reihe von Regeln, sondern um eine Matrix von Millionen und Milliarden von Zahlen, die das “Gehirn” des Machine-Learning-Modells darstellen. Und dies ist eine Black-Box, wir wissen nicht wirklich, was jede einzelne Zahl in dieser Matrix bedeutet. Aber wir wissen es statistisch, also ist es wahrscheinlich und nicht deterministisch. Es kann in 83% oder 93% der Fälle genau sein. Dies wirft viele Fragen auf, richtig? Erstens, wie können wir einem System vertrauen, das wir nicht erklären können, wie es zu seinen Vorhersagen kommt? Zweitens, wie können wir Vorhersagen für hoch regulierte Branchen wie die Finanzbranche erklären? Zum Beispiel sind in den USA Finanzunternehmen gesetzlich verpflichtet, ihren Kunden zu erklären, warum sie für einen Kreditantrag abgelehnt wurden.

Die Unfähigkeit, Machine-Learning-Vorhersagen in menschlich lesbaren Text zu erklären, könnte ein großer Blockierer für die breite Anwendung von ML in Branchen sein. Wir möchten wissen, dass das Modell nicht voreingenommene Entscheidungen trifft. Wir möchten sicherstellen, dass wir verstehen, was das Modell zu einer bestimmten Entscheidung führt. Hier sind Transparenz und Erklärbarkeit extrem wichtig.

Wie funktioniert Aporias transparente und erklärbare KI-Toolbox-Lösung?

Aporias erklärbares KI-Toolbox funktioniert als Teil eines einheitlichen Machine-Learning-Überwachungssystems. Ohne tiefere Sichtbarkeit von Produktionsmodellen und einer zuverlässigen Überwachungs- und Warnlösung ist es schwierig, den erklärlichen KI-Einblicken zu vertrauen – es gibt keinen Grund, Vorhersagen zu erklären, wenn die Ausgabe unzuverlässig ist. Und so kommt Aporia ins Spiel, indem es eine einzige Übersicht über alle laufenden Modelle bietet, anpassbare Überwachung, Warnfunktionen, Debug-Tools, Root-Cause-Untersuchung und erklärbares KI. Eine dedizierte, vollständige Überwachungslösung für jedes Problem, das in der Produktion auftritt.

Die Aporia-Plattform ist agnostisch und equipt AI-orientierte Unternehmen, Datenwissenschaftler und ML-Teams mit einem zentralen Dashboard und vollständiger Sichtbarkeit in die Gesundheit, Vorhersagen und Entscheidungen ihrer Modelle – ermöglicht es ihnen, ihrer KI zu vertrauen. Durch die Verwendung von Aporias erklärbarer KI können Organisationen jeden relevanten Stakeholder in die Schleife einbeziehen, indem sie Machine-Learning-Entscheidungen mit einem Klick erklären – menschliche Einblicke in spezifische Modellvorhersagen oder Simulationen von “Was-wäre-wenn”-Szenarien erhalten. Darüber hinaus verfolgt Aporia kontinuierlich die Daten, die in das Modell eingespeist werden, sowie die Vorhersagen und sendet proaktiv Warnungen bei wichtigen Ereignissen, einschließlich Leistungsverschlechterung, unbeabsichtigter Vorurteile, Datenverschiebung und sogar Chancen, das Modell zu verbessern. Schließlich können Sie mit Aporias Untersuchungstool die Ursache jedes Ereignisses finden, um es zu beheben und jedes Modell in der Produktion zu verbessern.

Einige der Funktionen, die angeboten werden, sind Data Points und Time Series Investigation Tools. Wie helfen diese Tools dabei, AI-Vorurteile und -Drift zu verhindern?

Data Points bietet eine Live-Ansicht der Daten, die das Modell erhält, und der Vorhersagen, die es für das Geschäft trifft. Sie können eine Live-Feed davon erhalten und genau verstehen, was in Ihrem Geschäft passiert. Diese Fähigkeit der Sichtbarkeit ist entscheidend für Transparenz. Manchmal ändern sich Dinge über die Zeit, und es gibt eine Korrelation zwischen mehreren Änderungen über die Zeit – dies ist die Rolle der Zeitreihenuntersuchung.

Vor kurzem hatten große Einzelhändler alle ihre AI-Vorhersagetools versagt, als es darum ging, Lieferkettenprobleme vorherzusagen. Wie würde die Aporia-Plattform dieses Problem lösen?

Die Hauptforderung bei der Identifizierung dieser Art von Problemen liegt in der Tatsache, dass wir über zukünftige Vorhersagen sprechen. Das bedeutet, wir haben etwas vorhergesagt, was passieren oder nicht passieren wird in der Zukunft. Zum Beispiel, wie viele Menschen werden ein bestimmtes Hemd oder ein neues PlayStation kaufen.

Dann dauert es einige Zeit, bis alle tatsächlichen Ergebnisse gesammelt sind – mehr als ein paar Wochen. Dann können wir zusammenfassen und sagen: Okay, dies war die tatsächliche Nachfrage, die wir gesehen haben. Diese Zeitspanne, über die wir sprechen, beträgt insgesamt einige Monate. Dies ist der Zeitraum, der uns von dem Moment an, in dem das Modell die Vorhersage trifft, bis zum Zeitpunkt, an dem das Geschäft genau weiß, ob es richtig oder falsch war. Und zu diesem Zeitpunkt ist es normalerweise zu spät, das Geschäft hat entweder potenzielle Umsätze verloren oder der Gewinn ist geschrumpft, weil es Überbestände zu großen Rabatten verkaufen muss.

Das ist eine Herausforderung. Und genau hier kommt Aporia ins Spiel und wird sehr, sehr hilfreich für diese Organisationen. Erstens ermöglicht es Organisationen, leicht Transparenz und Sichtbarkeit in die getroffenen Entscheidungen zu erhalten – Gibt es Schwankungen? Gibt es etwas, das nicht Sinn ergibt? Zweitens, da wir über große Einzelhändler sprechen, sprechen wir über enorme Mengen an Inventar, und es manuell zu verfolgen, ist nahezu unmöglich. Hier schätzen Unternehmen und Machine-Learning-Teams Aporia am meisten, als 24/7-automatisiertes und anpassbares Überwachungssystem. Aporia verfolgt kontinuierlich die Daten und die Vorhersagen, analysiert das statistische Verhalten dieser Vorhersagen und kann Änderungen im Verhalten der Verbraucher und Änderungen in den Daten erkennen, sobald sie auftreten. Anstatt sechs Monate zu warten, um zu erkennen, dass die Nachfrageprognose falsch war, kann man in nur wenigen Tagen erkennen, dass man auf dem falschen Weg mit den Nachfrageprognosen ist. Aporia verkürzt diese Zeitspanne von einigen Monaten auf einige Tage. Dies ist ein großer Game-Changer für jeden ML-Praktiker.

Gibt es noch etwas, das Sie über Aporia teilen möchten?

Wir wachsen ständig und suchen nach großartigen Menschen mit brillanten Köpfen, um die Aporia-Reise zu begleiten. Überprüfen Sie unsere offenen Stellen.

Vielen Dank für das großartige Interview, Leser, die mehr erfahren möchten, sollten Aporia besuchen Aporia.