Yotam Oren, CEO & Mitgründer von Mona Labs – Interview-Serie

Yotam Oren ist der CEO & Mitgründer von Mona Labs, einer Plattform, die es Unternehmen ermöglicht, ihre KI-Initiativen von Laborexperimenten in skalierbare Geschäftsoperationen umzuwandeln, indem sie wirklich verstehen, wie ML-Modelle in realen Geschäftsprozessen und Anwendungen funktionieren.

Mona analysiert automatisch das Verhalten von Machine-Learning-Modellen über geschützte Datensegmente und im Kontext von Geschäftsfunktionen, um potenzielle KI-Vorrechte zu erkennen. Mona bietet die Möglichkeit, vollständige Fairness-Berichte zu erstellen, die Branchenstandards und Vorschriften erfüllen und die Gewissheit bieten, dass die KI-Anwendung konform und frei von Vorurteilen ist.

Was hat Sie ursprünglich zur Informatik hingezogen?

Informatik ist in meiner Familie ein beliebter Karriereweg, also war es immer eine mögliche Option. Natürlich ist die israelische Kultur sehr pro-Technologie. Wir feiern innovative Technologen und ich hatte immer die Vorstellung, dass Informatik mir einen Weg für Wachstum und Erfolg bieten würde.

Trotzdem wurde es erst zu meiner Leidenschaft, als ich Universitätsalter erreichte. Ich war nicht eines der Kinder, die in der Mittelschule mit dem Programmieren begannen. In meiner Jugend war ich zu sehr mit Basketball beschäftigt, um auf Computer zu achten. Nach der Schule verbrachte ich fast 5 Jahre in der Armee, in operativen und kampftaktischen Führungspositionen. Also begann ich erst wirklich, mich mit Informatik zu beschäftigen, als ich mich für ein Studienfach an der Universität entscheiden musste. Was meine Aufmerksamkeit sofort erregte, war, dass Informatik das Lösen von Problemen und das Lernen von Sprachen (oder Sprachen) kombinierte. Zwei Dinge, die mich besonders interessierten. Von da an war ich gefesselt.

Von 2006 bis 2008 haben Sie an Kartierung und Navigation für ein kleines Start-up gearbeitet, was waren einige Ihrer wichtigsten Erkenntnisse aus dieser Zeit?

Meine Rolle bei Telmap bestand darin, eine Suchmaschine auf Basis von Karten- und Ortsdaten zu entwickeln.

Das waren die frühen Tage von “Big Data” im Unternehmen. Wir nannten es nicht einmal so, aber wir erwarben enorme Datensätze und versuchten, die wichtigsten und relevantesten Erkenntnisse für unsere Endbenutzer zu gewinnen.

Eine der auffallendsten Erkenntnisse, die ich hatte, war, dass Unternehmen (einschließlich uns) nur einen kleinen Teil ihrer Daten nutzten (um nicht zu sagen, dass sie öffentlich verfügbare externe Daten nicht nutzten). Es gab so viel Potenzial für neue Erkenntnisse, bessere Prozesse und Erfahrungen.

Die andere Erkenntnis war, dass wir, um mehr von unseren Daten zu erhalten, bessere Architekturen, bessere Infrastruktur usw. benötigten.

Können Sie die Entstehungsgeschichte hinter Mona Labs teilen?

Die drei von uns, Mitgründer, haben unsere Karrieren lang mit Datenprodukten zu tun gehabt.

Nemo, der Chief Technology Officer, ist mein College-Freund und Kommilitone und einer der ersten Mitarbeiter von Google (GOOGL ) Tel Aviv. Er hat dort ein Produkt namens Google Trends entwickelt, das viele fortgeschrittene Analysen und Machine-Learning-Techniken auf Basis von Suchmaschinendaten verwendete. Itai, der andere Mitgründer und Chief Product Officer, war in Nemos Team bei Google (und ich traf ihn durch Nemo). Die beiden waren immer frustriert, dass KI-gesteuerte Systeme nach der anfänglichen Entwicklung und dem Testen unüberwacht blieben. Trotz der Schwierigkeit, diese Systeme ordnungsgemäß zu testen, bevor sie in Produktion gingen, wussten die Teams nicht, wie gut ihre Vorhersagemodelle im Laufe der Zeit funktionierten. Außerdem schien es, dass sie nur dann Feedback über KI-Systeme erhielten, wenn etwas schiefging und das Entwicklungsteam zu einem “Feuerwehr-Einsatz” gerufen wurde, um katastrophale Probleme zu beheben.

Zu etwa der gleichen Zeit war ich als Berater bei McKinsey & Co. tätig und einer der größten Barrieren, die ich sah, war der Mangel an Vertrauen, den die Geschäftsführer in KI- und Big-Data-Programme hatten.

Der gemeinsame Faden wurde Nemo, Itai und mir in Gesprächen klar. Die Branche benötigte die Infrastruktur, um KI/ML-Systeme in Produktion zu überwachen. Wir kamen mit der Vision auf, diese Sichtbarkeit zu bieten, um das Vertrauen der Geschäftsführer zu erhöhen und KI-Teams zu ermöglichen, immer einen Griff auf ihre Systeme zu haben und effizienter zu iterieren.

Und das ist, wie Mona gegründet wurde.

Was sind einige der aktuellen Probleme mit mangelnder KI-Transparenz?

In vielen Branchen haben Organisationen bereits Millionen von Dollar in ihre KI-Programme investiert und haben anfangs einige Erfolge im Labor und bei kleinen Einsatzszenarien gesehen. Aber die Skalierung, die breite Akzeptanz und die tatsächliche Nutzung von KI durch das Geschäft sind für fast jeden eine massive Herausforderung.

Warum passiert das? Nun, es beginnt damit, dass großartige Forschung nicht automatisch zu großartigen Produkten führt (Ein Kunde sagte uns einmal: “ML-Modelle sind wie Autos, sobald sie das Labor verlassen, verlieren sie 20% ihres Wertes”). Großartige Produkte haben unterstützende Systeme. Es gibt Tools und Prozesse, um sicherzustellen, dass die Qualität über die Zeit aufrechterhalten wird und dass Probleme frühzeitig erkannt und effizient behoben werden. Großartige Produkte haben auch einen kontinuierlichen Feedback-Kreislauf, sie haben einen Verbesserungszyklus und eine Roadmap. Folglich benötigen großartige Produkte tiefere und ständige Leistungstransparenz.

Wenn es an Transparenz mangelt, endet man mit:

• Problemen, die für eine Weile verborgen bleiben und dann plötzlich an die Oberfläche kommen und “Feuerwehreinsätze” verursachen
• Langwierigen und manuellen Untersuchungen und Abhilfemaßnahmen
• Ein KI-Programm, das von den Geschäftsnutzern und Sponsoren nicht vertraut wird und letztendlich nicht skaliert

Was sind einige der Herausforderungen hinter der Herstellung von Vorhersagemodellen, die transparent und vertrauenswürdig sind?

Transparenz ist ein wichtiger Faktor, um Vertrauen zu erlangen, natürlich. Transparenz kann in vielen Formen auftreten. Es gibt Transparenz bei einzelnen Vorhersagen, die möglicherweise die Anzeige des Vertrauensniveaus für den Benutzer oder die Bereitstellung einer Erklärung/Begründung für die Vorhersage beinhaltet. Transparenz bei einzelnen Vorhersagen zielt hauptsächlich darauf ab, dem Benutzer zu helfen, sich mit der Vorhersage wohlzufühlen. Und dann gibt es Transparenz im Allgemeinen, die Informationen über Vorhersagegenauigkeit, unerwartete Ergebnisse und potenzielle Probleme umfassen kann. Transparenz im Allgemeinen ist für das KI-Team erforderlich.

Der schwierigste Teil von Transparenz im Allgemeinen ist die frühzeitige Erkennung von Problemen, die Warnung des relevanten Teammitglieds, damit es korrigierende Maßnahmen ergreifen kann, bevor Katastrophen eintreten.

Warum es schwierig ist, Probleme frühzeitig zu erkennen:

• Probleme beginnen oft klein und brodeln, bevor sie schließlich an die Oberfläche kommen.
• Probleme beginnen oft aufgrund unkontrollierbarer oder externer Faktoren, wie Datenquellen.
• Es gibt viele Möglichkeiten, “die Welt zu teilen” und erschöpfend nach Problemen in kleinen Taschen zu suchen, was zu viel Rauschen (Warnungsmüdigkeit) führen kann, zumindest wenn dies auf naive Weise durchgeführt wird.

Eine weitere Herausforderung bei der Bereitstellung von Transparenz ist die enorme Verbreitung von KI-Anwendungsfällen. Dies macht einen einheitlichen Ansatz fast unmöglich. Jeder KI-Anwendungsfall kann unterschiedliche Datenstrukturen, verschiedene Geschäftszyklen, verschiedene Erfolgsmetriken und oft unterschiedliche technische Ansätze und sogar Stacks umfassen.

Es ist also eine monumentale Aufgabe, aber Transparenz ist so grundlegend für den Erfolg von KI-Programmen, dass man es einfach tun muss.

Können Sie einige Details zu den Lösungen für NLU- / NLP-Modelle und Chatbots teilen?

Conversational AI ist eines von Monas Kernbereichen. Wir unterstützen stolz innovative Unternehmen mit einer Vielzahl von Conversational-AI-Anwendungsfällen, einschließlich Sprachmodelle, Chatbots und mehr.

Ein gemeinsamer Faktor bei diesen Anwendungsfällen ist, dass die Modelle nahe (und manchmal sichtbar) bei den Kunden arbeiten, sodass das Risiko einer inkonsistenten Leistung oder eines schlechten Verhaltens höher ist. Es wird so wichtig für Conversational-AI-Teams, das Systemverhalten auf granularer Ebene zu verstehen, was ein Bereich der Stärken von Monas Überwachungslösung ist.

Was Monas Lösung einzigartig macht, ist, dass sie systematisch Gruppen von Konversationen durchsiebt und Taschen findet, in denen die Modelle (oder Bots) falsch verhalten. Dies ermöglicht es Conversational-AI-Teams, Probleme frühzeitig zu erkennen und bevor Kunden sie bemerken. Diese Fähigkeit ist ein entscheidender Treiber für Conversational-AI-Teams bei der Auswahl von Überwachungslösungen.

Zusammenfassend bietet Mona eine umfassende Lösung für die Überwachung von Conversational AI. Sie beginnt mit der Sicherstellung, dass es eine einzige Informationsquelle für das Systemverhalten über die Zeit gibt, und setzt sich mit der kontinuierlichen Verfolgung von Leistungsindikatoren und proaktiven Erkenntnissen über Taschen von Fehlverhalten fort, um Teams zu ermöglichen, vorbeugende, effiziente Korrekturmaßnahmen zu ergreifen.

Können Sie einige Details zu Monas Erkenntnismotor teilen?

Sicher. Lassen Sie uns mit der Motivation beginnen. Das Ziel des Erkenntnismotors ist es, Anomalien für die Benutzer mit genau der richtigen Menge an Kontextinformationen und ohne Rauschen oder Warnungsmüdigkeit zu erkennen.

Der Erkenntnismotor ist ein einzigartiger analytischer Workflow. In diesem Workflow sucht der Motor nach Anomalien in allen Segmenten der Daten, um frühzeitige Erkennung von Problemen zu ermöglichen, wenn sie noch “klein” sind, und bevor sie den gesamten Datensatz und die nachgelagerten Geschäftskennzahlen beeinträchtigen. Er verwendet dann einen proprietären Algorithmus, um die Ursachen der Anomalien zu erkennen und sicherzustellen, dass jede Anomalie nur einmal alarmiert wird, um Rauschen zu vermeiden. Der Erkenntnismotor unterstützt Anomalietypen wie Zeitreihenanomalien, Drift, Ausreißer, Modellverschlechterung und mehr.

Der Erkenntnismotor ist hoch anpassbar über Monas intuitive No-Code/Low-Code-Konfiguration. Die Anpassbarkeit des Motors macht Mona zur flexibelsten Lösung auf dem Markt, die eine Vielzahl von Anwendungsfällen abdeckt (z. B. Batch- und Streaming, mit/ohne Geschäftsrückmeldung/Grundwahrheit, über Modellversionen oder zwischen Trainings- und Inferenz, und mehr).

Schließlich wird dieser Erkenntnismotor von einem Visualisierungs-Dashboard unterstützt, in dem Erkenntnisse angezeigt und ein Satz von Untersuchungstools zur Verfügung gestellt werden, um eine Ursachenanalyse und weitere Exploration der Kontextinformationen zu ermöglichen. Der Erkenntnismotor ist auch vollständig in einen Benachrichtigungsmotor integriert, der es ermöglicht, Erkenntnisse an die Arbeitsumgebungen der Benutzer zu liefern, einschließlich E-Mail, Kollaborationsplattformen und so weiter.

Am 31. Januar hat Mona sein neues KI-Fairness-Lösung vorgestellt, können Sie uns Details zu diesem Feature teilen?

KI-Fairness geht darum, sicherzustellen, dass Algorithmen und KI-gesteuerte Systeme im Allgemeinen unvoreingenommene und gerechte Entscheidungen treffen. Die Bekämpfung und Vermeidung von Vorurteilen in KI-Systemen ist von entscheidender Bedeutung, da sie erhebliche reale Konsequenzen haben können. Mit der zunehmenden Bedeutung von KI wird der Einfluss auf das tägliche Leben der Menschen in immer mehr Bereichen sichtbar, einschließlich der Automatisierung unseres Fahrens, der Erkennung von Krankheiten, der Verbesserung unseres Verständnisses der Welt und sogar der Erstellung von Kunst. Wenn wir nicht sicherstellen können, dass sie fair und unvoreingenommen ist, wie können wir sie dann weiter verbreiten?

Einer der Hauptgründe für Vorurteile in KI ist einfach die Fähigkeit der Trainingsdaten, die reale Welt in vollem Umfang darzustellen. Dies kann auf historische Diskriminierung, Unterrepräsentation bestimmter Gruppen oder sogar absichtliche Manipulation von Daten zurückzuführen sein. Zum Beispiel ist ein Gesichtserkennungssystem, das auf überwiegend hellhäutigen Individuen trainiert wurde, wahrscheinlich anfälliger für Fehler bei der Erkennung von Individuen mit dunklerer Hautfarbe. Ebenso kann ein Sprachmodell, das auf Textdaten aus einer engen Quellenauswahl trainiert wurde, Vorurteile entwickeln, wenn die Daten zu bestimmten Weltanschauungen, Themen wie Religion, Kultur und so weiter, tendenziös sind.

Monas KI-Fairness-Lösung gibt KI- und Geschäftsteams die Gewissheit, dass ihre KI frei von Vorurteilen ist. In regulierten Branchen kann Monas Lösung Teams auf die Einhaltung von Vorschriften vorbereiten.

Monas Fairness-Lösung ist besonders, weil sie auf der Mona-Plattform sitzt – einer Brücke zwischen KI-Daten und -Modellen und ihren realen Weltimplikationen. Mona betrachtet alle Teile des Geschäftsprozesses, den das KI-Modell in Produktion bedient, um zwischen Trainingsdaten, Modellverhalten und tatsächlichen realen Ergebnissen zu korrelieren und so die umfassendste Bewertung von Fairness zu liefern.

Zweitens verfügt es über einen einzigartigen analytischen Motor, der eine flexible Segmentierung der Daten ermöglicht, um relevante Parameter zu kontrollieren. Dies ermöglicht genaue Korrelationsbewertungen im richtigen Kontext, vermeidet Simpsons Paradoxon und liefert einen tiefen “Vorurteils-Score” für jeden Leistungsindikator und jedes geschützte Merkmal.

Insgesamt würde ich sagen, dass Mona ein grundlegender Bestandteil für Teams ist, die verantwortungsvolle KI aufbauen und skalieren müssen.

Was ist Ihre Vision für die Zukunft von KI?

Das ist eine große Frage.

Ich denke, es ist leicht vorherzusagen, dass KI weiterhin in verschiedenen Branchen und Aspekten des Lebens der Menschen an Bedeutung gewinnen wird. Es ist jedoch schwierig, eine detaillierte Vision zu erstellen, die alle Anwendungsfälle und Auswirkungen von KI in der Zukunft abdeckt. Niemand weiß genug, um dieses Bild glaubwürdig zu malen.

Was wir jedoch sicher wissen, ist, dass KI in den Händen von mehr Menschen und für mehr Zwecke eingesetzt werden wird. Der Bedarf an Governance und Transparenz wird daher erheblich steigen.

Reale Einblicke in KI und wie sie funktioniert, werden zwei wichtige Rollen spielen. Erstens werden sie dazu beitragen, Vertrauen bei den Menschen zu schaffen und Widerstände gegen eine schnellere Akzeptanz zu überwinden. Zweitens werden sie dazu beitragen, dass die Betreiber von KI sicherstellen, dass sie nicht außer Kontrolle gerät.

Vielen Dank für das großartige Interview, Leser, die mehr erfahren möchten, sollten Mona Labs besuchen.