Roshanak Houmanfar, VP of Machine Learning Products bei Integrate.ai – Interview-Serie

Roshanak (Ro) Houmanfar ist die VP of Machine Learning Products für integrate.ai, einem Unternehmen, das Entwicklern hilft, die wichtigsten Probleme der Welt zu lösen, ohne sensible Daten zu riskieren. Ro hat eine besondere Fähigkeit, komplexe KI-Konzepte zu vereinfachen und sie mit den Bedürfnissen der Benutzer zu verbinden. Durch die Nutzung dieser Expertise ist sie an vorderster Front von integrate.ai’s Mission, den Zugang zu Technologien zur Verbesserung der Privatsphäre zu demokratisieren.

Was hat Sie ursprünglich zur Datenwissenschaft und zum maschinellen Lernen hingezogen?

Ich begann meine Reise in der Robotik. Nachdem ich mit den verschiedenen Aspekten der Robotik experimentiert und eine Schweißanlage abgefackelt hatte, kam ich zu dem Schluss, dass ich mehr von der künstlichen Intelligenz-Seite meines Fachgebiets angezogen wurde, und das führte mich in die wunderbare Welt des maschinellen Lernens.

Können Sie Ihre aktuelle Rolle und einen typischen Tag für Sie beschreiben?

Ich bin die VP of Product bei integrate.ai, einem SaaS-Unternehmen, das Entwicklern hilft, die wichtigsten Probleme der Welt zu lösen, ohne sensible Daten zu riskieren. Wir bauen Tools für privacy-sicheres maschinelles Lernen und Analytics für die dezentralisierte Zukunft der Daten.

In meinem Tagesgeschäft arbeite ich mit unseren Teams über Funktionen hinweg, um drei Dinge zu erreichen:

Ich denke über die Zukunft der Intelligenz nach und wie wir diese Zukunft so gestalten können, dass Intelligenz die wichtigsten Probleme löst

Ich verstehe die Schmerzpunkte unserer Kunden und wie wir innovieren können, um ihre Arbeit wirkungsvoller und effizienter zu machen.

Ich stelle sicher, dass unsere Vision und Kundenfeedback immer in der Produktentwicklung berücksichtigt werden, indem ich mit unseren Teams zusammenarbeite, um die besten Funktionen zu liefern.

Synthetische Daten sind derzeit in der maschinellen Lernszene sehr beliebt, aber integrate.ai verfolgt einen etwas konträren Ansatz. Gibt es Anwendungen, in denen synthetische Daten nicht die beste Option sind?

Um zu verstehen, wann synthetische Daten nicht die beste Lösung sind, ist es wichtig, zunächst zu verstehen, wann sie es sind. Synthetische Daten sind am besten geeignet, wenn das Modellziel nur eine kleine Menge an echten Daten oder gar keine hat – zum Beispiel bei Cold-Start-Problemen und text- und bildbasiertem Modelltraining. Manchmal gibt es einfach nicht genug Daten, um ein Modell zu trainieren, was synthetische Daten als Lösung hervorhebt.

Es gibt jedoch Situationen, in denen synthetische Daten verwendet werden, obwohl genug echte Daten vorhanden sind, aber diese Daten aufgrund von Datenschutzbestimmungen, Zentralisierungskosten oder anderen Interoperabilitätshindernissen isoliert sind. Dies ist ein flagranter Missbrauch von synthetischen Daten. In diesen Anwendungsfällen ist es schwierig, das richtige Abstraktionsniveau für die Erstellung von synthetischen Daten zu bestimmen, was zu minderwertigen synthetischen Daten führen kann, die zu inhärenten Verzerrungen oder anderen Problemen führen können, die später schwer zu debuggen sind. Darüber hinaus sind Modelle, die mit synthetischen Daten trainiert werden, nicht mit denen vergleichbar, die mit echten, hochwertigen, granularen Quelldaten trainiert werden.

Integrate.ai spezialisiert sich auf die Bereitstellung von Lösungen für verteiltes Lernen, können Sie erklären, was verteiltes Lernen ist?

Im traditionellen maschinellen Lernen müssen alle Trainingsdaten für das Modell in einer zentralen Datenbank gespeichert werden. Beim verteilten Lernen können Modelle auf dezentralen, verteilten Datensätzen trainiert werden – oder Daten, die in zwei oder mehr separaten Datenbanken gespeichert sind und nicht leicht verschoben werden können. Es funktioniert, indem Teile eines maschinellen Lernmodells dort trainiert werden, wo die Daten gespeichert sind, und Modellparameter unter den teilnehmenden Datensätzen geteilt werden, um ein verbessertes globales Modell zu erzeugen. Und da keine Daten innerhalb des Systems bewegt werden, können Organisationen Modelle trainieren, ohne von Hindernissen wie Datenschutz- und Sicherheitsbestimmungen, Kosten oder anderen Zentralisierungsbedenken behindert zu werden.

Im Allgemeinen ist das Trainingsdatum, das mit verteiltem Lernen zugänglich ist, von viel höherer Qualität, da zentrale Daten tendenziell ihre Granularität bei der Erleichterung des Zugriffs in einem Ort verlieren.

Wie kann ein Unternehmen die besten Anwendungsfälle für verteiltes Lernen identifizieren?

Verteiltes Lernen ist eine maschinelle Lern-Technologie, die für Situationen entwickelt wurde, in denen der Zugriff auf Daten oder die Verbringung in die traditionelle Infrastruktur des maschinellen Lernens mit zentralen Datenseen schmerzhaft ist. Wenn Sie eines der folgenden Symptome erleben, ist verteiltes Lernen für Sie geeignet:

• Sie bieten intelligente Produkte an, die von Analytics und maschinellem Lernen angetrieben werden, und Sie können keine Netzwerkeffekte für Ihre Produkte erzeugen, weil die Daten den Kunden gehören.
• Sie arbeiten an langen Master-Service-Vereinbarungen oder Datenfreigabevereinbarungen, um Zugriff auf Daten von Ihren Partnern zu erhalten.
• Sie verbringen viel Zeit mit der Ausarbeitung von Kooperationsverträgen mit Ihren Partnern, insbesondere in Situationen, in denen das Ergebnis dieser Datenpartnerschaft für Sie unklar ist.
• Sie sitzen auf einem Reichtum an Daten und möchten Ihre Datensätze monatisieren, aber Sie haben Angst vor den Auswirkungen auf Ihren Ruf.
• Sie monatisieren bereits Ihre Daten, aber Sie verbringen viel Zeit, Mühe und Geld damit, die Daten sicher zu teilen.
• Ihre Infrastruktur ist während des Umzugs in die Cloud zurückgeblieben, aber Sie benötigen immer noch Analytics und maschinelles Lernen.
• Sie haben viele Tochtergesellschaften, die zur gleichen Organisation gehören, aber diese können keine Daten direkt miteinander teilen.
• Die Datensätze, mit denen Sie arbeiten, sind zu groß oder zu teuer, um sie zu bewegen, also haben Sie entschieden, sie nicht zu verwenden, oder Ihre ETL-Pipelines kosten Sie viel.
• Sie haben eine Anwendung oder eine Gelegenheit, die Sie für wichtig halten, aber Sie haben nicht die Daten, um sie zu realisieren.
• Ihre maschinellen Lernmodelle haben ein Plateau erreicht und Sie wissen nicht, wie Sie sie weiter verbessern können.

Differenzielle Privatsphäre wird oft in Verbindung mit verteiltem Lernen verwendet, was ist das speziell?

Differenzielle Privatsphäre ist eine Technik, um die Privatsphäre zu gewährleisten, während gleichzeitig die Kraft des maschinellen Lernens genutzt wird. Durch die Verwendung anderer Mathematik als Standard-De-Identifizierungstechniken fügt die differenzielle Privatsphäre während des lokalen Modelltrainings Rauschen hinzu, wodurch die meisten statistischen Merkmale des Datensatzes erhalten bleiben, während das Risiko, dass die Daten eines Einzelnen identifiziert werden, begrenzt wird.

In idealen Implementierungen bringt die differenzielle Privatsphäre das Risiko nahe Null, während maschinelle Lernmodelle ähnliche Leistungen beibehalten – und bietet damit alle notwendige Sicherheit für die De-Identifizierung von Daten, ohne die Qualität der Modellergebnisse zu beeinträchtigen.

Die differenzielle Privatsphäre ist in integrate.ai’s Plattform standardmäßig enthalten, sodass Entwickler sicherstellen können, dass individuelle Daten nicht aus den Modellparametern abgeleitet werden können.

Können Sie beschreiben, wie die verteilte Lernplattform von integrate.ai funktioniert?

Unsere Plattform nutzt verteiltes Lernen und differenzielle Privatsphäre, um eine Reihe von maschinellen Lern- und Analysefunktionen auf Daten zu ermöglichen, die aufgrund von Datenschutz-, Vertraulichkeits- oder technischen Hürden schwierig oder unmöglich zu erreichen wären. Operationen wie Modelltraining und Analytics werden lokal durchgeführt, und nur die Endresultate werden in einer sicheren und vertraulichen Weise aggregiert.

Integrate.ai ist als Entwickler-Tool konzipiert, das es Entwicklern ermöglicht, diese Funktionen nahtlos in fast jede Lösung mit einem einfach zu bedienenden Software-Development-Kit (SDK) und einer unterstützenden Cloud-Dienst für die End-to-End-Verwaltung zu integrieren. Sobald die Plattform integriert ist, können Endbenutzer über sensible Datensätze hinweg zusammenarbeiten, während die Dateninhaber die volle Kontrolle behalten. Lösungen, die integrate.ai integrieren, können als effektive Experimentierwerkzeuge und produktionsreife Dienste dienen.

Welche Beispiele gibt es dafür, wie diese Plattform in der Präzisionsdiagnostik eingesetzt werden kann?

Eines der Netzwerke von Partnern, mit denen wir zusammenarbeiten, die Autismus-Teilungsinitiative, sammelt Informationen im Zusammenhang mit der Autismus-Diagnose sowie Genom-Daten, um die Verbindungen zwischen den verschiedenen Genotypen und Phänotypen und der Autismus-Diagnose zu verstehen. Jede einzelne Datenstelle hat nicht genug Datensätze, um die maschinellen Lernmodelle zum Laufen zu bringen, aber kollektiv ergeben sie eine bedeutende Stichprobengröße. Es ist jedoch riskant, Daten zu bewegen, und aufgrund von Vorschriften und Krankenhausrichtlinien haben diese Forschungsinstitute immer auf die Nicht-Teilung von Daten zurückgegriffen.

In einem anderen Netzwerk mit einer ähnlichen Einrichtung sind Forscher daran interessiert, die Zuweisung von klinischen Studien zu Patienten mithilfe einer umfassenderen Sicht auf die Geschichte jedes Patienten zu verbessern.

Die verschiedenen Forschungsinstitute haben Zugang zu unterschiedlichen Informationen über jeden Patienten – ein Labor hat Zugang zu ihren medizinischen Scans, ein anderes Labor hat Zugang zu ihren genetischen Informationen, und ein anderes Institut hat ihre klinischen Studienergebnisse. Aber diese verschiedenen Organisationen können ihre Informationen nicht direkt miteinander teilen.

Mit der Lösung von integrate.ai kann jede Organisation auf die Daten der anderen für ihre Ziele zugreifen, ohne dass die Daten von den Dateninhabern weg bewegt werden müssen und somit ihren internen Richtlinien entsprechen.

Können Sie über die Bedeutung sprechen, die Privatsphäre verständlich zu machen, und wie integrate.ai dies ermöglicht?

Die Privatsphäre verständlich zu machen, bedeutet, viele Türen für Unternehmen und Organisationen zu öffnen, die historisch aufgrund der mehrdeutigen Natur des Risikos geschlossen waren. Datenschutzbestimmungen wie die DSGVO, CCPA und HIPAA sind unglaublich komplex und können je nach Branche, Region und Art der Daten variieren, was es für Organisationen schwierig macht, zu bestimmen, welche Datenprojekte datenschutzsicher sind. Anstatt Zeit und Personal für das Überprüfen jedes Kästchens zu verschwenden, bietet integrate.ai’s verteilte Lernplattform eine integrierte differenzielle Privatsphäre, homomorphe Verschlüsselung und sichere Multi-Parteien-Berechnung, sodass Entwickler und Dateninhaber sicher sein können, dass ihre Projekte automatisch den regulatorischen Anforderungen entsprechen, ohne den Aufwand, durch jedes Kategorienschach zu springen.

Gibt es noch etwas, das Sie über integrate.ai teilen möchten?

Integrate.ai’s Lösung ist ein unglaublich benutzerfreundliches Tool, das es Datenwissenschaftlern und Software-Entwicklern ermöglicht, ihre Arbeitslasten sicher zu verwalten, mit minimalem Einfluss auf ihre aktuelle Infrastruktur und Arbeitsabläufe. Durch einfache APIs wird die gesamte Komplexität der regulatorischen Compliance und Verträge auf sensible Daten hinweg abstrahiert.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten integrate.ai besuchen.