Amy Steier, Principal Machine Learning Scientist bei Gretel.ai – Interview-Serie

Amy Steier ist die Principal Machine Learning Scientist bei Gretel.ai, der weltweit fortschrittlichsten Plattform für Privacy-Engineering. Gretel macht es einfach, Datenschutz in die Daten-getriebene Technologie zu integrieren. Die auf künstlicher Intelligenz basierenden, Open-Source-Bibliotheken sind für die Transformation, Anonymisierung und Synthese von sensiblen Informationen konzipiert.

Amy ist eine hochqualifizierte Machine-Learning- und Data-Scientistin mit über 20 Jahren Erfahrung. Ihre Leidenschaft gilt Big Data und der Aufdeckung der verborgenen Intelligenz mithilfe von Techniken aus dem Machine Learning, Data Mining, der künstlichen Intelligenz und der Statistik. Sie ist hochqualifiziert in predictiver Modellierung, Klassifizierung, Clustering, Anomalie-Erkennung, Datenvisualisierung, Ensemble-Methoden, Informationsabruf, Cyber-Sicherheitsanalyse, NLP, Empfehlungsmodellen und Benutzerverhaltensanalyse.

Was hat Sie ursprünglich dazu bewogen, eine Karriere in der Informatik und im Machine Learning zu verfolgen?

Meine reine, unverhohlene, anhaltende Liebe zu Daten. Die Macht, das Geheimnis, die Faszination und das Potenzial von Daten haben mich immer fasziniert. Informatik und Machine Learning sind Werkzeuge, um dieses Potenzial zu nutzen. Es ist auch sehr unterhaltsam, in einem Bereich zu arbeiten, in dem der Stand der Technik so schnell voranschreitet. Ich liebe die Schnittstelle zwischen Forschung und Produkt. Es ist sehr befriedigend, die neuesten Ideen zu übernehmen, sie ein wenig weiterzuentwickeln und sie dann an die Bedürfnisse von Produkten anzupassen.

Können Sie den Lesern, die nicht vertraut sind, erklären, was synthetische Daten sind?

Synthetische Daten sind Daten, die wie die ursprünglichen Daten aussehen und sich verhalten, aber auch unterschiedlich genug sind, um bestimmte Anwendungsfälle zu erfüllen. Der häufigste Anwendungsfall ist der Schutz der Privatsphäre der Informationen in den ursprünglichen Daten. Ein weiterer Anwendungsfall ist die Erstellung von zusätzlichen Daten, um die Größe des ursprünglichen Datensatzes zu erhöhen. Ein weiterer Anwendungsfall ist die Unterstützung bei der Lösung von Klassenneigungen oder demografischen Vorurteilen im ursprünglichen Datensatz.

Synthetische Daten ermöglichen es uns, neue und innovative Produkte und Lösungen zu entwickeln, wenn die erforderlichen Daten sonst nicht vorhanden oder verfügbar wären.

Wie funktioniert die Gretel-Plattform, um synthetische Daten über APIs zu erstellen?

Die Gretel-Privacy-Engineering-APIs ermöglichen es Ihnen, Daten in Gretel zu importieren und die Daten zu erkunden, die wir extrahieren können. Diese APIs werden auch von unserer Konsole verwendet. Durch die Bereitstellung der APIs über eine intuitive Schnittstelle möchten wir Entwickler und Data-Scientist dazu befähigen, ihre eigenen Workflows um Gretel herum zu bauen.

Während die Konsole die Erstellung von synthetischen Daten sehr einfach macht, ermöglichen die APIs die Integration der Erstellung von synthetischen Daten in Ihren Workflow. Ich liebe es, die APIs zu verwenden, da sie es mir ermöglichen, die Erstellung von synthetischen Daten an bestimmte Anwendungsfälle anzupassen.

Können Sie einige der Tools besprechen, die von Gretel angeboten werden, um die Qualität der synthetischen Daten zu bewerten?

Nach der Erstellung von synthetischen Daten generiert Gretel einen Synthetic-Report. In diesem Bericht können Sie den Synthetic Data Quality Score (SQS) sowie ein Datenschutz-Level-Zertifikat (PPL) sehen.

Der SQS-Score ist eine Schätzung davon, wie gut die generierten synthetischen Daten die gleichen statistischen Eigenschaften wie der ursprüngliche Datensatz beibehalten. In diesem Sinne kann der SQS-Score als eine Nutzen- oder Vertrauensscore betrachtet werden, ob wissenschaftliche Schlussfolgerungen, die aus dem synthetischen Datensatz gezogen werden, dieselben wären, wenn man den ursprünglichen Datensatz verwendet hätte.

Der Synthetic Data Quality Score wird berechnet, indem die einzelnen Qualitätsmetriken kombiniert werden: Feldverteilungsstabilität, Feldkorrelationsstabilität und Tiefenstruktur-Stabilität.

Feldverteilungsstabilität ist ein Maß dafür, wie gut die synthetischen Daten die gleichen Feldverteilungen wie im ursprünglichen Datensatz beibehalten. Die Feldkorrelationsstabilität ist ein Maß dafür, wie gut die Korrelationen zwischen den Feldern im synthetischen Datensatz beibehalten werden. Die Tiefenstruktur-Stabilität misst die statistische Integrität von tieferen, mehrfeldigen Verteilungen und Korrelationen. Um dies zu schätzen, vergleicht Gretel eine Hauptkomponentenanalyse (PCA), die zunächst auf den ursprünglichen Daten und dann auf den synthetischen Daten durchgeführt wird.

Wie funktionieren die Gretel-Privacy-Filter?

Die Gretel-Privacy-Filter waren das Ergebnis umfangreicher Forschung zu den Eigenschaften von Angriffen auf synthetische Daten. Die Privacy-Filter verhindern die Erstellung von synthetischen Daten mit Schwachstellen, die häufig von Angreifern ausgenutzt werden. Wir haben zwei Privacy-Filter, den ersten ist der Ähnlichkeits-Filter und der zweite ist der Ausreißer-Filter. Der Ähnlichkeits-Filter verhindert die Erstellung von synthetischen Datensätzen, die zu ähnlich zu einem Trainingsdatensatz sind. Diese sind die primären Ziele von Angreifern, die versuchen, Einblicke in die ursprünglichen Daten zu gewinnen. Der zweite Privacy-Filter ist der Ausreißer-Filter. Dieser verhindert die Erstellung von synthetischen Datensätzen, die als Ausreißer im Raum definiert durch die Trainingsdaten angesehen werden. Ausreißer, die in einem synthetischen Datensatz aufgedeckt werden, können von Angreifern ausgenutzt werden, um Mitgliedschaftsangriffe, Attributangriffe und eine Vielzahl von anderen Angriffen durchzuführen. Sie sind ein ernstes Datenschutzrisiko.

Wie können synthetische Daten dazu beitragen, künstliche Intelligenz-Vorrechte zu reduzieren?

Die häufigste Technik ist es, die repräsentativen Vorurteile der Daten zu bekämpfen, die in ein künstliches Intelligenz-System eingespeist werden. Zum Beispiel, wenn es in Ihren Daten eine starke Klassenneigung gibt oder wenn es demografische Vorurteile in Ihren Daten gibt, bietet Gretel Tools an, um diese Ungleichgewichte zu messen und dann im synthetischen Datensatz zu lösen. Durch die Beseitigung der Vorurteile in den Daten entfernen Sie oft auch die Vorurteile im künstlichen Intelligenz-System, das auf diesen Daten basiert.

Sie scheinen es zu genießen, neue maschinelle Lern-Technologien zu erlernen. Wie halten Sie persönlich Schritt mit all den Veränderungen?

Lesen, lesen und nochmals lesen, lol! Ich genieße es, meinen Tag mit dem Lesen über neue maschinelle Lern-Technologien zu beginnen. Die Medium kennt mich sehr gut. Ich genieße es, Artikel in Towards Data Science, Analytics Vidhya und Newsletter wie The Sequence zu lesen. Facebook (META ) AI, Google (GOOGL ) AI und OpenMined haben großartige Blogs. Es gibt eine Vielzahl von guten Konferenzen, die man verfolgen kann, wie NeurIPS, ICML, ICLR, AISTATS.

Ich genieße auch Tools, die Zitierwege verfolgen, Ihnen helfen, ähnliche Artikel wie die zu finden, die Ihnen gefallen, und die Ihre spezifischen Interessen kennen und immer im Hintergrund nach Artikeln Ausschau halten, die Sie interessieren könnten. Zeta Alpha ist ein solches Tool, das ich sehr häufig verwende.

Schließlich kann man den Nutzen von Kollegen mit ähnlichen Interessen nicht unterschätzen. Bei Gretel verfolgt das maschinelle Lern-Team Forschungsarbeiten, die für die Bereiche relevant sind, die wir erforschen, und wir kommen häufig zusammen, um interessante Artikel zu diskutieren.

Was ist Ihre Vision für die Zukunft des maschinellen Lernens?

Der einfache Zugang zu Daten wird eine großartige Ära der Innovation im maschinellen Lernen einleiten, die dann die Innovation in einer breiten Palette von Bereichen wie Gesundheitswesen, Finanzen, Fertigung und Biowissenschaften vorantreibt. Historisch gesehen können viele bahnbrechende Fortschritte im maschinellen Lernen der Verfügbarkeit großer Mengen an reichen Daten zugeschrieben werden. Historisch gesehen wurde jedoch viel Forschung durch die Unfähigkeit behindert, auf Daten zuzugreifen oder sie zu teilen, weil es Datenschutzbedenken gab. Wenn Tools wie Gretel diese Barriere beseitigen, wird der Zugang zu Daten demokratisiert. Die gesamte maschinelle Lern-Community wird von der Verfügbarkeit reicher, großer Datensätze profitieren, anstatt nur ein paar Elite-Unternehmen.

Gibt es noch etwas, das Sie über Gretel teilen möchten?

Wenn Sie Daten lieben, werden Sie Gretel lieben (also liebe ich Gretel!). Der einfache Zugang zu Daten war der Stachel im Fleisch jedes Data-Scientists, den ich je getroffen habe. Bei Gretel nehmen wir großen Stolz darauf, eine Konsole und eine Reihe von APIs entwickelt zu haben, die die Erstellung von privaten, teilebaren Daten so einfach wie möglich machen. Wir glauben tief daran, dass Daten wertvoller sind, wenn sie geteilt werden.

Vielen Dank für das großartige Interview und für die Teilung Ihrer Erkenntnisse. Leser, die mehr erfahren möchten, sollten Gretel.ai besuchen.