Amy Steier, leidend onderzoeker op het gebied van machinelearning bij Gretel.ai – Interviewreeks

Amy Steier is leidend onderzoeker op het gebied van machinelearning bij Gretel.ai, ‘s werelds meest geavanceerde privacy engineering platform. Gretel maakt het gemakkelijk om privacy by design in de basis van data-gedreven technologie in te bedden. De AI-gebaseerde, open-sourced bibliotheken zijn ontworpen voor het transformeren, anonimiseren en synthetiseren van gevoelige informatie.

Amy is een zeer ervaren machine learning- en data scientist met meer dan 20 jaar ervaring. Haar passie is big data en het naar boven brengen van de verborgen intelligentie daarin met behulp van technieken uit machine learning, data mining, artificial intelligence en statistiek. Ze is zeer bedreven in predictief modelleren, classificatie, clustering, anomaliedetectie, data visualisatie, ensemble methoden, informatieterugwinning, cybersecurity analytics, NLP, aanbevelingsmodellen en gebruikersgedragsanalyse.

Wat trok je aanvankelijk aan om een carrière in computerwetenschap en machine learning na te streven?

Mijn pure, ongebreidelde, blijvende liefde voor data. De kracht, het mysterie, de intrige en het potentieel van data hebben me altijd gefascineerd. Computerwetenschap en machine learning zijn hulpmiddelen om dat potentieel te benutten. Het is ook verschrikkelijk leuk om in een vakgebied te werken waar de stand van de techniek zo snel evolueert. Ik hou van het kruispunt van onderzoek en product. Het is zeer bevredigend om baanbrekende ideeën te nemen, ze een beetje verder te duwen en ze vervolgens aan te passen aan bestaande, tastbare productbehoeften.

Kun je voor lezers die onbekend zijn met het onderwerp uitleggen wat synthetische data is?

Synthetische data is data die eruitziet en zich gedraagt als de oorspronkelijke data, maar ook voldoende verschillend is om aan een bepaalde toepassing te voldoen. Het meest voorkomende gebruik is de noodzaak om de privacy van de informatie in de oorspronkelijke data te beschermen. Een ander gebruik is de noodzaak om extra data te creëren om de grootte van de oorspronkelijke dataset te vergroten. Nog een ander gebruik is om te helpen bij het aanpakken van een onevenwicht tussen klassen of demografische bias in de oorspronkelijke dataset.

Synthetische data stelt ons in staat om nieuwe en innovatieve producten en oplossingen te ontwikkelen wanneer de benodigde data anders niet aanwezig of beschikbaar zou zijn.

Hoe werkt het Gretel-platform om synthetische data via API’s te creëren?

De Gretel-privacy engineering API’s stellen je in staat om data in te voeren in Gretel en de data te onderzoeken die we kunnen extraheren. Dit zijn dezelfde API’s die worden gebruikt door onze Console. Door de API’s bloot te leggen via een intuïtieve interface, hopen we ontwikkelaars en data scientists in staat te stellen om hun eigen workflows rond Gretel te bouwen.

Terwijl de console het creëren van synthetische data heel gemakkelijk maakt, stellen de API’s je in staat om de creatie van synthetische data in je workflow te integreren. Ik hou ervan om de API’s te gebruiken omdat ze me in staat stellen om de creatie van synthetische data aan te passen aan een specifiek gebruik.

Kun je enkele van de tools bespreken die door Gretel worden aangeboden om de kwaliteit van de synthetische data te beoordelen?

Na het creëren van synthetische data, genereert Gretel een Synthetic Report. In dit rapport kun je de Synthetic Data Quality Score (SQS) zien, evenals een Privacy Protection Level-graad (PPL).

De SQS-score is een schatting van hoe goed de gegenereerde synthetische data dezelfde statistische eigenschappen behoudt als de oorspronkelijke dataset. In deze zin kan de SQS-score worden beschouwd als een nuttigheidsscore of een vertrouwensscore die aangeeft of wetenschappelijke conclusies op basis van de synthetische dataset hetzelfde zouden zijn bij gebruik van de oorspronkelijke dataset.

De Synthetic Data Quality Score wordt berekend door de individuele kwaliteitsmetrieken te combineren: Field Distribution Stability, Field Correlation Stability en Deep Structure Stability.

Field Distribution Stability is een maatstaf voor hoe goed de synthetische data dezelfde veldverdelingen behoudt als in de oorspronkelijke data. De Field Correlation Stability is een maatstaf voor hoe goed de correlaties tussen velden in de synthetische data worden behouden. En ten slotte meet de Deep Structure Stability de statistische integriteit van diepere verdelingen en correlaties over meerdere velden. Om dit te schatten, vergelijkt Gretel een hoofdcomponentenanalyse (PCA) van de oorspronkelijke data met een PCA van de synthetische data.

Hoe werken de Gretel-privacyfilters?

De Gretel-privacyfilters waren het resultaat van veel onderzoek naar de aard van adversarial attacks op synthetische data. De Privacy Filters voorkomen het creëren van synthetische data met zwakheden die door adversarials worden uitgebuit. We hebben twee Privacy Filters, de eerste is de Similarity Filter en de tweede is de Outlier Filter. Het gelijkenisfilter voorkomt synthetische records die te veel op één trainingsrecord lijken. Zulke records zijn aantrekkelijke doelen voor aanvallers die informatie over de oorspronkelijke data willen afleiden. Het filter voor uitschieters voorkomt records die afwijken binnen de ruimte die door de trainingsdata wordt bepaald. Uitschieters in een synthetische dataset kunnen worden misbruikt voor aanvallen die lidmaatschap van de trainingsset of attributen afleiden, en voor allerlei andere aanvallen. Ze vormen een ernstig privacyrisico.

Hoe kan synthetische data helpen bij het verminderen van AI-bias?

De meest voorkomende techniek is om de representatieve bias van de data die in een AI-systeem wordt gevoed, aan te pakken. Bijvoorbeeld, als er een sterke onevenwicht tussen klassen in je data is, of als er een demografische bias in je data bestaat, biedt Gretel tools om je te helpen bij het meten en opheffen van dat onevenwicht in de synthetische data. Door de bias uit de data te verwijderen, verwijder je vaak ook de bias uit het AI-systeem dat op die data is gebouwd.

Je houdt duidelijk van leren over nieuwe machine learning-technologieën, hoe hou je persoonlijk bij met alle veranderingen?

Lees, lees en lees nog meer, lol! Ik begin mijn dag graag met het lezen over nieuwe ML-technologieën. Ik lees artikelen in Towards Data Science, Analytics Vidhya en nieuwsbrieven zoals The Sequence. Medium kent me zo goed. Facebook (META ) AI, Google (GOOGL ) AI en OpenMined hebben uitstekende blogs. Er zijn veel goede conferenties om te volgen, zoals NeurIPS, ICML, ICLR en AISTATS.

Ik gebruik ook graag tools die citatieketens volgen, vergelijkbare publicaties vinden, je interesses leren kennen en op de achtergrond blijven zoeken naar interessante onderzoeken. Zeta Alpha is zo’n tool die ik veel gebruik.

Ook het voordeel van collega’s met vergelijkbare interesses moet je niet onderschatten. Bij Gretel volgt het ML-team onderzoek dat relevant is voor onze werkterreinen, en we komen regelmatig samen om interessante publicaties te bespreken.

Wat is je visie op de toekomst van machine learning?

Gemakkelijke toegang tot data zal een geweldige periode van innovatie in machine learning inluiden, die op zijn beurt innovatie in een breed spectrum van gebieden zoals gezondheidszorg, financiën, productie en biowetenschappen zal versnellen. Historisch gezien kan veel baanbrekend onderzoek in ML worden toegeschreven aan een grote hoeveelheid rijke data. Tegelijk is veel onderzoek belemmerd doordat data vanwege privacyzorgen niet toegankelijk of deelbaar was. Wanneer tools zoals Gretel deze barrière wegnemen, wordt toegang tot data gedemocratiseerd. De hele machinelearninggemeenschap profiteert dan van rijke, grote datasets, in plaats van slechts enkele grote elitebedrijven.

Is er nog iets anders dat je over Gretel wilt delen?

Als je van data houdt, zal je van Gretel houden (dus ik hou duidelijk van Gretel!). Gemakkelijke toegang tot data is de doorn in de zij van elke data scientist die ik ooit heb gekend. Bij Gretel zijn we trots op het creëren van een console en een set API’s die het creëren van private, deelbare data zo gemakkelijk mogelijk maken. We geloven diep dat data meer waarde heeft wanneer het wordt gedeeld.

Bedankt voor het geweldige interview en voor het delen van je inzichten, lezers die meer willen leren, moeten Gretel.ai bezoeken.