Amy Steier, scientifique principale en apprentissage automatique chez Gretel.ai – Série d’entretiens

Amy Steier est la scientifique principale en apprentissage automatique chez Gretel.ai, la plateforme d’ingénierie de confidentialité la plus avancée au monde. Gretel rend facile l’intégration de la confidentialité par conception dans le tissu de la technologie axée sur les données. Ses bibliothèques open-sourced basées sur l’IA sont conçues pour transformer, anonymiser et synthétiser les informations sensibles.

Amy est une scientifique en apprentissage automatique et en données très accomplie, avec plus de 20 ans d’expérience. Sa passion est les grandes données et la mise en évidence de l’intelligence cachée à l’aide de techniques d’apprentissage automatique, de fouille de données, d’intelligence artificielle et de statistiques. Elle est très compétente en modélisation prédictive, classification, regroupement, détection d’anomalies, visualisation de données, méthodes d’ensemble, récupération d’informations, analyse de cybersécurité, NLP, modèles de recommandation et analyse du comportement des utilisateurs.

Qu’est-ce qui vous a initialement attiré pour poursuivre une carrière en sciences informatiques et en apprentissage automatique ?

Mon amour sans réserve, durable et sans fin pour les données. Le pouvoir, le mystère, l’intrigue et le potentiel des données m’ont toujours fasciné. Les sciences informatiques et l’apprentissage automatique sont des outils pour exploiter ce potentiel. C’est également très amusant de travailler dans un domaine où l’état de l’art évolue si rapidement. J’adore l’intersection de la recherche et du produit. C’est très satisfaisant de prendre des idées de pointe, de les pousser un peu plus loin, puis de les adapter pour répondre aux besoins de produits tangibles.

Pour les lecteurs qui ne sont pas familiers, pourriez-vous expliquer ce qu’est la donnée synthétique ?

La donnée synthétique est des données qui ressemblent et agissent comme les données d’origine, mais qui sont également suffisamment différentes pour répondre à un cas d’utilisation. Le cas d’utilisation le plus courant est le besoin de protéger la confidentialité des informations dans les données d’origine. Un autre cas d’utilisation est le besoin de créer des données supplémentaires pour augmenter la taille du jeu de données d’origine. Un autre cas d’utilisation est d’aider à résoudre un déséquilibre de classe ou peut-être un biais démographique dans le jeu de données d’origine.

La donnée synthétique nous permet de continuer à développer de nouveaux produits et solutions innovants lorsque les données nécessaires pour le faire ne sont pas présentes ou disponibles.

Comment la plateforme Gretel fonctionne-t-elle pour créer des données synthétiques via des API ?

Les API d’ingénierie de confidentialité de Gretel vous permettent d’ingérer des données dans Gretel et d’explorer les données que nous pouvons extraire. Ce sont les mêmes API utilisées par notre Console. En exposant les API, à travers une interface intuitive, nous espérons donner aux développeurs et aux scientifiques des données les moyens de créer leurs propres flux de travail autour de Gretel.

Alors que la console rend la création de données synthétiques très facile, les API nous permettent d’intégrer la création de données synthétiques dans notre flux de travail. J’adore utiliser les API car elles me permettent de personnaliser la création de données synthétiques pour un cas d’utilisation très particulier.

Pourriez-vous discuter de certains des outils proposés par Gretel pour aider à évaluer la qualité des données synthétiques ?

Après la création de données synthétiques, Gretel génère un rapport de synthèse. Dans ce rapport, vous pouvez voir le score de qualité des données synthétiques (SQS), ainsi que le niveau de protection de la confidentialité (PPL).

Le score SQS est une estimation de la façon dont les données synthétiques générées maintiennent les mêmes propriétés statistiques que le jeu de données d’origine. Dans ce sens, le score SQS peut être considéré comme un score d’utilité ou un score de confiance quant à savoir si les conclusions scientifiques tirées du jeu de données synthétique seraient les mêmes si l’on avait utilisé le jeu de données d’origine.

Le score de qualité des données synthétiques est calculé en combinant les métriques de qualité individuelles : stabilité de la distribution des champs, stabilité de la corrélation des champs et stabilité de la structure profonde.

La stabilité de la distribution des champs est une mesure de la façon dont les données synthétiques maintiennent les mêmes distributions de champs que dans les données d’origine. La stabilité de la corrélation des champs est une mesure de la façon dont les corrélations entre les champs sont maintenues dans les données synthétiques. Et enfin, la stabilité de la structure profonde mesure l’intégrité statistique des distributions et des corrélations multi-champs plus profondes. Pour estimer cela, Gretel compare une analyse en composantes principales (ACP) calculée d’abord sur les données d’origine, puis à nouveau sur les données synthétiques.

Comment les filtres de confidentialité de Gretel fonctionnent-ils ?

Les filtres de confidentialité de Gretel étaient le résultat de nombreuses recherches sur la nature des attaques adverses contre les données synthétiques. Les filtres de confidentialité empêchent la création de données synthétiques avec des faiblesses couramment exploitées par les adversaires. Nous avons deux filtres de confidentialité, le premier est le filtre de similarité, et le second est le filtre de valeurs aberrantes. Le filtre de similarité empêche la création de dossiers synthétiques trop similaires à un dossier de formation. Ce sont des cibles privilégiées des adversaires qui cherchent à obtenir des informations sur les données d’origine. Le deuxième filtre de confidentialité est le filtre de valeurs aberrantes. Celui-ci empêche la création de dossiers synthétiques qui seraient considérés comme des valeurs aberrantes dans l’espace défini par les données de formation. Les valeurs aberrantes révélées dans un jeu de données synthétique peuvent être exploitées par des attaques d’inférence de membership, d’inférence d’attributs et une grande variété d’autres attaques adverses. Elles constituent un risque grave pour la confidentialité.

Comment les données synthétiques peuvent-elles aider à réduire les biais de l’IA ?

La technique la plus courante est de résoudre le biais de représentation des données qui alimentent un système d’IA. Par exemple, si il existe un fort déséquilibre de classe dans vos données, ou peut-être un biais démographique dans vos données, Gretel propose des outils pour aider à mesurer le déséquilibre et à le résoudre dans les données synthétiques. En supprimant le biais dans les données, vous supprimez souvent le biais dans le système d’IA construit sur les données.

Vous aimez clairement apprendre sur les nouvelles technologies d’apprentissage automatique, comment faites-vous personnellement pour suivre tous les changements ?

Lisez, lisez et lisez encore, lol ! J’aime commencer ma journée en lisant sur les nouvelles technologies d’apprentissage automatique. Le Medium me connaît si bien. J’aime lire des articles dans Towards Data Science, Analytics Vidhya et des newsletters comme The Sequence. Facebook (META ) AI, Google (GOOGL ) AI et OpenMined ont tous de très bons blogs. Il y a une multitude de bonnes conférences à suivre, telles que NeurIPS, ICML, ICLR, AISTATS.

J’aime également les outils qui suivent les chemins de citation, qui vous aident à trouver des articles similaires à ceux que vous aimez et qui connaissent vos intérêts spécifiques et qui regardent en permanence en arrière-plan pour un article qui pourrait vous intéresser. Zeta Alpha est un outil que j’utilise beaucoup.

Enfin, vous ne pouvez pas surestimer les avantages d’avoir des collègues ayant des intérêts similaires. Chez Gretel, l’équipe d’apprentissage automatique suit les articles de recherche pertinents pour les domaines que nous explorons et se réunit fréquemment pour discuter d’articles intéressants.

Quelle est votre vision pour l’avenir de l’apprentissage automatique ?

Un accès facile aux données déclenchera une grande ère d’innovation dans l’apprentissage automatique, qui à son tour turbochargera l’innovation dans une large gamme de domaines tels que la santé, la finance, la fabrication et les biosciences. Historiquement, de nombreux progrès remarquables dans l’apprentissage automatique peuvent être attribués à un grand volume de données riches. Cependant, historiquement, de nombreuses recherches ont été entravées par l’incapacité d’accéder ou de partager des données en raison de préoccupations de confidentialité. À mesure que des outils tels que Gretel suppriment cette barrière, l’accès aux données sera démocratisé. La communauté entière de l’apprentissage automatique bénéficiera de l’accès à des jeux de données riches et importants, et non plus seulement quelques grandes entreprises d’élite.

Y a-t-il autre chose que vous aimeriez partager sur Gretel ?

Si vous aimez les données, vous aimerez Gretel (alors, bien sûr, j’adore Gretel !). L’accès facile aux données a été l’épine dans le pied de chaque scientifique des données que j’ai jamais connu. Chez Gretel, nous prenons un grand plaisir à avoir créé une console et un ensemble d’API qui rendent la création de données privées et partageables aussi simple que possible. Nous croyons profondément que les données sont plus précieuses lorsqu’elles sont partagées.

Merci pour cette grande interview et pour avoir partagé vos connaissances, les lecteurs qui souhaitent en savoir plus devraient visiter Gretel.ai.