Amy Steier, hlavní vědecký pracovník strojového učení ve společnosti Gretel.ai – rozhovor

Amy Steier je hlavní vědecký pracovník strojového učení ve společnosti Gretel.ai, nej pokročilejší platformy pro inženýrství soukromí na světě. Gretel umožňuje snadno integrovat soukromí do datové technologie. Jeho AI-založené, open-sourced knihovny jsou navrženy pro transformaci, anonymizaci a syntetizaci citlivých informací.

Amy je velmi zkušený vědecký pracovník strojového učení a datový vědec s více než 20 lety zkušeností. Její vášní je big data a odhalování skrytých inteligencí pomocí technik strojového učení, data mining, umělé inteligence a statistiky. Je velmi zkušená v prediktivním modelování, klasifikaci, clusterování, detekci anomálií, datové visualizaci, ensemble metodách, informačním vyhledávání, kybernetické bezpečnosti, NLP, doporučovacích modelech a analýze chování uživatelů.

Co vás původně přitáhlo k tomu, abyste se věnovali kariéře v počítačových vědách a strojovém učení?

Má čistá, nezkrotná a trvalá láska k datům. Síla, tajemství, intrika a potenciál dat mě vždy fascinovaly. Počítačové vědy a strojové učení jsou nástroje pro využití tohoto potenciálu. Je také velmi zábavné pracovat v oboru, kde se stav umění pohybuje tak rychle. Miluji průnik výzkumu a produktu. Je velmi uspokojivé brát nejnovější nápady, trochu je posunout a poté je transformovat, aby vyhovovaly existujícím, hmatatelným produktovým potřebám.

Pro čtenáře, kteří nejsou seznámeni, můžete vysvětlit, co je syntetická data?

Syntetická data jsou data, která vypadají a chovají se jako původní data, ale jsou také dostatečně odlišná, aby splňovala určitý účel. Nejčastější účel je potřeba chránit soukromí informací v původních datech. Další účel je potřeba vytvořit další data, aby se zvýšila velikost původní datové sady. Syntetická data umožňují pokračovat ve vývoji nových a inovativních produktů a řešení, i když by jinak nebyla k dispozici potřebná data.

Jak funguje platforma Gretel pro vytváření syntetických dat prostřednictvím API?

Gretelovy API pro inženýrství soukromí umožňují ingestovat data do Gretel a prozkoumat data, která jsme schopni extrahovat. Tyto API jsou stejné jako ty, které používá naše Konzole. Exponováním API prostřednictvím intuitivního rozhraní doufáme, že budeme moci povzbudit vývojáře a datové vědce, aby vytvářeli své vlastní pracovní postupy kolem Gretel.

Můžete diskutovat o některých nástrojích, které nabízí Gretel, aby pomohly posoudit kvalitu syntetických dat?

Po vytvoření syntetických dat Gretel vygeneruje Syntetickou zprávu. V této zprávě můžete vidět Skóre kvality syntetických dat (SQS), jakož i stupeň ochrany soukromí (PPL).

Skóre SQS je odhad, jak dobře generovaná syntetická data udržují stejné statistické vlastnosti jako původní datová sada. V tomto smyslu lze skóre SQS považovat za’utilitní skóre nebo důvěru, zda vědecké závěry získané ze syntetické datové sady by byly stejné, kdyby se místo toho použila původní datová sada.

Jak fungují filtry soukromí Gretel?

Filtry soukromí Gretel byly výsledkem rozsáhlého výzkumu o povaze adversárních útoků na syntetická data. Filtry soukromí zabraňují vytváření syntetických dat se slabostmi, které jsou běžně využívány adversárními útoky. Máme dva filtry soukromí, první je Similarity Filter a druhý je Outlier Filter. Similarity Filter zabraňuje vytváření syntetických záznamů, které jsou příliš podobné trénovacím záznamům. Tyto jsou primární cíle adversárních útoků, které se snaží získat informace o původních datech. Druhý filtr soukromí je Outlier Filter. Tento zabraňuje vytváření syntetických záznamů, které by byly považovány za outliery v prostoru definovaném trénovacími daty.

Jak mohou syntetická data pomoci snížit předpojatost AI?

Nejběžnější technika je řešit reprezentační předpojatost dat, která vstupují do systému AI. Například, pokud existuje silná nerovnováha tříd v datech nebo demografická předpojatost v datech, Gretel nabízí nástroje, které pomáhají měřit nerovnováhu a poté ji řešit ve syntetických datech. Odstraněním předpojatosti v datech se často odstraní předpojatost v systému AI postaveném na datech.

Jak osobně udržujete krok s všemi změnami?

Čtěte, čtete a pak čtete ještě více, lol! Rád začínám den čtením o nových technologiích strojového učení. Medium mě zná velmi dobře. Rád čtu články v Towards Data Science, Analytics Vidhya a newsletterů, jako je The Sequence. Facebook (META ) AI, Google (GOOGL ) AI a OpenMined mají skvělé blogy. Existuje spousta dobrých konferencí, které je třeba sledovat, jako NeurIPS, ICML, ICLR, AISTATS.

Jaký je váš výhled do budoucna strojového učení?

Snadný přístup k datům spustí velkou éru inovací ve strojovém učení, které pak pohání inovace v širokém spektru oblastí, jako je zdravotnictví, finance, výroba a biosciences. Historicky, mnoho průlomových pokroků ve strojovém učení lze připsat velkému objemu bohatých dat. Historicky, mnoho výzkumů bylo však zpožděno kvůli neschopnosti přístupu nebo sdílení dat z důvodu obav o soukromí. Jak nástroje, jako je Gretel, odstraňují tuto bariéru, přístup k datům bude demokratizován. Celá komunita strojového učení bude mít prospěch z přístupu k bohatým, velkým datovým sadám, místo pouze několika elitních mega-spoolečností.

Je něco jiného, co byste rádi sdíleli o Gretel?

Pokud máte rádi data, budete mít rádi Gretel (takže jasně, že mám rád Gretel!). Snadný přístup k datům byl trnem v oku každého datového vědce, kterého jsem kdy znal. V Gretel se můžeme pochlubit tím, že jsme vytvořili konzoli a sadu API, které umožňují vytvářet soukromá, sdílená data co nejjednodušeji. Pečlivě věříme, že data jsou cennější, když jsou sdílena.

Děkuji za skvělý rozhovor a za sdílení vašich poznatků, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Gretel.ai.