Amy Steier, Gretel.ai:n johtava koneoppimistutkija – Haastattelusarja

Amy Steier on johtava koneoppimistutkija Gretel.ai:ssa, maailman edistyneimmällä yksityisyysteknologian alustalla. Gretel auttaa sisällyttämään yksityisyyden suojan alusta lähtien datapohjaiseen teknologiaan. Sen tekoälyyn perustuvat avoimen lähdekoodin kirjastot on suunniteltu arkaluonteisten tietojen muuntamiseen, anonymisointiin ja synteettiseen tuottamiseen.

Amy on kokenut koneoppimisen ja datatieteen asiantuntija, jolla on yli 20 vuoden kokemus. Hänen intohimonsa on massadata ja siihen kätkeytyvän tiedon löytäminen koneoppimisen, tiedonlouhinnan, tekoälyn ja tilastotieteen avulla. Hän hallitsee ennustavan mallinnuksen, luokittelun, klusteroinnin, poikkeamien tunnistamisen, datan visualisoinnin, yhdistelmämallit, tiedonhaun, kyberturvallisuusanalytiikan, luonnollisen kielen käsittelyn, suosittelumallit ja käyttäjien toiminnan analysoinnin.

Mikä sai sinut alun perin kiinnostumaan urasta tietojenkäsittelytieteessä ja koneoppimisessa?

Puhdas, häpeilemätön ja kestävä rakkauteni dataan. Datan voima, arvoituksellisuus, kiehtovuus ja mahdollisuudet ovat aina kiinnostaneet minua. Tietojenkäsittelytiede ja koneoppiminen ovat työkaluja näiden mahdollisuuksien hyödyntämiseen. On myös valtavan hauskaa työskennellä alalla, jonka uusimmat menetelmät kehittyvät niin nopeasti. Rakastan tutkimuksen ja tuotekehityksen kohtaamista. On erittäin palkitsevaa ottaa uusimpia ideoita, kehittää niitä vielä hieman pidemmälle ja muokata ne vastaamaan olemassa olevia, konkreettisia tuotetarpeita.

Voisitko selittää asiaan perehtymättömille lukijoille, mitä synteettinen data on?

Synteettinen data näyttää ja käyttäytyy alkuperäisen datan tavoin, mutta eroaa siitä riittävästi täyttääkseen tietyn käyttötarkoituksen. Tavallisin käyttötarkoitus on alkuperäisten tietojen yksityisyyden suojaaminen. Toinen on lisädatan luominen alkuperäisen aineiston kasvattamiseksi. Sillä voidaan myös korjata alkuperäisen aineiston luokkaepätasapainoa tai demografista vinoumaa.

Synteettinen data mahdollistaa uusien, innovatiivisten tuotteiden ja ratkaisujen kehittämisen silloinkin, kun tarvittavaa dataa ei muuten olisi olemassa tai saatavilla.

Miten Gretel-alustalla luodaan synteettistä dataa ohjelmointirajapintojen avulla?

Gretelin yksityisyysteknologian rajapintojen avulla voi tuoda dataa Greteliin ja tutkia siitä poimittavia tietoja. Samat rajapinnat ovat käytössä konsolissamme. Tarjoamalla rajapinnat intuitiivisen käyttöliittymän kautta haluamme auttaa kehittäjiä ja datatieteilijöitä rakentamaan omia työnkulkujaan Gretelin ympärille.

Konsoli tekee synteettisen datan luomisesta helppoa, ja rajapintojen avulla sen luomisen voi yhdistää osaksi omaa työnkulkua. Käytän rajapintoja mielelläni, koska niiden avulla voin mukauttaa synteettisen datan luomisen hyvin tarkkaan käyttötarkoitukseen.

Millaisia työkaluja Gretel tarjoaa synteettisen datan laadun arviointiin?

Luotuaan synteettisen datan Gretel tuottaa raportin. Siinä näkyvät synteettisen datan laatupisteet (SQS) ja yksityisyyden suojan tasoluokitus (PPL).

SQS arvioi, kuinka hyvin tuotettu synteettinen data säilyttää alkuperäisen aineiston tilastolliset ominaisuudet. Pisteitä voidaan pitää hyödyllisyyden tai luotettavuuden mittarina: olisivatko synteettisestä aineistosta tehdyt tieteelliset johtopäätökset samat kuin alkuperäistä aineistoa käytettäessä?

Laatupisteet lasketaan yhdistämällä kolme mittaria: kenttien jakaumien vakaus, kenttien välisten korrelaatioiden vakaus ja syvärakenteen vakaus.

Kenttien jakaumien vakaus kuvaa, kuinka hyvin synteettinen data säilyttää alkuperäisten kenttien jakaumat. Korrelaatioiden vakaus kuvaa kenttien välisten korrelaatioiden säilymistä. Syvärakenteen vakaus puolestaan mittaa syvempien, useita kenttiä käsittävien jakaumien ja korrelaatioiden tilastollista eheyttä. Gretel arvioi tätä vertaamalla ensin alkuperäisestä ja sitten synteettisestä datasta laskettuja pääkomponenttianalyysejä (PCA).

Miten Gretelin yksityisyyssuodattimet toimivat?

Gretelin yksityisyyssuodattimet perustuvat laajaan tutkimukseen synteettiseen dataan kohdistuvista hyökkäyksistä. Ne estävät sellaisten synteettisten tietojen syntymisen, joissa on hyökkääjien tavallisesti hyödyntämiä heikkouksia. Suodattimia on kaksi: samankaltaisuussuodatin ja poikkeavien havaintojen suodatin. Samankaltaisuussuodatin estää liian paljon yksittäistä koulutusaineiston tietuetta muistuttavien synteettisten tietueiden luomisen. Tällaiset tietueet ovat houkuttelevia kohteita hyökkääjille, jotka yrittävät päätellä alkuperäisiä tietoja. Toinen suodatin estää koulutusaineiston määrittelemässä avaruudessa poikkeaviksi katsottavien synteettisten tietueiden luomisen. Synteettisen aineiston poikkeavia havaintoja voidaan hyödyntää koulutusaineistoon kuulumisen tai attribuuttien päättelyhyökkäyksissä ja monissa muissa hyökkäyksissä. Ne ovat vakava yksityisyysriski.

Miten synteettinen data voi auttaa vähentämään tekoälyn vinoumia?

Tavallisin tapa on korjata tekoälyjärjestelmälle syötettävän datan edustavuusvinoumaa. Jos datassa on esimerkiksi voimakas luokkaepätasapaino tai demografinen vinouma, Gretel tarjoaa työkaluja epätasapainon mittaamiseen ja korjaamiseen synteettisessä datassa. Datan vinouman poistaminen poistaa usein myös sen pohjalta rakennetun tekoälyjärjestelmän vinouman.

Nautit selvästi uusien koneoppimisteknologioiden oppimisesta. Miten pysyt itse kaikkien muutosten tasalla?

Luen, luen ja luen vielä lisää, haha! Aloitan mielelläni päivän lukemalla uusista koneoppimisteknologioista. Medium tuntee minut hyvin. Luen mielelläni Towards Data Sciencen ja Analytics Vidhyan artikkeleita sekä esimerkiksi The Sequence -uutiskirjettä. Facebook (META ) AI:lla, Google (GOOGL ) AI:lla ja OpenMinedilla on erinomaiset blogit. Seurattavia hyviä konferensseja on runsaasti, kuten NeurIPS, ICML, ICLR ja AISTATS.

Pidän myös työkaluista, jotka seuraavat viittausketjuja, auttavat löytämään kiinnostavia julkaisuja muistuttavia tutkimuksia ja oppivat omat kiinnostuksenkohteeni etsiäkseen jatkuvasti taustalla minulle sopivia julkaisuja. Zeta Alpha on tällainen työkalu, jota käytän paljon.

Samankaltaisista asioista kiinnostuneiden kollegoiden hyötyä ei myöskään voi aliarvioida. Gretelin koneoppimistiimi seuraa tutkimusalueisiimme liittyviä julkaisuja, ja kokoonnumme usein keskustelemaan kiinnostavista tutkimuksista.

Millainen on visiosi koneoppimisen tulevaisuudesta?

Helppo pääsy dataan käynnistää koneoppimisessa suuren innovaatioiden aikakauden, joka puolestaan kiihdyttää uudistumista muun muassa terveydenhuollossa, rahoituksessa, valmistuksessa ja biotieteissä. Monet koneoppimisen merkittävät edistysaskeleet ovat perustuneet suuriin ja monipuolisiin aineistoihin. Toisaalta tutkimusta on pitkään rajoittanut se, ettei dataan pääse käsiksi tai sitä voi jakaa yksityisyyshuolien vuoksi. Kun Gretelin kaltaiset työkalut poistavat tämän esteen, pääsy dataan demokratisoituu. Suurista ja monipuolisista aineistoista hyötyy koko koneoppimisyhteisö eikä vain muutama valtava huippuyritys.

Haluaisitko kertoa Gretelistä vielä jotakin muuta?

Jos rakastat dataa, rakastat Greteliäkin — kuten minä selvästi teen! Helppo pääsy dataan on ollut jokaisen tuntemani datatieteilijän jatkuva haaste. Olemme Gretelissä ylpeitä konsolistamme ja rajapinnoistamme, joiden ansiosta yksityisyyden suojaavan, jaettavan datan luominen on mahdollisimman helppoa. Uskomme vahvasti, että data on arvokkaampaa, kun sitä jaetaan.

Kiitos erinomaisesta haastattelusta ja näkemyksistäsi. Lisätietoja haluavat lukijat voivat vierailla Gretel.ai:n sivustolla.