Mike Capps, Diveplanen toinen perustaja ja toimitusjohtaja – Haastattelusarja

Tohtori Michael Capps on tunnettu teknologiavaikuttaja ja Diveplane Corporationin toimitusjohtaja. Ennen Diveplanen perustamiseen osallistumista Mike teki legendaarisen uran videopelialalla Fortniten ja Gears of Warin kaltaisista menestyspeleistä tunnetun Epic Gamesin johtajana. Hänen kautensa sisälsi sata vuoden peli -palkintoa, kymmeniä konferenssiesitelmiä, elämäntyöpalkinnon ja videopelien sananvapauden menestyksekkään puolustamisen Yhdysvaltain korkeimmassa oikeudessa.

Diveplane tarjoaa tekoälypohjaisia liiketoimintaratkaisuja useille aloille. Kuuden patentin hyväksymisen ja useiden odottavien patenttien kanssa Diveplanen Ymmärrettävä Tekoäly tarjoaa täydellisen ymmärryksen ja päätösten avoimuuden eettistä tekoälyä koskevien linjausten ja tietosuojastrategioiden tueksi.

Onnistuit eläkkeelle siirtymisessä menestyksekkäästä urasta videopeliteollisuudessa Epic Gamesissa, mikä sai sinut palaamaan eläkkeeltä ja keskittymään tekoälyyn?

Pelien tekeminen oli todella hauskaa, mutta ainakaan tuolloin se ei ollut ihanteellinen ura vasta perheen perustaneelle. Pidin itseni kiireisenä hallituspaikoilla ja neuvonantajan tehtävissä, mutta työ ei tuntunut merkitykselliseltä. Tein listan kolmesta suuresta ongelmasta, joihin voisin vaikuttaa – mukaan lukien mustan laatikon tekoälyjärjestelmien leviäminen. Suunnitelmani oli viettää vuosi kussakin ongelman parissa, mutta muutamassa viikossa ystäväni Chris Hazard kertoi, että hän oli työskennellyt salaa avoimen ja täysin selitettävissä olevan tekoälyalustan parissa. Ja tässä olemme.

Diveplane perustettiin tehtävänä tuoda inhimillisyyttä tekoälyyn, voitko selittää tarkemmin, mitä tämä tarkoittaa?

Tässä käytämme inhimillisyyttä tarkoittaen “inhimillistä hyvyyttä” tai “myötätuntoa”. Jotta tekoälymallisi heijastaa ihmisyyden parhaita puolia, et voi vain kouluttaa, testata vähän ja toivoa, että se on ok.

Meidän on tarkasteltava huolellisesti syötteenä olevaa dataa, itse mallia ja mallin tulostetta, ja varmistettava, että se heijastaa parasta inhimillisyyttämme. Useimmat järjestelmät, jotka on koulutettu historiallisella tai todellisen maailman datalla, eivät välttämättä ole oikein ensimmäisellä kerralla, eivätkä ne välttämättä ole puolueettomia. Uskomme, että ainoastaan läpinäkyvyyden, tarkastettavuuden ja ihmisen ymmärrettävissä olevan selityksen yhdistelmä voi kitkeä mallista vinoumat eli sekä tilastolliset virheet että ennakkoluulot.

REACTOR on Diveplanen ydinteknologia, mitä tekee siitä uudenlaisen lähestymistavan koneoppimisen selitettävyyteen?

Koneoppimisessa käytetään tyypillisesti dataa sellaisen mallin rakentamiseen, joka tekee tietynlaisia päätöksiä. Päätökset voivat sisältää esimerkiksi ajoneuvon pyörien kääntökulman, ostotapahtuman hyväksymisen, hylkäämisen tai merkitsemisen petokseksi tai tuotteen suosittelemisen. Jos haluat tietää, miten malli teki päätöksen, sinun on tyypillisesti kysyttävä useita samanlaisia päätöksiä ja yritettävä uudelleen arvioida, mitä malli itse tekisi. Koneoppimismenetelmien rajoitukset koskevat joko niiden tarjoamien selitysten tyyppiä, sitä, vastaavatko selitykset todella mallin päätöksentekoa, tai heikompaa tarkkuutta.

REACTOR toimii eri tavalla. REACTOR karakterisoi datan epävarmuuden, ja datasta tulee malli. Sen sijaan, että rakennetaan yksi malli päätöksen tyypille, voit vain kysyä REACTORilta, mitä haluat sen päättävän – se voi olla mitä tahansa dataan liittyvää – ja REACTOR kysyy, mitä dataa tarvitaan päätöksen tekemiseen. REACTOR voi aina näyttää, mitä dataa se käytti, miten se liittyy vastaukseen, epävarmuuden kaikki osa-alueet, kontrafaktuaalisen päättelyn ja lähes minkä tahansa muun kysymyksen, jonka haluat kysyä. Koska data on malli, voit muokata dataa, ja REACTOR päivittyy välittömästi. Se voi näyttää, jos joku data näytti poikkeavalta, joka meni päätökseen, ja jäljittää jokaisen muokkauksen datan ja sen lähteen. REACTOR käyttää todennäköisyysteoriaa kaikissa toimissaan, mikä tarkoittaa, että voimme kertoa sinulle, sen toiminnan jokaisen osa-alueen mittayksiköt. Ja lopulta, voit toistaa ja vahvistaa minkä tahansa päätöksen käyttämällä vain dataa, joka johti päätökseen, ja epävarmuuksia, käyttämällä suhteellisen yksinkertaista matematiikkaa ilman, että tarvitsee edes REACTORia.

REACTOR pystyy tekemään kaiken tämän säilyttäen kilpailukykyisen tarkkuuden erityisesti pienillä ja harvoilla eli niukasti havaintoja sisältävillä aineistoilla.

GEMINAI on tuote, joka luo digitaalisen kaksoiskappaleen datasetistä, mitä tämä tarkoittaa tarkemmin ja miten se varmistaa tietosuojan?

Kun syötät GEMINAI:lle datasetin, se luo syvän ymmärryksen datan tilastollisesta muodosta. Voit käyttää sitä luomaan synteettisen kaksoiskappaleen, joka muistuttaa alkuperäisen datan rakennetta, mutta kaikki tietueet ovat uusia. Mutta tilastollinen muoto on sama. Esimerkiksi potilaiden keskimääräinen syke alkuperäisessä ja synteettisessä joukossa olisi lähes sama, kuten kaikki muut tilastot. Näin ollen, mikä tahansa data-analyysi, jota käytetään kaksoiskappaleeseen, antaisi saman vastauksen kuin alkuperäinen data, mukaan lukien tekoälymallien koulutus.

Jos henkilöllä on tietue alkuperäisessä aineistossa, synteettisessä kaksosessa ei ole hänen tietuettaan. Emme vain poista nimeä, vaan varmistamme, ettei mikään uusi tietue ole tietoavaruudessa lähellä hänen tietuettaan eikä muitakaan alkuperäisiä tietueita. Kummassakin aineistossa ei siis ole samaa tunnistettavaa tietuetta.

Ja se tarkoittaa, että synteettinen datajoukko voidaan jakaa vapaammin ilman, että siinä on vaaraa jakaa luottamuksellista tietoa väärin. Ei ole väliä, onko kyse henkilökohtaisista rahaliikennetapahtumista, potilaiden terveystiedoista tai salaiseksi luokitellusta aineistosta – kunhan tilastot eivät ole luottamuksellisia, synteettinen kaksoiskappale ei ole luottamuksellinen.

Miksi GEMINAI on parempi ratkaisu kuin differentiaalinen yksityisyys?

Differentiaalinen yksityisyys on joukko tekniikoita, jotka pitävät yksittäisen henkilön vaikutusta tilastoihin marginaalisena, ja se on perustavanlaatuinen osa lähes missä tahansa tietosuojaratkaisussa. Kun differentiaalista yksityisyyttä käytetään yksin, tietojen yksityisyysbudjetti on hallittava, ja riittävä määrä kohinaa on lisättävä kunkin kyselyyn. Kun budjetti on käytetty, dataa ei voida enää käyttää ilman, että siinä on yksityisyydellisiä riskejä.

Yksi tapa voittaa tämän budjetin on soveltaa koko yksityisyysbudjetti kerran tekoälymallin koulutukseen, joka tuottaa synteettistä dataa. Ajatus on, että tämä malli, joka on koulutettu differentiaalisella yksityisyydellä, voidaan käyttää suhteellisen turvallisesti. Kuitenkin differentiaalisen yksityisyyden oikea soveltaminen voi olla hankalaa, erityisesti, jos on erilaisia datamääriä eri henkilöille ja monimutkaisempia suhteita, kuten ihmisiä, jotka asuvat samassa talossa. Ja synteettinen data, jota tuotetaan tästä mallista, on usein todennäköisesti sisältää, sattumalta, oikeaa dataa, jonka yksittäinen henkilö voi väittää olevan omaansa, koska se on liian samanlaista.

GEMINAI ratkaisee nämä ongelmat ja enemmän yhdistämällä useita yksityisyystekniikoita datan synteettisessä muodostamisessa. Se käyttää käytännöllistä differentiaalista yksityisyyttä, joka voi sopeutua laajaan joukkoon datatyyppien. Se perustuu REACTOR-moottoriimme, joten se tietää myös todennäköisyyden, että jotkut datan osat voivat olla sekoitettavissa toisiinsa, ja synteettinen data tuotetaan siten, että se eroaa aina riittävästi sitä eniten muistuttavasta alkuperäisestä datasta. Lisäksi se käsittelee jokaista kenttää ja jokaista tietoa potentiaalisesti arkaluontoisena tai tunnistavana, joten se soveltaa käytännöllisiä differentiaalisen yksityisyyden muotoja kentille, jotka eivät välttämättä ole perinteisesti ajateltu arkaluontoisiksi, mutta voivat yksistään tunnistaa yksittäisen henkilön, kuten ainoastaan yksi transaktio ympäri vuorokauden avoimessa myymälässä aamuyöllä kello 2–3. Usein viittaamme tähän “yksityisyyden ristileikkaamisena”.

GEMINAI pystyy saavuttamaan korkean tarkkuuden lähes mihin tahansa tarkoitukseen: aineisto muistuttaa alkuperäistä dataa, mutta estää löytämästä synteettistä dataa, joka on liian samankaltaista synteettisen datan kanssa.

Diveplane oli avainroolissa Data & Trust Allianssin perustamisessa, mitä tämä allianssi on?

Se on erinomainen joukko teknologiayritysten toimitusjohtajia, jotka tekevät yhteistyötä vastuullisten data- ja tekoälykäytäntöjen kehittämiseksi ja omaksumiseksi. Maailmanluokan organisaatiot kuten IBM, Johnson & Johnson, Mastercard (MA ), UPS, Walmart (WMT ) ja Diveplane. Olemme erittäin ylpeitä siitä, että olemme olleet mukana varhaisissa vaiheissa, ja myös ylpeitä työstä, jonka olemme yhdessä saavuttaneet aloitteissamme.

Diveplane onnistui keräämään menestyksekkään A-sarjan rahoituksen, mitä tämä tarkoittaa yrityksen tulevaisuudelle?

Olemme olleet onnekkaat menestyksekkäissä yrityshankkeissamme, mutta on vaikea muuttaa maailmaa yksi yritys kerrallaan. Käytämme tätä tukea rakentamaan tiimiämme, jakamaan viestimme ja saamaan Ymmärrettävän Tekoälyn mahdollisimman moniin paikkoihin!

Onko mitään muuta, mitä haluaisit jakaa Diveplanesta?

Diveplane on kaiken aikaa varmistamassa, että tekoäly tehdään oikein, kun se leviää. Olemme reilun, avoimen ja ymmärrettävän tekoälyn puolesta, ja osoittamassa proaktiivisesti, mitä ajaa päätöksiä, ja irtautumassa “mustan laatikon” tekoälymentaliteetista, jolla on potentiaali olla epäreilu, epäeettinen ja puolueellinen. Uskomme, että Selitettävyys on tekoälyn tulevaisuus, ja olemme innoissamme siitä, että pääsemme pelaamaan ratkaisevaa roolia sen edistämisessä!

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Diveplanen sivustolla.