Mike Capps, suosnivač i izvršni direktor Diveplanea – serija intervjua

Dr. Michael Capps je poznati tehnolog i izvršni direktor Diveplane Corporation. Prije suosnivanja Diveplanea, Mike je imao legendarnu karijeru u industriji videoigara kao predsjednik Epic Gamesa, kreatora blockbustera Fortnite i Gears of War. Njegov mandat uključivao je stotinjak nagrada za najbolju igru ​​godine, desetke govora na konferencijama, nagradu za životno djelo i uspješnu obranu videoigara slobodom govora na Vrhovnom sudu SAD-a.

Ronilački avion nudi poslovna rješenja utemeljena na umjetnoj inteligenciji u više industrija. Sa šest odobrenih patenata i više njih na čekanju, Diveplane's Understandable AI pruža potpuno razumijevanje i transparentnost odluka u prilog etičkim politikama umjetne inteligencije i strategijama privatnosti podataka.

Uspješno ste se povukli nakon uspješne karijere u industriji videoigara u Epic Gamesu, što vas je nadahnulo da se nakon umirovljenja usredotočite na AI?

Izrada igrica bila je fantastična stvar, ali – barem u to vrijeme – nije bila idealna karijera kada imate novu obitelj. Bio sam zauzet sjedalima u odboru i savjetničkim ulogama, ali to jednostavno nije ispunjavalo. Dakle, napravio sam popis od tri glavna problema s kojima se svijet suočava i na koje bih mogao utjecati – a to je uključivalo širenje AI sustava crne kutije. Moj plan je bio potrošiti godinu dana na svako kopanje, ali nekoliko tjedana kasnije, moj sjajni prijatelj Chris Hazard mi je rekao da je potajno radio na transparentnoj, potpuno objašnjivoj AI platformi. I evo nas. 

Diveplane je pokrenut s misijom približavanja čovječanstva umjetnoj inteligenciji, možete li pojasniti što to konkretno znači?

Naravno. Ovdje koristimo humanost u značenju "humanosti" ili "suosjećanja". Kako biste bili sigurni da je najbolje od čovječanstva u vašem AI modelu, ne možete samo trenirati, malo testirati i nadati se da je sve u redu. 

Moramo pažljivo pregledati ulazne podatke, sam model i izlaz tog modela i biti sigurni da odražava najbolje od naše ljudskosti. Većina sustava obučenih na povijesnim podacima ili podacima iz stvarnog svijeta neće biti ispravni prvi put, a nisu nužno ni nepristrani. Vjerujemo da je jedini način da se iskorijeni pristranost u modelu – što znači i statističke pogreške i predrasude – kombinacija transparentnosti, mogućnosti revizije i objašnjenja razumljivog ljudima.  

Osnovna tehnologija u Diveplaneu zove se REACTOR, što ovo čini novim pristupom koji strojno učenje čini razumljivim?

Strojno učenje obično uključuje korištenje podataka za izradu modela koji donosi određenu vrstu odluke. Odluke mogu uključivati ​​kut zakretanja kotača za vozilo, hoće li se kupnja odobriti ili odbiti ili označiti kao prijevara ili koji proizvod nekome preporučiti. Ako želite saznati kako je model donio odluku, obično ga morate pitati mnogo sličnih odluka i zatim ponovno pokušati predvidjeti što bi sam model mogao učiniti. Tehnike strojnog učenja su ili ograničene u vrstama uvida koje mogu ponuditi, odražavaju li uvidi zapravo ono što je model učinio da bi došao do odluke ili imaju nižu točnost.

Rad s REACTOROM je sasvim drugačiji. REACTOR karakterizira nesigurnost vaših podataka, a vaši podaci postaju model. Umjesto izgradnje jednog modela po vrsti odluke, samo pitate REACTOR što želite da odluči — to može biti bilo što povezano s podacima — a REACTOR ispituje koji su podaci potrebni za danu odluku. REACTOR vam uvijek može pokazati podatke koje je koristio, kako se odnose na odgovor, svaki aspekt nesigurnosti, kontračinjenično obrazloženje i gotovo svako dodatno pitanje koje želite postaviti. Budući da su podaci model, možete urediti podatke i REACTOR će se odmah ažurirati. Može vam pokazati jesu li postojali neki podaci koji su izgledali neuobičajeni i koji su ušli u odluku te pratiti svako uređivanje do podataka i njihovog izvora. REACTOR koristi teoriju vjerojatnosti do kraja, što znači da vam možemo reći mjerne jedinice svakog dijela njegovog rada. I konačno, možete reproducirati i potvrditi bilo koju odluku koristeći samo podatke koji su doveli do odluke i nesigurnosti, koristeći relativno jednostavnu matematiku čak i bez potrebe za REACTOROM.

REACTOR je u mogućnosti učiniti sve to uz zadržavanje visoko konkurentne točnosti, posebno za male i rijetke skupove podataka.

GEMINAI je proizvod koji gradi digitalnog blizanca skupa podataka, što to konkretno znači kako osigurava privatnost podataka?

Kada GEMINAI-ju unesete skup podataka, on stvara duboko znanje o statističkom obliku tih podataka. Možete ga koristiti za stvaranje sintetičkog blizanca koji nalikuje strukturi izvornih podataka, ali svi su zapisi novostvoreni. Ali statistički oblik je isti. Na primjer, prosječni broj otkucaja srca pacijenata u oba skupa bio bi gotovo isti, kao i sve druge statistike. Stoga bi svaka analiza podataka koja koristi blizanca dala isti odgovor kao i izvornici, uključujući modele za obuku ML-a. 

A ako netko ima zapis u izvornim podacima, za njega ne bi bilo zapisa u sintetičkom blizancu. Ne uklanjamo samo ime – osiguravamo da nema novog zapisa koji je "blizu" njihovog zapisa (i svih ostalih) u informacijskom prostoru. Odnosno, ne postoji ploča koja je prepoznatljiva i u izvornom i u sintetičkom setu. 

A to znači da se skup sintetičkih podataka može dijeliti mnogo slobodnije bez rizika od nepropisnog dijeljenja povjerljivih informacija. Nije važno radi li se o osobnim financijskim transakcijama, zdravstvenim podacima pacijenata, povjerljivim podacima – sve dok statistika podataka nije povjerljiva, sintetički blizanac nije povjerljiv.  

Zašto je GEMINAI bolje rješenje od korištenja diferencijalne privatnosti?

Diferencijalna privatnost skup je tehnika koje sprječavaju da bilo koji pojedinac utječe na statistiku više od marginalnog iznosa i temeljni je dio gotovo svakog rješenja za privatnost podataka. Međutim, kada se koristi sama diferencijalna privatnost, potrebno je upravljati proračunom privatnosti za podatke, uz dovoljno šuma dodanih svakom upitu. Nakon što se proračun potroši, podaci se ne mogu ponovno koristiti bez rizika po privatnost.

Jedan od načina za prevladavanje ovog proračuna jest primjena punog proračuna za privatnost odjednom za obuku modela strojnog učenja za generiranje sintetičkih podataka. Ideja je da se ovaj model, obučen korištenjem diferencijalne privatnosti, može koristiti relativno sigurno. Međutim, pravilna primjena različite privatnosti može biti nezgodna, osobito ako postoje različite količine podataka za različite pojedince i složenije odnose, kao što su ljudi koji žive u istoj kući. A sintetički podaci proizvedeni iz ovog modela često će slučajno uključivati ​​stvarne podatke za koje bi pojedinac mogao tvrditi da su njegovi jer su previše slični.

GEMINAI rješava te probleme i još mnogo toga kombinirajući višestruke tehnike zaštite privatnosti prilikom sintetiziranja podataka. Koristi odgovarajući praktični oblik diferencijalne privatnosti koji može prihvatiti široku paletu tipova podataka. Izgrađen je na našem motoru REACTOR, tako da dodatno zna kolika je vjerojatnost da se bilo koji dijelovi podataka mogu zamijeniti jedan s drugim i sintetizira podatke pazeći da se uvijek dovoljno razlikuju od najsličnijih izvornih podataka. Osim toga, svako polje, svaki dio podataka tretira kao potencijalno osjetljive ili identifikacijske, tako da primjenjuje praktične oblike diferencijalne privatnosti za polja koja se tradicionalno ne smatraju osjetljivima, ali mogu jedinstveno identificirati pojedinca, kao što je jedina transakcija u 24 -satna trgovina između 2 ujutro i 3 ujutro. To često nazivamo prekrsnim uništavanjem privatnosti.

GEMINAI je u mogućnosti postići visoku točnost za gotovo sve svrhe, koje izgledaju kao izvorni podaci, ali onemogućuje da bilo tko pronađe sintetičke podatke previše slične sintetičkim podacima.

Diveplane je bio ključan u suosnivanju Data & Trust Alliance, što je to savez?

To je apsolutno fantastična skupina tehnoloških izvršnih direktora koji surađuju na razvoju i usvajanju odgovornih podataka i AI praksi. Organizacije svjetske klase kao što su IBM, Johnson&Johnson, Mastercard, UPS, Walmart i Diveplane. Vrlo smo ponosni što smo bili dio ranih faza, a također smo ponosni na rad koji smo zajednički ostvarili na našim inicijativama. 

Diveplane je nedavno pokrenuo uspješnu seriju A, što će to značiti za budućnost tvrtke?

Imali smo sreće što smo bili uspješni s našim poslovnim projektima, ali teško je mijenjati svijet jedno po jedno poduzeće. Iskoristit ćemo ovu podršku za izgradnju našeg tima, dijeljenje naše poruke i dobivanje razumljive umjetne inteligencije na što više mjesta!

Postoji li još nešto što biste željeli podijeliti s Diveplaneom?

U Diveplaneu se radi o tome da AI radi ispravno dok se širi. Mi se bavimo pravednom, transparentnom i razumljivom umjetnom inteligencijom, proaktivno pokazujući što pokreće odluke i odmičemo se od "mentaliteta crne kutije" u umjetnoj inteligenciji koja može biti nepravedna, neetična i pristrana. Vjerujemo da je Explainability budućnost umjetne inteligencije i uzbuđeni smo što možemo igrati ključnu ulogu u njenom promicanju!

Hvala vam na sjajnom intervjuu, čitatelji koji žele saznati više neka ga posjete Ronilački avion.