Mike Capps, spoluzakladatel a CEO společnosti Diveplane – série rozhovorů

Dr. Michael Capps je známý technolog a CEO společnosti Diveplane Corporation. Předtím, než spoluzakládal Diveplane, měl Mike legendární kariéru ve průmyslu videoher jako prezident společnosti Epic Games, tvůrce hitů Fortnite a Gears of War. Jeho působení zahrnovalo sto ocenění hry roku, desítky hlavních konferenčních projevů, cenu za celoživotní dílo a úspěšnou obranu svobodného projevu ve videohrách v Nejvyšším soudu USA.

Diveplane nabízí AI-poháněná obchodní řešení napříč několika odvětvími. S šesti schválenými patenty a několika dalšími čekajícími na schválení, poskytuje Understandable AI společnosti Diveplane plné pochopení a transparentnost rozhodnutí na podporu etických AI politik a strategií ochrany dat.

Úspěšně jste odešel do důchodu z úspěšné kariéry ve průmyslu videoher ve společnosti Epic Games, co vás inspirovalo k návratu z důchodu a soustředění se na AI?

Vytvářet hry bylo skvělé, ale alespoň v té době to nebyla ideální kariéra, když jsem měl novou rodinu. Zůstal jsem aktivní v dozorčích radách a poradních rolích, ale nebylo to příliš naplňující. Takže jsem si vytvořil seznam tří hlavních problémů, kterým svět čelí a které bych mohl ovlivnit – a to zahrnovalo šíření černých skříněk AI systémů. Můj plán byl strávit rok na každém z nich, ale několik týdnů později, můj brilantní přítel Chris Hazard mi řekl, že tajně pracoval na transparentní, plně vysvětlovatelné AI platformě. A tady jsme.

Diveplane byla založena s cílem přinést humanitu do AI, můžete vysvětlit, co to znamená konkrétně?

Určitě. Zde používáme humanitu ve smyslu „lidskosti“ nebo „soucit“. Abychom zajistili, že nejlepší z lidskosti je ve vašem AI modelu, nemůžete pouze trénovat, otestovat trochu a doufat, že vše bude v pořádku.

Musíme pečlivě přezkoumat vstupní data, samotný model a výstup modelu a zajistit, že odráží nejlepší z naší lidskosti. Většina systémů trénovaných na historických nebo reálných datech nebude správná poprvé a nejsou nutně bez předsudků. Věříme, že jediný způsob, jak odstranit zkreslení v modelu – tj. statistické chyby a předsudky – je kombinace transparentnosti, auditovatelnosti a lidsky srozumitelného vysvětlení.

Základní technologie společnosti Diveplane se nazývá REACTOR, co dělá tento přístup novátorským způsobem, jak udělat strojové učení vysvětlovatelným?

Strojové učení obvykle zahrnuje použití dat k vytvoření modelu, který dělá určitý typ rozhodnutí. Rozhodnutí mohou zahrnovat úhel otáčení kol pro vozidlo, zda schválit nebo odmítnout nákup nebo označit jej jako podvod, nebo který produkt doporučit někomu. Pokud chcete zjistit, jak model učinil rozhodnutí, obvykle musíte položit mnoho podobných rozhodnutí a poté se pokusit znovu předpovědět, co model sám udělá. Techniky strojového učení jsou buď omezeny typy poznatků, které mohou nabídnout, nebo zda tyto poznatky skutečně odrážejí, co model udělal, aby učinil rozhodnutí, nebo mají nižší přesnost.

Práce s REACTOR je zcela odlišná. REACTOR charakterizuje vaši datovou nejistotu a vaše data se stávají modelem. Místo budování jednoho modelu pro každý typ rozhodnutí prostě řekněte REACTOR, co byste chtěli, aby rozhodl – může to být cokoliv související s daty – a REACTOR dotazuje, která data jsou potřebná pro dané rozhodnutí. REACTOR vždy může ukázat, která data použil, jak se vztahují k odpovědi, každý aspekt nejistoty, kontrafaktické uvažování a téměř jakékoli další otázky, které byste chtěli položit. Protože data jsou modelem, můžete data upravit a REACTOR bude okamžitě aktualizován. Může ukázat, zda existovala nějaká data, která vypadala anomálně a šla do rozhodnutí, a stopovat každou úpravu dat a jejich zdroj. REACTOR používá teorii pravděpodobnosti v celé své činnosti, což znamená, že můžeme vám říci jednotky měření každé části jeho provozu. A konečně, můžete reprodukovat a ověřit jakékoli rozhodnutí pomocí pouze dat, která vedla k rozhodnutí a nejistot, pomocí relativně přímé matematiky bez nutnosti REACTOR.

REACTOR je schopen udělat vše toto a současně udržet vysoce konkurenceschopnou přesnost, zejména pro malé a řídké datové sady.

GEMINAI je produkt, který vytváří digitální dvojče datové sady, co to znamená konkrétně a jak zajišťuje ochranu dat?

Když GEMINAI nakrmíte datovou sadou, vytváří hluboké znalosti statistické podoby této datové sady. Můžete ji použít k vytvoření syntetického dvojčete, které připomíná strukturu původních dat, ale všechny záznamy jsou nově vytvořeny. Ale statistická podoba je stejná. Například průměrná srdeční frekvence pacientů v obou sadách by byla téměř stejná, stejně jako všechny ostatní statistiky. Protože jakékoli datové analýzy pomocí dvojčete by daly stejnou odpověď jako originály, včetně trénování modelů ML.

A pokud někdo má záznam v původních datech, nebude žádný záznam pro něj v syntetickém dvojčeti. Není to jen odstranění jména – zajistíme, že neexistuje žádný nový záznam, který je „blízko“ jeho záznamu (a všech ostatních) v informačním prostoru. Tj. neexistuje žádný záznam, který je rozpoznatelný v obou původních a syntetických sadách.

A to znamená, že syntetická datová sada může být sdílena mnohem volněji bez rizika sdílení důvěrných informací neoprávněně. Není důležité, zda se jedná o osobní finanční transakce, zdravotní informace pacientů, utajované údaje – pokud statistika dat není důvěrná, syntetické dvojče není důvěrné.

Proč je GEMINAI lepší řešení než použití diferenciálního soukromí?

Diferenciální soukromí je soubor technik omezujících pravděpodobnost, že jeden jedinec ovlivní statistiky více než okrajově. Je základním kamenem téměř každého řešení ochrany soukromí dat. Nicméně, když je diferenciální soukromí použito samostatně, je potřeba spravovat rozpočet ochrany dat, s dostatečným šumem přidaným ke každému dotazu. Jakmile je tento rozpočet vyčerpán, data již nelze použít bez přijetí rizik ochrany.

Jedním ze způsobů, jak překonat tento rozpočet, je aplikovat plný rozpočet ochrany dat najednou pro trénování modelu ML pro generování syntetických dat. Nápad spočívá v tom, že tento model, trénovaný pomocí diferenciálního soukromí, lze použít relativně bezpečně. Nicméně, správná aplikace diferenciálního soukromí může být obtížná, zejména pokud existují rozdílné objemy dat pro různé jedince a složitější vztahy, jako je například lidé žijící ve stejném domě. A syntetická data vygenerovaná z tohoto modelu často zahrnují, náhodou, skutečná data, která může jedinec nárokovat jako svá vlastní, protože jsou příliš podobná.

GEMINAI řeší tyto problémy a další kombinací několika technik ochrany při syntetizaci dat. Používá praktickou formu diferenciálního soukromí, která může akomodovat širokou škálu typů dat. Je postaven na našem REACTORovém motoru, takže navíc zná pravděpodobnost, že jakékoli části dat by mohly být zmateny navzájem, a syntetizuje data tak, aby byla vždy dostatečně odlišná od nejpodobnějších původních dat. Kromě toho považuje každé pole, každý údaj za potenciálně citlivé nebo identifikovatelné, takže aplikuje praktické formy diferenciálního soukromí pro pole, která nejsou tradičně považována za citlivá, ale mohou jedinečně identifikovat jedince, jako je například jediná transakce v nepřetržitě otevřeném obchodě mezi 2 a 3 hodinou ráno. Často se na to odkazujeme jako na „křížové skartování informací pro ochranu soukromí“.

GEMINAI je schopna dosáhnout vysoké přesnosti pro téměř jakýkoli účel, který vypadá jako původní data, ale zabraňuje tomu, aby kdokoli našel jakékoli syntetické data, která jsou příliš podobná syntetickým datům.

Společnost Diveplane sehrála důležitou roli při spoluzaložení Aliance dat a důvěry, co je tato aliance?

Je to absolutně fantastická skupina generálních ředitelů technologických firem, kteří spolupracují na vývoji a přijetí odpovědných praktik dat a AI. Světové organizace, jako je IBM, Johnson&Johnson, Mastercard (MA ), UPS, Walmart (WMT ) a Diveplane. Jsme velmi hrdí na to, že jsme byli součástí raných fází a také na práci, kterou jsme společně dokončili na našich iniciativách.

Společnost Diveplane nedávno úspěšně získala financování v kole Series A, co to bude znamenat pro budoucnost společnosti?

Měli jsme štěstí a naše podnikové projekty byly úspěšné, ale měnit svět po jednom podniku je obtížné. Budeme využívat tuto podporu k budování našeho týmu, sdílení naší zprávy a zajištění, aby Understandable AI byla ve všech místech, kam můžeme!

Ještě něco, co byste chtěli sdílet o společnosti Diveplane?

Společnost Diveplane je vše o tom, aby se zajistilo, že AI je dělána správně, jak se šíří. Jsme o férové, transparentní a srozumitelné AI, proaktivně ukazující, co pohání rozhodnutí, a odchodu od „černé skříňky“ mentality v AI, která má potenciál být nespravedlivá, neetická a zaujatá. Věříme, že vysvětlovatelnost je budoucnost AI a jsme rádi, že hrajeme zásadní roli v jejím rozvoji!

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Diveplane.