Mike Capps, spoluzakladatel a CEO společnosti Diveplane – rozhovor

Dr. Michael Capps je známý technolog a CEO společnosti Diveplane Corporation. Předtím, než spoluzakládal Diveplane, měl Mike legendární kariéru ve videogame průmyslu jako prezident společnosti Epic Games, tvůrce hitů Fortnite a Gears of War. Jeho působení zahrnovalo stovky ocenění hry roku, desítky konferenčních keynote, cenu za celoživotní dílo a úspěšnou obranu svobodného projevu ve videogamech v Nejvyšším soudu USA.

Diveplane nabízí AI-poháněná obchodní řešení napříč několika odvětvími. S šesti schválenými patenty a několika dalšími čekajícími na schválení, poskytuje Understandable AI společnosti Diveplane plné pochopení a transparentnost rozhodnutí na podporu etických AI politik a strategií ochrany dat.

Úspěšně jste odešel do důchodu z úspěšné kariéry ve videogame průmyslu ve společnosti Epic Games, co vás inspirovalo k návratu z důchodu a soustředění se na AI?

Vytvářet hry bylo skvělé, ale alespoň v té době to nebyla ideální kariéra, když jsem měl novou rodinu. Zůstal jsem aktivní v dozorčích radách a poradních rolích, ale nebylo to příliš naplňující. Takže jsem si vytvořil seznam tří hlavních problémů, kterým svět čelí a které bych mohl ovlivnit – a to zahrnovalo šíření černých skříněk AI systémů. Můj plán byl strávit rok na každém z nich, ale několik týdnů později, můj brilantní přítel Chris Hazard mi řekl, že tajně pracoval na transparentní, plně vysvětlovatelné AI platformě. A tady jsme.

Diveplane byla založena s cílem přinést humanitu do AI, můžete vysvětlit, co to znamená konkrétně?

Určitě. Zde používáme humanitu ve smyslu „lidskosti“ nebo „soucit“. Abychom zajistili, že nejlepší z lidskosti je ve vašem AI modelu, nemůžete pouze trénovat, otestovat trochu a doufat, že vše bude v pořádku.

Musíme pečlivě přezkoumat vstupní data, samotný model a výstup modelu a zajistit, že odráží nejlepší z naší lidskosti. Většina systémů trénovaných na historických nebo reálných datech nebude správná poprvé a nejsou nutně bez偏見. Věříme, že jediný způsob, jak odstranit bias v modelu – tj. statistické chyby a předsudky – je kombinace transparentnosti, audibility a lidsky srozumitelného vysvětlení.

Jádrové technologie společnosti Diveplane se nazývá REACTOR, co dělá tento přístup novátorským způsobem, jak udělat strojové učení vysvětlovatelným?

…

Strojové učení obvykle zahrnuje použití dat k vytvoření modelu, který dělá určitý typ rozhodnutí. Rozhodnutí mohou zahrnovat úhel otáčení kol pro vozidlo, zda schválit nebo odmítnout nákup nebo označit jej jako podvod, nebo které produkt doporučit někomu. Pokud chcete zjistit, jak model učinil rozhodnutí, obvykle musíte položit mnoho podobných rozhodnutí a poté se pokusit znovu předpovědět, co model sám udělá. Techniky strojového učení jsou buď omezeny typy poznatků, které mohou nabídnout, nebo zda tyto poznatky skutečně odrážejí, co model udělal, aby učinil rozhodnutí, nebo mají nižší přesnost.

Práce s REACTOR je zcela odlišná. REACTOR charakterizuje vaši datovou nejistotu a vaše data se stávají modelem. Místo budování jednoho modelu pro každý typ rozhodnutí prostě řekněte REACTOR, co byste chtěli, aby rozhodl – může to být cokoliv související s daty – a REACTOR dotazuje, která data jsou potřebná pro dané rozhodnutí. REACTOR vždy může ukázat, která data použil, jak se vztahují k odpovědi, každý aspekt nejistoty, kontrafaktické uvažování a téměř jakékoli další otázky, které byste chtěli položit. Protože data jsou modelem, můžete data upravit a REACTOR bude okamžitě aktualizován. Může ukázat, zda existovala nějaká data, která vypadala anomálně a šla do rozhodnutí, a stopovat každou úpravu dat a jejich zdroj. REACTOR používá teorie pravděpodobnosti všude, což znamená, že můžeme vám říci jednotky měření každé části jeho provozu. A konečně, můžete reprodukovat a ověřit jakékoli rozhodnutí pomocí pouze dat, která vedla k rozhodnutí a nejistot, pomocí relativně přímé matematiky bez nutnosti REACTOR.

REACTOR je schopen udělat vše toto a současně udržet vysoce konkurenceschopnou přesnost, zejména pro malé a řídké datové sady.

GEMINAI je produkt, který vytváří digitální dvojče datové sady, co to znamená konkrétně a jak zajišťuje ochranu dat?

Když GEMINAI nakrmíte datovou sadou, vytváří hluboké znalosti statistické podoby této datové sady. Můžete ji použít k vytvoření syntetického dvojčete, které připomíná strukturu původních dat, ale všechny záznamy jsou nově vytvořeny. Ale statistická podoba je stejná. Například průměrná srdeční frekvence pacientů v obou sadách by byla téměř stejná, stejně jako všechny ostatní statistiky. Protože jakékoli datové analýzy pomocí dvojčete by daly stejnou odpověď jako originály, včetně trénování modelů ML.

A pokud někdo má záznam v původních datech, nebude žádný záznam pro něj v syntetickém dvojčeti. Není to jen odstranění jména – zajistíme, že neexistuje žádný nový záznam, který je „blízko“ jeho záznamu (a všech ostatních) v informačním prostoru. Tj. neexistuje žádný záznam, který je rozpoznatelný v obou původních a syntetických sadách.

A to znamená, že syntetická datová sada může být sdílena mnohem volněji bez rizika sdílení důvěrných informací neoprávněně. Není důležité, zda se jedná o osobní finanční transakce, zdravotní informace pacientů, klasifikovaná data – pokud statistika dat není důvěrná, syntetické dvojče není důvěrné.

Proč je GEMINAI lepší řešení než použití diferenciální ochrany?

Diferenciální ochrana je soubor technik, které zajišťují, že pravděpodobnost, že jeden jedinec ovlivní statistiku více než marginálně, a je to základní kámen téměř každého řešení ochrany dat. Nicméně, když je diferenciální ochrana použita samostatně, je potřeba spravovat rozpočet ochrany dat, s dostatečným šumem přidáným k каждému dotazu. Jakmile je tento rozpočet vyčerpán, data již nelze použít bez přijetí rizik ochrany.

Jedním ze způsobů, jak překonat tento rozpočet, je aplikovat plný rozpočet ochrany dat najednou pro trénování modelu ML pro generování syntetických dat. Nápad spočívá v tom, že tento model, trénovaný pomocí diferenciální ochrany, lze použít relativně bezpečně. Nicméně, správná aplikace diferenciální ochrany může být obtížná, zejména pokud existují rozdílné objemy dat pro různé jedince a složitější vztahy, jako je například lidé žijící ve stejném domě. A syntetická data vygenerovaná z tohoto modelu často zahrnují, náhodou, skutečná data, která může jedinec nárokovat jako svá vlastní, protože jsou příliš podobná.

GEMINAI řeší tyto problémy a další kombinací několika technik ochrany při syntetizaci dat. Používá praktickou formu diferenciální ochrany, která může akomodovat širokou škálu typů dat. Je postaven na našem REACTORovém motoru, takže navíc zná pravděpodobnost, že jakékoli části dat by mohly být zmateny navzájem, a syntetizuje data tak, aby byla vždy dostatečně odlišná od nejpodobnějšího původního dat. Kromě toho považuje každé pole, každé datum za potenciálně citlivé nebo identifikovatelné, takže aplikuje praktické formy diferenciální ochrany pro pole, která nejsou tradičně považována za citlivá, ale mohou jedinečně identifikovat jedince, jako je například jediná transakce v 24hodinovém obchodě mezi 2 a 3 hodinou ráno. Často se na to odkazujeme jako na „ochranu proti křížovému rozdrcení“.

GEMINAI je schopna dosáhnout vysoké přesnosti pro téměř jakýkoli účel, který vypadá jako původní data, ale zabraňuje tomu, aby kdokoli našel jakékoli syntetické data, která jsou příliš podobná syntetickým datům.

Společnost Diveplane sehrála důležitou roli při spoluzaložení Aliance dat a důvěry, co je tato aliance?

Je to absolutně fantastická skupina technologických CEO, kteří spolupracují na vývoji a přijetí odpovědných praktik dat a AI. Světové organizace, jako je IBM, Johnson&Johnson, Mastercard (MA ), UPS, Walmart (WMT ) a Diveplane. Jsme velmi hrdí na to, že jsme byli součástí raných fází a také na práci, kterou jsme společně dokončili na našich iniciativách.

Společnost Diveplane nedávno získala úspěšnou sérii A, co to bude znamenat pro budoucnost společnosti?

Byli jsme štěstí, že jsme byli úspěšní s našimi podnikovými projekty, ale je obtížné změnit svět jeden podnik na jednou. Budeme využívat tuto podporu k budování našeho týmu, sdílení naší zprávy a zajištění, aby Understandable AI byla ve všech místech, kam můžeme!

Ještě něco, co byste chtěli sdílet o společnosti Diveplane?

Společnost Diveplane je vše o tom, aby se zajistilo, že AI je dělána správně, jak se šíří. Jsme o férové, transparentní a srozumitelné AI, proaktivně ukazující, co pohání rozhodnutí, a odchodu od „černé skříňky“ mentality v AI, která má potenciál být nespravedlivá, neetická a zaujatá. Věříme, že vysvětlovatelnost je budoucnost AI a jsme rádi, že hrajeme zásadní roli v jejím rozvoji!

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Diveplane.