Mike Capps, medgrundare och VD för Diveplane – Intervjuserie

Dr Michael Capps är en välkänd teknolog och VD för Diveplane Corporation. Innan han co-founderade Diveplane, hade Mike en legendarisk karriär inom datorspelsindustrin som president för Epic Games, skaparna av blockbusters som Fortnite och Gears of War. Hans tid på företaget inkluderade över hundra “game of the year”-utmärkelser, dussintals konferensföreläsningar, en livstidsprestation och en framgångsrik försvar av videospel i USA:s högsta domstol.

Diveplane erbjuder AI-drivna affärslösningar inom flera branscher. Med sex godkända patent och flera på gång, ger Diveplanes “Understandable AI” full förståelse och beslutsöverskådlig transparent i stöd för etiska AI-principer och dataskyddsstrategier.

Du gick i pension från en framgångsrik karriär inom datorspelsindustrin på Epic Games, vad inspirerade dig att komma tillbaka och fokusera på AI?

Att skapa spel var kul, men – åtminstone på den tiden – var det inte den ideala karriären när man hade en ny familj. Jag höll mig sysselsatt med styrelseuppdrag och rådgivande roller, men det var inte tillfredsställande. Så jag gjorde en lista på tre stora problem som världen stod inför som jag kunde påverka – och det inkluderade spridningen av “black box”-AI-system. Min plan var att tillbringa ett år på var och en och gräva djupare, men några veckor senare berättade min briljanta vän Chris Hazard att han hade arbetat hemligt på en transparent och fullt förklarlig AI-plattform. Och här är vi. 

Diveplane startades med en mission att bringa mänsklighet till AI, kan du förklara vad detta betyder specifikt?

Självklart. Här använder vi mänsklighet för att betyda “mänsklig” eller “medkänsla”. För att säkerställa att det bästa av mänskligheten finns i din AI-modell, kan du inte bara träna, testa lite och hoppas att allt är okej. 

Vi måste noggrant granska indata, modellen själv och modellens utdata, och säkerställa att det reflekterar det bästa av vår mänsklighet. De flesta system som tränas på historiska eller verkliga data kommer inte att vara korrekta från början, och de är inte nödvändigtvis obefläckade heller. Vi tror att den enda vägen att bli av med partiskhet i en modell – vilket innebär både statistiska fel och fördomar – är kombinationen av transparens, granskning och mänskligt förklarlig förklaring.  

Kärnteknologin på Diveplane kallas REACTOR, vad gör denna till en ny ansats för att göra maskinlärning förklarlig?

Maskinlärning innebär vanligtvis att man använder data för att bygga en modell som fattar ett visst beslut. Besluten kan inkludera vinkeln för att vända hjulen för ett fordon, om man ska godkänna eller avvisa ett köp eller markera det som bedrägeri, eller vilken produkt som ska rekommenderas till någon. Om du vill veta hur modellen fattade beslutet, måste du vanligtvis fråga den många liknande beslut och sedan försöka igen för att förutsäga vad modellen själv kan göra. Maskinlärningstekniker är antingen begränsade i de insikter de kan erbjuda, av huruvida insikterna faktiskt återspeglar vad modellen gjorde för att fatta beslutet, eller av att ha lägre noggrannhet.

Att arbeta med REACTOR är ganska annorlunda. REACTOR karakteriserar din datas osäkerhet, och din data blir modellen. Istället för att bygga en modell per beslutsTyp, frågar du bara REACTOR vad du vill att den ska fatta beslut om – det kan vara vad som helst relaterat till data – och REACTOR frågar vilken data som behövs för ett visst beslut. REACTOR kan alltid visa dig den data den använde, hur den relaterar till svaret, varje aspekt av osäkerhet, kontrafaktiskt resonemang och praktiskt taget vilken annan fråga du vill ställa. Eftersom data är modellen kan du redigera data och REACTOR kommer att uppdateras omedelbart. Den kan visa dig om det fanns någon data som såg anomalt ut som gick in i beslutet, och spåra varje redigering till data och dess källa.  REACTOR använder sannolikhetsteori hela vägen ner, vilket innebär att vi kan berätta för dig enheterna för varje del av dess drift. Och slutligen kan du reproducera och validera varje beslut med hjälp av bara den data som ledde till beslutet och osäkerheterna, med relativt enkla matematiska beräkningar utan att ens behöva REACTOR.

REACTOR kan göra allt detta samtidigt som den upprätthåller hög konkurrenskraftig noggrannhet, särskilt för små och glesa datamängder.

GEMINAI är en produkt som bygger en digital kopia av en datamängd, vad betyder detta specifikt och hur säkerställer det dataskydd?

När du matar GEMINAI med en datamängd, bygger den en djup kunskap om den statistiska formen på den data. Du kan använda den för att skapa en syntetisk kopia som liknar strukturen på den ursprungliga data, men alla poster är nytt skapade. Men den statistiska formen är densamma. Så till exempel skulle den genomsnittliga hjärtfrekvensen för patienter i båda uppsättningarna vara nästan densamma, liksom alla andra statistik. Därför skulle alla dataanalyser som använder kopian ge samma svar som originalen, inklusive utbildning av ML-modeller. 

Och om någon har en post i den ursprungliga data, skulle det inte finnas någon post för dem i den syntetiska kopian. Vi tar inte bara bort namnet – vi ser till att det inte finns någon ny post som är “nära” deras post (och alla andra) i informationsutrymmet. Det vill säga, det finns ingen post som är igenkännlig i både den ursprungliga och syntetiska uppsättningen. 

Och det betyder att den syntetiska datamängden kan delas mycket mer fritt utan risk för att dela konfidentiell information otillbörligt. Det spelar ingen roll om det är personliga finansiella transaktioner, patienthälsoinformation, klassificerad data – så länge statistiken över data inte är konfidentiell, är den syntetiska kopian inte konfidentiell.  

Varför är GEMINAI en bättre lösning än att använda differentiell sekretess?

Differenciell sekretess är en uppsättning tekniker som håller sannolikheten för att en enskild individ påverkar statistiken mer än en marginal mängd, och är en grundläggande del i nästan alla dataskyddslösningar. Men när differentiell sekretess används ensam, måste en sekretessbudget för data hanteras, med tillräckligt med brus som läggs till varje fråga. När den budgeten är slut, kan data inte användas igen utan att utsätta för sekretessrisker.

Ett sätt att övervinna denna budget är att applicera den fulla sekretessbudgeten på en gång för att träna en maskinlärningsmodell för att generera syntetisk data. Idén är att denna modell, som tränats med differentiell sekretess, kan användas relativt säkert. Men korrekt tillämpning av differentiell sekretess kan vara knepig, särskilt om det finns olika datavolymer för olika individer och mer komplexa relationer, såsom människor som bor i samma hus. Och den syntetiska data som genereras från denna modell är ofta sannolikt att innehålla, av en slump, riktiga data som en individ kan hävda är deras egen eftersom den är för lik.

GEMINAI löser dessa problem och mer genom att kombinera flera sekretesstekniker när den syntetiserar data. Den använder en lämplig praktisk form av differentiell sekretess som kan hantera en mängd olika datatyper. Den byggs på vår REACTOR-motor, så den känner också till sannolikheten att några delar av data kan förväxlas med varandra, och syntetiserar data som ser till att den alltid är tillräckligt annorlunda från den mest liknande ursprungliga data. Dessutom behandlar den varje fält, varje del av data som potentiellt känslig eller identifierbar, så den tillämpar praktiska former av differentiell sekretess för fält som inte traditionellt anses vara känsliga men kan unikt identifiera en individ, såsom den enda transaktionen i en 24-timmarsbutik mellan 02:00 och 03:00. Vi kallar detta för sekretesskorsning.

GEMINAI kan uppnå hög noggrannhet för nästan alla syften, som ser ut som den ursprungliga data, men förhindrar att någon hittar någon syntetisk data som är för lik den syntetiska data.

Diveplane var instrumental i att co-founderade Data & Trust Alliance, vad är denna allians?

Det är en absolut fantastisk grupp av teknologichefer som samarbetar för att utveckla och anta ansvarsfulla data- och AI-praxis. Världsklassorganisationer som IBM, Johnson&Johnson, Mastercard (MA ), UPS, Walmart (WMT ) och Diveplane. Vi är mycket stolta över att ha varit en del av de tidiga stadierna och också stolta över det arbete vi har gjort tillsammans på våra initiativ. 

Diveplane nyligen höll en framgångsrik Series A-runda, vad kommer detta att betyda för företagets framtid?

Vi har varit lyckosamma med våra företagsprojekt, men det är svårt att förändra världen ett företag i taget. Vi kommer att använda detta stöd för att bygga vårt team, dela vår budskap och få Understandable AI i så många platser som möjligt!

Finns det något annat du vill dela om Diveplane?

Diveplane handlar om att se till att AI görs på rätt sätt när det sprids. Vi handlar om rättvis, transparent och förklarlig AI, som proaktivt visar vad som driver beslut, och flyttar bort från “black box”-mentaliteten inom AI som har potential att vara orättvis, oetisk och partisk. Vi tror att förklarbarhet är framtiden för AI, och vi är glada att spela en avgörande roll i att driva det framåt!

Tack för den underbara intervjun, läsare som vill lära sig mer kan besöka Diveplane.