Mike Capps, mede-oprichter en CEO van Diveplane – Interviewreeks

Dr. Michael Capps is een bekende technoloog en CEO van Diveplane Corporation. Voordat hij Diveplane mede-oprichtte, had Mike een legendarische carrière in de videogame-industrie als president van Epic Games, maker van blockbusters zoals Fortnite en Gears of War. Zijn tijd bij Epic Games omvatte meer dan honderd “game of the year”-prijzen, tientallen conferentiekeynotes, een lifetime achievement award en een succesvolle verdediging van videogames in de Amerikaanse Hoge Raad.

Diveplane biedt AI-gestuurde bedrijfsoplossingen aan in meerdere industrieën. Met zes goedgekeurde octrooien en meerdere aanvragen in behandeling, biedt Diveplane’s Understandable AI volledige inzicht en besluitvormingstransparantie ter ondersteuning van ethische AI-beleid en gegevensbeschermingsstrategieën.

U bent met pensioen gegaan uit een succesvolle carrière in de videogame-industrie bij Epic Games, wat inspireerde u om uit pensioen te komen en u te richten op AI?

Het maken van games was een blast, maar – op dat moment – was het geen ideale carrière als je een nieuw gezin had. Ik hield me bezig met bestuursfuncties en adviesrollen, maar het was gewoon niet vervullend. Dus maakte ik een lijst van drie grote problemen waarmee de wereld kampt en die ik mogelijk kon beïnvloeden – en dat omvatte de verspreiding van “black box”-AI-systemen. Mijn plan was om een jaar te besteden aan elk onderwerp om er dieper in te duiken, maar een paar weken later vertelde mijn briljante vriend Chris Hazard me dat hij in het geheim had gewerkt aan een transparante, volledig uitlegbare AI-platform. En hier zijn we.

Diveplane is opgericht met de missie om humaniteit aan AI te brengen, kunt u specifiek uitleggen wat dit betekent?

Ja. Hier gebruiken we humaniteit om “menselijkheid” of “compassie” te betekenen. Om ervoor te zorgen dat het beste van de mensheid in uw AI-model zit, kunt u niet zomaar trainen, een beetje testen en hopen dat het goed is.

We moeten de invoergegevens, het model zelf en de uitvoer van dat model zorgvuldig controleren en ervoor zorgen dat het het beste van onze menselijkheid weerspiegelt. De meeste systemen die zijn getraind op historische of werkelijke gegevens zullen niet meteen correct zijn en zijn niet noodzakelijkerwijs onbevooroordeeld. We geloven dat de enige manier om vooroordelen in een model uit te roeien – zowel statistische fouten als vooroordelen – is door een combinatie van transparantie, controleerbaarheid en menselijk begrijpelijke uitleg.

Het kerntechnologie van Diveplane heet REACTOR, wat maakt deze benadering van machine learning uitlegbaar?

Machine learning houdt meestal in dat u gegevens gebruikt om een model te bouwen dat een bepaald type beslissing neemt. Beslissingen kunnen onder andere het draaien van het stuurwiel voor een voertuig, het goedkeuren of afkeuren van een aankoop of het markeren als fraude, of het aanbevelen van een product aan iemand. Als u wilt weten hoe het model de beslissing heeft genomen, moet u het model meestal veel soortgelijke beslissingen vragen en vervolgens opnieuw proberen te voorspellen wat het model zelf zou doen. Machine learning-technieken zijn beperkt in de soorten inzichten die ze kunnen bieden, of door ofwel de inzichten die het model zelf heeft genomen om tot een beslissing te komen, of door een lagere nauwkeurigheid.

Werken met REACTOR is heel anders. REACTOR karakteriseert de onzekerheid van uw gegevens en uw gegevens worden het model. In plaats van één model per type beslissing te bouwen, vraagt u REACTOR gewoon wat u wilt dat het beslist – het kan alles zijn dat verband houdt met de gegevens – en REACTOR vraagt welke gegevens nodig zijn voor een bepaalde beslissing. REACTOR kan u altijd laten zien welke gegevens het heeft gebruikt, hoe het verband houdt met het antwoord, elk aspect van onzekerheid, tegenfeitelijke redenering en vrijwel elke andere vraag die u wilt stellen. Omdat de gegevens het model zijn, kunt u de gegevens bewerken en REACTOR wordt onmiddellijk bijgewerkt. Het kan u laten zien of er gegevens waren die afwijkend leken die in de beslissing zijn opgenomen en elk bewerkingsproces van de gegevens en de bron ervan traceren. REACTOR gebruikt waarschijnlijkheidstheorie helemaal tot onderen, wat betekent dat we u de eenheden van meting van elk onderdeel van de werking kunnen vertellen. En tenslotte kunt u elke beslissing reproduceren en valideren met behulp van alleen de gegevens die tot de beslissing hebben geleid en de onzekerheden, met behulp van relatief eenvoudige wiskunde zonder zelfs REACTOR nodig te hebben.

REACTOR kan al dit doen en toch een zeer concurrerende nauwkeurigheid behouden, vooral voor kleine en schaarse gegevenssets.

GEMINAI is een product dat een digitale tweeling van een gegevensset bouwt, wat betekent dit specifiek en hoe garandeert dit gegevensbescherming?

Wanneer u GEMINAI een gegevensset voedt, bouwt het een diepe kennis van de statistische vorm van die gegevens. U kunt het gebruiken om een synthetische tweeling te maken die de structuur van de oorspronkelijke gegevens nabootst, maar alle records zijn nieuw gemaakt. Maar de statistische vorm is hetzelfde. Dus bijvoorbeeld zouden de gemiddelde hartslag van patiënten in beide sets bijna hetzelfde zijn, evenals alle andere statistieken. Dus zou elke gegevensanalyse met behulp van de tweeling hetzelfde antwoord geven als de oorspronkelijke, inclusief het trainen van ML-modellen.

En als iemand een record in de oorspronkelijke gegevens heeft, zou er geen record voor hen in de synthetische tweeling zijn. We verwijderen niet alleen de naam – we zorgen ervoor dat er geen nieuw record is dat “dichtbij” hun record (en alle andere) in de informatie-ruimte is. D.w.z. er is geen record dat herkenbaar is in zowel de oorspronkelijke als de synthetische set.

En dat betekent dat de synthetische gegevensset veel vrijer kan worden gedeeld zonder het risico van het ongepast delen van vertrouwelijke informatie. Het maakt niet uit of het gaat om persoonlijke financiële transacties, patiëntgegevens, geclassificeerde gegevens – zolang de statistieken van de gegevens niet vertrouwelijk zijn, is de synthetische tweeling niet vertrouwelijk.

Waarom is GEMINAI een betere oplossing dan het gebruik van differentiële privacy?

Differentiële privacy is een set technieken die de kans dat een individu de statistieken beïnvloedt, beperken tot een marginale hoeveelheid, en is een fundamenteel onderdeel in vrijwel elke gegevensbeschermingsoplossing. Echter, wanneer differentiële privacy alleen wordt gebruikt, moet een privacybudget voor de gegevens worden beheerd, met voldoende ruis toegevoegd aan elke query. Zodra dat budget is gebruikt, kunnen de gegevens niet opnieuw worden gebruikt zonder privacyrisico’s te lopen.

Een manier om dit budget te overwinnen is om het volledige privacybudget in één keer toe te passen om een machine learning-model te trainen om synthetische gegevens te genereren. Het idee is dat dit model, getraind met differentiële privacy, relatief veilig kan worden gebruikt. Echter, de juiste toepassing van differentiële privacy kan moeilijk zijn, vooral als er verschillende gegevensvolumes voor verschillende individuen zijn en complexere relaties, zoals mensen die in hetzelfde huis wonen. En synthetische gegevens die met dit model zijn gegenereerd, zijn vaak waarschijnlijk om echte gegevens te bevatten die een individu als zijn eigen kan claimen omdat ze te veel lijken.

GEMINAI lost deze problemen op en nog veel meer door meerdere privacytechnieken te combineren bij het synthetiseren van de gegevens. Het gebruikt een praktische vorm van differentiële privacy die een breed scala aan gegevenstypen kan accommoderen. Het is gebouwd op onze REACTOR-motor, dus het weet ook de waarschijnlijkheid dat stukken gegevens met elkaar verward kunnen worden en synthetiseert gegevens om ervoor te zorgen dat het altijd voldoende verschillend is van de meest vergelijkbare oorspronkelijke gegevens. Bovendien behandelt het elke veld, elk stukje gegevens als potentieel gevoelig of identificerend, dus het past praktische vormen van differentiële privacy toe voor velden die niet traditioneel als gevoelig worden beschouwd, maar die een individu uniek kunnen identificeren, zoals de enige transactie in een 24-uurswinkel tussen 2 en 3 uur ‘s nachts. We noemen dit vaak “privacy cross-shredding”.

GEMINAI kan een hoge nauwkeurigheid bereiken voor vrijwel elk doel, dat eruitziet als de oorspronkelijke gegevens, maar voorkomt dat iemand synthetische gegevens vindt die te veel lijken op de synthetische gegevens.

Diveplane was instrumental in het mede-oprichten van de Data & Trust Alliance, wat is deze alliantie?

Het is een absoluut fantastische groep van technologie-CEO’s, die samenwerken om verantwoorde gegevens- en AI-praktijken te ontwikkelen en te adopteren. Wereldklasse-organisaties zoals IBM, Johnson&Johnson, Mastercard (MA ), UPS, Walmart (WMT ) en Diveplane. We zijn erg trots om deel te hebben genomen aan de vroege stadia en ook trots op het werk dat we collectief hebben verricht aan onze initiatieven.

Diveplane heeft onlangs een succesvolle Series A-rondes opgehaald, wat zal dit betekenen voor de toekomst van het bedrijf?

We zijn gelukkig geweest met onze ondernemingsprojecten, maar het is moeilijk om de wereld te veranderen, één onderneming tegelijk. We zullen deze steun gebruiken om ons team uit te breiden, onze boodschap te delen en Understandable AI in zoveel mogelijk plaatsen te krijgen!

Is er nog iets anders dat u zou willen delen over Diveplane?

Diveplane gaat over het zorgen dat AI op de juiste manier wordt gedaan terwijl het zich verspreidt. We zijn over eerlijke, transparante en uitlegbare AI, proactief laten zien wat de beslissingen drijft, en weggaan van de “black box-mentaliteit” in AI die het potentieel heeft om oneerlijk, onethisch en bevooroordeeld te zijn. We geloven dat uitlegbaarheid de toekomst van AI is en we zijn enthousiast om een belangrijke rol te spelen in het stimuleren ervan!

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen Diveplane bezoeken.