Mike Capps, Co-Founder & CEO of Diveplane – Interview Serie

Dr. Michael Capps er en velkendt teknolog og CEO af Diveplane Corporation. Før han co-foundede Diveplane, havde Mike en legendarisk karriere i videospilindustrien som præsident for Epic Games, skaberne af blockbustere som Fortnite og Gears of War. Hans embedsperiode inkluderede hundredvis af årets spil-priser, dusinvis af konference-keynotes, en livsvarig pris for bedrifter og en succesfuld forsvar af videospils ytringsfrihed i den amerikanske Højesteret.

Diveplane tilbyder AI-drevne forretningsløsninger på tværs af multiple industrier. Med seks patenter godkendt og flere under behandling, giver Diveplanes Forståelige AI fuld forståelse og beslutningsgennemsigtighed til støtte for etiske AI-politikker og databeskyttelsesstrategier.

Du gik succesfuldt på pension fra en succesfuld karriere i videospilindustrien hos Epic Games, hvad inspirerede dig til at komme ud af pension for at fokusere på AI?

At lave spil var en fornøjelse, men – på det tidspunkt – ikke en ideal karriere, når man havde en ny familie. Jeg holdt mig beskæftiget med bestyrelsesposter og rådgivningsroller, men det var bare ikke tilfredsstillende. Så jeg lavede en liste over tre større problemer, som verden stod over for, og som jeg muligvis kunne påvirke – og det inkluderede spredningen af sorte-kasse-AI-systemer. Min plan var at bruge et år på hver af dem, men få uger senere, fortalte min brillante ven Chris Hazard mig, at han havde arbejdet hemmeligt på en gennemsigtig, fuldt forklarelige AI-platform. Og her er vi.

Diveplane blev startet med en mission om at bringe menneskelighed til AI, kan du forklare, hvad dette betyder specifikt?

Ja. Her bruger vi menneskelighed til at betyde “menneskelighed” eller “medfølelse”. For at sikre, at det bedste af menneskeligheden er i din AI-model, kan du ikke bare træne, teste lidt og håbe, det er okay.

Vi skal nøje gennemgå inputdata, modellen selv og outputtet af modellen, og sikre, at det afspejler det bedste af vores menneskelighed. De fleste systemer, der er trænet på historiske eller virkelige data, er ikke nødvendigvis korrekte fra starten, og de er ikke nødvendigvis upartiske heller. Vi mener, at den eneste måde at udrydde bias i en model – dvs. både statistiske fejl og fordomme – er kombinationen af gennemsigtighed, gennemgang og menneskeligt-forståelig forklaring.

Kernen i Diveplanes teknologi hedder REACTOR, hvad gør denne til en novatorisk tilgang til at gøre maskinlæring forståelig?

Maskinlæring omfatter typisk brug af data til at bygge en model, der træffer en bestemt type beslutning. Beslutninger kan inkludere vinklen til at dreje hjulene på et køretøj, om at godkende eller afvise en købs- eller svindeltransaktion eller hvilket produkt at anbefale til nogen. Hvis du vil lære, hvordan modellen træffede beslutningen, skal du typisk bede om mange lignende beslutninger og så prøve igen for at forudsige, hvad modellen selv måske gør. Maskinlærings-teknikker er enten begrænsede i de typer af indsigt, de kan tilbyde, afhængigt af, om indsigtene faktisk afspejler, hvad modellen gjorde for at træffe beslutningen, eller ved at have lavere nøjagtighed.

At arbejde med REACTOR er ganske anderledes. REACTOR karakteriserer usikkerheden i dine data, og dine data bliver modellen. I stedet for at bygge en model per type beslutning, beder du bare REACTOR om, hvad du gerne vil have, den skal afgøre – det kan være noget som helst relateret til data – og REACTOR spørger, hvilke data der er nødvendige for en given beslutning. REACTOR kan altid vise dig, hvilke data den brugte, hvordan det relaterer til svaret, hver enkelt aspekt af usikkerhed, kontrafaktisk tankegang og næsten enhver anden spørgsmål, du gerne vil stille. Fordi data er modellen, kan du redigere data, og REACTOR vil være øjeblikkeligt opdateret. Den kan vise dig, om der var nogen data, der så ud som anomalier, der gik ind i beslutningen, og spore hver redigering af data og dens kilde. REACTOR bruger sandsynlighedsteori hele vejen igennem, hvilket betyder, at vi kan fortælle dig enhedernes måleenheder for hver del af dets drift. Og endelig kan du reproducere og validere enhver beslutning ved blot at bruge de data, der førte til beslutningen, og usikkerhederne, ved hjælp af relativt enkel matematik uden behov for REACTOR.

REACTOR kan gøre alt dette og samtidig opretholde høj konkurrencedygtig nøjagtighed, især for små og sparsomme datasæt.

GEMINAI er et produkt, der bygger en digital tvilling af en datasæt, hvad betyder dette specifikt, og hvordan sikrer det dataintegritet?

Når du føder GEMINAI en datasæt, bygger den en dyb viden om den statistiske form af denne data. Du kan bruge det til at oprette en syntetisk tvilling, der ligner strukturen af den oprindelige data, men alle posterne er nyligt oprettede. Men den statistiske form er den samme. Så for eksempel ville gennemsnits-hjertefrekvensen hos patienter i begge sæt være næsten den samme, ligesom alle andre statistikker. Derfor ville enhver dataanalyse, der bruger tvillingen, give det samme svar som originalerne, herunder træning af ML-modeller.

Og hvis nogen har en post i den oprindelige data, ville der ikke være nogen post til dem i den syntetiske tvilling. Vi fjerner ikke bare navnet – vi sikrer, at der ikke er nogen ny post, der er “nær” deres post (og alle andre) i informationsrummet. Dvs. der er ingen post, der er genkendelig i både den oprindelige og syntetiske sæt.

Og det betyder, at den syntetiske datasæt kan deles meget mere frit uden risiko for at dele fortrolig information urent. Det kommer ikke an på, om det er personlige finansielle transaktioner, patientens sundhedsinformation, klassificerede data – så længe statistikken over data ikke er fortrolig, er den syntetiske tvilling heller ikke fortrolig.

Hvorfor er GEMINAI en bedre løsning end at bruge differential privatliv?

Differential privatliv er en samling af teknikker, der sikrer, at sandsynligheden for, at en enkelt person påvirker statistikken mere end en marginal mængde, og er et grundlæggende stykke i næsten enhver data privatløsning. Men når differential privatliv bruges alene, skal en privatlivsbudget for data administreres, med tilstrækkeligt støj tilføjet til hver forespørgsel. Når dette budget er brugt op, kan data ikke bruges igen uden at påføre privatlivsrisk.

En måde at overvinde dette budget på er at anvende det fulde privatlivsbudget på én gang for at træne en maskinlæringsmodel til at generere syntetisk data. Ideen er, at denne model, der er trænet ved hjælp af differential privatliv, kan bruges relativt sikkert. Men korrekt anvendelse af differential privatliv kan være svært, især hvis der er forskellige datavolumener for forskellige personer og mere komplekse relationer, såsom personer, der bor i samme hus. Og syntetisk data, der er produceret fra denne model, er ofte sandsynligvis tilfældigt meget lig reel data, så en person kan hævde, det er deres egen, fordi det er for lignende.

GEMINAI løser disse problemer og mere ved at kombinere multiple privatlivsteknikker, når syntetisk data oprettes. Den bruger en passende praktisk form for differential privatliv, der kan håndtere en bred vifte af datatyper. Den er bygget på vores REACTOR-motor, så den kender også sandsynligheden for, at enhver del af data kan forveksles med hinanden, og syntetiserer data, så det altid er tilstrækkeligt forskelligt fra den mest lignende oprindelige data. Desuden behandler den hver felt, hver enkelt del af data som potentielt følsom eller identificerbar, så den anvender praktiske former for differential privatliv for felter, der ikke traditionelt anses for at være følsomme, men kunne unikt identificere en person, såsom den eneste transaktion i en 24-timers butik mellem 2 og 3 om natten. Vi kalder dette for privatlivskrydsning.

GEMINAI kan opnå høj nøjagtighed for næsten enhver formål, der ligner den oprindelige data, men forhindrer, at nogen finder noget syntetisk data, der er for lignende.

Diveplane var med til at co-founde Data & Trust Alliance, hvad er denne alliance?

Det er en absolut fantastisk gruppe af teknologiske direktører, der samarbejder om at udvikle og antage ansvarlige data- og AI-praktikker. Verdensklasse-organisationer som IBM, Johnson&Johnson, Mastercard (MA ), UPS, Walmart (WMT ) og Diveplane. Vi er meget stolte af at have været en del af de tidlige faser og også stolte af det arbejde, vi har kollektivt opnået på vores initiativer.

Diveplane har nyligt gennemført en succesfuld Series A-runde, hvad vil dette betyde for fremtiden af virksomheden?

Vi har været heldige at være succesfulde med vores virksomhedsprojekter, men det er svært at ændre verden én virksomhed ad gangen. Vi vil bruge denne støtte til at bygge vores team, dele vores besked og få Forståelige AI på så mange steder som muligt!

Er der noget andet, du gerne vil dele om Diveplane?

Diveplane handler om at sikre, at AI udføres korrekt, mens det spreder sig. Vi handler om fair, gennemsigtig og forståelig AI, proaktivt viser, hvad der driver beslutninger, og fjerner “sorte-kasse-mentaliteten” i AI, der har potentialet til at være uretfærdig, uetisk og fordomsfuld. Vi mener, at forklarbarhed er fremtiden for AI, og vi er begejstrede for at spille en afgørende rolle i at drive det fremad!

Tak for det gode interview. Læsere, der ønsker at lære mere, skal besøge Diveplane.