Mike Capps, współzałożyciel i CEO Diveplane – seria wywiadów

Dr Michael Capps to znany technolog i CEO korporacji Diveplane. Przed założeniem Diveplane, Mike miał legendarną karierę w branży gier wideo jako prezes Epic Games, twórcy bestsellerów Fortnite i Gears of War. Jego kadencja obejmowała sto nagród gry roku, dziesiątki wykładów konferencyjnych, nagrodę za całokształt twórczości oraz udaną obronę wolności słowa w sprawie gier wideo w Sądzie Najwyższym USA.

Diveplane oferuje rozwiązania biznesowe oparte na sztucznej inteligencji w wielu branżach. Z sześcioma zaakceptowanymi patentami i kilkoma w trakcie rozpatrywania, Understandable AI oferuje pełne zrozumienie i przejrzystość decyzji w ramach polityk etyki AI i strategii ochrony danych.

Udało ci się z powodzeniem wycofać się z udanej kariery w branży gier wideo w Epic Games, co skłoniło cię do powrotu do branży, aby skupić się na sztucznej inteligencji?

Tworzenie gier było świetną zabawą, ale – przynajmniej w tamtym czasie – nie było to idealna kariera, gdy miałem nową rodzinę. Zajmowałem się radami nadzorczymi i rolami doradczymi, ale to nie było satysfakcjonujące. Więc sporządziłem listę trzech głównych problemów, z którymi boryka się świat i które mógłbym wpłynąć – w tym rozpowszechnianie systemów sztucznej inteligencji “czarnej skrzynki”. Mój plan był taki, aby spędzić rok na każdym z tych problemów, ale kilka tygodni później, mój genialny przyjaciel Chris Hazard powiedział mi, że pracował potajemnie nad platformą sztucznej inteligencji, która jest przejrzysta i w pełni wyjaśnialna. I tu jesteśmy. 

Diveplane zostało założone z misją wprowadzenia ludzkiej perspektywy do sztucznej inteligencji, możesz wyjaśnić, co to konkretnie oznacza?

Oczywiście. Tutaj używamy słowa “ludzki” w znaczeniu “ludzkość” lub “współczucie”. Aby upewnić się, że najlepsze cechy ludzkie są w Twoim modelu sztucznej inteligencji, nie możesz po prostu go przeszkolić, przetestować trochę i mieć nadzieję, że wszystko będzie w porządku. 

Musimy starannie przejrzeć dane wejściowe, sam model oraz dane wyjściowe i upewnić się, że odzwierciedlają one najlepsze cechy ludzkie. Większość systemów szkolonych na danych historycznych lub rzeczywistych nie będzie poprawna od razu i niekoniecznie będą one wolne od uprzedzeń. Uważamy, że jedynym sposobem, aby usunąć uprzedzenia w modelu – zarówno błędy statystyczne, jak i uprzedzenia – jest połączenie przejrzystości, audytowalności i wyjaśnialności zrozumiałej dla ludzi.  

Podstawowa technologia w Diveplane nazywa się REACTOR, co sprawia, że jest to nowatorskie podejście do wyjaśniania maszynowego uczenia się?

Maszynowe uczenie się通常 obejmuje użycie danych do zbudowania modelu, który podejmuje określonego rodzaju decyzje. Decyzje mogą obejmować kąt skrętu kół dla pojazdu, czy zaakceptować lub odrzucić zakup lub oznaczyć go jako oszustwo, czy który produkt polecić komuś. Jeśli chcesz dowiedzieć się, jak model podjął decyzję, zwykle musisz zadać mu wiele podobnych decyzji, a następnie spróbować ponownie przewidzieć, co model sam zrobi. Techniki maszynowego uczenia się są albo ograniczone rodzajem informacji, które mogą zapewnić, albo przez to, że informacje, które faktycznie odzwierciedlają, co model zrobił, aby podjąć decyzję, lub mają niższą dokładność.

Praca z REACTOR jest zupełnie inna. REACTOR charakteryzuje niepewność Twoich danych i Twoje dane stają się modelem. Zamiast budowania jednego modelu na jeden rodzaj decyzji, po prostu pytaj REACTOR, co chcesz, aby zdecydował – może to być wszystko, co jest związane z danymi – i REACTOR zapyta, jakie dane są potrzebne do podjęcia decyzji. REACTOR zawsze może pokazać Ci dane, które użył, jak one są powiązane z odpowiedzią, każdy aspekt niepewności, przeciwny sposób myślenia i praktycznie każde dodatkowe pytanie, które chcesz zadać. Ponieważ dane są modelem, możesz edytować dane, a REACTOR zostanie natychmiast zaktualizowany. Może pokazać Ci, czy były jakieś dane, które wyglądały na nietypowe, które zostały użyte w decyzji, i śledzić każdą edycję danych i ich źródło.  REACTOR używa teorii prawdopodobieństwa na całej długości, co oznacza, że możemy powiedzieć Ci jednostki miary każdej części swojej pracy. I wreszcie, możesz odtworzyć i zwalidować każdą decyzję, używając tylko danych, które doprowadziły do decyzji i niepewności, używając dość prostej matematyki, bez konieczności użycia REACTOR.

REACTOR jest w stanie zrobić wszystko to, jednocześnie utrzymując wysoką konkurencyjną dokładność, zwłaszcza dla małych i rzadkich zbiorów danych.

GEMINAI to produkt, który tworzy cyfrową kopię zestawu danych, co to konkretnie oznacza i jak to zapewnia ochronę danych?

Gdy podajesz GEMINAI zestaw danych, buduje on głęboką wiedzę o statystycznym kształcie tych danych. Możesz go użyć do stworzenia syntetycznej kopii, która przypomina strukturę oryginalnych danych, ale wszystkie rekordy są nowo utworzone. Ale statystyczny kształt jest taki sam. Na przykład, średnia częstotliwość akcji pacjentów w obu zestawach byłaby prawie taka sama, jak wszystkie inne statystyki. Zatem każda analiza danych, która używa kopii, dałaby taką samą odpowiedź, jak oryginały, w tym szkolenie modeli maszynowego uczenia się. 

I jeśli ktoś ma rekord w oryginalnych danych, nie będzie miał rekordu w syntetycznej kopii. Nie tylko usuwamy imię – upewniamy się, że nie ma nowego rekordu, który jest “blisko” ich rekordu (i wszystkich innych) w przestrzeni informacyjnej. Tzn. nie ma rekordu, który jest rozpoznawalny w obu oryginalnym i syntetycznym zestawie. 

I to oznacza, że syntetyczny zestaw danych może być udostępniony znacznie swobodniej, bez ryzyka nieprawidłowego udostępniania poufnych informacji. Nie ma to znaczenia, czy są to transakcje finansowe, informacje o zdrowiu pacjentów, dane poufne – o ile statystyki danych nie są poufne, syntetyczna kopia nie jest poufna.  

Dlaczego GEMINAI jest lepszym rozwiązaniem niż używanie różnicowej prywatności?

Różnicowa prywatność to zestaw technik, które uniemożliwiają, aby prawdopodobieństwo wpływu jednostki na statystyki było większe niż marginalne, i jest to podstawowy element w niemal każdym rozwiązaniu ochrony danych. Jednak gdy różnicowa prywatność jest używana sama, budżet prywatności dla danych musi być zarządzany, z wystarczającym szumem dodanym do każdego zapytania. Gdy ten budżet jest wyczerpany, dane nie mogą być ponownie użyte bez narażenia na ryzyko prywatności.

Jednym ze sposobów, aby pokonać ten budżet, jest zastosowanie pełnego budżetu prywatności na raz, aby przeszkolić model maszynowego uczenia się do generowania syntetycznych danych. Pomysł polega na tym, że ten model, przeszkolony przy użyciu różnicowej prywatności, może być użyty dość bezpiecznie. Jednak prawidłowe zastosowanie różnicowej prywatności może być trudne, zwłaszcza jeśli są różne objętości danych dla różnych osób i bardziej złożone relacje, takie jak osoby mieszkające w tym samym domu. I syntetyczne dane wygenerowane z tego modelu często zawierają, przez przypadek, rzeczywiste dane, które osoba może uznać za swoje, ponieważ są one zbyt podobne.

GEMINAI rozwiązuje te problemy i więcej, łącząc wiele technik prywatności podczas syntetyzowania danych. Używa praktycznej formy różnicowej prywatności, która może pomieścić wiele rodzajów danych. Jest zbudowany na naszym silniku REACTOR, więc dodatkowo wie, jaka jest prawdopodobieństwo, że jakiekolwiek dane mogą być pomylone z innymi, i syntetyzuje dane, upewniając się, że są one zawsze wystarczająco różne od najbardziej podobnych oryginalnych danych. Ponadto traktuje każde pole, każde dane jako potencjalnie wrażliwe lub identyfikujące, więc stosuje praktyczne formy różnicowej prywatności dla pól, które nie są tradycyjnie uważane za wrażliwe, ale mogą unikalnie identyfikować osobę, takie jak jedyna transakcja w 24-godzinnym sklepie między 2 a 3 rano. Często nazywamy to “prywatnym krzyżowaniem”.

GEMINAI jest w stanie osiągnąć wysoką dokładność dla niemal każdego celu, który wygląda jak oryginalne dane, ale uniemożliwia komukolwiek znalezienie jakichkolwiek syntetycznych danych, które są zbyt podobne do syntetycznych danych.

Diveplane odegrało instrumentalną rolę w założeniu Sojuszu Danych i Zaufania, co to jest ten sojusz?

To absolutnie fantastyczna grupa CEO technologicznych, współpracujących w celu opracowania i przyjęcia odpowiedzialnych praktyk danych i sztucznej inteligencji. Światowej klasy organizacje, takie jak IBM, Johnson&Johnson, Mastercard (MA ), UPS, Walmart (WMT ) i Diveplane. Jesteśmy bardzo dumni, że byliśmy częścią wczesnych etapów i także dumni z pracy, którą wspólnie wykonaliśmy na naszych inicjatywach. 

Diveplane niedawno zakończyło udaną rundę finansowania serii A, co to oznacza dla przyszłości spółki?

Mieliśmy szczęście być sukcesywni w naszych projektach przedsiębiorstw, ale trudno zmienić świat jeden przedsiębiorstw na raz. Użyjemy tego wsparcia, aby zbudować nasz zespół, podzielić się naszym przekazem i wprowadzić Understandable AI w jak najwięcej miejsc.

Czy jest coś jeszcze, co chciałbyś podzielić się na temat Diveplane?

Diveplane to wszystko o tym, aby upewnić się, że sztuczna inteligencja jest wykonywana właściwie, gdy się rozpowszechnia. Jesteśmy o sprawiedliwej, przejrzystej i zrozumiałej sztucznej inteligencji, proaktywnie pokazując, co napędza decyzje, i oddalając się od “czarnej skrzynki” w sztucznej inteligencji, która ma potencjał być niesprawiedliwa, nieetyczna i uprzedzona. Uważamy, że wyjaśnialność jest przyszłością sztucznej inteligencji i jesteśmy podekscytowani, że możemy odegrać kluczową rolę w jej napędzaniu do przodu!

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Diveplane.