Mike Capps, a Diveplane – Interjúsorozat társalapítója és vezérigazgatója

Dr. Michael Capps jól ismert technológus és a Diveplane Corporation vezérigazgatója. A Diveplane társalapítója előtt Mike legendás karriert futott be a videojáték-iparban az Epic Games elnökeként, a Fortnite és a Gears of War kasszasikerek készítőiként. Mandátuma során száz „Az év játéka” díj, több tucat konferencia vitaindító, egy életműdíj, valamint egy sikeres videojáték-védés az Egyesült Államok Legfelsőbb Bíróságán.

Diveplan AI-alapú üzleti megoldásokat kínál több iparágban. A hat jóváhagyott és több függőben lévő szabadalommal a Diveplane's Understandable AI teljes megértést és döntési átláthatóságot biztosít az etikus mesterségesintelligencia-irányelvek és adatvédelmi stratégiák támogatása érdekében.

Sikeresen visszavonultál az Epic Games videojáték-ipari karrierjétől. Mi inspirált arra, hogy visszavonulva a mesterséges intelligenciára összpontosíts?

A játékkészítés nagy élmény volt, de – legalábbis akkoriban – nem volt ideális karrier új családdal. Folyamatosan a testületi ülésekkel és a tanácsadói szerepekkel voltam elfoglalva, de ez egyszerűen nem vált be. Így hát összeállítottam egy listát három olyan nagy problémáról, amelyekkel a világ szembesül, amelyekre hatással lehetek – köztük a fekete dobozos mesterséges intelligencia rendszerek elterjedése. Az volt a tervem, hogy mindegyikre egy évet töltök, de néhány héttel később zseniális barátom, Chris Hazard elmondta, hogy titokban egy átlátható, teljesen megmagyarázható AI-platformon dolgozott. És itt vagyunk. 

A Diveplanet azzal a küldetéssel indították, hogy az emberiséget a mesterséges intelligencia felé vezesse. Kifejtenéd, mit jelent ez konkrétan?

Biztos. Itt az emberséget az „emberiség” vagy az „együttérzés” kifejezésére használjuk. Ahhoz, hogy megbizonyosodjon arról, hogy az emberiség legjava benne van a mesterséges intelligencia modelljében, nem edzhet, tesztelhet egy kicsit, és remélheti, hogy minden rendben van. 

Gondosan át kell tekintenünk a bemeneti adatokat, magát a modellt és a modell kimenetét, és meg kell bizonyosodnunk arról, hogy az emberiségünk legjavát tükrözi. A legtöbb történelmi vagy valós adatokra oktatott rendszer nem lesz elsőre helyes, és nem is feltétlenül elfogulatlan. Meggyőződésünk, hogy az átláthatóság, az auditálhatóság és az ember által érthető magyarázat kombinációja az egyetlen módja annak, hogy egy modellben kiküszöböljük a torzítást – ami a statisztikai hibákat és az előítéleteket egyaránt jelenti.  

A Diveplane alaptechnológiáját REACTOR-nak hívják. Mi teszi ezt a gépi tanulás magyarázhatóvá tételének újszerű megközelítését?

A gépi tanulás általában azt jelenti, hogy adatokat használnak fel egy olyan modell felépítéséhez, amely egy adott típusú döntést hoz. A döntések magukban foglalhatják a jármű kerekeinek elforgatásának szögét, a vásárlás jóváhagyását vagy elutasítását, vagy csalásként való megjelölést, vagy azt, hogy melyik terméket ajánlják valakinek. Ha meg akarja tudni, hogyan döntött a modell, általában sok hasonló döntést kell megkérdeznie tőle, majd újra meg kell próbálnia megjósolni, hogy maga a modell mit tehet. A gépi tanulási technikák vagy korlátozottak az általuk kínált betekintési módok tekintetében, attól függően, hogy a betekintések ténylegesen tükrözik-e azt, amit a modell tett a döntés meghozatalakor, vagy pedig kisebb a pontosságuk.

A REACTOR-szal való munka egészen más. A REACTOR jellemzi az Ön adatainak bizonytalanságát, és az Ön adatai válnak a modellé. Ahelyett, hogy döntéstípusonként egy modellt hozna létre, csak kérdezze meg a REACTOR-tól, hogy mit szeretne eldönteni – bármi lehet az adatokkal kapcsolatos –, és a REACTOR lekérdezi, hogy egy adott döntéshez milyen adatokra van szükség. A REACTOR mindig meg tudja mutatni az általa felhasznált adatokat, hogyan kapcsolódik a válaszhoz, a bizonytalanság minden aspektusát, a kontrafaktuális érvelést és gyakorlatilag bármilyen további kérdést, amelyet fel szeretne tenni. Mivel az adatok a modellek, szerkesztheti az adatokat, és a REACTOR azonnal frissül. Megmutathatja, hogy voltak-e olyan adatok, amelyek anomálisnak tűntek a döntés során, és minden szerkesztést nyomon követhet az adatokhoz és azok forrásához. A REACTOR végig a valószínűségszámítást használja, ami azt jelenti, hogy működésének minden részéhez meg tudjuk mondani a mértékegységeket. Végül pedig bármilyen döntést reprodukálhat és érvényesíthet pusztán a döntéshez vezető adatok és a bizonytalanságok felhasználásával, viszonylag egyszerű matematikával anélkül, hogy REACTOR-ra lenne szüksége.

A REACTOR mindezt úgy tudja megtenni, hogy közben megőrzi a rendkívül versenyképes pontosságot, különösen kis és ritka adatkészletek esetén.

A GEMINAI egy olyan termék, amely egy adatkészlet digitális ikerpárját építi fel, mit jelent ez konkrétan, hogyan biztosítja ez az adatvédelmet?

Amikor a GEMINAI-t táplálja egy adatkészlettel, mélyreható ismereteket épít ki az adatok statisztikai alakjáról. Használhatja szintetikus iker létrehozására, amely hasonlít az eredeti adatok szerkezetére, de minden rekord újonnan jön létre. De a statisztikai alakzat ugyanaz. Így például a betegek átlagos pulzusszáma mindkét csoportban közel azonos lenne, mint az összes többi statisztika. Így az ikerpárt használó bármely adatelemzés ugyanazt a választ adná, mint az eredetiek, beleértve az ML modellek betanítását is. 

És ha valakinek rekordja van az eredeti adatokban, akkor a szintetikus ikerben nem lesz rekord. Nem csak a nevet távolítjuk el, hanem gondoskodunk arról, hogy ne legyen új rekord a saját (és az összes többi) rekordjuk közelében az információs térben. Vagyis nincs olyan lemez, amely az eredeti és a szintetikus készletben is felismerhető lenne. 

Ez pedig azt jelenti, hogy a szintetikus adatkészlet sokkal szabadabban megosztható anélkül, hogy fennállna a bizalmas információk helytelen megosztásának veszélye. Nem számít, hogy személyes pénzügyi tranzakciókról, betegegészségügyi információkról vagy minősített adatokról van szó – amíg az adatok statisztikái nem bizalmasak, addig a szintetikus iker nem is bizalmas.  

Miért jobb megoldás a GEMINAI, mint az eltérő adatvédelem alkalmazása?

A differenciális adatvédelem olyan technikák összessége, amelyek megakadályozzák annak valószínűségét, hogy egy személy egy határértéknél nagyobb mértékben befolyásolja a statisztikákat, és szinte minden adatvédelmi megoldás alapvető eleme. Ha azonban a differenciált adatvédelmet egyedül alkalmazzák, az adatokra vonatkozó adatvédelmi költségvetést kell kezelni, és minden lekérdezéshez elegendő zajt kell hozzáadni. A költségvetés felhasználása után az adatok nem használhatók fel újra adatvédelmi kockázatok nélkül.

Ennek a költségkeretnek a leküzdésének egyik módja az, hogy egyszerre alkalmazza a teljes adatvédelmi költségvetést, hogy megtanítsa a gépi tanulási modellt szintetikus adatok generálására. Az ötlet az, hogy ez a differenciális adatvédelemre kiképzett modell viszonylag biztonságosan használható. A differenciált adatvédelem megfelelő alkalmazása azonban trükkös lehet, különösen akkor, ha a különböző egyénekhez eltérő adatmennyiség és összetettebb kapcsolatok állnak rendelkezésre, például egy házban élő emberek. Az ebből a modellből előállított szintetikus adatok pedig gyakran véletlenül tartalmaznak olyan valós adatokat, amelyekről az egyén azt állíthatja, hogy a sajátja, mert túlságosan hasonlóak.

A GEMINAI megoldja ezeket a problémákat és még sok mást azáltal, hogy több adatvédelmi technikát kombinál az adatok szintetizálása során. A differenciált adatvédelem megfelelő gyakorlati formáját használja, amely sokféle adattípust képes kezelni. A REACTOR motorunkra épül, így emellett ismeri annak a valószínűségét, hogy az adatok összekeverhetők egymással, és szintetizálja az adatokat, ügyelve arra, hogy mindig kellően eltérjenek a leginkább hasonló eredeti adatoktól. Ezen túlmenően minden mezőt, minden adatot potenciálisan érzékenyként vagy azonosításra alkalmasként kezel, így a megkülönböztetett adatvédelem gyakorlati formáit alkalmazza olyan mezőkre, amelyeket hagyományosan nem tekintenek érzékenynek, de egyedileg azonosíthatják az egyént, például az egyetlen tranzakciót egy 24 - órás üzlet 2 és 3 óra között. Ezt gyakran adatvédelmi kereszt-aprításnak nevezzük.

A GEMINAI szinte bármilyen célra képes nagy pontosságot elérni, ami úgy néz ki, mint az eredeti adat, de megakadályozza, hogy bárki a szintetikus adatokhoz túlságosan hasonló szintetikus adatot találjon.

A Diveplane fontos szerepet játszott a Data & Trust Alliance társalapításában, mi ez a szövetség?

Ez egy teljesen fantasztikus technológiai vezérigazgatók csoportja, akik együttműködnek felelős adatok és mesterséges intelligencia gyakorlatok kidolgozásában és elfogadásában. Világszínvonalú szervezetek, mint például az IBM, a Johnson&Johnson, a Mastercard, a UPS, a Walmart és a Diveplane. Nagyon büszkék vagyunk arra, hogy részesei lehettünk a kezdeti szakaszoknak, és büszkék vagyunk arra a munkára is, amelyet közösen végzünk kezdeményezéseink során. 

A Diveplane a közelmúltban sikeres Series A kört hozott fel, mit jelent ez a cég jövője szempontjából?

Szerencsések voltunk, hogy sikeresek voltunk a vállalati projektjeinkkel, de nehéz vállalatonként megváltoztatni a világot. Ezt a támogatást csapatunk felépítésére, üzenetünk megosztására, valamint az érthető mesterséges intelligencia elérésére fogjuk használni, amennyire csak tudunk!

Van még valami, amit meg szeretne osztani a Diveplannel kapcsolatban?

A Diveplan lényege, hogy a mesterséges intelligencia megfelelően működjön, miközben szaporodik. Mi a tisztességes, átlátható és érthető mesterséges intelligencia, proaktívan megmutatjuk, mi vezet a döntésekhez, és eltávolodunk a mesterséges intelligencia „fekete dobozos mentalitásától”, amely tisztességtelen, etikátlan és elfogult lehet. Hiszünk abban, hogy a megmagyarázhatóság a mesterséges intelligencia jövője, és izgatottan várjuk, hogy kulcsszerepet játszhassunk ennek előmozdításában!

Köszönjük a remek interjút, azoknak az olvasóknak, akik többet szeretnének megtudni, látogassanak el Diveplan.