Mike Capps, Co-Fondator & CEO al Diveplane – Seria de Interviuri

Dr. Michael Capps este un cunoscut tehnolog și CEO al Corporației Diveplane. Înainte de a co-fonda Diveplane, Mike a avut o carieră legendară în industria jocurilor video ca președinte al Epic Games, producător al blockbuster-urilor Fortnite și Gears of War. Mandatul său a inclus peste o sută de premii “jocul anului”, zeci de conferințe cheie, un premiu pentru întreaga carieră și o apărare de succes a libertății de exprimare a jocurilor video în Curtea Supremă a Statelor Unite.

Diveplane oferă soluții de afaceri bazate pe inteligență artificială în multiple industrii. Cu șase brevete aprobate și multiple în așteptare, inteligența artificială explicabilă a Diveplane oferă o înțelegere completă și transparență decizională în sprijinul politicilor de inteligență artificială etică și strategiilor de protecție a datelor.

Ai reușit să te pensionezi de la o carieră de succes în industria jocurilor video la Epic Games, ce te-a inspirat să ieși din pension și să te concentrezi pe inteligența artificială?

A fost o plăcere să creez jocuri, dar – cel puțin la acea vreme – nu a fost o carieră ideală când aveam o familie nouă. M-am ținut ocupat cu funcții de consilier și roluri de consultanță, dar nu a fost deloc îndeplinitor. Așa că am făcut o listă cu trei probleme majore cu care se confruntă lumea și pe care le-aș putea influența – și printre acestea s-a numărat și proliferarea sistemelor de inteligență artificială “cutie neagră”. Planul meu a fost să petrec un an pe fiecare dintre acestea, dar câteva săptămâni mai târziu, prietenul meu genial Chris Hazard mi-a spus că lucrase în secret la o platformă de inteligență artificială transparentă și complet explicabilă. Și iată-ne aici.

Diveplane a fost fondat cu misiunea de a aduce umanitate în inteligența artificială, poți să explici ce înseamnă acest lucru în mod specific?

Sigur. Aici folosim termenul “umanitate” pentru a însemna “umanism” sau “compasiune”. Pentru a asigura că cel mai bun din umanitate este în modelul tău de inteligență artificială, nu poți doar să antrenezi, să testezi puțin și să sper că totul este în regulă.

Trebuie să examinăm cu atenție datele de intrare, modelul în sine și ieșirea modelului și să ne asigurăm că reflectă cel mai bun din umanitatea noastră. Majoritatea sistemelor antrenate pe date istorice sau din lumea reală nu vor fi corecte de la început și nu sunt neapărat lipsite de prejudecăți. Credem că singura modalitate de a elimina prejudecățile dintr-un model – atât erorile statistice, cât și prejudecățile – este combinația de transparență, auditabilitate și explicație inteligibilă pentru oameni.

Tehnologia de bază de la Diveplane se numește REACTOR, ce face ca această abordare să fie nouă și inovatoare pentru a face învățarea mașinilor explicabilă?

Învățarea mașinilor implică de obicei utilizarea datelor pentru a construi un model care ia anumite tipuri de decizii. Deciziile pot include unghiul de rotire a roților pentru un vehicul, dacă se aprobă sau se respinge o achiziție sau se marchează ca fraudă, sau care produs să se recomande cuiva. Dacă doriți să învățați cum a luat modelul decizia, de obicei trebuie să-i puneți modelului multe întrebări asemănătoare și apoi să încercați din nou să anticipați ce ar face modelul. Tehnicile de învățare a mașinilor sunt fie limitate în ceea ce privește insight-urile pe care le pot oferi, fie de faptul că insight-urile reflectă ceea ce a făcut modelul pentru a lua decizia, sau de faptul că au o precizie mai mică.

Lucrul cu REACTOR este cu totul diferit. REACTOR caracterizează incertitudinea datelor dvs., iar datele devin modelul. În loc să construiți un model pentru fiecare tip de decizie, pur și simplu întrebați REACTOR ce doriți să decidă – poate fi orice legat de date – și REACTOR solicită ce date sunt necesare pentru o anumită decizie. REACTOR poate arăta întotdeauna datele pe care le-a utilizat, cum se relatează la răspuns, fiecare aspect al incertitudinii, raționamentul contrafactual și practic orice altă întrebare pe care doriți să o puneți. Deoarece datele sunt modelul, puteți edita datele și REACTOR va fi actualizat instantaneu. Poate arăta dacă a existat vreo dată care părea anormală care a intrat în decizie și poate urmări fiecare editare a datelor și a sursei sale. REACTOR utilizează teoria probabilității pe tot parcursul, ceea ce înseamnă că putem spune unitățile de măsură ale fiecărei părți a operațiunii sale. Și, în final, puteți reproduce și valida orice decizie utilizând doar datele care au condus la decizie și incertitudinile, utilizând matematică relativ simplă, fără a necesita chiar REACTOR.

REACTOR este capabil să facă toate acestea menținând o precizie competitivă, în special pentru seturi de date mici și rare.

GEMINAI este un produs care construiește un gemene digital al unui set de date, ce înseamnă acest lucru în mod specific și cum se asigură astfel confidențialitatea datelor?

Când alimentați GEMINAI cu un set de date, acesta construiește o cunoaștere profundă a formei statistice a acelor date. Puteți utiliza acesta pentru a crea un gemene sintetic care seamănă cu structura datelor originale, dar toate înregistrările sunt create din nou. Dar forma statistică este aceeași. Deci, de exemplu, ritmul cardiac mediu al pacienților în ambele seturi ar fi aproape același, la fel ca și toate celelalte statistici. Astfel, orice analiză a datelor utilizând gemenele ar da același răspuns ca și datele originale, inclusiv antrenarea modelelor de învățare a mașinilor.

Și dacă cineva are o înregistrare în datele originale, nu va exista nicio înregistrare pentru acea persoană în gemenele sintetic. Nu doar înlăturăm numele – ne asigurăm că nu există nicio înregistrare nouă care să fie “aproape” de înregistrarea respectivă (și de toate celelalte) în spațiul informațional. Adică, nu există nicio înregistrare care să fie recunoscută atât în setul original, cât și în setul sintetic.

Și asta înseamnă că setul de date sintetic poate fi partajat mult mai liber, fără niciun risc de a partaja informații confidențiale în mod necorespunzător. Nu contează dacă este vorba de tranzacții financiare personale, informații de sănătate ale pacienților, date clasificate – atâta timp cât statistica datelor nu este confidențială, nici gemenele sintetice nu este confidențial.

De ce GEMINAI este o soluție mai bună decât utilizarea confidențialității diferențiale?

Confidențialitatea diferențială este un set de tehnici care mențin probabilitatea ca orice individ să influențeze statisticile mai mult decât o cantitate marginală și este o piesă fundamentală în orice soluție de protecție a datelor. Cu toate acestea, atunci când confidențialitatea diferențială este utilizată singură, un buget de confidențialitate pentru date trebuie gestionat, cu zgomot suficient adăugat la fiecare întrebare. Odată ce acest buget este epuizat, datele nu pot fi utilizate din nou fără a incuraja riscuri de confidențialitate.

Un mod de a depăși acest buget este de a aplica bugetul de confidențialitate integral deodată pentru a antrena un model de învățare a mașinilor care să genereze date sintetice. Ideea este că acest model, antrenat utilizând confidențialitatea diferențială, poate fi utilizat relativ în siguranță. Cu toate acestea, aplicarea corectă a confidențialității diferențiale poate fi dificilă, în special dacă există volume de date diferite pentru diferiți indivizi și relații mai complexe, cum ar fi oamenii care trăiesc în aceeași casă. Și datele sintetice produse din acest model sunt adesea probabil să conțină, din întâmplare, date reale pe care un individ le-ar putea revendica ca fiind ale lor, deoarece sunt prea asemănătoare.

GEMINAI rezolvă aceste probleme și multe altele prin combinarea mai multor tehnici de confidențialitate atunci când sintetizează datele. Utilizează o formă practică de confidențialitate diferențială care poate fi adaptată unei game largi de tipuri de date. Este construit pe motorul nostru REACTOR, deci cunoaște, de asemenea, probabilitatea ca orice piese de date să poată fi confundate unele cu altele și sintetizează date astfel încât să fie întotdeauna suficient de diferite de datele originale cele mai asemănătoare. De asemenea, tratează fiecare câmp, fiecare piesă de date ca fiind potențial sensibilă sau identificatoare, astfel încât aplică forme practice de confidențialitate diferențială pentru câmpuri care nu sunt în mod tradițional considerate sensibile, dar care ar putea identifica în mod unic un individ, cum ar fi singura tranzacție într-un magazin deschis 24 de ore, între orele 2 și 3 dimineața. Adesea ne referim la acest lucru ca la “tăiere transversală a confidențialității”.

GEMINAI este capabil să obțină o precizie ridicată pentru aproape orice scop, care seamănă cu datele originale, dar împiedică pe oricine să găsească date sintetice prea asemănătoare.

Diveplane a fost instrumental în co-fondarea Alianței pentru Date și Încredere, ce este această alianță?

Este un grup absolut fantastic de CEO-uri din tehnologie, care colaborează pentru a dezvolta și adopta practici responsabile de date și inteligență artificială. Organizații de clasă mondială, cum ar fi IBM, Johnson & Johnson, Mastercard (MA ), UPS, Walmart (WMT ) și Diveplane. Suntem foarte mândri că am fost parte a etapelor inițiale și suntem, de asemenea, mândri de munca pe care am realizat-o colectiv asupra inițiativelor noastre.

Diveplane a strâns recent o rundă de finanțare de succes Seria A, ce va însemna acest lucru pentru viitorul companiei?

Am fost norocoși să fim de succes cu proiectele noastre pentru întreprinderi, dar este dificil să schimbi lumea o întreprindere odată. Vom utiliza acest sprijin pentru a construi echipa noastră, a împărtăși mesajul nostru și a face inteligența artificială explicabilă în cât mai multe locuri posibile!

Există altceva pe care ai vrea să-l împărtășești despre Diveplane?

Diveplane este despre a face inteligența artificială corect, pe măsură ce se răspândește. Suntem pentru inteligența artificială corectă, transparentă și explicabilă, arătând proactiv ce stă în spatele deciziilor și îndepărtându-ne de “mentalitatea cutiei negre” în inteligența artificială, care are potențialul de a fi incorectă, neetică și părtinitoare. Credem că explicabilitatea este viitorul inteligenței artificiale și suntem încântați să jucăm un rol cheie în promovarea acesteia!

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe despre Diveplane.