Chester Leung, Co-Fondator și Șef al Platformei de Inteligență Artificială la OPAQUE – Seria de Interviuri

Chester Leung este Co-Fondator și Șef al Arhitecturii Platformei la OPAQUE, o companie de tip startup din seria A care dezvoltă o platformă de date și inteligență artificială confidențială care permite echipelor să extindă fluxurile de date ale întreprinderilor cu un strat confidențial, permițând astfel obținerea de insight-uri mai rapide și cu mai puțin efort și asigurând confidențialitate și control verificabil.

Înainte, Chester a fost student la masterat în informatică la UC Berkeley, unde a publicat articole recenzate la conferințe de top și a servit, de asemenea, ca lider de întreținere a proiectului open-source MC2 pentru analize și învățare automată colaborativă și securizată.

Ați co-fondat Opaque după perioada petrecută la RISELab, UC Berkeley, unde munca dvs. a combinat inteligența artificială și sisteme securizate. Care a fost lacuna specifică din infrastructura de date a întreprinderilor pe care ați observat-o și care v-a condus la crearea OPAQUE, și cum a influențat experiența dvs. academică direcția companiei?

În acea perioadă, exista o focalizare imensă, atât în mediul academic, cât și în industrie, pe utilizarea învățării automate pentru anumite cazuri de utilizare. În laborator, am avut șansa de a lucra îndeaproape cu sponsori importanți din cadrul întreprinderilor care ne-au ajutat să dăm formă cercetărilor noastre pentru a rezolva probleme mai presante cu care se confruntau în cadrul organizațiilor lor. Grupul nostru, în special, a avut oportunitatea de a lucra strâns cu companii din domeniul tehnologiei și al serviciilor financiare, colaborând pentru a rezolva probleme dificile legate de confidențialitate în utilizarea datelor sensibile, dar valoroase, pentru învățarea automată. La fel ca și în toate domeniile inteligenței artificiale, învățarea automată se bazează pe cantități mari de date de înaltă calitate pentru a produce insight-uri valoroase și robuste.

Am întâlnit același model de mai multe ori, colaborând cu echipe de la companii precum Amazon (AMZN ), Scotiabank și Ant Group (pe atunci Ant Financial): proiectele lor bazate pe învățarea automată s-au oprit înainte de a ajunge la producție din cauza problemelor legate de utilizarea datelor sensibile, dar critice, pentru aceste cazuri de utilizare. Cu alte cuvinte, aceste echipe nu au putut utiliza inteligența artificială în proiecte pe care știau că ar putea genera valoare pentru companie, nu din cauza unei probleme tehnice cu inteligența artificială, ci pentru că nu au putut obține acces la datele potrivite.

La Opaque, am rezolvat o problemă identică. Am ajutat echipele să obțină acces la datele potrivite, permițându-le să deblocheze sau să își extindă capacitățile de inteligență artificială. Singura schimbare de la zilele noastre de cercetare a fost urgența problemei: acum vedem în mod constant adoptarea și integrarea inteligenței artificiale, care continuă să fie o prioritate strategică la nivel de companie, îngreunată de accesul la datele potrivite.

Într-un peisaj în care întreprinderile investesc puternic în modele de raționament și inteligență artificială autonomă, de ce credeți că conductele de date securizate sunt mai importante ca niciodată?

Conductele de date securizate reprezintă coloana vertebrală pe care întreprinderile construiesc modele de raționament și inteligență artificială autonomă. Totul, de la antrenarea acestor modele de raționament la implementarea inteligenței artificiale autonome, implică date sensibile și se bazează pe conducte de date securizate.

De exemplu, vedem acum, ca industrie, o investiție în creștere pentru generarea de date de înaltă calitate pentru antrenarea acestor modele. Unele rapoarte au prevăzut chiar că investiția în computație pentru generarea de date de înaltă calitate va depăși curând investiția în antrenarea modelelor însele. Desigur, generarea datelor este un proces multi-etapă, alimentat de conducte care produc cel mai valoros activ al unei întreprinderi: date de înaltă calitate, specifice domeniului, care pot antrena modele ce generează o valoare imensă în aval. Investiția în generarea acestor date este enormă, iar datele generate, dată fiind proveniența lor, disting în mod efectiv o întreprindere de concurenții săi, servind ca o barieră. O întreprindere trebuie să facă totul pentru a păstra securizată această conductă.

Platforma de calcul confidențială OPAQUE permite analize pe date criptate. Care sunt principalele provocări tehnice în ceea ce privește scalabilitatea și accesibilitatea pentru medii de întreprindere?

Platforma noastră de inteligență artificială confidențială nu numai că permite analize, învățare automată și inteligență artificială generativă pe date criptate, dar oferă și dovezi verificabile că datele dvs. au fost utilizate în modul în care ați așteptat și permis.

Provocările principale, legate de scalabilitate, dezvoltare și gestionare, constau în asigurarea orchestrării încărcării de lucru într-un mod securizat și verificabil la scară. În special, multe întreprinderi utilizează în prezent servicii de cloud gestionate atunci când au nevoie de scalare. Acest lucru poate fi atât eficient din punct de vedere al costurilor, cât și convenabil. Cu toate acestea, o parte a software-ului care alimentează serviciile de cloud gestionate este, în mod inerent, gestionată de furnizorul de cloud. Astfel, provocarea constă în a securiza și verifica software-ul care nu se află sub controlul organizației. Dacă organizația preia controlul asupra tuturor software-ului, ce trebuie să sacrifice și ce pierde prin nefolosirea unui serviciu gestionat?

Ați spus că o arhitectură securizată prin proiectare poate oferi un avantaj competitiv durabil. Puteți explica cum se aplică acest principiu în practică pentru echipele de inteligență artificială din întreprinderi?

Există două perspective de abordare a acestui aspect: una din punct de vedere al produsului și una din punct de vedere al ingineriei.

Din punct de vedere al produsului, toată lumea înțelege că datele lor sunt radioactive, reprezintă o barieră sau ambele. Întreprinderile devin tot mai mature în evaluarea soluțiilor din punct de vedere al confidențialității datelor, securității și suveranității. Prin urmare, orice echipă care construiește orice produs care prelucrează date ale întreprinderii trebuie să ofere garanții că datele prelucrate sunt vizibile și utilizate numai de părți și entități autorizate. O arhitectură securizată prin proiectare oferă încredere că confidențialitatea, securitatea și suveranitatea datelor au fost luate în considerare ca aspecte de bază în proiectarea produsului și permite produsului să ofere în mod explicit aceste garanții.

Din punct de vedere al ingineriei, o arhitectură securizată prin proiectare este mai extensibilă și mai sigură pentru viitor. Echipele juridice, de risc și de conformitate devin tot mai stricte în răspunsul la noile riscuri și reglementări. Astfel, organizațiile de inginerie ar trebui să construiască sisteme de inteligență artificială securizate din start, astfel încât să nu fie nevoite să restructureze și/sau să corecteze sistemul odată ce realizează că sistemul existent nu este suficient de sigur și lipsit de riscuri. A fi nevoit să restructurezi și să corectezi costă luni, dacă nu ani, de valoare a capacității de inginerie.

Cum ar trebui organizațiile să reconsidere rolul datelor – dincolo de a fi o resursă – ca o barieră defensivă?

Există un consens tot mai mare în industrie că datele ar putea fi în curând singura barieră pe care o are o organizație. Am văzut cercetare și inginerie talentată, precum și tehnologii și produse geniale pe care le construiesc, să sară de la o organizație la alta. Ca rezultat, multe organizații sunt capabile să ofere aceleași produse, susținute de aceleași tehnologii.

Ceea ce nu poate fi transferat cu ușurință de la o organizație la alta, însă, este datele organizației – cu excepția cazului în care este scursă. Mai mult, aceste date pot face un produs mai atractiv decât concurenții săi – mai personalizat, mai adaptat și mai specific domeniului. Organizațiile trebuie să facă totul pentru a-și securiza datele, permițându-le să-și utilizeze datele ca avantaj competitiv.

Ce arată o conductă de inteligență artificială rezilientă în practică și cum ajută companiile să evite costuri sau riscuri ascunse în timp ce extind implementările de inteligență artificială?

O conductă de inteligență artificială rezilientă este una care este fiabilă, tolerantă la defecte, dar mai ales, securizată în mod verificabil de la capăt la capăt. Înainte de prelucrare, companiile ar trebui să verifice atât datele care intră în conductă, cât și conducta în sine, pentru a se asigura că nu există nicio posibilitate ca conducta să nu utilizeze datele în mod greșit. În timpul prelucrării, conducta de inteligență artificială ar trebui să fie protejată împotriva tamperării, pentru a se asigura că nimeni nu poate fura date sau distorsiona insight-urile pe care le oferă. După prelucrare, conducta de inteligență artificială ar trebui să fie verificabil auditabilă, astfel încât o echipă să poată observa și explica luarea deciziilor și traiectoria conductei de inteligență artificială și să poată vedea ce a mers prost atunci când ceva merge prost.

Este esențial să se ia în considerare modul în care o conductă de inteligență artificială nesigură sau defectuoasă ar putea scurge datele unei organizații sau modelul său de proprietate intelectuală și implicațiile pe care le are asupra factorilor de diferențiere ai companiei sau asupra reputației sale. Mai important, cu cât companiile extind implementarea inteligenței artificiale în cazuri de utilizare mai critice și mai impactante, cu atât crește riscul unei conducte de inteligență artificială nesigure și neverificabile. Într-o lume în care deciziile de creditare și angajare sunt deja îmbunătățite de inteligența artificială, afectând de la finanțe personale la carieră, o eroare intenționată sau neintenționată într-o conductă de inteligență artificială ar putea avea un efect dramatic asupra vieții unui individ.

Întreprinderile se concentrează adesea pe acuratețea modelului sau pe latență. Ce omit atunci când vine vorba de integritatea datelor și de riscul operațional pe termen lung?

În timp ce multe întreprinderi se concentrează pe model sau tehnologia de inteligență artificială, am crezut întotdeauna că datele reprezintă blocajul fundamental pentru implementarea inteligenței artificiale care generează valoare.

Avea un model care generează rapid o răspuns precis despre un subiect pe care utilizatorul final nu îl îngrijorează produce zero valoare. Pentru a construi un produs unic și atractiv, întreprinderile trebuie să se asigure că modelele lor, și produsele pe care le alimentează, sunt antrenate cu date de înaltă calitate și relevante. Problemele de igienă a datelor care rezultă din lipsa datelor de intrare de înaltă calitate pot să nu apară decât luni mai târziu.

În al doilea rând, am constatat că întreprinderile, în general, nu au o poveste bună despre detectarea derivării datelor, contaminării sau scurgerii, ceea ce pune în pericol integritatea modelului. Acest lucru este strâns legat de primul meu punct și, deși este mai mult o soluție reactivă, face ca evaluările și observabilitatea să fie și mai importante.

OPAQUE se integrează în stivele de cloud existente. Ce ați învățat despre echilibrul dintre ușurința adoptării și garanțiile de securitate puternice în implementările de întreprindere?

Am petrecut aproape un deceniu, începând cu zilele noastre de cercetare, rezolvând această problemă. Securitatea dovedită a sistemelor de inteligență artificială, în special într-un mediu de întreprindere, este o problemă foarte dificilă. Acesta necesită expertiză în sisteme, securitate, criptografie și inteligență artificială. Ca urmare, majoritatea sistemelor pe care le-am întâlnit nu au fost fundamental securizate – pentru că securitatea este atât de greu de implementat.

La Opaque, am construit un produs care reprezintă cea mai bună variantă a ambelor lumi – în mod inerent și verificabil securizat de la zero, dar ușor de implementat prin intermediul magazinelor de cloud și suficient de flexibil pentru a se integra în noi și existente aplicații de inteligență artificială.

Ce tipuri de amenințări sau vulnerabilități apar în jurul conductelor de inteligență artificială și al schimbului de date pe care liderii întreprinderilor nu le pot aprecia pe deplin încă?

Ceea ce vedem în această goană după agenți inteligenți artificiali este o urgență oarbă de a implementa agenți inteligenți artificiali care interacționează cu diverse sisteme de înregistrare. Deși acești agenți pot oferi valoare, ei reprezintă și riscuri enorme, deoarece ating atâtea sisteme cu date valoroase. Agenții sunt în mod inerent nedeterminiști, și am văzut nenumărate cazuri în care ei fac ceva pe care nu ne așteptăm. Într-o lume în care datele dvs. reprezintă singura barieră, liderii întreprinderilor ar trebui să se întrebe întotdeauna dacă pot încredința și depinde de agenții inteligenți artificiali care au acces la toate datele lor pentru a nu utiliza sau scurge datele în mod accidental sau intenționat.

Cum anticipați că va evolua interacțiunea dintre infrastructura de date securizată, responsabilitatea modelului și conformitatea pe următorii ani, pe măsură ce reglementarea inteligenței artificiale se conturează la nivel global?

Infrastructura de date securizată verificabilă permite responsabilitatea modelului și a agentului. În special, fără dovezi verificabile ale luării deciziilor sau utilizării uneltei de către un agent sau model, nu putem fi siguri de nimic, așa că nu vom putea urmări responsabilitatea. Pe măsură ce inteligența artificială devine tot mai integrată în viața noastră de zi cu zi, vom dori mai multă explicație și observabilitate în inteligența artificială. Cu toate acestea, atunci când inteligența artificială poate opera la viteza mașinilor, și noi nu putem, un agent malign poate ușor să ne păcălească prin construirea unor istorii false. Avem nevoie de verificabilitate pentru a ține inteligența artificială responsabilă.

În ceea ce privește mine, conformitatea reglementară este foarte reactivă. Dezvoltarea și adoptarea reglementărilor se mișcă mult mai lent decât inovația tehnologică. Acest lucru va fi din ce în ce mai adevărat pe măsură ce inteligența artificială ne ajută să creștem viteza de inovare. Deși conformitatea va conduce în cele din urmă la adoptarea infrastructurii de date securizate de către întârzieri, adoptatorii timpurii și majoritatea timpurie recunosc că este esențială pentru siguranța inteligenței artificiale și o vor adopta cu mult înainte ca conformitatea să o facă obligatorie. Ei înțeleg că responsabilitatea agentului, facilitată de infrastructura de date securizată, este esențială pentru adoptarea propriilor produse alimentate de inteligență artificială.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre OPAQUE ar trebui să viziteze OPAQUE.