Jonathan Mortensen, Fondator și CEO al Confident Security – Seria de interviuri

Jonathan Mortensen, Fondator și CEO al Confident Security, conduce în prezent dezvoltarea sistemelor de inteligență artificială cu garanții de confidențialitate pentru industrii cu cerințe stricte de securitate și conformitate. El este, de asemenea, Fondator Fellow la South Park Commons, unde explorează viitorul calculului, memoriei, confidențialității și proprietății în domeniul inteligenței artificiale. Înainte de a lansa Confident Security, a fost inginer de software la Databricks, integrând tehnologia bit.io în platforma de date a companiei, cu accent pe securitate multi-tenant, IAM/ACL, izolare VPC, criptare și proprietate a datelor. Mai devreme, a fondat și a ocupat funcția de CTO la bit.io, construind un serviciu serverless PostgreSQL multi-cloud și multi-regiune care a susținut sute de mii de baze de date securizate și a fost ulterior achiziționat de Databricks.

Confident Security construiește infrastructuri care permit întreprinderilor să ruleze fluxuri de lucru de inteligență artificială fără a expune informații sensibile. Platforma sa este proiectată astfel încât prompturile, datele și ieșirile modelului să rămână pe deplin private, niciodată înregistrate și niciodată reutilizate, oferind organizațiilor o modalitate sigură de a adopta inteligența artificială în timp ce îndeplinesc standardele stricte de reglementare și conformitate.

Ați fondat Confident Security în 2024, după ce ați construit bit.io și ați lucrat la Databricks. Ce v-a determinat să realizați că inteligența artificială are nevoie de o abordare fundamental diferită a confidențialității?

Experiența mea în construirea de infrastructuri de date mi-a arătat că, dacă oamenii introduc informații sensibile într-un sistem, încrederea nu este suficientă. Ei au nevoie de dovezi. Am construit infrastructuri în care clienții dețineau datele lor, și le-am oferit modalități de a verifica acest lucru.

Când am examinat modul în care companiile utilizau modelele de inteligență artificială, aceste dovezi nu existau. Angajații introduceau codul sursă, documente juridice și înregistrări ale pacienților în modele gestionate de terți pe care nu-i puteau verifica. Am văzut deja conversații private indexate accidental online și modificări ale politicii care au transformat conversațiile în date de antrenament implicit. Acest lucru a arătat cât de fragilă este modelul actual de confidențialitate.

Dacă inteligența artificială urmează să gestioneze cele mai sensibile informații ale lumii, avem nevoie de garanții care nu depind de promisiunile interne ale unui furnizor. Acesta este motivul pentru care am fondat Confident Security.

OpenPCC este descris ca “Signal pentru IA”. De ce a fost important ca acest strat de confidențialitate să fie deschis, atestabil și interoperabil din prima zi?

Criptarea de la capăt la capăt nu a devenit populară până când a devenit un standard pe care oricine putea să-l adopte. Vrem același lucru și pentru confidențialitatea inteligenței artificiale. Dacă doar câteva companii pot oferi garanții reale, atunci confidențialitatea nu va scala.

OpenPCC este open source sub licența Apache 2.0, astfel încât oricine poate construi pe el sau îl poate inspecta. Nu există nicio cerință de încredere secretă. Attestarea hardware oferă dovezi criptografice despre ceea ce rulează și unde. Și am făcut astfel încât să funcționeze oriunde: orice cloud, orice furnizor de modele, orice stivă de dezvoltare.

Există o valoare uriașă într-un nivel de confidențialitate care este consistent și universal. Dacă utilizați OpenPCC, știți că datele dvs. nu sunt vizibile furnizorilor de modele, regulatorilor sau chiar și nouă. Un standard funcționează doar dacă întregul ecosistem poate participa, așa că am proiectat OpenPCC pentru a fi cât mai inclusiv posibil de la început.

Înainte de Confident Security, ați construit sisteme de scară largă pentru multi-locativitate, criptare și proprietate a datelor. Cum au influențat aceste experiențe arhitectura OpenPCC?

Aceste sisteme mi-au confirmat două adevăruri: dacă un sistem poate reține date, în cele din urmă va face acest lucru, indiferent dacă este prin jurnale, configurări greșite sau solicitări legale. Și încrederea nu este un model de confidențialitate. Utilizatorii au nevoie de vizibilitate și control.

OpenPCC rulează în modul fără stare, astfel încât prompturile dispar după procesare. Attestarea permite utilizatorilor să verifice unde merg datele lor și ce cod rulează. Și prin izolarea controlului de la date, OpenPCC previne ca intrările private să fie tratate vreodată ca instrucțiuni executabile.

Aceste constrângeri sunt ceea ce întreprinderile au așteptat: garanții că datele nu vor reapărea niciodată într-un loc neașteptat.

Ați argumentat că majoritatea soluțiilor “IA private” se bazează pe încrederea în sisteme opace. De ce este verificarea independentă esențială pentru confidențialitatea adevărată?

Majoritatea limbajului de confidențialitate de astăzi este, în esență, “încredere-ne”. Acest lucru nu este suficient atunci când mizele includ securitatea națională și datele de sănătate reglementate. Dacă utilizatorul nu poate verifica afirmația, nu este o garanție – este doar marketing.

Confidențialitatea verificabilă este diferită. Nu încrederea în intențiile operatorului. Verificați hardware-ul, imaginea de software și garanțiile de manipulare a datelor. Criptografia impune limite. Jurnalele nu există pentru ca cineva să le poată scurge sau solicita prin ordonanță judecătorească.

Când confidențialitatea este auditabilă de către utilizator, creați un sistem fundamental mai sigur. Este o răspundere înrădăcinată în matematică.

Anunțul “IA privată” al Google (GOOGL ) a apărut imediat după OpenPCC. Ați provocat public Google să ofere un TPU pentru testare independentă. Ce v-a motivat să faceți acest apel și ce ați așteptat să găsiți?

Pentru a afirma garanții de confidențialitate, ar trebui să lase comunitatea să le verifice. NVIDIA (NVDA ) permite deja verificarea externă pe GPU-urile sale H100, și am deschis chiar o versiune Go a bibliotecii de atestare pentru a încuraja adoptarea.

Dacă Google dorește să facă promisiuni similare pe TPUs, ar trebui să putem măsura și verifica aceste promisiuni, nu doar să le citim într-un articol de blog. Ne-am așteptat să găsim aceleași controale pe care le așteptăm de la orice sistem de confidențialitate: limite stricte de reținere a datelor, atestare auditabilă și nicio cale secretă prin care jurnalele sau telemetria să poată scăpa. Revendicările de confidențialitate trebuie să supraviețuiască examinării.

Pentru cititorii care nu sunt familiari cu mecanica, ce face ca canalele complet criptate ale OpenPCC să fie diferite de criptarea tradițională pe partea clientului sau de calculul confidențial?

Criptarea pe partea clientului protejează datele pe drumul spre interior, iar calculul confidențial protejează datele în timp ce sunt procesate, dar există încă lacune înainte și după procesare unde operatorii sau atacatorii pot accesa informații sensibile.

OpenPCC închide aceste lacune. Creează o cale sigură de la capăt la capăt între client și model care protejează promptul, răspunsul, identitatea utilizatorului și chiar semnalele de timp sau metadate care pot dezvălui intenția în mod tacit. Operatorii nu pot decripta nimic. Nimic nu este înregistrat sau reținut, chiar și în condiții de încălcare a securității.

Confidențialitatea nu ar trebui să depindă de speranța că furnizorul face lucrurile corecte în spatele scenei. Trebuie să fie impusă criptografic.

Cum schimbă verificarea confidențialității ecuația pentru industrii reglementate, cum ar fi finanțe, sănătate și apărare?

Industriile reglementate au cel mai mult de câștigat de pe urma inteligenței artificiale, dar și cel mai mult de pierdut dacă ceva este scurs. Astăzi, 78% dintre angajați introduc date interne în instrumente de inteligență artificială, și unul din cinci cazuri include informații reglementate, cum ar fi PHI sau PCI. Expunerea already are loc.

Verificarea confidențialității elimină cel mai mare obstacol. Prompturile sensibile nu există niciodată în text simplu în mediul furnizorului de modele. Nimic nu poate fi utilizat pentru antrenament. Chiar și solicitările legale nu pot accesa ceea ce sistemul însuși nu poate vedea.

Echipele de risc și conformitate au, în sfârșit, o cale în care “da” devine implicit, în loc de “nu”.

Care au fost cele mai mari provocări de inginerie în proiectarea unui strat de confidențialitate cloud-agnostic care funcționează peste orice stivă de întreprindere?

Calculul confidențial și atestarea la distanță sunt încă în copilărie, în opinia mea. Fiecare furnizor de cloud și furnizor de metal gol face ceva puțin diferit. Unii furnizori, cum ar fi AWS, nu au nici măcar hardware-ul necesar pentru a face acest lucru. Deci, fiecare funcție pe care o adăugăm este ca și cum am face 1000 de tăieturi și am umbla pe sârmă. Dar scopul este să devenim un standard deschis, așa că trebuie să o facem astfel încât să funcționeze pentru orice cloud. Este open source, așa că încurajez oamenii să adauge și mai multe platforme și configurații suportate!

Ce arată lumea cu criptare verificabilă implicită și cum ar putea restructura echilibrul puterii între întreprinderi, furnizori de cloud și furnizori de modele?

Întreprinderile păstrează controlul asupra celui mai valoros activ: datele lor. Furnizorii de modele concurează pe baza performanței și costului, în loc de a acumula cea mai mare cantitate de informații proprietare. Cloud-urile permit confidențialitate în loc de a fi martori tăcuți ai acesteia.

Este un echilibru mai sănătos de putere. Și întregul ecosistem câștigă atunci când securitatea este integrată în fundație, în loc de a fi aplicată ulterior.

Într-un viitor în care inteligența artificială devine ubicuă și puternic reglementată, cum vedeți confidențialitatea verificabilă restructurând peisajul competitiv pentru întreprinderi, furnizori de cloud și dezvoltatori de modele?

Regulatorii sunt deja în curs de a chestiona modul în care datele utilizatorilor sunt stocate și utilizate. Confidențialitatea bazată pe încredere nu va satisface mult timp. Utilizatorii vor aștepta garanții de confidențialitate așa cum așteaptă criptarea în aplicațiile de mesagerie de astăzi.

Câștigătorii vor fi companiile care nu cer utilizatorilor să facă compromisuri. Dacă puteți dovedi confidențialitate, câștigați încrederea organizațiilor care dețin cele mai valoroase date din lume. Datele devin utilizabile în locuri în care au fost blocate.

Mulțumim pentru acest interviu minunat. Citiitorii care doresc să afle mai multe pot vizita Confident Security.