Un cadru pentru înțelegerea peisajului calculului confidențial

Calculul confidențial este în plină expansiune

Sectorul calculului confidențial experimentează o undă de inovație în multiple direcții simultan. Mediile de execuție securizate (TEEs) se maturizează și devin mai ușor de implementat. (Criptarea omomorfă completă) FHE închide gapul de performanță care a menținut-o teoretică timp de ani. Iar ecosistemul Web3 continuă să promoveze tehnologia dovedirii cu cunoașterea zero la un ritm remarcabil, cu mașini virtuale generale zkVM care demonstrează calcule arbitrare de ordine de mărime mai rapide decât acum doi ani.

În același timp, apariția inteligenței artificiale agenților creează o nouă urgență în jurul încrederii, confidențialității și verificabilității. Pe măsură ce sistemele de inteligență artificială trec de la generarea de conținut la efectuarea de acțiuni în numele utilizatorilor, organizațiile se întreabă tot mai mult dacă controalele tradiționale de securitate și conformitate sunt suficiente pentru software-ul autonom care funcționează la scară întreprindere.

La DataTribe, am petrecut timp semnificativ în acest spațiu, vorbind cu startup-uri, evaluând tehnologia și încercând să înțelegem unde vor apărea oportunitățile cele mai durabile. Iată cum gândim noi despre asta.

Un cadru pentru calculul confidențial

Când privim peisajul calculului confidențial, găsim util să îl împărțim în trei stâlpuri distincte. Fiecare reprezintă o garanție independentă. Important, ele nu se suprapun: o soluție care oferă un stâlp nu oferă automat și celelalte.

• Calcul protejat: Intrarea, procesarea și ieșirea rămân protejate de la capăt la capăt. Chiar și operatorul care rulează calculul nu poate vedea nimic.

• Integritatea calculului: Verificare criptografică că calculul corect a fost efectuat, chiar și pe hardware potențial advers.

• Colaborarea privată: Mai multe părți calculează împreună peste datele lor combinate fără ca vreo parte să-și dezvăluie intrările celorlalte.

Fiecare stâlp se corelează cu nevoi diferite de cumpărare, stive tehnologice și dinamici competitive. Astăzi ne concentrăm pe primele două: Calcul protejat și Integritatea calculului.

Paradoxul confidențialității inteligenței artificiale și calculul protejat

Inteligența artificială a fost un catalizator major pentru interesul în calculul protejat. Întreprinderile sunt din ce în ce mai anxioase cu privire la datele pe care le împărtășesc cu furnizorii de LLM și cererea pentru inferența confidențială crește.

Dar există un paradox demn de remarcat. Aceeași întreprindere care se chinuie să trimită transcrieri de clienți către un furnizor de AI se bucură să direcționeze datele de compensare prin ADP, să canalizeze pipeline-ul în Salesforce (CRM ) și să înmâneze înregistrări de pacienți furnizorului de EHR. Protecția în fiecare caz este aceeași: un contract cu promisiuni de protecție a datelor și rapoarte de conformitate. Fără garanții criptografice. De ce sunt furnizorii de AI tratați diferit?

Există motive reale. Teamă că datele vor fi folosite pentru antrenament, absorbite în greutățile modelului și ar putea apărea în ieșirea altui client nu are un analog în SaaS-ul tradițional. Schimbul de valori se simte asimetric, cu întreprinderi care percep că datele lor ar putea îmbunătăți produsul furnizorului pentru competitori. Iar regulatorii acordă o atenție specială manipulării datelor de inteligență artificială în moduri în care nu au aplicat-o pentru stiva SaaS existentă. Furnizorii de AI au început să încheie contracte cu protecții asemănătoare acordurilor SaaS tradiționale, dar viteza de adoptare și teama de “inteligență artificială în umbră”, unde angajații folosesc servicii de inteligență artificială care nu sunt sub contract cu întreprinderea, adaugă urgență pe care procurarea SaaS convențională nu a întâmpinat-o recent.

Indiferent dacă aceste preocupări sunt pe deplin raționale sau parțial conduse de noutatea inteligenței artificiale, ele creează o urgență reală de cumpărare. Întrebarea mai interesantă este dacă această urgență rămâne limitată la inteligența artificială sau se extinde. Dacă întreprinderile încep să ceară protecție criptografică a datelor de la furnizorii de LLM și apoi realizează inconsistența logică a necezitării acesteia și de la toți ceilalți, piața total adresabilă pentru calculul protejat se extinde dramatic dincolo de inferența inteligenței artificiale.

FHE vs. TEEs pentru calculul protejat

Două abordări tehnologice principale concurează pentru calculul protejat și reprezintă modele de încredere fundamental diferite.

TEEs, cum ar fi AMD SEV-SNP, Intel TDX și GPU-urile confidențiale NVIDIA (NVDA ), sunt alegerea pragmatică de azi. Ei oferă calcul protejat cu un minim de penalizare a performanței și sunt deja disponibili ca oferte native de la principalii furnizori de cloud. Presupunerea de încredere este în vendorul de siliciu și, în diferite grade, în furnizorul de cloud care operează hardware-ul.

FHE adoptă o abordare pur matematică. Datele rămân criptate pe tot parcursul calculului, iar garanția de securitate nu depinde de încrederea în vreun hardware sau operator. Compromisul a fost istoric de performanță: operațiunile FHE au fost cu multe ordine de mărime mai lente decât computația în text clar, limitându-le la cazuri de utilizare înguste.

Acest gap se închide mai repede decât mulți oameni realizează. Accelerarea hardware-ului este un factor major. Cardurile de accelerare FHE dedicate de la Niobium oferă îmbunătățiri de ordinul a câtorva mărimi față de FHE-ul doar în software. Cornami, al cărui șef de știință este Craig Gentry (în mod larg creditat ca inventatorul FHE), a afirmat “viteze aproape de cele ale textului clar” pentru inferența LLM folosind FHE, deși benchmark-urile independente nu au fost publicate. O altă companie a demonstrat inferența LLM bazată pe FHE pe un model Llama 3 70b la viteze care se apropie de performanța necriptată. Aceste afirmații necesită o examinare atentă, dar traiectoria este clară: gapul de performanță care a menținut FHE-ul teoretic se închide rapid.

Dacă FHE devine suficient de rapid pentru sarcinile de lucru de producție, implicațiile sunt profunde. Nu mai trebuie să aveți încredere în vendorul de siliciu, furnizorul de cloud sau oricine are acces fizic la hardware. Garanția dvs. de securitate devine matematică, nu operațională.

Pentru investitori, aceasta ridică o întrebare strategică importantă: pariați pe încrederea în hardware care devine mai de încredere (drumul TEE) sau pe îmbunătățirea performanței criptografice pentru a face soluțiile matematice practice (drumul FHE)? Ce mai multă venituri sunt pe partea TEE în cel mai scurt timp. Argumentul de defensivitate pe termen lung poate favoriza abordarea matematică, cel puțin pentru anumite domenii de calcul.

Integritatea calculului: De la amenințarea din interior la medii adverse

Integritatea calculului abordează o altă problemă: cum știți că calculul corect a fost efectuat într-adevăr?

În medii controlate, cum ar fi centrele de date ale întreprinderilor și cloud-urile hyperscaler, TEEs gestionează acest lucru în mod rezonabil. Mecanismele de atestare vă permit să verificați că codul așteptat a fost încărcat într-un TEE autentic înainte de a trimite date. Acest lucru este valoros pentru protejarea împotriva amenințărilor din interior, a infrastructurii compromise sau a problemelor de implementare. Pentru majoritatea cazurilor de utilizare ale întreprinderilor, atestarea bazată pe TEE este suficient de bună.

Dar “suficient de bun” depinde de modelul dvs. de amenințare. În medii adverse, unde nu aveți control asupra hardware-ului și operatorul poate fi ostil, garanțiile TEE se degradează. Cercetările recente au demonstrat atacuri practice împotriva atestării TEE folosind interpoziții de hardware de joasă cost și principalii furnizori de cipuri au recunoscut că atacurile fizice sunt în afara modelului lor de amenințare. Într-un centru de date bine administrat cu securitate fizică, acest risc rezidual este gestionabil. Pe un nod necunoscut într-o rețea descentralizată de calcul, nu este.

Acesta este exact motivul pentru care lumea Web3 a fost principalul motor al inovației în dovedirile cu cunoașterea zero. Dovedirile ZK oferă certitudine matematică cu privire la integritatea calculului, indiferent de mediul hardware. Dacă dovedirea verifică, calculul a fost corect, indiferent dacă computația dovedită a fost efectuată într-o facilitate securizată sau în garajul cuiva.

Ritmul de îmbunătățire aici a fost remarcabil. Mașinile virtuale generale zkVM permit acum dezvoltatorilor să scrie cod normal în Rust și să genereze dovediri automat, fără a scrie manual circuite criptografice. Hypercubul SP1 al lui Succinct dovedește blocuri Ethereum în mai puțin de 12 secunde pe 16 GPU. Airbender-ul lui ZKsync raportează peste 21 de milioane de cicli pe secundă pe un singur H100.

Pentru sarcinile de lucru ale inteligenței artificiale, în special, zkML face progrese, dar rămâne scump. Dovedirea inferenței LLM este încă de mii de ori mai lentă decât inferența în sine. Modelele mai mici, cum ar fi clasificatorii și modelele de încorporare, se apropie de dovezi practice ZK în acest moment, iar dovedirea frontieră LLM este probabil la doi sau trei ani distanță. Un punct de mijloc interesant este “verificarea optimistă”, unde dovezile sunt generate doar atunci când rezultatele sunt contestate, și nu pentru fiecare calcul, reducând dramatic costul amortizat.

Încotro se îndreaptă

Sectorul calculului confidențial se află la un punct de inflexiune. Inovația se întâmplă simultan în TEEs, FHE și ZK, fiecare condusă de comunități diferite cu priorități diferite, dar care converg către un set comun de probleme.

Dinamica din jurul a ceea ce cumpărătorii găsesc ca fiind cel mai urgent va determina care abordări vor câștiga tracțiune mai întâi. Întreprinderile concentrate pe conformitatea regulamentară și protecția datelor în cloud vor probabil trage soluțiile bazate pe TEE înainte. Valul inteligenței artificiale poate accelera cererea pentru FHE dacă performanța continuă să se îmbunătățească. Aplicațiile descentralizate de calcul și Web3 vor continua să împingă tehnologia ZK către aplicabilitate mai largă.

Ne așteptăm și la arhitecturi hibride care vor apărea ca o soluție practică de mijloc. TEEs pentru confidențialitate combinată cu dovediri ZK pentru integritate, de exemplu, oferă confidențialitate puternică cu certitudine matematică asupra corectitudinii. Această combinație funcționează bine pentru scenarii în care mediul hardware este parțial de încredere, dar nu pe deplin controlat.

Acest cadru devine deosebit de relevant în jurul Summit-ului de Calcul Confidențial al Fundației Linux de la San Francisco de săptămâna trecută, unde o temă centrală a fost dacă calculul confidențial poate servi ca stratul de securitate care face inteligența artificială agențială deployabilă la scară întreprindere. Pe măsură ce organizațiile încep să acorde agenților de inteligență artificială acces la sisteme, date și fluxuri de lucru sensibile, întrebările despre calculul protejat, integritatea calculului și încrederea verificabilă trec de la discuții teoretice despre arhitectură la cerințe operaționale.

Pentru startup-uri, oportunitățile sunt substanțiale de-a lungul întregului stack: facând calculul confidențial bazat pe TEE mai ușor pentru companiile SaaS să adopte, construind instrumentarul care aduce FHE de la cercetare la producție, creând infrastructura pentru integritatea calculului bazată pe ZK în contexte întreprindere, și dezvoltând straturile de brokeraj și atestare care stau între clienți și furnizorii de cloud. Continuăm să studiem acest spațiu și suntem încântați de fondatorii pe care îi întâlnim. Diferite sarcini de lucru, modele de amenințare și regimuri de reglementare vor cere combinații diferite ale celor trei stâlpuri. Companiile care vor câștiga vor fi cele care aleg un stâlp, îl rezolvă în mod decisiv și îl fac ușor pentru întreprinderi să adopte.