Inteligența dvs. artificială știe prea mult: Inteligența artificială confidențială nu mai este opțională

Modelele generative trec de la laboratoarele de cercetare la procesele comerciale obișnuite — și o slăbiciune structurală tăcută crește chiar lângă ele.

Luăm acest exemplu: Microsoft Copilot a accesat aproape trei milioane de înregistrări sensibile pe organizație în primul semestru al anului 2025. Astfel de numere înseamnă că există o problemă sistemică cu modul în care se abordează inteligența artificială. Companiile au creat motoare puternice pentru procesarea datelor, dar nu au instituit suficiente protecții pentru datele pe care le utilizează.

Modelele de limbaj mare și instrumentele de asistență calculează adesea documente, mesaje și baze de date fără nicio protecție bazată pe hardware. Această lacună, care revelează “date în utilizare” în timpul inferenței, amenință direct afacerile care prioritizează confidențialitatea, conformitatea și încrederea clienților.

Aici intervine execuția confidențială. Procesul utilizează medii de execuție de încredere asistate de hardware (TEEs) pentru a păstra codul și datele în siguranță în timpul utilizării. Aceste TEEs sunt zone de memorie izolate, protejate de sistemul de operare gazdă și de hipervizor.

Această protecție modifică modelul de securitate, permițând secretelor să fie procesate fără a fi expuse restului stivei. Microsoft și alți furnizori de servicii cloud oferă acum inferență privată și mașini virtuale (VM) care integrează inferența în TEEs.

De ce confidențialitatea este importantă pentru reguli și guvernanță

Criptarea convențională protejează de obicei datele care sunt fie în repaus, fie în tranzit, datele care sunt procesate activ nefiind protejate în același mod, deși acolo este unde inteligența artificială generativă interacționează cel mai mult cu intrări private.

Mai devreme în acest an, un studiu al cercetătorilor de la Universitatea Cornell despre Unitățile de Calcul de Încredere a arătat cum izolarea și atestarea bazate pe hardware pot ajuta la reducerea nevoii de încredere între părți. Mai mult, analiștii au estimat că valoarea infrastructurii de calcul privat a fost de peste 13 miliarde de dolari, cu previziuni care indică o creștere și mai rapidă până la 350,04 miliarde de dolari până în 2032.

În esență, mai multe persoane utilizează tehnologia, ceea ce face ca regulatorii și echipele de conformitate să fie mai interesați de sistemele de inteligență artificială decât oricând. Prin urmare, un cadru care asigură că datele sensibile nu părăsesc niciodată execuția protejată în timpul interogărilor modelului va face ca urmele de audit să fie mult mai ușor de urmărit, reducând riscul de probleme legale.

Cu toate acestea, dacă protecțiile de timp de rulare nu devin norma, această diferență ar putea face ca regulatorii să accepte inteligența artificială în domenii strâns reglementate.

Situații din viața reală în care confidențialitatea este o necesitate

Există mai multe scenarii enterprise care arată de ce inteligența artificială confidențială nu este un lux, ci ceva pe care fiecare organizație trebuie să-l aibă.

De exemplu, în finanțe, acest lucru s-ar putea aplica instituțiilor care trebuie să ruleze modele de detectare a fraudelor și de risc împotriva istoricului tranzacțiilor clienților fără a oferi operatorilor de modele externe acces la înregistrări brute.

În sănătate, ar putea exista situații în care modelele de diagnosticare trebuie să funcționeze pe date clinice protejate, păstrând confidențialitatea pacientului și îndeplinind obligații regulatorii stricte. Mai mult, guvernele și agențiile de apărare pot necesita execuție atestată pentru a rula sarcini de lucru sensibile pe cloud-uri terțe.

Există, de asemenea, fluxuri de cercetare care combină seturi de date de la mai multe surse, în special cercetarea sănătății federate, care poate continua numai dacă fiecare participant este sigur că intrările sale vor rămane ilegibile în timpul calculului.

Există, de asemenea, cercetări academice și industriale care continuă să documenteze abordări de învățare automată care păstrează confidențialitatea pentru fluxurile de lucru medicale care se potrivesc bine cu execuția confidențială.

Cum protejează execuția confidențială datele în utilizare

Execuția confidențială depinde de două sisteme conectate: izolarea hardware și atestarea. Izolarea hardware împiedică software-ul din afara enclavei să citească memoria enclavei.

Atestarea este un mod verificabil de a verifica codul care rulează în interiorul enclavei și de a verifica că enclava însăși este autentică. Aceste caracteristici permit unui proprietar de model să arate că un model va funcționa cu intrări într-un mediu sigilat și verificat și că ieșirile vor apărea numai după ce regulile enclavei sunt respectate.

Rezultatul este un contract între proprietarii de date, operatorii de modele și furnizorii de servicii cloud care face ca este mai puțin probabil ca aceștia să aibă nevoie de ocoliri legale adverse sau să recurgă la gimnastica politică a politicii fragile.

Limite și obstacole realiste

Desigur, adoptarea inteligenței artificiale confidențiale vine cu propriile sale provocări. Atestarea și hardware-ul care pot funcționa în enclavi fac implementarea mai complicată, având în vedere că există o lacună în ecosistem între instrumentele tradiționale de servire a modelului și runtime-urile conștiente de enclavă. Unele runtime-uri de enclavă impun suprataxe grele, costând până la de zece ori mai mult pentru a rula, și ar putea exista compromisuri în ceea ce privește performanța, în funcție de cantitatea de muncă.

Mai mult, costurile sunt mai mari acum decât au fost pentru inferența cloud obișnuită, ceea ce ar putea face dificil pentru întreprinderile mici să înțeleagă numerele. Există, de asemenea, problema schimbării standardelor de interoperabilitate, care ar putea lăsa unii adoptatori timpurii în pericol de a rămâne blocați cu furnizorii lor.

Cu toate acestea, aceste probleme sunt doar probleme tehnice tranzitorii care pot fi rezolvate. Furnizorii de servicii cloud și producătorii de cipuri continuă să lanseze produse noi, iar proiectele software creează middleware care leagă stivele actuale de învățare automată și TEEs.

Dacă este ceva, companiile care consideră că criptarea standard și controlul accesului sunt suficiente sunt mai expuse la risc, deoarece vor fi vulnerabile atunci când modelele procesează multe înregistrări sensibile.

Un apel pentru schimbări în practicile enterprise

Echipele de gestionare a riscurilor trebuie să schimbe regulile pentru cum să cumpere și să utilizeze inteligența artificială. Clasificarea datelor și guvernanța sunt încă importante, dar trebuie să fie susținute de garanții tehnice atunci când sunt în utilizare.

Contractele cu furnizorii de modele terțe trebuie să solicite dovada atestării. Echipele de achiziții trebuie să solicite linii de bază de performanță și opțiuni auditate pentru execuția confidențială. Exercițiile de testare a echipei roșii trebuie să includă testarea conștientă de enclavă ca parte a muncii lor. Aceste pași transferă responsabilitatea de la angajamente ad-hoc la controale care pot fi verificate.

De asemenea, grupurile de politici publice și standarde industriale trebuie să stabilească așteptări. Auditorii, ofițerii de conformitate și regulatorii trebuie să solicite garanții de securitate la timp de rulare verificabile pentru categorii de sarcini de lucru care procesează date reglementate.

Aceste reguli vor reduce numărul de încălcări care apar mai târziu și vor oferi sectorului libertatea de a inova fără a se îngrijora de probleme legale. Acest lucru va permite fluxurilor de lucru din finanțe, sănătate și sectorul public să utilizeze noi modele fără niciun obstacol regulator.

Confidențialitatea ca standard

Inteligența artificială generativă a devenit un instrument util pentru afacerile care se ocupă de informații foarte private. Această realitate înseamnă că execuția confidențială nu mai este doar o opțiune de nișă; trebuie să fie o practică standard pentru orice sistem de inteligență artificială care manipulează date reglementate, proprietare sau personale.

Există deja instrumente disponibile, cum ar fi TEEs, servicii de atestare și oferte de mașini virtuale private, iar economia este în curs de îmbunătățire foarte rapid. Alternativa este de a păstra activele sensibile deschise pentru scurgerea inferenței, ceea ce ar putea avea efecte legale, financiare și de reputație pe care afacerile nu și le mai pot permite. De exemplu, conform raportului IBM din 2025 privind costul scurgerii de date, costul mediu global al scurgerii a ajuns la aproape 5 milioane de dolari, cu reglementări precum GDPR impunând amenzi de până la 20 de milioane de euro pentru încălcări grave.

Companiile care pun confidențialitatea pe primul loc în guvernanța inteligenței artificiale vor avea un avantaj: pot rula teste mai complete, conforme și pot utiliza modele în domenii în care inovația externă a fost odată interzisă. În esență, protejarea datelor în timpul rulării modelului nu este o barieră pentru adoptare; este baza pentru inteligența artificială responsabilă și extensibilă în afaceri și guvern.