Cohere lansează calculul confidențial pe Model Vault în versiune beta publică

Cohere a anunțat, la 22 octombrie 2026, versiunea beta publică a calculului confidențial în Cohere Model Vault, platforma sa dedicată și complet gestionată pentru inferența modelelor, care rulează pe GPU-uri NVIDIA H100 în Microsoft Azure și este destinată companiilor care prelucrează date sensibile.

Lansarea extinde Model Vault la sarcini de lucru care implică dosare medicale, informații financiare, documente cu acces privilegiat, proprietate intelectuală și cod sursă proprietar. Cohere a declarat că scopul este să le permită companiilor să beneficieze de capabilitățile și de simplitatea operațională a inteligenței artificiale gestionate, păstrând totodată datele lor sensibile în format text simplu inaccesibile infrastructurii care rulează serviciul. Printre sarcinile de lucru posibile menționate de companie se numără investigarea fraudelor în serviciile financiare, căutarea în documente cu acces privilegiat și verificările prealabile pentru echipele juridice, informațiile sensibile din sectorul public, materialele legate de brevete și cercetare, documentele proprietare de inginerie și de proiectare a interfețelor, precum și căutarea și analiza codului sursă proprietar.

Conform împărțirii responsabilităților din versiunea beta, Microsoft Azure furnizează infrastructura de bază pentru calculul confidențial, NVIDIA Confidential Computing extinde această protecție la GPU-urile H100, iar Cohere asigură servirea gestionată a modelelor, o cale de transmitere criptată a solicitărilor, atestarea la distanță și verificarea de către client prin Model Vault. Potrivit companiei, clienții pot configura și gestiona seifuri criptate prin Model Vault, le pot conecta folosind aceleași API-uri Cohere și pot începe accesând vault.cohere.com.

Execuție confidențială și transmiterea criptată a solicitărilor

Calculul confidențial protejează datele aflate în uz, adică informațiile în timp ce un model le prelucrează activ; aceasta este o a treia stare, pe lângă datele stocate și cele aflate în tranzit, protejate în mod tradițional prin criptare. În Model Vault, stiva de servire a modelelor, inclusiv sistemul de operare, driverele și serverul de inferență, rulează într-o mașină virtuală confidențială, unde izolarea susținută de hardware îi protejează memoria de mediul gazdă, iar politicile limitează mediul la software aprobat, fără a le oferi operatorilor o cale interactivă de acces la sarcina de lucru în execuție, potrivit unei analize tehnice aprofundate publicate de Cohere odată cu lansarea. NVIDIA Confidential Computing protejează memoria GPU-ului și criptează traficul dintre CPU și GPU, astfel încât limita de confidențialitate să includă acceleratorul care efectuează inferența, în loc să se oprească la CPU-ul care o coordonează.

Solicitarea însăși beneficiază de o protecție separată. Model Vault utilizează Oblivious HTTP, sau OHTTP, pentru a cripta conținutul sensibil al unei solicitări cu o cheie publică asociată mediului confidențial atestat. Mesajul criptat traversează infrastructura intermediară sub formă de text cifrat; numai poarta de acces OHTTP din interiorul mediului deține cheia privată corespunzătoare, iar răspunsurile beneficiază de aceeași protecție la întoarcere. Cohere afirmă că astfel, operarea platformei este separată de posibilitatea de a citi ceea ce trimit clienții prin intermediul ei, deoarece intermediarii pot în continuare să direcționeze traficul fără să vadă datele utile în format text simplu. Aplicațiile păstrează API-ul Model Vault și formatele de solicitare uzuale, iar protecția este implementată la nivelul clientului și al infrastructurii, fără a fi necesară reproiectarea datelor transmise.

Atestarea la distanță ca mecanism de control activ

Înainte de trimiterea unei solicitări protejate, mediul confidențial generează dovezi semnate criptografic, care consemnează măsurătorile și proprietățile relevante pentru securitate ale hardware-ului, firmware-ului, mediului de operare și software-ului aplicației, iar software-ul de pe partea clientului verifică aceste dovezi în raport cu o politică aprobată. Dovezile arată ce mediu rulează în realitate; politica stabilește dacă acel mediu ar trebui să fie considerat de încredere pentru prelucrarea datelor. Dacă o proprietate obligatorie nu corespunde — de exemplu, dacă s-a modificat o măsurătoare a software-ului sau un GPU nu se află în modul confidențial așteptat — clientul nu trece verificarea, refuză să transmită datele utile, iar solicitarea rămâne în mediul propriu al clientului. Dovezile sunt reîmprospătate frecvent, iar clientul verifică din nou de fiecare dată noile măsurători și starea de securitate în raport cu politica aprobată, înainte de a continua să trimită solicitări protejate. Cohere descrie acest mecanism ca transformând atestarea dintr-o înregistrare păstrată pentru audituri într-un control care decide în mod activ dacă datele protejate pot fi eliberate.

În anunțul lansării făcut de Cohere, directorul tehnic Phil Blunsom a declarat: „Datorită atestării hardware, clienții nu numai că au dovada criptografică a faptului că sarcinile de lucru rulează într-un mediu de calcul confidențial și securizat, ci pot și să verifice că datele lor sunt protejate împotriva accesului neautorizat, chiar și din partea Cohere.” Vikas Bhatia, directorul de produs pentru Azure Confidential Computing la Microsoft, a declarat că activitatea desfășurată împreună cu Cohere demonstrează cum calculul confidențial poate combina simplitatea inteligenței artificiale gestionate cu măsuri tehnice de control verificabile independent. John Fanelli, vicepreședintele diviziei de software pentru companii de la NVIDIA, a declarat că NVIDIA Confidential Computing pe GPU-urile sale oferă protecții susținute de hardware, care ajută platforme precum Model Vault să aducă inferența confidențială a inteligenței artificiale în sarcinile de lucru ale companiilor.

Modelul de amenințare, limitele declarate și planurile privind sursa deschisă

În limitele modelului de amenințări declarat, sistemul protejează prompturile, documentele, răspunsurile și execuția modelului în timpul procesării, împiedicând furnizorul cloud, sistemul de operare gazdă, hipervizorul, administratorii infrastructurii și propriii operatori Cohere să citească memoria protejată a sarcinii de lucru. Baza de calcul de încredere include în continuare hardware-ul și firmware-ul care asigură fundația pentru calculul confidențial, software-ul măsurat care rulează în interiorul mediului, măsurătorile de referință care definesc o configurație aprobată și infrastructura de atestare care evaluează și semnează dovezile. Cohere afirmă că acest design restrânge elementele care trebuie considerate de încredere la un set explicit de componente care produc dovezi măsurabile și verificabile.

Cohere precizează și ce nu este inclus în această delimitare. Atacurile fizice și cele prin canale laterale, cum ar fi deducerea de informații din temporizare sau din alte comportamente ale hardware-ului partajat, rămân în afara acesteia, iar un operator care nu poate citi o sarcină de lucru o poate totuși opri, întârzia sau împiedica, astfel că designul nu oferă de unul singur nicio garanție de disponibilitate. Riscurile la nivelul aplicației, precum injectarea de prompturi, utilizarea nesigură a instrumentelor, erorile de autorizare și alte vulnerabilități software, nu sunt eliminate prin rularea software-ului pe hardware de calcul confidențial.

Metadatele observabile constituie o altă excludere: deși conținutul datelor transmise este criptat, dimensiunea mesajelor, momentul solicitărilor, volumul traficului și detaliile de rutare rămân vizibile, iar în arhitectura actuală, datele de autentificare API și identificatorul modelului se află, de asemenea, în afara conținutului protejat de OHTTP. Compania afirmă că acest calcul confidențial nu înlocuiește securitatea aplicațiilor, nu este un mecanism de asigurare a rezidenței datelor, nu substituie măsurile de conformitate sau controalele contractuale și nu este criptare homomorfă, deoarece modelul operează în continuare asupra textului clar în interiorul mediului protejat.

Implementarea se bazează pe proiectele open-source Kata Containers și Confidential Containers, iar Cohere a declarat că intenționează să publice ca open-source stiva de inferență confidențială, permițând clienților și cercetătorilor în domeniul securității să examineze codul, să vadă ce politici sunt aplicate și să reproducă independent măsurătorile de verificare. În prezent, versiunea beta rulează pe GPU-uri NVIDIA H100 în Microsoft Azure, iar Cohere a declarat că lucrează la compatibilitatea cu infrastructura NVIDIA Blackwell, inclusiv cu GPU-urile B200, în perspectiva disponibilității generale.