Cohere tuo luottamuksellisen laskennan julkiseen betaan Model Vaultissa

Cohere ilmoitti 22. lokakuuta 2026 luottamuksellisen laskennan julkisesta betasta Cohere Model Vaultissa, omassa täysin hallinnoidussa mallien päättelyalustassaan. Palvelu toimii NVIDIA H100 -grafiikkasuorittimilla Microsoft Azuressa yrityksille, jotka käsittelevät arkaluonteisia tietoja.

Lanseeraus laajentaa Model Vaultin käyttöä tehtäviin, joissa käsitellään potilasasiakirjoja, taloustietoja, salassapidon piiriin kuuluvia asiakirjoja, immateriaalioikeuksia ja omistusoikeudellisesti suojattua lähdekoodia. Coheren mukaan tavoitteena on, että yritykset voivat hyödyntää hallinnoidun tekoälyn ominaisuuksia ja helppokäyttöisyyttä samalla, kun niiden arkaluonteiset selväkieliset tiedot pysyvät palvelua ylläpitävän infrastruktuurin ulottumattomissa. Yhtiö mainitsee mahdollisina käyttökohteina rahoitusalan petostutkinnat, lakitiimien salassapidon piiriin kuuluvien asiakirjojen haun ja due diligence -selvitykset, arkaluonteiset julkishallinnon tiedot, patentti- ja tutkimusaineistot, luottamukselliset suunnittelu- ja käyttöliittymäasiakirjat sekä omistusoikeudellisesti suojatun lähdekoodin haun ja analysoinnin.

Betassa vastuut jakautuvat seuraavasti: Microsoft Azure tarjoaa luottamuksellisen laskennan taustalla olevan infrastruktuurin, NVIDIA Confidential Computing ulottaa suojauksen H100-grafiikkasuorittimiin, ja Cohere tarjoaa hallinnoidun mallipalvelun, salatun pyyntöjen välityspolun, etätodennuksen sekä asiakkaan puolella tehtävän varmennuksen Model Vaultin kautta. Yhtiön mukaan asiakkaat voivat ottaa käyttöön ja hallinnoida salattuja holveja Model Vaultissa, yhdistää ne samoilla Cohere-ohjelmointirajapinnoilla ja aloittaa käytön osoitteessa vault.cohere.com.

Luottamuksellinen suoritus ja salattu pyyntöjen välityspolku

Luottamuksellisella laskennalla suojataan käytössä olevia tietoja eli tietoja, joita malli käsittelee parhaillaan. Kyseessä on kolmas tietojen tila tallennettujen ja siirrettävien tietojen lisäksi, joita salaus perinteisesti suojaa. Model Vaultissa mallien tarjoamiseen käytettävä kokonaisuus, johon kuuluvat käyttöjärjestelmä, ajurit ja päättelypalvelin, toimii luottamuksellisessa virtuaalikoneessa. Laitteistopohjainen eristys suojaa sen muistia isäntäympäristöltä, ja käytännöt rajoittavat ympäristön hyväksyttyihin ohjelmistoihin estäen samalla operaattoreilta vuorovaikutteisen pääsyn käynnissä olevaan työkuormaan. Näin kertoo tekninen syväluotaus, jonka Cohere julkaisi lanseerauksen yhteydessä. NVIDIA Confidential Computing suojaa grafiikkasuorittimen muistia ja salaa suorittimen ja grafiikkasuorittimen välisen liikenteen, joten luottamuksellinen suojaus kattaa päättelyä suorittavan kiihdyttimen eikä pääty päättelyä ohjaavaan suorittimeen.

Myös itse pyyntö suojataan erikseen. Model Vault käyttää Oblivious HTTP:tä eli OHTTP:tä salatakseen pyynnön arkaluonteisen sisällön julkisella avaimella, joka on sidottu todennettuun luottamukselliseen ympäristöön. Salattu viesti kulkee välittäjäinfrastruktuurin läpi salatekstinä, ja vain ympäristön sisällä oleva OHTTP-yhdyskäytävä hallitsee vastaavaa yksityistä avainta. Myös vastaukset suojataan samalla tavoin niiden paluumatkalla. Coheren mukaan näin erotetaan alustan ylläpitäminen siitä, että voitaisiin lukea, mitä asiakkaat sen kautta lähettävät, sillä välittäjät voivat yhä reitittää liikennettä näkemättä selväkielisiä tietosisältöjä. Sovellukset käyttävät edelleen Model Vaultin ohjelmointirajapintaa ja tuttuja pyyntömuotoja. Suojaus toteutetaan asiakasohjelmiston ja infrastruktuurin tasolla, joten tietosisältöjä ei tarvitse suunnitella uudelleen.

Etätodennus aktiivisena suojakeinona

Ennen suojatun pyynnön lähettämistä luottamuksellinen ympäristö tuottaa kryptografisesti allekirjoitetun todistusaineiston, johon tallennetaan ympäristön laitteiston, laiteohjelmiston, käyttöympäristön ja sovellusohjelmistojen mittaustiedot sekä tietoturvan kannalta olennaiset ominaisuudet. Asiakkaan puolella toimiva ohjelmisto tarkistaa todistusaineiston hyväksyttyä käytäntöä vasten. Todistusaineisto kertoo, mikä ympäristö tosiasiassa on käynnissä; käytäntö määrittää, voiko kyseiseen ympäristöön luottaa tietojen käsittelyssä. Jos jokin vaadittu ominaisuus ei täsmää — esimerkiksi ohjelmiston mittaustieto on muuttunut tai grafiikkasuoritin ei ole odotetussa luottamuksellisessa tilassa — asiakasohjelmisto hylkää varmennuksen, kieltäytyy lähettämästä tietosisältöä ja jättää pyynnön asiakkaan omaan ympäristöön. Todistusaineisto päivitetään tihein väliajoin, ja asiakasohjelmisto tarkistaa uudet mittaustiedot ja tietoturvatilan hyväksyttyä käytäntöä vasten joka kerta ennen suojattujen pyyntöjen lähettämisen jatkamista. Coheren mukaan näin etätodennus muuttuu tarkastuksia varten säilytettävästä tietueesta aktiiviseksi suojakeinoksi, joka ratkaisee, luovutetaanko suojatut tiedot.

Cohere kertoi lanseerausilmoituksessaan, että teknologiajohtaja Phil Blunsom sanoi: ”Laitteistotodennuksen ansiosta asiakkailla ei ole ainoastaan kryptografista näyttöä siitä, että työkuormat toimivat turvallisessa ja luottamuksellisessa laskentaympäristössä, vaan he voivat myös varmistaa, että heidän tietonsa on suojattu luvattomalta käytöltä – jopa Coheren taholta.” Microsoftin Azure Confidential Computing -tuotteen johtaja Vikas Bhatia sanoi, että yhteistyö Coheren kanssa osoittaa, miten luottamuksellisessa laskennassa voidaan yhdistää hallinnoidun tekoälyn helppokäyttöisyys riippumattomasti todennettaviin teknisiin suojakeinoihin. NVIDIAn yritysohjelmistojen varatoimitusjohtaja John Fanelli sanoi, että NVIDIA Confidential Computing -teknologia yhtiön grafiikkasuorittimissa tarjoaa laitteistopohjaisen suojauksen, jonka ansiosta Model Vaultin kaltaiset alustat voivat tuoda luottamuksellisen tekoälyn päättelyn yritysten työkuormiin.

Uhkamalli, ilmoitetut rajoitukset ja avoimen lähdekoodin suunnitelmat

Ilmoitetun uhkamallinsa puitteissa järjestelmä suojaa kehotteita, asiakirjoja, vastauksia ja mallin suorittamista käsittelyn aikana, eivätkä pilvipalveluntarjoaja, isäntäkäyttöjärjestelmä, hypervisor, infrastruktuurin ylläpitäjät tai Cohere itse voi lukea suojatun työkuorman muistia. Luotettuun laskentaperustaan kuuluvat edelleen luottamuksellisen laskennan perustan muodostava laitteisto ja laiteohjelmisto, ympäristössä suoritettava mitattu ohjelmisto, hyväksytyn kokoonpanon määrittävät vertailumittaukset sekä varmennusinfrastruktuuri, joka arvioi ja allekirjoittaa todisteet. Coheren mukaan suunnittelussa luottamuksen piiriin kuuluvat osat rajataan selkeäksi komponenttijoukoksi, joka tuottaa mitattavaa ja tarkistettavaa näyttöä.

Cohere kertoo myös selvästi, mitä rajauksen ulkopuolelle jää. Fyysiset hyökkäykset ja sivukanavahyökkäykset, kuten tietojen päättelemistä ajoituksesta tai muusta jaetun laitteiston toiminnasta, eivät kuulu sen piiriin. Lisäksi työkuormaa lukemaan kykenemätön ylläpitäjä voi silti pysäyttää sen, viivästyttää sitä tai estää sen suorittamisen, joten ratkaisu ei itsessään takaa saatavuutta. Sovellustason riskejä, kuten kehoteruiskutusta, työkalujen turvatonta käyttöä, valtuutusvirheitä ja muita ohjelmistojen haavoittuvuuksia, ei ratkaista sijoittamalla ohjelmistoa luottamuksellisen laskennan laitteistoon.

Myös näkyvät metatiedot jäävät suojauksen ulkopuolelle: vaikka hyötykuorman sisältö salataan, viestin koko, pyyntöjen ajoitus, liikenteen määrä ja reititystiedot ovat edelleen näkyvissä. Nykyisessä arkkitehtuurissa myös API-tunnistetieto ja mallin tunniste jäävät OHTTP-suojatun hyötykuorman ulkopuolelle. Yhtiön mukaan luottamuksellinen laskenta ei korvaa sovellusturvallisuutta, ole datan sijaintia koskeva mekanismi eikä korvaa vaatimustenmukaisuuteen tai sopimuksiin perustuvia hallintakeinoja. Se ei myöskään ole homomorfista salausta, sillä malli käsittelee edelleen selväkielistä dataa suojatussa ympäristössä.

Toteutus perustuu avoimen lähdekoodin Kata Containers- ja Confidential Containers -projekteihin. Cohere kertoi aikovansa julkaista luottamuksellisen päättelypinon avoimena lähdekoodina, jotta asiakkaat ja tietoturvatutkijat voivat tarkastella koodia, nähdä, mitä käytäntöjä valvotaan, ja toistaa varmennusmittaukset itsenäisesti. Beta-versio toimii tällä hetkellä Microsoft Azuressa NVIDIA H100 -grafiikkasuorittimilla. Coheren mukaan tuki NVIDIA Blackwell -infrastruktuurille, mukaan lukien B200-grafiikkasuorittimet, on työn alla ennen yleistä saatavuutta.