Ajatusjohtajat

Luottamuksellisen laskennan viitekehys

mm
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

Luottamuksellinen laskenta on nyt trendikäs

Luottamuksellisen laskennan tila on kokeamassa innovaatioaaltoja useilla rintamilla samanaikaisesti. Luotettavat suoritintilat (TEEs) kypsyvät ja ovat helpompia käyttää. (Täysin homomorfisen salauksen) FHE sulkee suorituskykyeroa, joka on pitänyt sen teoreettisena vuosia. Ja Web3-ekosysteemi jatkaa nollatietojen todistusteknologian kehittämistä hämmästyttävää vauhtia, ja yleispurpose-zkVM:t osoittavat mielivaltaisia laskutoimituksia useita kertoja nopeammin kuin vain kaksi vuotta sitten.

Samaan aikaan agenteille ohjelmoidun älypuhelimen nousu luo uuden kiireen luottamuksellisuuden, yksityisyyden ja todistettavuuden ympärillä. Kun älyjärjestelmät siirtyvät sisällön luomisesta toimintoihin käyttäjien puolesta, organisaatiot kysyvät yhä useammin, ovatko perinteiset turvallisuus- ja vaatimustenmukaisuusohjaukset riittäviä autonomisille ohjelmistoille, jotka toimivat yrityskoossa.

DataTribe on viettänyt merkittävää aikaa tässä tilassa, puhuen startup-yritysten kanssa, arvioimalla teknologiaa ja yrittäen ymmärtää, mistä kestävimmät mahdollisuudet tulevat. Tässä on, miten me ajattelemme sitä.

Luottamuksellisen laskennan viitekehys

Kun tarkastelemme luottamuksellisen laskennan maisemaa, meidän on hyödyllistä jakaa se kolmeen erilliseen pilariksi. Kukin edustaa itsenäistä takeita. Tärkeää on, etteivät ne limaa toisiaan: ratkaisu, joka toimittaa yhden pilarin, ei automaattisesti toimita muita.

  • Suojattu laskenta: Syöte, prosessi ja tuloste ovat kaikki suojattuja loppupisteestä loppupisteeseen. Jopa operaattori, joka suorittaa laskennan, ei voi nähdä mitään.

  • Laskennan eheys: Kryptografinen vahvistus siitä, että oikea laskenta suoritettiin, jopa potentiaalisesti vihamielisellä laitteistolla.

  • Yksityinen yhteistyö: Useat osapuolet laskevat yhdessä yhdistettyjä tietoja ilman, että kukaan paljastaa syötteitään toisille.

Kunkin pilarin kohdalla on erilaiset ostajan tarpeet, teknologiapinot ja kilpailudynamiikka. Tänään keskitymme kahteen ensimmäiseen: Suojattuun laskentaan ja laskennan eheys.

Älypuhelimen yksityisyysparadoksi ja suojattu laskenta

Äly on ollut tärkeä katalysaattori kiinnostukselle suojatussa laskennassa. Yritykset ovat yhä enemmän ahdistuneita siitä, mitä dataa ne jakavat LLM-palveluntarjoajien kanssa, ja vaatimus salauskäytännöstä kasvaa.

Mutta on olemassa paradoksi, joka on mainittava. Sama yritys, joka kärsii lähettäessään asiakirjoja älypalveluntarjoajalle, reitittää ilomielin korvausdataa ADP:hen, ohjaa putkiaan Salesforceen ja antaa potilastietoja terveydenhuollon tarjoajalle. Suojelu on jokaisessa tapauksessa sama: sopimus, jossa on tietosuojua ja vaatimustenmukaisuusraportit. Ei kryptografisia takeita. Miksi älypalveluntarjoajia käsitellään eri tavoin? (CRM )

On olemassa todellisia syitä. Pelko siitä, että dataa käytetään koulutukseen, absorboituu mallipainoihin ja voi tulla esiin toisen asiakkaan tuloksissa, ei ole vastaavaa perinteisessä SaaS:ssa. Arvonvaihto tuntuu epäsymmetriseltä, kun yritykset havaitsevat, että heidän datansa voi parantaa palveluntarjoajan tuotetta kilpailijoille. Ja sääntelijät kiinnittävät erityistä huomiota älydatan käsittelyyn tavoin, jota he eivät ole soveltaneet olemassaolevaan SaaS-pinoon. Älypalveluntarjoajat ovat alkaneet solmia sopimuksia, joissa on suojelu, joka on samanlainen kuin perinteisissä SaaS-sopimuksissa, mutta otsonin omaksumisen nopeus ja “varjon äly”-pelko, jossa työntekijät käyttävät älypalveluja, jotka eivät ole sopimuksessa yrityksen kanssa, luo kiireellisyyttä, jota perinteinen SaaS-hankinta ei ole koettu viime aikoina.

Riippumatta siitä, ovatko nämä huolet täysin järkeviä tai osittain uuden älytekniikan vuoksi, ne luovat todellista ostotarvetta. Mielenkiintoisempi kysymys on, jääkö tämä kiire älyyn vai leviääkö se. Jos yritykset alkavat vaatia kryptografista datansuojaa älypalveluntarjoajiltaan ja sitten toteavat, että on looginen ristiriita, ettei he vaadi sitä kenenkään muun kuin älypalveluntarjoajien, luottamuksellisen laskennan kohdealue laajenee dramaattisesti älyinferenssin ulkopuolelle.

FHE vs. TEEs suojatussa laskennassa

Kaksi pääasiallista teknologiaa kilpailee suojatussa laskennassa, ja ne edustavat perustavanlaatuisesti erilaisia luottamismalleja.

TEE:t, kuten AMD SEV-SNP, Intel TDX ja NVIDIA (NVDA ):n luottamukselliset GPU:t, ovat pragmaattinen valinta tänään. Ne toimittavat suojatun laskennan minimoiden suorituskykyhävikkiä ja ovat jo saatavilla suurten pilvipalvelujen alkuperäisinä tarjontina. Luottamuksen oletus on piirilevyvalmistajassa ja, eri määrin, pilvipalveluntarjoajassa, joka operoi laitteistoa.

FHE ottaa puhtaasti matemaattisen lähestymistavan. Data pysyy salattuna koko laskennan ajan, ja turvallisuustake ei riipu laitteiston tai operaattorin luottamisesta. Vaihtokauppa on historiallisesti ollut suorituskyky: FHE-toiminnot ovat olleet useita kertoja hitaampia kuin selväkielinen laskenta, rajoittaen sen kapeisiin käyttötarkoituksiin.

Tuo aukko on sulkeutumassa nopeammin kuin monet ihmiset toteavat. Laitteiston kiihdytys on tärkeä ajuri. Niobiumin tarkoitukseen valmistetut FHE-kiihdytyskortit toimittavat useita kertoja paremman suorituskyvyn kuin pelkästään ohjelmistopohjainen FHE. Cornami, jonka pääasiallinen tieteilijä on Craig Gentry (jota pidetään yleisesti FHE:n keksijänä), on väittänyt “lähellä selväkielisen suorituskyvyn” LLM-inferenssille FHE:n avulla, vaikka riippumattomia benchmarkkeja ei ole julkaistu. Toisaalta yhtiö on osoittanut FHE-pohjaisen LLM-inferenssin Llama 3 70b-mallilla nopeuksilla, jotka lähestyvät salaamattoman suorituskyvyn. Nämä väitteet vaativat tarkastelua, mutta traektoria on selvä: suorituskykyero, joka piti FHE:ta teoreettisena, on kaventumassa nopeasti.

Jos FHE:sta tulee tarpeeksi nopea tuotantolaskelmia varten, seuraamukset ovat syvät. Et tarvitse enää luottaa piirilevyvalmistajaan, pilvipalveluntarjoajaan tai keneenkään, jolla on fyysinen pääsy laitteistoon. Turvallisuustakeesi muuttuu matemaattiseksi, ei operatiiviseksi.

Sijoittajille tämä luo tärkeän strategisen kysymyksen: panetteko te luottamuksellisen laitteiston luotettavuuden kasvuun (TEE-polku) vai kryptografisen suorituskyvyn parantumiseen, jotta matemaattiset ratkaisut tulevat tuotantokelpoisiksi (FHE-polku)? Useimmat lähiaikaiset tulot ovat TEE-puolella. Pitkän aikavälin puolustusväite saattaa suosia matemaattista lähestymistapaa, ainakin joissakin laskentadomeeneissa.

Laskennan eheys: sisäisestä uhkasta vihamieliseen ympäristöön

Laskennan eheys käsittelee eri ongelmaa: miten voit tietää, että oikea laskenta suoritettiin?

Säädellyissä ympäristöissä, kuten yritysten tietokeskuksissa ja hyperskaalautuvissa pilvissä, TEE:t hoitavat tämän kohtuullisesti hyvin. Vahvistusmekanismit antavat sinun vahvistaa, että odotettu koodi ladattiin aitoon TEE:hen ennen kuin data lähetettiin. Tämä on arvokasta suojattaessa sisäisiä uhkia, rikkoontuneita infrastruktuureja tai käyttöönoton ongelmia. Useimmissa yritysten käyttötarkoituksissa TEE-pohjainen vahvistus on riittävä.

“Riittävä” riippuu kuitenkin uhkamallistasi. Vastustuskykyisissä ympäristöissä, joissa sinulla ei ole määräysvaltaa laitteistoon ja operaattori voi olla aktiivisesti vihamielinen, TEE-takeet heikkenevät. Viimeaikaiset tutkimukset ovat osoittaneet käytännöllisiä hyökkäyksiä TEE-vahvistusta vastaan edullisilla laitteiston väliohjaimilla, ja suurimmat piirilevyvalmistajat ovat myöntäneet, että fyysiset hyökkäykset ovat ulkopuolella heidän uhkamalliaan. Hyvin johdetussa tietokeskuksessa, jossa on fyysinen turvallisuus, tämä jäännösriski on hallittavissa. Tuntemattomalla solmulla hajautetussa laskentaverkossa se ei ole.

Tämä on tarkalleen, miksi Web3-maailma on ollut pääasiallinen ajuri nollatietojen todistusteknologian innovaatioille. Nollatietotodistukset tarjoavat matemaattisen varmuuden laskennan eheys suhteessa laitteistoympäristöön. Jos todistus vahvistaa, laskenta oli oikein, riippumatta siitä, tehtiinkö todistettu laskenta turvallisessa tilassa vai jonkun autotallissa.

Edistymisen vauhti on ollut hämmästyttävä. Yleispurpose-zkVM:t antavat kehittäjille mahdollisuuden kirjoittaa normaalia Rust-koodia ja generoida todistukset automaattisesti ilman kryptografisten piirien käsin kirjoittamista. Succinctin SP1 Hypercube todistaa Ethereum-lohkoketjun alle 12 sekunnissa 16 GPU:lla. ZKsyncin Airbender raportoi yli 21 miljoonan syklin sekunnissa yhdellä H100:lla.

Älytehtävien osalta erityisesti zkML on edennyt, mutta se on edelleen kallista. LLM-inferenssin todistaminen on edelleen tuhansia kertoja hitaampaa kuin itse inferenssi. Pienemmät mallit, kuten luokittelijat ja upottamismallit, lähestyvät käytännöllistä ZK-todistettavuutta, ja rajapinteen LLM-todistus on todennäköisesti kaksi tai kolme vuotta eteenpäin. Mielenkiintoinen välimuoto on “optimistinen” vahvistus, jossa todistukset generoidaan vain, kun tuloksia haastetaan eikä jokaiselle laskelmalle, mikä vähentää merkittävästi keskimääräistä kustannusta.

Mihin tämä on menossa

Luottamuksellisen laskennan tila on infektiokehityksessä. Innovointi tapahtuu yhtäaikaisesti TEE:iden, FHE:n ja ZK:n parissa, kunkin ajamana eri yhteisöillä, joilla on erilaiset prioriteetit, mutta kaikki keskittyvät jaettuun joukkoon ongelmia.

Ostajien dynamiikka siitä, mitä he pitävät kiireellisinä, määrittää, mitkä lähestymistavat saavuttavat otteen ensin. Yritykset, jotka keskittyvät sääntelynmukaisuuteen ja pilvidatan suojeluun, vetävät todennäköisesti TEE-pohjaisia ratkaisuja eteenpäin. Älyaalto voi kiihdyttää FHE:n vaatimusta, jos suorituskyky jatkaa parantumistaan. Hajautettu laskenta ja Web3-sovellukset jatkavat ZK-teknologian työntämistä laajempaan soveltamiskelpoisuuteen.

Odotamme myös hybridirakenteiden ilmaantuvan käytännöllisenä välimuotona. TEE:t yksityisyyden ja ZK-todistukset eheys takia antavat vahvan luottamuksellisuuden matemaattisen varmuuden oikeellisuudesta. Tämä yhdistelmä toimii hyvin skenaarioissa, joissa laitteistoympäristö on osittain luotettava, mutta ei täysin hallittu.

Tämä viitekehys on erityisen relevantti Linux Foundationin Luottamuksellisen laskennan huippukokouksessa San Franciscossa viime viikolla, jossa keskeinen teema oli, voiko luottamuksellinen laskenta toimia turvallisuuden kerroksena, joka tekee älykkäät agentit käyttökelpoisiksi yrityskoossa. Kun organisaatiot antavat älyagentteille pääsyn herkkiin järjestelmiin, tietoihin ja työvirtoihin, luottamuksellisen laskennan, laskennan eheys ja verifioitavuuden luottamus siirtyvät teoreettisista arkkitehtuurikeskusteluista operatiivisiksi vaatimuksiksi.

Startup-yrityksille mahdollisuudet ovat merkittäviä koko pinossa: TEE-pohjaisen luottamuksellisen laskennan helpottaminen SaaS-yritysten omaksumiseksi, FHE:n työntäminen tutkimuksesta tuotantoon, ZK-pohjaisen laskennan eheysinfrastruktuurin luominen yrityskohtaisiin ympäristöihin ja luottamusvälittäjien ja vahvistuskerrosten kehittäminen, jotka sijaitsevat asiakkaiden ja pilvipalveluntarjoajien välissä. Jatkamme tämän tilan tutkimista ja olemme innoissamme perustajista, joita tapaamme. Eri laskelmat, uhkamallit ja sääntelyjärjestelmät vaativat erilaisia yhdistelmiä kolmesta pilarista. Yritykset, jotka voittavat, ovat ne, jotka valitsevat pilarin, ratkaisevat sen ratkaisemalla ja tekevät siitä helpon yritysten omaksumiseksi.

Leo Scott on DataTribe-n johtaja. Hänellä on 30 vuoden historia teknologia-yrittäjänä, ja hän on perustanut ja rakennuttanut kolme menestyvää teknologia-alan yritystä, jotka on myyty: Clara Vista myytiin CMGI:lle (1999), Incando / Pickle.com myytiin Scripps Networksille (2007) ja BrightContext myytiin WealthEnginelle (2014).

Lisäksi yritysten perustamisen, Leo on työskennellyt monissa keskisuurissa ja suurissa yrityksissä ratkaisemassa liiketoimintaa ja teknologiaa koskevia haasteita ja auttamassa yrityksiä vaikeissa uudelleenjärjestely- ja kääntötilanteissa. Uransa alussa hän työskenteli ohjelmistosuunnittelijana Web 1.0:n alkuajoista lähtien, ja hän on viettänyt koko uransa rakentamalla verkkoratkaisuja, jotka kattavat laajan liiketoimintaratkaisujen valikoiman, kuten suuret datan markkinointiteknologian, rahoitusportfolion hallinnan, satelliittitelemetrian prosessoinnin ja TV Everywhere -aloitteen.

Leo on suorittanut sähkö- ja tietokonetekniikan tutkinnon Carnegie Mellon -yliopistosta ja tietojenkäsittelytieteen maisterin tutkinnon George Washingtonin yliopistosta.