Jonathan Mortensen, zakladatel a generální ředitel Confident Security – Interview Series

Jonathan Mortensen, zakladatel a generální ředitel Confident Security, v současné době vede vývoj prokazatelně soukromých systémů umělé inteligence pro odvětví s přísnými bezpečnostními a dodržovacími požadavky. Působí také jako zakladatel a fellow v South Park Commons, kde zkoumá budoucnost výpočtu umělé inteligence, paměti, soukromí a vlastnictví. Před založením Confident Security byl zaměstnán jako softwarový inženýr ve společnosti Databricks, kde integroval technologii bit.io do své datové platformy se zaměřením na multi-tenant bezpečnost, IAM/ACL, izolaci VPC, šifrování a vlastnictví dat. Dříve založil a působil jako technický ředitel bit.io, kde vyvinul multi-cloudový, multi-regionální serverless službu PostgreSQL, která podporovala stovky tisíc bezpečných databází a byla později získaná společností Databricks.

Confident Security buduje infrastrukturu, která umožňuje podnikům spouštět pracovní postupy umělé inteligence bez ohrožení citlivých informací. Jejich platforma je navržena tak, aby příkazy, data a výstupy modelů zůstaly plně soukromé, nikdy nebyly zaznamenány a nikdy nebyly znovu použity, poskytují tak organizacím bezpečný způsob, jak přijmout umělou inteligenci a zároveň dodržovat přísné regulační a dodržovací standardy.

Vy jste založil Confident Security v roce 2024 po vybudování bit.io a práci ve společnosti Databricks. Co vás vedlo k závěru, že umělá inteligence potřebuje zásadně odlišný přístup k soukromí?

Moje zkušenosti s budováním datové infrastruktury mě naučily, že pokud lidé vkládají citlivé informace do systému, důvěra nestačí. Potřebují důkaz. Vyvinuli jsme infrastrukturu, ve které zákazníci vlastnili svá data a poskytli jim způsoby, jak ověřit, že tomu tak je.

Když jsem se podíval na to, jak společnosti používaly velké jazykové modely, takový důkaz neexistoval. Zaměstnanci vkládali zdrojový kód, právní dokumenty a zdravotnické záznamy do modelů provozovaných třetími stranami, které nemohli ověřit. Už jsme viděli, jak soukromé konverzace byly náhodou indexovány online a jak se politika změnila tak, že konverzace se staly trénovacími daty ve výchozím nastavení. To ukázalo, jak křehký je současný model soukromí.

Pokud má umělá inteligence zpracovávat nejcitlivější informace světa, potřebujeme záruky, které nezávisí na důvěře ve vnitřní sliby dodavatele. To mě vedlo k založení Confident Security.

OpenPCC je popisován jako „Signal pro umělou inteligenci“. Proč bylo důležité, aby tato vrstva soukromí byla otevřená, ověřitelná a interoperabilní od samého začátku?

Šifrování od konce do konce se neujalo, dokud se nestalo standardem, který mohl přijmout každý. Chceme totéž pro soukromí umělé inteligence. Pokud pouze několik společností může nabízet skutečné záruky, pak soukromí nebude škálovat.

OpenPCC je open source pod licencí Apache 2.0, takže si jej může kdokoli prohlédnout nebo na něm postavit. Neexistuje žádné tajné požadavky na důvěru. Attestation hardwaru poskytuje kryptografický důkaz o tom, co je spuštěno a kde. A zajistili jsme, aby to fungovalo všude: v jakémkoli cloudu, u jakékoli poskytovatele modelů, v jakémkoli vývojovém prostředí.

Existuje obrovská hodnota v konzistentné a univerzální soukromé podlaze. Pokud používáte OpenPCC, víte, že vaše data nejsou viditelná pro poskytovatele modelů, regulační orgány nebo dokonce pro nás. Standard funguje pouze tehdy, pokud se na něm může podílet celý ekosystém, takže jsme jej navrhli tak, aby byl co nejvíce inkluzivní od samého začátku.

Před Confident Security jste budovali velké systémy pro multi-tenancy, šifrování a vlastnictví dat. Jak tyto zkušenosti ovlivnily architekturu OpenPCC?

Ty systémy mi potvrdily dvě pravdy: pokud systém může uchovávat data, nakonec je uchová, ať už prostřednictvím protokolů, nesprávné konfigurace nebo právních požadavků. A důvěra není modelem soukromí. Uživatelé potřebují viditelnost a kontrolu.

OpenPCC běží v bezstavovém režimu, takže příkazy zmizí po zpracování. Attestation umožňuje uživatelům ověřit, kam jejich data putují a jaký kód je spuštěn. A izolací řízení od dat OpenPCC zabrání, aby soukromé vstupy byly कभkoliv považovány za spustitelné instrukce.

Tyto omezení jsou to, na co podniky čekaly: záruky, že data nebudou znovu objevit v neočekávaném místě.

Vy jste argumentoval, že většina „soukromých“ řešení umělé inteligence spoléhá na důvěru v neprůhledné systémy. Proč je nezávislá verifikace essenciální pro skutečné soukromí?

Většina jazyka soukromí dnes je efektivní „pouze důvěřujte nám“. To nestačí, když jsou na hře národní bezpečnost a regulované zdravotnické údaje. Pokud uživatel nemůže ověřit tvrzení, není to záruka – je to marketing.

Ověřené soukromí je jiné. Nedůvěřujete záměrům operátora. Ověřujete hardware, software a záruky zpracování dat. Kryptografie vynucuje hranice. Protokoly neexistují, aby někdo mohl náhodou uniknout nebo je získat na základě soudního příkazu.

Když je soukromí ověřitelné uživatelem, vytváříte fundamentálně bezpečnější systém. Je to zodpovědnost založená na matematice.

Oznámení Google (GOOGL ) o „Soukromé umělých inteligenci“ přišlo brzy po OpenPCC. Vy jste veřejně vyzvali, aby poskytli TPU pro nezávislé testování. Co vás vedlo k tomuto výzvu a co byste očekávali, že najdete?

Abyste mohli tvrdit, že máte záruky soukromí, měli byste umožnit komunitě je ověřit. NVIDIA (NVDA ) již umožňuje externí ověření na svých H100 GPU a my dokonce otevřeli zdroj knihovny pro ověření v jazyce Go, abychom povzbudili přijetí.

Pokud chce Google učinit podobná tvrzení o TPUs, měli bychom být schopni měřit a ověřit tato tvrzení, ne jen o nich číst v blogovém příspěvku. Očekávali bychom stejné kontroly, které očekáváme od každého systému soukromí: přísné hranice uchovávání dat, ověřitelné ověření a žádné tajné cesty, kterými by se protokoly nebo telemetrie mohly dostat ven. Tvrzení o soukromí musí přežít zkoumání.

Pro čtenáře, kteří nejsou seznámeni s mechanikou, co dělá plně šifrované kanály OpenPCC jiné než tradiční šifrování na straně klienta nebo důvěrné výpočty?

Šifrování na straně klienta chrání data na cestě, a důvěrné výpočty chrání data během zpracování, ale stále existují mezery před a po zpracování, kde operátoři nebo útočníci mohou získat přístup k citlivým informacím.

OpenPCC tyto mezery uzavírá. Vytvoří zapečetěnou cestu od konce do konce mezi klientem a modelem, která chrání příkaz, odpověď, identitu uživatele a dokonce metadata nebo signály času, které mohou potichu odhalit záměr. Operátoři nemohou dešifrovat nic. Nic není zaznamenáno nebo uchováno, ani v případě porušení.

Soukromí by nemělo záviset na naději, že poskytovatel udělá správnou věc za scénou. Musí být vynuceno kryptograficky.

Jak změní ověřitelné soukromí rovnici pro regulovaná odvětví, jako je finance, zdravotnictví a obrana?

Regulovaná odvětví mají nejvíce co získat z umělé inteligence, ale také nejvíce co ztratit, pokud něco unikne. Dnes 78 % zaměstnanců vkládá interní data do nástrojů umělé inteligence a jeden z pěti případů zahrnuje regulovaná data, jako jsou zdravotnické informace nebo platební karty. Expozice již probíhá.

Ověřené soukromí odstraňuje největší překážku. Citlivé příkazy nikdy neexistují v plain textu ve prostředí poskytovatele modelu. Nic nemůže být použito pro trénink. Ani zákonné požadavky nemohou získat přístup k tomu, co systém sám nemůže vidět.

Týmy pro rizika a dodržování předpisů konečně mají cestu, kde „ano“ se stává výchozím nastavením místo „ne“.

Jaké byly největší inženýrské výzvy při navrhování cloud-agnostic vrstvy soukromí, která funguje napříč jakoukoli podnikovou architekturou?

Důvěrné výpočty a vzdálené ověření je stále v plenkách. Každý cloudový poskytovatel a poskytovatel holého kovu dělá něco slightly odlišného. Některé poskytovatele, jako je AWS, nemají ani hardware nezbytný pro to. Každá funkce, kterou přidáme, je jako 1000 řezů a chůze po tenkém laně. Ale celý bod je stát se otevřeným standardem, takže to musíme udělat tak, aby to fungovalo pro každého cloudu. Je to open source, takže vás povzbuzuji, abyste přidali ještě více podporovaných platforem a konfigurací!

Jak vypadá svět s výchozím ověřitelným šifrováním a jak by to mohlo změnit rovnici moci mezi podniky, cloudovými poskytovateli a poskytovateli modelů?

Podniky si uchovávají kontrolu nad svým největším aktivem: svými daty. Poskytovatelé modelů soutěží na základě výkonu a nákladů, nikoli na základě toho, kdo může nahromadit nejvíce proprietárních informací. Cloudy umožňují soukromí místo toho, aby byly tichými pozorovateli.

Je to zdravější rovnice moci. A celý ekosystém vyhrává, když je bezpečnost vestavěna do základny místo toho, aby byla přidána na vrchol.

V budoucnosti, kde se umělá inteligence stane všudypřítomnou a silně regulovanou, jak očekáváte, že ověřené soukromí změní konkurenční krajinu pro podniky, cloudové poskytovatele a vývojáře modelů?

Regulační orgány již zpochybňují, jak jsou uživatelská data uložena a používána. Důvěra založená na soukromí nebude uspokojit je dlouho. Uživatelé budou očekávat záruky soukromí stejně, jako očekávají šifrování v aplikacích pro zasílání zpráv dnes.

Vítězi budou společnosti, které nebudou žádat uživatele, aby kompromitovali. Pokud můžete prokázat soukromí, získáte důvěru organizací, které mají nejvíce cenná data na světě. Data se stanou použitelnými na místech, kde byla dříve uzamčena.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Confident Security.