Jonathan Mortensen, Confident Securityn perustaja ja toimitusjohtaja – Haastattelusarja

Jonathan Mortensen, Confident Securityn perustaja ja toimitusjohtaja, johtaa tällä hetkellä provably-private AI-järjestelmien kehittämistä aloille, joilla on tiukat turvallisuus- ja määräystenmukaisuusvaatimukset. Hän toimii myös South Park Commonsin perustajajäsenenä, jossa hän tutkii AI-laskennan, muistin, yksityisyyden ja omistajuuden tulevaisuutta. Ennen Confident Securityn perustamista hän oli Databricksin ohjelmistosuunnittelija, joka integroi bit.io:n teknologian Databricksin data-alustaan, keskittyen monen vuokraajan turvallisuuteen, IAM/ACL:hen, VPC-eristykseen, salaamiseen ja dataomistajuuteen. Aikaisemmin hän perusti ja toimi bit.io:n CTO:na, joka kehitti monipilvi-, monialueen serverittoman PostgreSQL-palvelun, joka tukee satoja tuhansia turvallisia tietokantoja ja jonka Databricks myöhemmin hankki.

Confident Security rakentaa infrastruktuuria, joka mahdollistaa yritysten suorittaa AI-työvirran ilman arkaluontoisen tiedon paljastamista. Sen alusta on suunniteltu siten, että kyselyt, tiedot ja mallin tulosteet säilytetään täysin yksityisinä, eivät koskaan tallenneta ja eivät koskaan uudelleen käytetä, tarjoten organisaatioille turvallisen tavan ottaa AI käyttöön täyttäen tiukat sääntely- ja määräystenmukaisuusvaatimukset.

Perustit Confident Securityn vuonna 2024 sen jälkeen, kun olet rakentanut bit.io ja työskennellyt Databricksissa. Mikä herätti tajunnan, että AI:lle tarvitaan perustavanlaatuinen lähestymistapa yksityisyyteen?

Kokemukseni data-infrastruktuurin rakentamisesta opetti minulle tämän: jos ihmiset laittavat arkaluontoista tietoa järjestelmään, luottamus ei riitä. He tarvitsevat todisteita. Rakensimme infrastruktuurin, jossa asiakkaat omistivat datansa, ja annimme heille keinoja vahvistaa sitä.

Kun tarkastelin, miten yritykset käyttivät LLM:ää, todisteita ei ollut. Työntekijät liittivät lähdekoodia, lakidokumentteja ja potilastietoja malleihin, joita kolmannet osapuolet johtivat eivätkä voinneet vahvistaa. Olemme jo nähneet, miten yksityiset keskustelut ovat vahingossa indeksoitu verkossa ja miten käytäntömuutokset ovat tehneet keskusteluista koulutusdatan oletusarvoisesti. Se osoittaa, miten hauras nykyinen yksityisyyden malli on.

Jos AI käsittelee maailman arkaluontoisimman tiedon, tarvitsemme takeita, jotka eivät riipu toimittajan sisäisistä lupauksista. Se oli se, mikä ajoi minua perustamaan Confident Securityn.

OpenPCC:ta kuvaillaan ”Signaaleksi AI:lle”. Miksi tämä yksityisyyden kerros oli avoin, vahvistettavissa ja yhteensopiva alusta alkaen?

Päästä päähän -salaus ei ottanut tuulta siipiensä alle, kunnes se tuli jokaisen voittamaksi. Haluamme samaa asiaa AI-yksityisyydelle. Jos vain muutamalla yrityksellä on todellisia takeita, yksityisyyttä ei voi laajentaa.

OpenPCC on avoimen lähdekoodin Apache 2.0 -lisenssillä, joten kuka tahansa voi rakentaa sen päälle tai tarkastella sitä. Ei ole salattua luottamusta. Laitteiston vahvistus tarjoaa kryptografisen todisteen siitä, mitä suoritetaan ja missä. Ja varmistimme, että se toimii missä tahansa: missä tahansa pilvessä, missä tahansa mallin tarjoajassa, missä tahansa kehittäjän pinossa.

On valtava arvo yksityisyyden pohjalla, joka on johdonmukainen ja yleispätevä. Jos käytät OpenPCC:ta, tiedät, ettei dataa voida nähdä mallin tarjoajille, viranomaisille tai jopa meille. Vain standardi toimii, jos koko ekosysteemi voi osallistua, joten suunnittelimmme sen avoimeksi alusta alkaen.

Ennen Confident Securitya rakensit suuria järjestelmiä monen vuokraajan, salaamisen ja dataomistajuuden tarpeisiin. Miten nämä kokemukset muotoilivat OpenPCC:n arkkitehtuuri?

Nuo järjestelmät vahvistivat kaksi totuutta: jos järjestelmä voi säilyttää dataa, se lopulta säilyttää, olipa se sitten lokien, määräysten vastaisen konfiguraation, oikeudellisen pyynnön kautta tai muulla tavoin. Ja luottamus ei ole yksityisyyden malli. Käyttäjille on näkyvyys ja valvonta tarpeen.

OpenPCC suorittaa tilattomassa tilassa, jossa kyselyt häviävät käytön jälkeen. Vahvistus antaa käyttäjille mahdollisuuden vahvistaa, mihin data menee ja mitä koodia suoritetaan. Ja erottamalla valvonnan datasta OpenPCC estää yksityisten syötteen käytön koskaan suoritettavina ohjeina.

Nuo rajoitukset ovat sellaisia, mitä yritykset ovat odottaneet: takeita siitä, ettei dataa ilmesty odottamattomiin paikkoihin.

Olet väittänyt, että useimmat ”yksityiset AI” -ratkaisut perustuvat luottamukseen epäselviin järjestelmiin. Miksi riippumaton vahvistus on välttämätöntä todellisen yksityisyyden kannalta?

Useimmat yksityisyyden kielestä tänään on periaatteessa ”luota vain meihin”. Se ei ole tarpeeksi, kun panokset sisältävät kansallisen turvallisuuden ja säänneltyjen terveydenhuollon tietoja. Jos käyttäjä ei voi vahvistaa väittämää, se ei ole takuu – se on markkinointia.

Vahvistettava yksityisyyden on erilainen. Et luota toimijan aikomuksiin. Vahvistat laitteiston, ohjelmakuva ja datakäsittelytakeet. Kryptografia pakottaa rajoitukset. Lokit eivät ole olemassa jonkun tahattomasti vuotamiseksi tai haastamiseksi.

Kun yksityisyyttä voidaan tarkastaa käyttäjän toimesta, luot turvallisemman järjestelmän. Se on vastuu, joka perustuu matematiikkaan.

Google (GOOGL ) julkaisi ”Private AI” -ilmoituksensa pian OpenPCC:n jälkeen. Haastoit heidät julkisesti antamaan TPU:n riippumattomaan testaukseen. Mikä motivoi tuon haasteen, ja mitä odotat löytäväsi?

Jos haluat väittää yksityisyyden takeita, sinun pitäisi antaa yhteisöllä vahvistaa niitä. NVIDIA (NVDA ) sallii jo ulkoisen vahvistuksen H100 -GPU:illa, ja me jopa avoimme lähteen Go-versiota heidän vahvistuskirjastostaan rohkaisemaan omaksumista.

Jos Google haluaa tehdä samanlaisia lupauksia TPU:ille, meidän pitäisi pystyä mitatamään ja vahvistamaan niitä lupauksia, eikä vain lukea niistä blogikirjoituksessa. Etsimme samoja valvontaa, mitä odotamme miltä tahansa yksityisyyden järjestelmältä: tiukat dataa säilyttämisen rajoitukset, vahvistettava vahvistus ja ei salattuja polkuja, joissa lokit tai telemetria pääsevät pakoon. Yksityisyyden väitteiden on kestettävä tarkastelu.

Mikä tekee OpenPCC:n täysin salatun kanavan erilaiseksi verrattuna perinteiseen asiakaspuolen salaamiseen tai luottamukselliseen laskentaan?

Asiakaspuolen salaaminen suojelee dataa tullessa, ja luottamuksellinen laskenta suojelee sitä, kun se prosessoidaan, mutta on edelleen aukkoja ennen ja jälkeen, joissa toimijat tai hyökkääjät voivat päästä arkaluontoiseen tietoon.

OpenPCC sulkee nämä aukot. Se luo sinetoidun päästä päähän -reitin asiakkaan ja mallin välille, joka suojelee kyselyä, vastausta, käyttäjän identiteettiä ja jopa metatietoa tai aikamerkkejä, jotka voivat hiljaisesti paljastaa aikomukset. Toimijat eivät voi salata mitään. Mitään ei tallenneta tai säilytetä, edes rikkomisen ehdolla.

Yksityisyyden ei pitäisi riippua toiveesta, että tarjoaja tekee oikein taustalla. Se tarvitsee kryptografista pakottamista.

Miten vahvistettava yksityisyyden muuttaa yhtälön säänneltyille aloille, kuten rahoitukselle, terveydenhuololle ja puolustukselle?

Säännellyt alat ovat eniten hyötyviä AI:sta, mutta myös eniten menettäviä, jos jotain vuotaa. Tänään 78 % työntekijöistä liittää sisäistä dataa AI-työkaluihin, ja joka viides tapaus sisältää säänneltyjä tietoja, kuten PHI:ä tai PCI:tä. Altistus on jo tapahtumassa.

Vahvistettava yksityisyyden poistaa suurimman esteen. Arkaluontoiset kyselyt eivät koskaan ole salvattuina mallin tarjoajan ympäristössä. Mitään ei voida käyttää koulutukseen. Edes lailliset pyynnöt eivät voi päästä siihen, mitä järjestelmä itsessään ei voi nähdä.

Riski- ja määräystenmukaisuustiimit saavat vihdoin polun, jossa ”kyllä” on oletusarvo sen sijaan, että ”ei”.

Mitkä olivat suurimmat insinööritieteelliset haasteet suunnitellessa pilvi-agnostista yksityisyyden kerrosta, joka toimii minkä tahansa yrityksen pinossa?

Luottamuksellinen laskenta ja etävahvistus on edelleen vasta alkuvaiheessa. Jokainen pilvi- ja paljaspalveluntarjoaja tekee jotain hieman eri tavoin. Jotkut tarjoajat, kuten AWS, eivät edes ole laitteistoa, jolla voidaan tehdä sitä. Jokainen ominaisuus, jonka lisäämme, on kuin 1000 leikkausta ja tiiviisti köydellä kävelyä. Mutta koko pointti on tulla avoimeksi standardiksi, joten meidän on tehtävä se siten, että se toimii kenen tahansa pilven kanssa. Se on avoimen lähdekoodin, joten rohkeasti lisäämään tuettuja alustoja ja konfiguraatioita!

Miltä näyttää maailma, jossa oletusarvoinen vahvistettava salaaminen on normi, ja miten se muuttaa tasapainoa yritysten, pilvi-palveluntarjoajien ja mallin kehittäjien välillä?

Yritykset säilyttävät hallinnan arvokkaimmasta omistuksestaan: datastaan. Mallin kehittäjät kilpailevat suorituskyvystä ja kustannuksista eikä siitä, kuka kerää eniten omistettua tietoa. Pilvet mahdollistavat yksityisyyden sen sijaan, että ne olisivat hiljaisia sen havainnoitsijoita.

Se on terveempi tasapaino. Koko ekosysteemi voittaa, kun turvallisuus on rakennettu perustaan sen sijaan, että se on korjattu päälle.

Miten näet vahvistetun yksityisyyden muuttavan kilpailukenttää yrityksille, pilvi-palveluntarjoajille ja mallin kehittäjille tulevaisuudessa, jossa AI on yleinen ja voimakkaasti säännelty?

Sääntelijät ovat jo kyselemässä, miten käyttäjien tietoja säilytetään ja käytetään. Luottamuksellinen yksityisyyden ei tyydytä heille pitkään. Käyttäjät odottavat yksityisyyden takeita samalla tavoin kuin he odottavat salaamista viestintäsovelluksissa tänään.

Voittajat ovat yritykset, jotka eivät pyydä käyttäjiä tinkimään. Jos voit osoittaa yksityisyyden, ansaitset luottamuksen organisaatiolta, jolla on maailman arvokkaimmat tiedot. Datasta tulee käytettävissä paikoissa, joissa se on ollut lukittuna.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Confident Security -sivustolla.