Jonathan Mortensen, Confident Securityn perustaja ja toimitusjohtaja – Haastattelu sarja

Jonathan Mortensen, Confident Securityn perustaja ja toimitusjohtaja, johtaa parhaillaan provably-private AI-järjestelmien kehittämistä aloille, joilla on tiukat turvallisuus- ja säätelyvaatimukset. Hän toimii myös perustajana South Park Commonsissa, jossa hän tutkii AI-laskennan, muistin, yksityisyyden ja omistajuuden tulevaisuutta. Ennen Confident Securityn perustamista hän työskenteli Databricksissä ohjelmistoinsinöörinä, jossa hän integroi bit.io:n teknologian data-alustaan keskittyen monen vuokraajan turvallisuuteen, IAM/ACL:hen, VPC-eristykseen, salaamiseen ja dataomistajuuteen. Aikaisemmin hän perusti ja toimi bit.io:n CTO:na, jossa hän rakensi monipilvi-, monialueen serverittoman PostgreSQL-palvelun, joka tuki satoja tuhansia turvallisia tietokantoja ja myytiin myöhemmin Databricksille.

Confident Security rakentaa infrastruktuuria, joka mahdollistaa yritysten suorittaa AI-työvirran ilman herkkien tietojen paljastamista. Sen alusta on suunniteltu siten, että kyselyt, tiedot ja mallin tulostukset säilytetään täysin yksityisinä, eivät koskaan tallenneta ja eivät koskaan uudelleen käytetä, tarjoten organisaatioille turvallisen tavan omaksua AI ja täyttää tiukat sääntely- ja vaatimukset.

Perustit Confident Securityn vuonna 2024 sen jälkeen, kun olet rakentanut bit.io ja työskennellyt Databricksissä. Mikä herätti tajunnan, että AI:lle tarvitaan perustavanlaatuinen muutos yksityisyyden suhteen?

Kokemukseni data-infrastruktuurin rakentamisesta opetti minulle tämän: jos ihmiset laittavat herkkää tietoa järjestelmään, luottamus ei riitä. He tarvitsevat todisteita. Rakensimme infrastruktuurin, jossa asiakkaat omistivat datansa, ja annimme heille keinoja vahvistaa sitä.

Kun tarkastelin, miten yritykset käyttivät LLM:ä, todisteita ei ollut. Työntekijät liittivät lähdekoodia, lakidokumentteja ja potilastietoja malleihin, joita kolmannet osapuolet eivät voineet vahvistaa. Olemme jo nähneet, miten yksityiset keskustelut ovat vahingossa indeksoitu verkossa ja miten käytäntömuutokset ovat tehneet keskusteluista oletusarvoisesti koulutusdataa. Se osoittaa, miten hauras nykyinen yksityisyyden malli on.

Jos AI käsittelee maailman herkkimpiä tietoja, tarvitsemme takeita, jotka eivät riipu toimittajan sisäisistä lupauksista. Se ajoi minua perustamaan Confident Securityn.

OpenPCC:ta kuvaillaan ”Signaaleksi AI:lle”. Miksi tämä yksityisyyden kerros oli avoin, vahvistettavissa ja yhteensopiva päivästä yksi?

Päästä päähän salattu ei lähtenyt liikkeelle, kunnes se tuli standardiksi, jonka jokainen voi omaksua. Haluamme samaa asiaa AI-yksityisyydelle. Jos vain muutamalla yrityksellä on todellisia takeita, yksityisyyttä ei voi laajentaa.

OpenPCC on avoimen lähdekoodin ohjelma Apache 2.0:n alla, joten kuka tahansa voi rakentaa sen päälle tai tarkastella sitä. Siinä ei ole salattua luottamusta. Laitteiston vahvistus tarjoaa kryptografisen todisteen siitä, mitä suoritetaan ja missä. Ja me varmistimme, että se toimii missä tahansa: missä tahansa pilvessä, missä tahansa mallintojen tarjoajassa, missä tahansa kehittäjän pinossa.

On valtava arvo yksityisyyden pohjalla, joka on johdonmukainen ja yleispätevä. Jos käytät OpenPCC:ta, tiedät, ettei tietojasi voida nähdä mallin tarjoajilla, sääntelijöillä tai edes meillä. Vain standardi toimii, jos koko ekosysteemi voi osallistua, joten suunnittelimme sen mahdollisimman inklusiiviseksi päivästä yksi.

Ennen Confident Securitya rakensit suuria järjestelmiä monen vuokraajan, salauksen ja dataomistajuuden tarpeisiin. Miten nämä kokemukset muovasivat OpenPCC:n arkkitehtuuria?

Nämä järjestelmät vahvistivat kaksi totuutta: jos järjestelmä voi säilyttää dataa, se lopulta tekee niin, olipa se sitten lokien, määräysten tai oikeudellisten pyyntöjen kautta. Ja luottamus ei ole yksityisyyden malli. Käyttäjien on oltava näkyvyyttä ja valvontaa.

OpenPCC suorittaa tilattomassa tilassa, jossa kyselyt katoavat käsiteltynä. Vahvistus sallii käyttäjien vahvistaa, mihin heidän dataansa menee ja mikä koodi suoritetaan. Ja erottamalla valvonnan datasta OpenPCC estää yksityisten syötteiden käsittelemisen koskaan suoritettavina ohjeina.

Nämä rajoitukset ovat sitä, mitä yritykset ovat odottaneet: takeita, että dataa ei voida paljastaa odottamattomasti.

Olet väittänyt, että useimmat ”yksityiset AI”-ratkaisut riippuvat epäselvien järjestelmien luottamuksesta. Miksi riippumaton vahvistus on välttämätöntä todellisen yksityisyyden kannalta?

Useimmat yksityisyyden kieli tänään on käytännössä ”luota meihin”. Se ei riitä, kun panokset sisältävät kansallista turvallisuutta ja säädeltyjä terveydenhuollon tietoja. Jos käyttäjä ei voi vahvistaa väittämää, se ei ole take, vaan markkinointia.

Vahvistettava yksityisyyden on erilainen. Et luota operaattorin aikomuksiin. Vahvistat laitteiston, ohjelmakuva ja datakäsittelytakeet. Kryptografia pakottaa rajoitukset. Lokit eivät ole olemassa, jotta joku voisi vahingossa vuotaa tai haastaa.

Kun yksityisyyttä voidaan tarkastaa käyttäjän toimesta, luot turvallisemman järjestelmän. Se on vastuu, joka perustuu matematiikkaan.

Googlen ”Private AI”-ilmoitus tuli pian OpenPCC:n jälkeen. Haastoit heidät julkisesti antamaan TPU itsenäiseen testaamiseen. Mitä motivoi tämän haasteen, ja mitä odotat löytäväsi?

Jos haluat vaatia yksityisyyden takeita, sinun on annettava yhteisöllä vahvistaa niitä. NVIDIA sallii jo ulkoisen vahvistuksen H100-GPU:illa, ja me jopa avoimme lähteen Go- version heidän vahvistuskirjastostaan kannustamaan omaksumista.

Jos Google haluaa tehdä samanlaisia lupauksia TPU:ille, meidän on pystyttävä mittaamaan ja vahvistamaan niitä, eikä vain lukea niistä blogipostauksessa. Etsimme samoja valvontaa, joita odotamme miltä tahansa yksityisyyden järjestelmältä: tiukat dataa säilyttämisen rajoitukset, vahvistettava vahvistus ja ei salattuja polkuja, joissa lokit tai telemetria pääsevät pakoon. Yksityisyyden vaatimukset on kestettävä tarkastelun.

Mikä tekee OpenPCC:n täysin salatun kanavan erilaiseksi verrattuna perinteiseen asiakaspuolen salaamiseen tai luottamukselliseen laskentaan?

Asiakaspuolen salaaminen suojaa dataa tullessa, ja luottamuksellinen laskenta suojaa sitä käsiteltäessä, mutta siinä on edelleen aukkoja, joissa operaattorit tai hyökkääjät voivat päästä herkkään tietoon.

OpenPCC sulkee nämä aukot. Se luo sinetoidun päästä päähän reitin asiakkaan ja mallin välille, joka suojaa kyselyn, vastauksen, käyttäjän identiteetin ja jopa metatietoja tai aikamerkkejä, jotka voivat hiljaisesti paljastaa aikomusta. Operaattorit eivät voi salata mitään. Mitään ei tallenneta tai säilytetä, edes rikkomisen alaisena.

Yksityisyyden ei pitäisi riippua toimittajan oikean toiminnan toivomisesta taustalla. Se on oltava kryptografisesti pakotettu.

Miten vahvistettava yksityisyyden muuttaa yhtälön säädeltyille aloille, kuten rahoitukselle, terveydenhuololle ja puolustukselle?

Säädeltyillä aloilla on enemmän hyötyä AI:sta, mutta myös enemmän menetettävää, jos jotain vuotaa. Tänään 78 % työntekijöistä liittää sisäisiä tietoja AI-työkaluihin, ja joka viides tapaus sisältää säädeltyjä tietoja, kuten terveydenhuollon tietoja tai maksukorttien tietoja. Altistus on jo tapahtunut.

Vahvistettava yksityisyyden poistaa suurimman esteen. Herkät kyselyt eivät ole koskaan selvänä tekstinä mallin tarjoajan ympäristössä. Mitään ei voida käyttää koulutukseen. Edes lailliset pyynnöt eivät voi päästä siihen, mitä järjestelmä itsessään ei voi nähdä.

Riskejä ja vaatimuksia koskevat tiimit saavat vihdoin polun, jossa ”kyllä” on oletusarvo sen sijaan, että ”ei”.

Mitkä olivat suurimmat insinööritieteelliset haasteet suunniteltaessa pilvi-agnostista yksityisyyden kerrosta, joka toimii minkä tahansa yrityksen pinossa?

Luottamuksellinen laskenta ja etävahvistus on edelleen vasta alkuvaiheessa. Jokainen pilvipalveluntarjoaja ja paljas metalli tekee jotain hieman erilaista. Jotkut tarjoajat, kuten AWS, eivät edes ole laitteistoa, jolla voidaan tehdä sitä. Jokainen ominaisuus, jonka lisäämme, on kuin 1000 leikkausta ja tiivista köyttä. Mutta koko pointti on tulla avoimeksi standardiksi, joten meidän on tehtävä se siten, että se toimii kenen tahansa pilvessä. Se on avoimen lähdekoodin, joten rohkeasti lisäämme tuettuja alustoja ja määrityksiä!

Millainen on maailma, jossa oletusarvoinen vahvistettava salaus on normi, ja miten se muuttaa tasapainoa yritysten, pilvipalveluntarjoajien ja mallikehittäjien välillä?

Yritykset säilyttävät hallinnan arvokkaimmasta omistuksestaan: datastaan. Mallin tarjoajat kilpailevat suorituskyvystä ja kustannuksista sen sijaan, kuka voi koota enemmän omistettuja tietoja. Pilvet mahdollistavat yksityisyyden sen sijaan, että ne olisivat hiljaisia sen havainnoitsijoita.

Se on terveempi tasapaino. Koko ekosysteemi voittaa, kun turvallisuus on rakennettu perustaan sen sijaan, että se on korjattu päälle.

Budjetissa, jossa AI on yleinen ja voimakkaasti säädelty, miten näet vahvistetun yksityisyyden muuttavan kilpailukenttää yritysten, pilvipalveluntarjoajien ja mallikehittäjien välillä?

Sääntelijät kyselevät jo, miten käyttäjän dataa säilytetään ja käytetään. Luottamuksessa perustuva yksityisyyden ei tyydytä heitä pitkään. Käyttäjät odottavat yksityisyyden takeita samalla tavalla kuin he odottavat salausta viestisovelluksissa tänään.

Voittajat ovat yritykset, jotka eivät pyytä käyttäjiä tinkimään. Jos voit vahvistaa yksityisyyden, ansaitset organisaatioiden luottamuksen, joilla on maailman arvokkaimmat tiedot. Datasta tulee käytettävissä paikoissa, joissa se on ollut lukittuna.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Confident Security-sivustolla.