Aaron Fulkerson, OPAQUE:n toimitusjohtaja – Haastattelusarja

Aaron Fulkerson, OPAQUE:n toimitusjohtaja, on pitkäaikainen yritysohjelmistoyrittäjä ja avoimen lähdekoodin uranuurtaja, jonka ura kattaa yli kaksi vuosikymmentä luomalla ja skaalauttamalla teknologia-alustoja, jotka keskittyvät luottamukseen, tietoihin ja digitaaliseen muutokseen. Ennen liittymistään OPAQUE:en vuonna 2023 hän perusti MindTouchin, joka kasvoi laajasti hyväksytyn yritystason tietopohjaksi, kunnes se myytiin NICE Systemsille, ja myöhemmin johti ServiceNow Impactin lanseerausta, josta tuli yksi nopeimmin kasvavista liiketoimintayksiköistä ServiceNow:n historiassa. Koko uransa ajan Fulkerson on työskennellyt uusien teknologioiden, yritysliiketoiminnan ja avoimien ekosysteemien risteyksessä, samalla neuvonut useita teknologia-alan startup-yrityksiä ja organisaatioita. Viimeaikaisemmin hän on tullut tunnetuksi salattavan tekoäly:n puolustajana, väittäen, että yksityisyys, hallinto ja verifiointi tulevat olemaan perustavanlaatuisia vaatimuksia, kun tekoälyjärjestelmät sisällytetään kriittisiin yritysten työprosesseihin.

OPAQUE on salattava tekoäly:ää kehittävä yritys, joka on peräisin UC Berkeley RISELabista, samasta tutkimusympäristöstä, josta ovat syntyneet teknologiat kuten Apache Spark ja Databricks. Yritys on kehittänyt alustan, joka mahdollistaa yritysten suorittaa tekoälymallit, -agentit ja -työprosessit erittäin herkillä tiedoilla, säilyttäen kryptografisesti verifioidut yksityisyyden ja mukaisuuden takuut. Sen sijaan, että yritykset joutuisivat valitsemaan tekoälyn innovaatioiden ja tietoturvan välillä, OPAQUE käyttää salattavaa laskentaa, salausta suoritusaikana ja laitteistotodistettua suoritusta varmistaakseen, että herkillä tiedoilla ei vaaranneta ennen, aikana tai tekoälyn prosessoinnin jälkeen. Sen teknologia on suunniteltu erittäin säännellyille aloille, kuten rahoitukselle, vakuutuksille, terveydenhuoltoala:lle ja teknologiateollisuudelle, ja sen asiakkaat ja kumppanit ovat mukana ServiceNow, Anthropic, Accenture ja muut yritykset, jotka pyrkivät siirtämään tekoälyprojekteja koepiloteista tuotantoon ilman, että he altistavat omistaja- tai säänneltyjä tietoja.

Mitä teki sinut tulemaan OPAQUE:n toimitusjohtajaksi ja keskittymään luottamukseen, yksityisyyteen ja tekoälyn hallintoon?

Olen viettänyt lähes kaksi vuosikymmentä rakentamassa yritysliiketoimintaa, ensin MindTouchissa, jota käytetään edelleen yli miljardi käyttäjällä vuodessa, ja sitten ServiceNow:ssa, jossa luomin yhtiön nopeimmin kasvavan tuotteen. Molemmat opettivat minulle saman opetuksen: voimakkain teknologia voittaa vain, kun ihmiset luottavat siihen.

Kun tapasin OPAQUE:n perustajat Raluca Ada Popan, Ion Stoican ja Rishabh Poddarin, näin harvinaisen yhdistelmän lahjakkuutta ja visiota. Raluca on yksi maailman johtavista tutkijoista yksityisyydestä ja turvallisuudesta. Ion perusti Databricksin. Rishabh rakensi kryptografiset järjestelmät, jotka muodostivat OPAQUE:n perustan.

UC Berkeley RISELabissa he olivat luoneet jotain, mitä tunnistin välittömästi sukupolvenvaihdokseksi. Kryptografiset todisteet siitä, että tiedot pysyvät yksityisinä koko tekoälytyön ajan. Ei lupauksia. Ei käytäntöjä. Todisteita.

Katsoin, mihin tekoäly oli menossa, agentit toimivat itsenäisesti yritysten järjestelmissä koneen nopeudella, ja näin saman aukon, josta Vint Cerf on varoittanut 30 vuoden ajan: ei luottamustasoa. Internet selvisi ilman sitä, koska ihmiset olivat varoitusviesti. Agenteilla ei ole samaa etua.

Miten MCP (Model Context Protocol, joka on standardi, joka sallii tekoälyagenttien turvallisen pääsyn työkaluihin, sovelluksiin ja tietoihin) muuttaa tapaa, jolla yritykset käyttävät ja skaalauttavat agenteja?

MCP on tärkeä askel siinä, miten yritykset käyttävät ja skaalauttavat agenteja. Ajattele sitä yleisenä liittimänä tekoälytyölle. Se standardisoi, miten agentit liittyvät työkaluihin, sovelluksiin ja tietoihin, vähentäen todellista kitkaa ja nopeuttaa kokeilua.

Mutta standardoimalla pääsyä ei tee agenteja turvallisiksi tai skaalautuviksi. Kun yhteydet lisääntyvät, ja niissä on enemmän agenteja, työkaluja ja tietolähteitä, tietojen vuotamisen pinta-ala laajenee jokaisen uuden integraation myötä. Jokainen yhteys, joka puuttuu suoritusaikaisesta valvonnasta, on potentiaalinen altistumisvektori. Kun tekoälyagentit vuorovaikuttavat herkillä järjestelmillä ja omistajalogiikalla, salaus levossa ja verkkohallinnassa ei riitä. Turvallisuuden raja on siirtynyt suoritusaikaan, ja tämä siirtyminen tulee kiireellisemmäksi, kun ekosysteemi laajenee.

Missä ovat suurimmat aukot tällä hetkellä, kun on kyse agenteiden turvallisuudesta, käytäntöjen valvonnasta ja luottamuksesta?

Olemme suorittaneet 2026 AI-vuotonsa vuotokohtaisen tutkimuksen ja julkaisimme yhteenvedon tutkimuksestamme, ” Tekoälypinon vuotokohtaiset tiet“, joka koskee tätä. Tunnistimme 46 altistumisvektoria kahdeksassa luokassa, jotka kattavat koko tekoälyn luottamuksen rajan: laskenta, hallinta, sovellus ja niiden väliset siirtymät. Tämä on tilanne, jossa mitään ei ole rikkoontunut, lokit näyttävät puhtailta, ja järjestelmä vuotaa silti tietoja.

Yksityisyyden ja hallinnon kannalta suurimmat aukot eivät ole yhteyden muodostamisessa; MCP ratkaisee sen. Aukot ovat siinä, mitä tapahtuu yhteyden muodostamisen jälkeen. Useimmat organisaatiot eivät voi vastata kolmeen peruskysymykseen: Miten tekoälymme toimii oikeasti? Kuka sitä hallinnoi? Miten voimme todistaa, että käytäntöjä noudatetaan?

Tutkimuksemme osoitti, että rajoitukset on määritelty, mutta niitä ei koskaan valvota. Käytäntö on määritelty asiakirjassa, konfiguraatiotiedostossa tai asennuksen aikaisessa asetuksessa, mutta suoritettava järjestelmä ei ole sitoutunut siihen. Tekoälyavustaja asettaa aineelliset, julkaisemattomat tiedot kalenterikutsuun. RAG-kopio ohjaa hallituksen taloudelliset tiedot nuorelle analyytikolle. Kolmannen osapuolen SDK siirtää hiljaisesti 10 miljoonaa kyselyä 12 kuukauden ajan. Jokaisessa tapauksessa pääsytunnukset olivat kunnossa. Tiedot vuotivat silti.

Kun tekoälyagentit saavat pääsyn herkillä järjestelmille ja omistajatiedoille, mitkä uudet yksityisyyden ja mukaisuuden riskit tulevat esiin, joista yritykset usein eivät ole tietoisia?

Useimmat yritykset ajattelevat yksityisyyttä tietojen varastoinnin tai siirtämisen kannalta. Tämä malli murtuu agenteissa, koska suurin riski on tietojen vuotaminen, kun niitä käytetään.

Tässä on, mitä tarkoitan. Suorituskykyisen auton valmistaja suorittaa tekoälyä kokoonpanolinjallaan. Raakaaineet näyttävät vaarattomilta: anturilukemat, aikajärjestelmät, laaduntarkastukset. Mutta LLM voi nyt rekonstruoida omistajien valmistusprosesseja tietojen päästöstä. Mitä oli melua viisi vuotta sitten, on nyt kilpailijan suunnitelma.

Meidän AI-vuotokohtaisen tutkimuksemme asiakirjat tämän kaltaisen mallin useiden skenaarioiden yli. Operatiiviset tarkkailutyökalut kaappaavat täydelliset tekoälykuormat oletusarvoisesti, ja yksi eurooppalainen pankki oli 2,1 miljoonalla kyselyllä, jotka sisälsivät henkilötietoja, Yhdysvaltojen SaaS-eksi:seen, koska kukaan ei muuttanut APM-asetuksia. Agenttien muisti vuotaa kontekstia istuntojen välillä. Chain-of-thought-jäljet paljastavat täydelliset tutkimusrekisterit tarkkailujärjestelmille, joille on pääsy alihankkijoille. Perinteiset mukaisuuskehykset eivät olleet suunniteltu havaitsemaan tällaista vuotamista. Ne olettivat, että ihmiset siirsivät tietoja ihmisen nopeudella.

Miksi salattava tekoäly on tullut välttämättömäksi MCP:n vastapainoksi, ja miten se ratkaisee haasteita, joita pääsystandardit yksin eivät voi ratkaista?

MCP ratkaisee, kuka pääsee mihin ja miten, kun taas salattava tekoäly ratkaisee, mitä tapahtuu, kun pääsy on myönnetty. Ne ovat toisiaan täydentäviä kerroksia.

Pääsystandardit yksin eivät voi estää suoritusaikaisia kompromisseja, käytäntöjen siirtymistä tai tietojen luvatonta käyttöä. Ajattele sitä näin: MCP antaa standardoidun tavan liittää agenteja järjestelmiisi. Salattava tekoäly antaa kryptografiset takuut siitä, että kun agentit on liitetty, ne voivat tehdä vain sitä, mihin ne on valtuutettu, ja voit todistaa sen.

Salattava tekoäly tarjoaa nämä takuut suoritusaikana tietoihin, identiteettiin, koodiin ja viestintään. Se tarjoaa verifioidun todisteen suorituksesta ja varmistaa, että yksityisyys ja käytäntöjen noudattaminen eivät lopu pääsyrajalla vaan jatkuvat, kun tekoäly aktiivisesti päättää, luo ja toimii. Ilman sitä MCP on vankka perusta. Mutta perustaa yksin ei tee rakennusta turvalliseksi.

Millainen on verifiointi luottamukselle yritykselle, joka suorittaa itsenäisiä tekoälyagentteja kriittisissä työprosesseissa?

Verifiointi tarkoittaa, että voin todistaa, mitä koodia suoritettiin, missä se suoritettiin, millaisilla käytännöillä, mitä tietoja käytettiin ja miten järjestelmä käyttäytyi ajan myötä.

Käytännössä otetaan vakuutusyhtiö, joka käyttää tekoälyagentteja vaatimusten käsittelyyn. Ennen suoritusta laitteistotodistus varmistaa agentin identiteetin ja ympäristön eheyyden. Suorituksen aikana kryptografiset käytäntösidonnukset laitteistotuen ansiosta varmistavat, että tiedot säilyvät suojattuina ja käytännöt noudatetaan. Suorituksen jälkeen muuntamaton audit-rekisteri merkitsee tarkalleen, mitä tapahtui.

Riski agenteissa ei ole se, että agentti menee pieleen. Todellinen riski on, ettei voida osoittaa, onko käytäntö noudatettu tai ovatko herkillä tiedoilla suojattu, kun agenteja käytetään – ennen, aikana ja jälkeen. Se on, miltä verifiointi näyttää.

Miksi perinteinen ihmisen valvonta menee pieleen, kun agenteja käytetään koneen nopeudella, ja miten organisaatioiden tulisi uudelleenarvioida hallintaa tässä uudessa ympäristössä?

Viime vuosikymmeninä internetillä oli näkymätön varoitus: me. Ihmiset lukevat sisältöä, napsauttavat tarkoituksella ja eivät toimi hiljaisesti sadoissa järjestelmissä samanaikaisesti.

Agenteilla poistetaan nämä oletukset yhdessä yössä. Agentit toimivat jatkuvasti, tekevät päätöksiä koneen nopeudella ja voivat olla manipuloitavissa ympäristöissä, jotka on suunniteltu ihmisille, mutta jotka voidaan hyödyntää koneilla. Väärä verkkosivu ei tarvitse huijata tekoälyä samalla tavalla kuin se huijaa ihmistä; se voi yksinkertaisesti antaa sille ohjeita.

Yhden prosentin riskillä agenttia kohden 100 agentin verkosto on altis 63 prosentin todennäköisyydelle vuodosta. Skaalautuu tuhanteen, ja olet 99,99 prosenttisesti altis. Ihmisen valvonta ei voi pysyä mukana noilla luvuilla. Valvonta on siirtymässä reaktiivisesta tarkastelusta suoritusaikaisiin takuuksiin. Se tarkoittaa nollatrust-työprosesseja, käytäntöjen noudattamista oletusarvoisesti ja verifiointia, joka ei riipu siitä, että ihminen havaitsee epäonnistumisen jälkikäteen.

Mitkä ovat yleisimmät turvallisuuden epäonnistumiset, jotka näet, kun yritykset kokeilevat agenteja ilman sisäänrakennettua luottamuksen kerrosta?

Mallinen, jonka näen useimmin, on, että yritykset antavat agenteille toimia ja koordinoitua ilman kryptografisia takuita niiden käyttäytymisestä. He prosessoi herkillä tiedoilla toivoen.

Se, mitä seuraa, on ennustettavissa, ja olemme asiakirjoittaneet tarkat mallit AI-vuotokohtaisessa tutkimuksessamme. Suoritusaikaiset kompromissit ohittavat perinteiset reuna- puolustukset, koska agentti on jo verkostossa. Itsenäisten agenttien ketjut luovat ketjureaktioita. Yksi hyväksikäytetty agentti laukaisee dominoefektin yhdistetyissä järjestelmissä. Omistajalogiikka vuotaa tietojen päästöstä, jota kukaan ei ole ajatellut valvoa. Agentit menettävät kykynsä erottaa yritysten tarkoituksen väärästä syötteestä, koska ei ole verifiointia eikä käytäntöjen sitoutumista suoritusaikana.

Nämä eivät ole hypoteettisia. Karttasimme 46 vektoria, joissa tietojen hallinta menee pieleen, vaikka mitään ei näytä rikkoontuneen. Tekoälyagentit luovat ja jakavat tietoja koneen nopeudella. Ilman verifioiden suoritusaikaisia varotoimia työprosessissa epäonnistumiset leviävät nopeammin kuin mitä turvallisuustiimi voi havaita tai reagoida.

Miten johtavat organisaatiot tasapainottavat tarpeen lukita edistyneitä tekoälyominaisuuksia ja suojella samalla herkillä tietovarantoja?

Organisaatiot, jotka saavat tämän oikein, käsittelevät yksityisyyttä ja hallintaa kiihdyttäjänä, ei jarruna. Se on avainnäkemys.

Se, mitä näen kenttätyössä, on, että johtavat yritykset yhdistävät edistyneet tekoälyominaisuudet salattaviin tekoälyalustoihin, jotka tarjoavat verifioidut takuut, ei vain mukaisuusluetteloita. He lukkosevat herkillä tiedoilla tekoälyinnovaatioita ja varmistavat, että omistajatiedot pysyvät suojattuina, vaikka työprosessit toimivat itsenäisesti. Vanha näkemys oli kyky vastaan turvallisuus. Organisaatiot, jotka liikkuvat nopeasti, ovat hylänneet tämän kaupan kokonaan. He rakentavat verifioidun luottamuksen tekoälystrategiansa perustaksi, mahdollistaen heidän käyttää arvokkaimpia tietojaan. Samalla kilpailijat ovat edelleen koepilottitilassa, suorittaen tekoälyä puhdistetuilla tietosarjoilla, jotka eivät liikuta mittaa.

Miten odotat, että yritysten tekoälyhallintamallit kehittyvät seuraavien vuosien aikana, kun agenteja siirretään koepiloteista täysimittaiseen tuotantoon?

Hallinta on kehittymässä paperista todisteeksi. Se on yksinkertaisin tapa, jolla voin sen ilmaista. Varhaiset hallintamallit olivat suunniteltu ihmisen tahdissa eteneville ohjelmistoille: käytäntöjä paperilla, hyväksymisiä ennen käyttöönottoa, tarkasteluja, kun jotain meni pieleen. Agenteilla rikkoavat nämä oletukset. Ne toimivat jatkuvasti, toimivat itsenäisesti ja luovat ketjuefektejä koneen nopeudella.

Se, mitä näen, on hallinnan siirtymistä suoritusaikaiseen verifiointiin uutena turvallisuuden rajana, jota tukevat kryptografiset takuut, jotka osoittavat käyttäytymistä koko agentin elinkaaren aikana, ennen, aikana ja jälkeen. Sama malli, jonka näimme HTTPS:ssä, tulee olevan oletusarvoisesti verkkoliikenteessä. Kukaan ei enää kiistä sitä, onko verkkoyhteydet salattava. Muutaman vuoden kuluttua kukaan ei enää kiistä sitä, onko tekoälyn suoritusta verifioitava suoritusaikana. Se on itsestäänselvä asia.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla OPAQUE-sivustolla.