Chester Leung, OPAQUE:n perustaja ja AI-alustan johtaja – Haastattelusarja

Chester Leung on OPAQUE:n perustaja ja alustan arkkitehtuuriin vastaava johtaja. OPAQUE on sarjan A -startup, joka kehittää luottamuksellista dataa ja tekoälyalustaa, joka mahdollistaa tiimien laajentaa yrityksen data-putkia luottamuksellisella kerroksella, mahdollistaen nopeammat oivallukset vähemmällä vaivalla ja varmistettavalla yksityisyydellä ja hallinnalla.

Aikaisemmin Chester oli tietojenkäsittelytieteen jatko-opiskelija UC Berkeleyssä, jossa hän julkaisi vertaisarvioituja artikkeleita johtavissa konferensseissa ja toimi myös avoimen lähdekoodin MC2-projektin pääylläpitäjänä turvalliselle yhteistyöhön ja koneoppimiselle.

Perustit OPAQUE:n aikaisemman työsi jälkeen UC Berkeley:n RISELabissa, jossa työsi yhdisti tekoälyn ja turvalliset järjestelmät. Mikä tarkka aukko yritysten data-infrastruktuurissa näkyi sinulle, ja miten akateeminen kokemus vaikutti yrityksen suuntaan?

Tuolloin oli valtava painopiste sekä akateemisessa maailmassa että teollisuudessa hyödyntää tekoälyä tiettyjen sovellusten parissa. Laboratoriossa meillä oli erittäin suuri etu, kun meillä oli suuret yrityssponsoreja, jotka auttoivat meitä tutkijoita muotoilemaan työtämme ratkaisemaan ongelmia, joita he kohtasivat organisaatioissaan. Meidän ryhmämme erityisesti sai ainutlaatuisen mahdollisuuden työskennellä läheisesti teknologia- ja pankkisektorin, rahoituspalvelujen ja vakuutusyhtiöiden (BFSI) kanssa, yhteistyössä ratkaisemassa vaikeita yksityisyyden ongelmia herkillä, mutta arvokkailta datailla tekoälylle. Kuten kaikki tekoälyn alat, koneoppiminen riippuu suuresti laadukkaiden datamäärien tuottamisesta arvokkaiden ja kestävien oivallusten tuottamiseksi.

Töissämme me kohtasimme samaa mallia toistuvasti yhteistyössä tiimien kanssa, kuten Amazon (AMZN ), Scotiabank ja Ant Group (silloin Ant Financial): heidän tekoälyyn perustuvat projektit tyrehtyivät ennen tuotannon aloittamista herkkien, mutta kriittisten datan käytön vuoksi näissä sovelluksissa. Toisin sanoen, nämä tiimit eivät voineet käyttää tekoälyä projekteissa, joista he tiesivät voivat tuottaa arvoa yritykselle, ei teknisen ongelman vuoksi tekoälyssä, vaan koska he eivät voineet päästä oikeaan dataan.

OPAQUE:ssa me olemme ratkaisseet samaa ongelmaa. Autamme tiimejä pääsemään oikeaan dataan, mahdollistaen heidän lukita tai myydä tekoälykykynsä. Ainoa muutos tutkimuspäivistämme on ollut ongelman kiireellisyys: nyt näemme jatkuvasti tekoälyn omaksumisen ja integroimisen, joka jatkuu olevan pullonkaula yrityksenlaajuisena strategiana.

Miksi turvalliset data-putket ovat tärkeämmät kuin koskaan, kun yritykset panostavat järkevien mallien ja agenteiden kehittämiseen?

Turvalliset data-putket ovat selkäranka, jolle yritykset rakentavat järkeviä malleja ja agenteja. Kaikki tämän prosessin aikana, koulutettaessa näitä järkeviä malleja ja käyttäessä agenteja, on kyse herkillä datasta, ja ne riippuvat turvallisista data-putkista.

Esimerkiksi nyt näemme kasvavaa panostusta korkealaatuisen datan tuottamiseen kouluttaa nämä mallit. Jotkut raportit ovat jopa ennustaneet, että laskennan panostus korkealaatuisen datan tuottamiseen tulee pian olemaan enemmän kuin laskennan panostus itse mallien kouluttamiseen. Tietysti datan tuottaminen on monivaiheinen prosessi, jota ohjataan putkistojen kautta, jotka tuottavat yrityksen arvokkaimman irtaimen omaisuuden: korkealaatuisen, alakohtaisen datan, joka voi kouluttaa malleja, jotka tuottavat valtavasti arvoa alirakenteissa. Datantuottamiseen panostetaan valtavasti, ja tuotettu data, sen polun vuoksi, erottaa toisesta yrityksestä kilpailijan, toimien kuin este. Yrityksen on tehtävä kaikkensa suojelemaan tätä putkea.

OPAQUE:n luottamuksellinen laskennan alusta mahdollistaa analytiikkaa salattuilla datailla. Mitkä ovat keskeiset tekniset haasteet tehdä tämä sekä skaalautuvaksi että kehittäjien kannalta helppokäyttöiseksi yritysympäristöissä?

Meidän luottamuksellinen tekoälyalusta ei ainoastaan mahdollista analytiikkaa, koneoppimista ja generatiivista tekoälyä salattuilla datailla, vaan tarjoaa myös verifioidun todistuksen siitä, että dataa on käytetty vain odotetulla tavalla ja vain sille, joka on siihen oikeutettu.

Keskeiset haasteet skaalautuvuuden, kehityksen ja hallinnan suhteen liittyvät turvallisen ja verifioidun työn järjestämiseen skaalautuvasti. Monet yritykset käyttävät tänä päivänä hallittuja pilvipalveluita, kun he tarvitsevat skaalautuvuutta. Tämä voi olla sekä kustannustehokasta että kätevää. Haasteeksi kuitenkin muodostuu, miten organisaatio voi turvata ja varmentaa ohjelmistoa, jota se ei hallitse? Jos organisaatio ottaa hallinnan kaiken ohjelmiston, mitä se joutuu antamaan periksi hallitsemalla palvelun, ja mitä se menettää tekemällä niin?

Olet sanonut, että suunnittelun aikaisen turvallisuuden arkkitehtuuri voi tarjota kestävän kilpailuedun. Voitko selittää, miten tämä periaate toteutuu käytännössä yritysten tekoälytiimien kannalta?

On kaksi näkökulmaa tähän: tuotteen näkökulma ja insinöörien näkökulma.

Tuotteen näkökulmasta kaikki ymmärtävät, että heidän datansa on radioaktiivista, heidän esteensä tai molemmat. Yritykset ovat yhä kypsiä arvioimaan ratkaisujen data-yksityisyyttä, turvallisuutta ja suvereniteettia. Seuraavasti, mikä tahansa tiimi, joka kehittää tuotetta, joka käsittelee yritysten dataa, on tarjottava takeita siitä, että käsitelty data on näkyvissä ja käytössä ainoastaan valtuutetuille osapuolille ja yksiköille. Suunnittelun aikaisen turvallisuuden arkkitehtuuri tarjoaa varmuuden, että data-yksityisyys, turvallisuus ja suvereniteetti olivat ensisijaisia suunnittelun aikaisia tarkasteluja, ja mahdollistaa tuotteen antaa nämä takeet.

Insinöörien näkökulmasta suunnittelun aikaisen turvallisuuden arkkitehtuuri on laajennettavampi ja tulevaisuudessa kestävämpi. Lakit, riski- ja määräysvalvontatiimit ovat yhä tiukempia uusien riskien ja sääntöjen vuoksi. Niinpä insinööriorganisaatioiden tulisi haluta rakentaa turvallinen yritysten tekoälyjärjestelmä alusta alkaen, jotta he eivät joutuisi uudelleenrakentamaan ja/tai korjaamaan järjestelmäänsä, kun he toteavat, että heidän nykyinen järjestelmänsä on riittämättömän turvallinen ja riskittömäksi. Uudelleenrakentaminen ja korjaaminen vie kuukausia, ellei vuosia, arvokkaita insinöörien työpanoksia.

Miten organisaatioiden tulisi uudelleenarvioida datan roolia – datan lisäksi – puolustettavana esteenä?

On kasvava konsensus teollisuudessa, että data voi pian olla ainoa este, jonka organisaatioilla on. Olemme nähneet tutkimusta ja insinöörien kykyjä sekä heidän kehittämiään teknologioita ja tuotteita siirtyvän organisaatiosta toiseen.

Mitä organisaatioita ei voi helposti siirtää toiseen, on kuitenkin organisaation data – ellei sitä vuoda. Organisaatioiden on tehtävä kaikkensa turvata dataansa, mahdollistaen heidän käyttää dataa kilpailueduna.

Miten kestävä tekoälyputki näyttää käytännössä, ja miten se auttaa yrityksiä välttämään piileviä kustannuksia tai riskejä, kun he laajentavat tekoälytoimintojaan?

Kestävä tekoälyputki on sellainen, joka on luotettava, virheensietokykyinen, mutta ennen kaikkea verifioidusti turvallinen loppupäästä. Ennen prosessointia yritysten on varmistettava sekä data, joka menee putkeen, että itse putki, varmistaen, ettei ole mahdollista, että putki väärinkäyttää dataa. Prosessoinnin aikana tekoälyputken on oltava vahingoittumaton, varmistaen, ettei kukaan voi varastaa dataa, jota se prosessoi, tai vääristää oivalluksia, joita se antaa. Prosessoinnin jälkeen tekoälyputken on oltava verifioidusti auditoinen, jotta tiimi voi tarkkailla ja selittää tekoälyputken päätöksentekoa ja sen kehittymistä, ja jotta tiimi voi nähdä, mitä tapahtui, kun jotain menee pieleen.

On ehdottoman tärkeää tarkastella, miten epäturvallinen, virheellinen tekoälyputki voi vuotaa yrityksen datan tai omistaman mallin, ja mitkä vaikutukset sillä on yrityksen erottautumiskykyyn tai maineeseen. Mitä tärkeämpää on kuitenkin se, että kun yritykset laajentavat tekoälysovellustensa käyttöä kriittisempiin ja vaikuttavampiin sovelluksiin, epäturvallisen, selittämättömän tekoälyputken riski kasvaa eksponentiaalisesti. Maailmassa, jossa lainanantopäätökset ja palkkaamispäätökset ovat jo tekoälyllisiä, vaikuttaen kaikkeen henkilökohtaisista talouksista uraan, epävakaa tai tahallinen virhe tekoälyputkessa voi vaikuttaa dramaattisesti yksilön elämään.

Monet yritykset keskittyvät mallin tarkkuuteen tai viiveeseen. Mitä he jättävät huomiotta, kun on kyse datan eheyydestä ja pitkän aikavälin toiminnallisista riskeistä?

Vaikka monet yritykset keskittyvät malliin tai tekoälytekniikkaan, olen aina uskonut, että data on perustava pullonkaula tekoälyn arvontuottamiselle.

On olemassa malli, joka tuottaa nopeasti tarkan vastauksen aiheesta, josta loppukäyttäjä ei piittaa, mikä tuottaa nollaa arvoa. Rakentaa ainutlaatuisesti houkutteleva tuote, yritysten on varmistettava, että heidän mallinsa ja tuotteet, joita ne voimistavat, on koulutettu laadukkailla, relevantilla datailla. Datahygieniasta johtuvat ongelmat, jotka johtuvat laadukkaiden syötteen puutteesta, eivät välttämättä tule ilmi kuukausien kuluttua.

Toiseksi olemme havainneet, että yritykset yleensä eivät ole hyviä havaitsemaan datan siirtymistä, saastumista tai vuotamista, joka vaarantaa mallin eheyden. Tämä on tiiviisti kytköksissä ensimmäiseen kohtaan, ja vaikka se on enemmän reaktiivista ratkaisua, se tekee arviointeja ja havainnollistamista vielä tärkeämmäksi.

OPAQUE integroituu olemassa oleviin pilvipinoihin. Mitä olet oppinut tasapainottamaan helppoutta omaksumisessa ja vahvoja turvallisuustakuuilla yritysten käyttöönotoissa?

Olemme viettäneet lähes vuosikymmenen, alkaen tutkimuspäivistämme, ratkaisemassa tätä ongelmaa. Tekoälyjärjestelmien todistettava turvallisuus, erityisesti yritysympäristössä, on erittäin vaikea ongelma. Se vaatii järjestelmien, turvallisuuden, salakirjoituksen ja tekoälyn asiantuntemusta. Tuloksena suurin osa järjestelmistä, joita olemme tutkineet, ei ole perustavanlaatuisesti turvallisia – koska turvallisuus on niin vaikea toteuttaa.

OPAQUE:ssa olemme kehittäneet tuotteen, joka on molempien maailmojen paras – perustavanlaatuisesti ja verifioidusti turvallinen alusta alkaen, mutta helposti käyttöönotettavissa pilvipalvelujen kautta ja tarpeeksi joustava integroida uusiin ja olemassa oleviin tekoälysovelluksiin.

Mitkä uhkat tai haavoittuvuudet ovat nousseet tekoälyputkien ja datan jakamisen ympärillä, joita yritysjohtajat eivät vielä täysin arvosta?

Mitä olemme nähneet tässä agenteiden kultarynnäksessä on sokeasti kiireellinen pyrkimys käyttää tekoälyagentteja, jotka vuorovaikuttavat eri järjestelmien kanssa. Vaikka nämä agentit voivat tuottaa arvoa, ne myös aiheuttavat valtavat riskit, koska ne koskettavat monia järjestelmiä, joilla on arvokkaita dataa. Agentit ovat luonteeltaan epämääräisiä, ja olemme nähneet lukuisia tapauksia, joissa ne menevät ja tekevät jotain, mitä emme odota. Maailmassa, jossa datan on yrityksen ainoa este, yritysjohtajien on aina kysyttävä, voivatko he luottaa tekoälyagenteihin, joilla on pääsy kaikkiin heidän tietoihinsa, käyttämään sitä vahingossa tai tarkoituksella väärin.

Kuinka näet turvallisen data-infrastruktuurin, mallin vastuullisuuden ja määräysvalvonnan vuorovaikutuksen kehittyvän seuraavien vuosien aikana, kun tekoälyn sääntely muotoutuu maailmanlaajuisesti?

Verifioidusti turvallinen data-infrastruktuuri mahdollistaa mallin ja agentin vastuullisuuden. Nimenomaan ilman verifioidun todistuksen agentin tai mallin päätöksenteosta tai työkalujen käytöstä emme voi olla varmoja mitään, joten emme voi jäljittää vastuullisuutta. Kun tekoäly integroituu yhä enemmän arkeen, haluamme enemmän selittämiskykyä ja havainnollistamista tekoälyyn. Mutta kun tekoäly toimii koneen nopeudella, ja me emme, petollinen tekoäly voi helposti huijata meitä rakentamalla virheellisiä historiaa. Tarvitsemme verifiointia pitääksemme tekoälyä vastuullisena.

Minulle määräysvalvonta on hyvin reaktiivista. Sääntöjen kehittäminen ja hyväksyminen etenee paljon hitaammin kuin teknologinen innovaatio. Tämä tulee olemaan yhä enemmän totta, kun tekoäly auttaa meitä lisäämään innovaatiotahdiamme. Vaikka määräysvalvonta lopulta ajaa jälkijunassa olevat omaksumaan turvallisen data-infrastruktuurin, varhaiset omaksujat ja varhaiset enemmistöt ymmärtävät, että se on kriittinen tekoälyn turvallisuudelle, ja he omaksuvat sen paljon ennen kuin määräysvalvonta tekee sen pakolliseksi. He ymmärtävät, että agentin vastuullisuus, jota mahdollistaa turvallinen data-infrastruktuuri, on kriittinen heidän omien tekoälyvoimiensa tuotteiden omaksumiselle.

Kiitos hienosta haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla OPAQUE:ssa.