Chester Leung, spoluzakladatel a vedoucí platformy AI ve společnosti OPAQUE – rozhovor

Chester Leung je spoluzakladatel a vedoucí architektury platformy ve společnosti OPAQUE, startupu série A, který buduje důvěrnou datovou a AI platformu, která umožňuje týmům rozšířit své podnikové datové potrubí o důvěrnou vrstvu, umožňující rychlejší přehledy s menšími úsilími a ověřitelnou soukromostí a kontrolou.

Předtím byl Chester studentem počítačové vědy na univerzitě v Berkeley, kde publikoval recenzované články na předních konferencích a také působil jako hlavní maintainer open-source projektu MC2 pro bezpečnou spolupráci a strojové učení.

Vy jste spoluzakladatel OPAQUE po svém působení v RISELabu na univerzitě v Berkeley, kde vaše práce spojovala AI a zabezpečené systémy. Jakou konkrétní mezeru v podnikové datové infrastruktuře jste viděl, která vedla k vytvoření OPAQUE, a jak vaše akademické zkušenosti informovaly směr společnosti?

V té době existoval enormní zájem, jak v akademii, tak v průmyslu, na využití strojového učení pro konkrétní použití. V laboratoři jsme měli obrovskou šanci spolupracovat s velkými podnikovými sponzory, kteří nám pomáhali tvarovat naši práci, aby řešila více naléhavé problémy, se kterými se potýkali ve svých organizacích. Naše skupina měla jedinečnou příležitost spolupracovat s technologiemi a bankovním, finančním a pojišťovacím sektorem (BFSI), abychom řešili tvrdé problémy soukromí kolem použití citlivých, ale cenných dat pro strojové učení. Stejně jako všechny oblasti AI, strojové učení závisí na velkém množství kvalitních dat, aby produkovalo cenné a robustní přehledy.

Setkali jsme se s týmž vzorcem opakovaně, zatímco spolupracovali s týmy z Amazonu, Scotiabanku a Ant Group (dříve Ant Financial): jejich projekty s podporou strojového učení se zastavily před dosažením produkční fáze kvůli obavám kolem použití citlivých, ale kritických dat pro tyto použití. Jinými slovy, tyto týmy nebyly schopny použít AI v projektech, o kterých věděly, že by mohly generovat hodnotu pro společnost, ne kvůli technickému problému s AI, ale protože nemohly získat přístup k správným datům.

V OPAQUE jsme řešili identický problém. Pomáháme týmům získat přístup ke správným datům, aby mohli odemknout nebo prodat své AI schopnosti. Jediná změna od našich výzkumných dnů je naléhavost problému: nyní jsme konzistentně viděli, že přijetí AI a integrace, které pokračují být společensky strategickým imperativem, jsou omezovány přístupem k správným datům.

V krajině, kde podniky investují těžce do modelů uvažování a agentic AI, proč jste přesvědčen, že zabezpečené datové potrubí jsou důležitější než kdykoli předtím?

Zabezpečená datové potrubí jsou základem, na kterém podniky budují modely uvažování a agentic AI. Vše od trénování těchto modelů uvažování až po nasazení agentic AI zahrnuje citlivá data a spoléhá se na zabezpečená datové potrubí.

Například nyní jako průmysl vidíme rostoucí investice do generování kvalitních dat pro trénování těchto modelů. Některé zprávy dokonce předpovídají, že investice do generování kvalitních dat brzy bude větší než investice do trénování modelů samotných. Samozřejmě, že generování dat je multi-krokový proces, který je poháněn potrubími, které produkují nejcennější IP podniku: kvalitní, doménově specifická data, která mohou trénovat modely, které generují enormní hodnotu. Investice do generování těchto dat je enormní, a vygenerovaná data, vzhledem k jejich původu, efektivně odlišují jeden podnik od jeho konkurentů, slouží jako jeho příkop. Podnik musí udělat vše, aby tato potrubí udržela v bezpečí.

Confidential computing platform OPAQUE umožňuje analýzu zašifrovaných dat. Jaké jsou hlavní technické výzvy při zajišťování, že je tato platforma škálovatelná a vývojářsky přívětivá pro podnikové prostředí?

Náš Confidential AI platform nejen umožňuje analýzu, strojové učení a generativní AI na zašifrovaných datech, ale také poskytuje ověřitelný důkaz, že vaše data byla použita způsobem, který pouze očekáváte a povolujete.

Hlavní výzvy spočívají ve škálovatelnosti, vývoji a správě, spočívají v zajištění, že orchestrace pracovní zátěže je zabezpečená a ověřitelná v měřítku. Konkrétně, mnoho podniků dnes používá spravované cloudové služby, když potřebují škálovat. To může být jak nákladově efektivní, tak pohodlné. Nicméně, některá část softwaru, který pohání spravované cloudové služby, je inherentně spravován cloudovým poskytovatelem. Takže výzvou se stává, jak může organizace zabezpečit a ověřit software, který není pod její kontrolou? Pokud organizace vezme zpět kontrolu nad vším softwarem, co musí obětnout, aby nepoužila spravovanou službu, a co ztratí, když tak učiní?

Vy jste řekl, že zabezpečená architektura může poskytnout trvalou konkurenční výhodu. Můžete vysvětlit, jak tato zásada funguje prakticky pro podnikové AI týmy?

Existují dva úhly, z nichž lze na tuto problematiku pohlížet: produktový úhel a inženýrský úhel.

Z produktového úhlu všichni chápou, že jejich data jsou radioaktivní, jejich příkop, nebo obojí. Podniky se stávají stále zralejšími ve své evaluaci řešení pro soukromí dat, zabezpečení a suverenitu. V důsledku toho musí každý tým, který buduje jakýkoli produkt, který zpracovává podniková data, poskytnout záruky, že zpracovaná data jsou viditelná a používána pouze autorizovanými stranami a entitami. Zabezpečená architektura poskytuje důvěru, že soukromí dat, zabezpečení a suverenita byly prvotřídními úvahami při návrhu produktu, a umožňuje produktu explicitně poskytnout tyto záruky.

Z inženýrského úhlu je zabezpečená architektura více extenzivní a budoucnost odolná. Právní, rizikové a komplianční týmy se stávají stále přísnějšími v reakci na nové rizika a regulace. Proto by inženýrské organizace měly chtít postavit zabezpečený podnikový AI systém od začátku, aby nemusely přestavovat a/ nebo opravovat svůj systém, až si uvědomí, že jejich stávající systém je nedostatečně zabezpečený a rizikový. Přestavování a opravování stojí měsíce, pokud ne roky, cenného inženýrského pásma.

Jak by podniky měly přehodnotit roli dat – kromě zdroje – jako obranitelný příkop?

Existuje rostoucí konsenzus v průmyslu, že data mohou brzy být jediným příkopem, který má organizace. Vidíme výzkum a inženýrský talent a brilantní technologie a produkty, které staví, skákat z organizace na organizaci. V důsledku toho je mnoho organizací schopno nabízet stejné produkty, podporované stejnými technologiemi.

Co nemůže snadno přejít z organizace na organizaci, je však data organizace – pokud nejsou prosáklá. Navíc je to právě tato data, která může učinit produkt více přesvědčivým než jeho konkurenti – více personalizovaným, přizpůsobeným a doménově specifickým. Organizace musí udělat vše, aby svá data zabezpečila, aby mohla využít svá data jako tu konkurenční výhodu.

Co vypadá odolné AI potrubí v praxi a jak pomáhá společnostem vyhnout se skrytým nákladům nebo rizikům, když škáluje své AI nasazení?

Odolné AI potrubí je takové, které je spolehlivé, odolné proti chybám, ale především ověřitelně zabezpečené od začátku do konce. Před zpracováním by společnosti měly ověřit data, která vstupují do potrubí, stejně jako potrubí samotné, aby se zajistilo, že neexistuje možnost, že potrubí zneužije data. Během zpracování by AI potrubí mělo být chráněno proti zásahům, aby se zajistilo, že nikdo nemůže ukrást žádná data, která zpracovává, nebo zkreslit přehledy, které poskytuje. Po zpracování by AI potrubí mělo být ověřitelně auditovatelné, aby tým mohl pozorovat a vysvětlit rozhodování a trajektorii AI potrubí a aby mohl vidět, co šlo špatně, když něco šlo špatně.

Je zapotřebí uvážit, jak by nezabezpečené, poškozené AI potrubí mohlo vyzradit data organizace nebo její proprietární model a jaké jsou důsledky na diferencující faktory nebo pověst společnosti. Co je ještě důležitější, je to, že když společnosti škálují své nasazení AI do více kritických a dopadových použití, riziko nezabezpečeného, nevysvětlitelného AI potrubí roste exponenciálně. V světě, kde jsou rozhodnutí o půjčkách a náboru již AI-podporovaná, ovlivňující vše od osobních financí po kariéry, úmyslná nebo neúmyslná chyba v AI potrubí by mohla mít dramatický dopad na život jednotlivce.

Mnohé podniky se soustředí na přesnost modelu nebo latenci. Co přehlížejí, pokud jde o integritu dat a dlouhodobá provozní rizika?

Zatímco mnoho podniků se soustředí na model nebo AI technologii, já jsem vždy věřil, že data jsou základní úzkým místem pro nasazení hodnotově generujících AI.

Mít model, který velmi rychle generuje přesnou odpověď na téma, o kterém koncový uživatel nemá zájem, generuje nulovou hodnotu. Aby bylo možné postavit jedinečně přesvědčivý produkt, podniky musí zajistit, aby jejich modely a produkty, které je pohání, byly trénovány s vysokými kvalitními, relevantními daty. Problémy s hygienou dat, které vyplývají z absence kvalitních vstupních dat, se nemusí projevit až měsíce později.

Zadruhé jsme zjistili, že podniky obecně nemají dobrý příběh pro detekci datového posunu, kontaminace nebo úniku, ohrožující integritu modelu. To je těsně spojeno s mým prvním bodem, a zatímco je to více reakční řešení, činí evaly a pozorovatelnost ještě důležitější.

OPAQUE se integruje do stávajících cloudových zásobníků. Co jste se naučil o vyvážení snadnosti přijetí se silnými bezpečnostními zárukami v podnikových nasazeních?

Strávil jsem téměř deset let, počínaje našimi výzkumnými dny, řešením tohoto problému. Prokazatelná bezpečnost AI systémů, zejména v podnikovém prostředí, je velmi obtížný problém. Vyžaduje systémy, zabezpečení, kryptografii a AI odborníky. V důsledku toho většina systémů, se kterými jsme se setkali, nebyla zásadně zabezpečená – protože zabezpečení je tak obtížné implementovat.

V OPAQUE jsme postavili produkt, který je nejlepší z obou světů – inherentně a ověřitelně zabezpečený od základu, ale snadno nasaditelný prostřednictvím cloudových tržišť a dostatečně flexibilní pro integraci do nových a stávajících AI aplikací.

Jaké druhy hrozeb nebo zranitelností se objevují kolem AI potrubí a sdílení dat, o kterých si podnikoví lídři možná ještě nejsou plně vědomi?

Co jsme viděli v tomto agentic gold rush je slepá naléhavost nasazení AI agentů, kteří interagují s různými systémy záznamů. Zatímco tito agenti mohou poskytnout hodnotu, také představují enormní rizika, protože se dotýkají mnoha systémů s cennými daty. Agenti jsou inherentně nedeterminističtí, a viděli jsme nesčetné instance, kdy se vydají a udělají něco, co neočekáváme. V světě, kde vaše data jsou vaším jediným příkopem, by si podnikoví lídři měli vždy klást otázku, zda mohou důvěřovat a spoléhat se na AI agenty, kteří mají přístup ke všem svým datům, aby je nezanedbali nebo neúmyslně nezneužili.

Jak vidíte interakci mezi zabezpečenou datovou infrastrukturou, modelovou zodpovědností a dodržováním předpisů, jak se bude vyvíjet v příštích letech?

Ověřitelně zabezpečená datová infrastruktura umožňuje modelovou a agentní zodpovědnost. Konkrétně, bez ověřitelného důkazu o rozhodování modelu nebo agenta, nemůžeme být jistí ničeho, takže nebudeme moci stopovat zodpovědnost. Jak se AI stává stále více integrovanou do našeho každodenního života, chceme více vysvětlitelnosti a pozorovatelnosti do AI. Nicméně, když AI může fungovat na strojové rychlosti, a my ne, může zlý AI snadno oklamat nás, konstruovat falešné historie. Potřebujeme ověřitelnost, aby držela AI zodpovědnou.

Pro mě je dodržování předpisů velmi reakční. Rozvoj a přijetí předpisů se pohybují mnohem pomaleji než technologická inovace. To bude stále více pravdivé, jak AI pomáhá zvyšovat náš tempo inovace. Zatímco dodržování předpisů nakonec povede pozdní přijímače k přijetí zabezpečené datové infrastruktury, raní přijímači a raná většina uznávají, že je to zásadní pro AI bezpečnost, a budou ji přijímat dlouho předtím, než dodržování předpisů učiní povinným. Chápou, že agentní zodpovědnost, umožněná zabezpečenou datovou infrastrukturou, je zásadní pro přijetí svých vlastních AI-podporovaných produktů.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit OPAQUE.