Aaron Fulkerson, CEO OPAQUE – Wywiad z serii

Aaron Fulkerson, CEO OPAQUE, to doświadczony przedsiębiorca oprogramowania dla przedsiębiorstw i pionier oprogramowania open-source, którego kariera obejmuje ponad dwie dekady budowania i skalowania platform technologicznych skupionych na zaufaniu, danych i transformacji cyfrowej. Przed dołączeniem do OPAQUE w 2023 roku założył MindTouch, pomagając mu wyrosnąć w szeroko przyjętą platformę wiedzy dla przedsiębiorstw, zanim został przejęty przez NICE Systems, a później kierował uruchomieniem ServiceNow (NOW ) Impact, jednego z najszybciej rozwijających się jednostek biznesowych w historii ServiceNow. Na przestrzeni swojej kariery Fulkerson pracował na styku wschodzących technologii, oprogramowania dla przedsiębiorstw i otwartych ekosystemów, a także doradzał wielu startupom technologicznym i organizacjom. Ostatnio stał się wybitnym orędownikiem Confidential AI, argumentując, że prywatność, zarządzanie i weryfikowalne zaufanie będą podstawowymi wymogami, gdy systemy AI będą wbudowane w krytyczne przepływy pracy przedsiębiorstw.

OPAQUE to firma Confidential AI, która wyłoniła się z renomowanego UC Berkeley RISELab, tego samego ekosystemu badawczego, który pomógł stworzyć technologie takie jak Apache Spark i Databricks. Firma ta opracowała platformę, która umożliwia przedsiębiorstwom uruchamianie modeli AI, agentów i przepływów na bardzo wrażliwych danych, jednocześnie zapewniając kryptograficznie weryfikowalne gwarancje prywatności i zgodności. Zamiast zmuszać organizacje do wyboru między innowacjami AI a bezpieczeństwem danych, OPAQUE wykorzystuje obliczenia poufne, zaszyfrowane środowiska uruchomieniowe i atestowane sprzętowo, aby upewnić się, że wrażliwe informacje pozostają chronione przed, w trakcie i po przetwarzaniu AI. Technologia ta została zaprojektowana dla branż o wysokim stopniu regulacji, w tym finansów, ubezpieczeń, opieki zdrowotnej i high-tech, z klientami i partnerami, w tym ServiceNow, Anthropic, Accenture i innymi organizacjami przedsiębiorstw, które chcą przenieść projekty AI z pilotowych do produkcji bez narażania danych własnościowych lub objętych regulacjami.

Wybudowałeś i skalowałeś wiele platform przedsiębiorstw w swojej karierze, co skłoniło Cię do objęcia stanowiska CEO w OPAQUE i skupienia się na zaufaniu, prywatności i zarządzaniu AI?

Spędziłem prawie dwie dekady budując platformy przedsiębiorstw, najpierw w MindTouch, które nadal używane jest przez miliard użytkowników rocznie, a następnie w ServiceNow, gdzie stworzyłem ich najszybciej rozwijający się produkt. Obie nauczyły mnie tego samego: najpotężniejsza technologia wygrywa tylko wtedy, gdy ludzie ufają jej.

Gdy spotkałem współzałożycieli OPAQUE, Ralucę Adę Popa, Iona Stoica i Rishabha Poddara, zobaczyłem rzadką kombinację talentu i wizji. Raluca jest jednym z najwybitniejszych badaczy w dziedzinie prywatności i bezpieczeństwa. Ion założył Databricks. Rishabh zbudował podstawowe systemy kryptograficzne, które stały się podstawą OPAQUE.

W UC Berkeley’s RISELab stworzyli coś, co od razu rozpoznałem jako generacyjne. Kryptograficzny dowód, że dane pozostają prywatne podczas każdego przepływu AI. Nie obietnice. Nie polityki. Dowód.

Spójrzę, dokąd zmierza AI, agenci działający autonomicznie w systemach przedsiębiorstw w prędkości maszynowej, i zobaczyłem tę samą lukę, o której Vint Cerf ostrzegał przez 30 lat: brak warstwy zaufania. Internet przetrwał bez niej, ponieważ ludzie byli barierą ochronną. Agentic web nie będzie miał tego luksusu. To właśnie to mnie pociągnęło.

Z MCP (Model Context Protocol, standardem, który pozwala agentom AI na bezpieczny dostęp do narzędzi, aplikacji i danych) pojawiającym się jako wspólna podstawa, jak widzisz zmiany w sposobie, w jaki przedsiębiorstwa wdrożą i skalują agentic AI?

MCP to ważny krok w tym, jak przedsiębiorstwa wdrożą i skalują agentic AI. Myśl o tym jako o uniwersalnym łączniku dla przepływów AI. Ustandaryzowuje sposób, w jaki agenci łączą się z narzędziami, aplikacjami i danymi, zmniejszając prawdziwe tarcie i przyspieszając eksperymenty.

Ale standaryzacja dostępu sama w sobie nie czyni agentic AI bezpiecznym ani skalowalnym. Gdy połączenia te się rozprzestrzeniają, z większą liczbą agentów, narzędzi i źródeł danych, powierzchnia narażenia na wyciek danych rośnie z każdym nowym połączeniem. Każdy punkt połączenia, który nie ma egzekwowania w czasie wykonywania, jest potencjalnym wektorem narażenia. Gdy agenci AI wchodzą w interakcje z wrażliwymi systemami i logiką własnościową, szyfrowanie w spoczynku i kontrola sieci nie są wystarczające. Granica bezpieczeństwa przesunęła się do czasu wykonywania, a ten przesuw staje się pilniejszy, gdy ekosystem rośnie.

Jakie są największe luki dzisiaj, jeśli chodzi o bezpieczeństwo, egzekwowanie polityki i zaufanie w systemach napędzanych przez agenci?

Ukończyliśmy nasze badanie AI Leak Surface w 2026 roku i opublikowaliśmy podsumowanie naszych wyników, „A Dozen Ways Your AI Stack Is Bleeding Data”, które dotyka tego. Zidentyfikowaliśmy 46 wektorów narażenia w 8 kategoriach, obejmujących pełną granicę zaufania AI: obliczenia, kontrolę, aplikację i przekazywanie między nimi. To bez uwzględnienia aktorów złośliwych. Są to scenariusze, w których nic nie jest złamane, logi wyglądają czysto, a system nadal wycieka dane.

Największe luki nie tkwią w łączności; MCP rozwiązuje to. Luki tkwią w tym, co dzieje się po połączeniu agenta. Większość organizacji nie może odpowiedzieć na trzy podstawowe pytania: Jak nasz AI się zachowuje? Kto go kontroluje? I jak udowodnimy, że polityki zostały wykonane?

Nasze badanie wykazało, że granice są konfigurowane, ale nigdy nie są egzekwowane. Polityka istnieje w dokumencie, pliku konfiguracyjnym lub ustawieniu czasowym wdrożenia, ale działający system nie jest ograniczony przez to. Asystent wykonalny AI umieszcza informacje materialne niebędące publiczne na zaproszeniu na kalendarz. Pilot RAG obsługuje dane finansowe na poziomie zarządu dla młodszego analityka. SDK dostawcy cichaczem wykrada 10 milionów zapytań przez 12 miesięcy. W każdym przypadku kontrola dostępu była na miejscu. Dane wyciekły tak czy owak.

Gdy agenci AI otrzymują dostęp do wrażliwych systemów i danych własnościowych, jakie nowe ryzyka dotyczące prywatności i zgodności z prawem pojawiają się, na które przedsiębiorstwa często nie są przygotowane?

Większość przedsiębiorstw myśli o prywatności w kategoriach danych w spoczynku lub w transporcie. Ten model się łamie w agentic workflows, ponieważ największe ryzyko to narażenie danych podczas ich używania.

Oto, co mam na myśli. Producent samochodów wyścigowych uruchamia AI na swojej linii montażowej. Surowe dane wydają się nieszkodliwe: odczyty czujników, sekwencje czasowe, kontrole jakości. Ale LLM może teraz odtworzyć procesy produkcyjne własnościowe z tych wycieków danych. Co było hałasem pięć lat temu, teraz jest planem dla konkurenta.

Nasze badanie AI Leak Surface dokumentuje ten wzorzec w dziesiątkach scenariuszy. Narzędzia telemetryczne operacyjne przechwytują pełne ładunki AI domyślnie, a jeden europejski bank miał 2,1 miliona sugestii zawierających PII, które przepływały do instancji SaaS w USA, ponieważ nikt nie zmienił domyślnych ustawień APM. Pamięć agenta wycieka kontekst między sesjami. Ślady myślowe ujawniają pełne rekordy śledczych na platformach obserwowalności dostępnych dla kontrahentów. Tradycyjne ramy zgodności nie zostały zaprojektowane do wykrywania tego rodzaju wycieku. Założyły, że ludzie poruszają dane z prędkością ludzką.

Dlaczego Confidential AI staje się niezbędnym przeciwwagą dla MCP, i jak rozwiązuje wyzwania, których same standardy dostępu nie mogą rozwiązać?

MCP rozwiązuje, kto może uzyskać dostęp do czego i jak, podczas gdy Confidential AI rozwiązuje, co się dzieje, gdy dostęp jest udzielony. Są to komplementarne warstwy.

Same standardy dostępu nie mogą zapobiec kompromisom w czasie wykonywania, dryfowi polityki ani nieautoryzowanemu użyciu danych. Myśl o tym w ten sposób: MCP daje Ci standaryzowany sposób łączenia agentów z Twoimi systemami. Confidential AI daje Ci kryptograficzne gwarancje, że po połączeniu agenci mogą tylko to, do czego są uprawnieni, i możesz to udowodnić.

Confidential AI dostarcza te gwarancje w czasie wykonywania w odniesieniu do danych, tożsamości, kodu i komunikacji. Zapewnia weryfikowalny dowód wykonywania i zapewnia, że prywatność i egzekwowanie polityki nie zatrzymują się na granicy dostępu, ale trwają, gdy AI aktywnie rozumie, generuje i działa. Bez niego MCP jest solidną podstawą. Ale same podstawy nie czynią budynku bezpiecznym.

W praktyce, jak wygląda weryfikowalne zaufanie dla przedsiębiorstwa, które uruchamia autonomiczne agenci AI w krytycznych przepływach?

Weryfikowalne zaufanie oznacza, że mogę udowodnić, jaki kod został uruchomiony, gdzie został uruchomiony, pod jakimi politykami, jakie dane zostały uzyskane i jak system zachowywał się w czasie.

W praktyce, weźmy firmę ubezpieczeniową, która używa agentów AI do przetwarzania wezwań do zapłaty. Przed wykonaniem atestacja sprzętowa weryfikuje tożsamość agenta i integralność środowiska. W trakcie wykonania kryptograficzne wiązanie polityki w środowisku wykonania zaufanego (TEE) zapewnia, że dane pozostają chronione i że polityki są egzekwowane. Po wykonaniu niezmienialny ślad audytowy rejestruje dokładnie, co się stało.

Ryzyko w agentic workflows nie polega na tym, że agent staje się zły. Prawdziwe ryzyko polega na tym, że nie możesz udowodnić, czy polityka została wykonana, czy wrażliwe dane zostały chronione, gdy agenci byli operacyjni – przed, w trakcie i po wykonaniu. To właśnie wygląda weryfikowalne zaufanie.

Jak agenci systemów działają z prędkością maszynową, dlaczego tradycyjna nadzór ludzki się załamuje, i jak organizacje powinny przemyśleć zarządzanie w tym nowym środowisku?

Przez dziesięciolecia internet miał niewidoczną barierę ochronną: nas. Ludzie czytali treści, klikali intencjonalnie i nie dziali cicho w setkach systemów jednocześnie.

Agenci AI wymazują te założenia w ciągu jednej nocy. Agenci działają nieprzerwanie, podejmują decyzje z prędkością maszynową i mogą być manipulowani przez środowiska zaprojektowane dla ludzi, ale wykorzystywane przez maszyny. Strona internetowa złośliwa nie musi oszukiwać AI w taki sam sposób, w jaki oszukuje człowieka; po prostu może ją poinstruować.

Przy ryzyku 1% na agenta, sieć 100 agentów stoi w obliczu 63% prawdopodobieństwa naruszenia. Skaluj do 1000, a masz 99,99%. Nadzór ludzki w pętli nie może dotrzymać tempa tym liczbom. Nadzór musi przesunąć się z reaktywnej kontroli do gwarancji w czasie wykonywania. Oznacza to przepływy pracy zero-trust, egzekwowanie polityki domyślnie i weryfikowalne wykonanie, które nie zależy od ludzkiego połapania awarii po fakcie.

Co to są najczęstsze awarie bezpieczeństwa, które widzisz, gdy przedsiębiorstwa eksperymentują z agentic AI bez wbudowanej warstwy zaufania?

Najczęstszy wzorzec, jaki widzę, to to, że przedsiębiorstwa pozwalają agentom działać i koordynować bez kryptograficznych gwarancji dotyczących ich zachowania. Działają na nadziei.

Co następuje, jest przewidywalne, a my udokumentowaliśmy konkretny wzorzec w naszym badaniu AI Leak Surface. Kompromisy w czasie wykonywania omijają tradycyjne obrony perymetryczne, ponieważ agent jest już wewnątrz sieci. Łańcuchy agentów tworzą kaszkadujące awarie. Jeden wykorzystany agent wyzwala efekt domina w połączonych systemach. Logika własnościowa wycieka przez wyciek danych, który nikt nie myślał monitorować. Agenci tracą możliwość odróżnienia intencji przedsiębiorstwa od wejścia złośliwego, ponieważ nie ma weryfikowalnej tożsamości ani wiązania polityki w czasie wykonywania.

Te rzeczy nie są hipotetyczne. Zmapowaliśmy 46 wektorów, w których dane uciekają poza kontrolę, nawet gdy nic nie wydaje się złamane. Agenci AI generują i udostępniają dane z prędkością maszynową. Bez weryfikowalnych zabezpieczeń w czasie wykonywania wbudowanych w przepływ, awarie rozprzestrzeniają się szybciej niż jakikolwiek zespół bezpieczeństwa może wykryć lub zareagować.

Jak wiodące organizacje równoważą potrzebę odblokowania zaawansowanych możliwości AI, chroniąc jednocześnie swoje najwrażliwsze aktywa danych?

Organizacje, które to robią dobrze, traktują prywatność i zarządzanie jako przyspieszacze, a nie hamulce. To jest kluczowe spostrzeżenie.

Co widzę w terenie, to to, że wiodące przedsiębiorstwa łączą zaawansowane możliwości AI z platformami Confidential AI, które dostarczają weryfikowalne gwarancje, a nie tylko listy kontrolne zgodności. Umożliwiają one odblokowanie wrażliwych danych do innowacji AI, zapewniając, że informacje własnościowe pozostają chronione, nawet gdy przepływy pracy działają autonomicznie.

Stare ramy były zdolnością versus bezpieczeństwem. Przedsiębiorstwa, które poruszają się najszybciej, odrzuciły ten kompromis całkowicie. Budują weryfikowalne zaufanie w podstawie swojej strategii AI, umożliwiając im wykorzystanie najcenniejszych danych. Tymczasem konkurenci nadal są zakleszczeni w trybie pilotażowym, uruchamiając AI na danych sanitarnych, które nie przesuwają igły.

Na podstawie tego, co widzisz dzisiaj, jak oczekujesz, że modele zarządzania AI w przedsiębiorstwach ewoluują w ciągu najbliższych kilku lat, gdy systemy agentic przechodzą z pilotów do pełnej produkcji?

Zarządzanie będzie ewoluować z papieru do dowodu. To jest najprostszy sposób, w jaki mogę to powiedzieć. Wczesne modele zarządzania były budowane dla oprogramowania o prędkości ludzkiej: polityki na papierze, zatwierdzenia przed wdrożeniem, przeglądy po tym, jak coś poszło nie tak. Systemy agentic łamią każde z tych założeń. Działają nieprzerwanie, działają autonomicznie i generują efekty kaszkadujące z prędkością maszynową.

Co widzimy, to to, że zarządzanie przechodzi w kierunku weryfikowalności w czasie wykonywania jako nowej granicy bezpieczeństwa, wspieranej przez kryptograficzne gwarancje, które dowodzą zachowania w każdym stadium cyklu życia agenta, przed, w trakcie i po wykonaniu. Ten sam wzorzec, jaki widzieliśmy z HTTPS, staje się domyślny dla ruchu internetowego. Nikt nie dyskutuje już, czy szyfrować połączenia internetowe. W ciągu kilku lat nikt nie będzie dyskutował, czy weryfikować wykonanie AI w czasie wykonywania. Będzie to standard.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić OPAQUE.