Aaron Fulkerson, OPAQUE CEO’sü – Röportaj Serisi

Aaron Fulkerson, OPAQUE CEO’su, uzun süredir kurumsal yazılım girişimcisi ve açık kaynak öncüsüdür ve kariyeri güven, veri ve dijital dönüşüm odaklı teknoloji platformları oluşturup ölçeklendirme konusunda iki thập yılın üzerinde bir süredir devam etmektedir. 2023 yılında OPAQUE’a katılmadan önce, MindTouch’u kurdu ve onu geniş çapta benimsenen bir kurumsal bilgi platformuna dönüştürdü, daha sonra da ServiceNow Impact’in lançını yönetti ve ServiceNow tarihindeki en hızlı büyüyen iş birimlerinden biri oldu. Kariyeri boyunca Fulkerson, ortaya çıkan teknolojiler, kurumsal yazılım ve açık ekosistemlerin kesişiminde çalıştı ve aynı zamanda birçok teknoloji start-up’ına ve kuruluşa danışmanlık yaptı. Daha yakın zamanda, Gizli AI için güçlü bir savunucu haline geldi ve mahremiyet, yönetim ve doğrulanabilir güvenin AI sistemleri kritik kurumsal iş akışlarına entegre edildiğinde temel gereksinimler olacağını savundu.

OPAQUE bir Gizli AI şirketi olup, Apache Spark ve Databricks gibi teknolojilerin ortaya çıktığı ünlü UC Berkeley RISELab’dan ortaya çıkmıştır. Şirket, kurumsal müşterilerin yüksek derecede hassas verilere sahip AI modellerini, ajanlarını ve iş akışlarını çalıştırabileceği bir platform geliştirmiştir ve aynı zamanda kriptografik olarak doğrulanabilir mahremiyet ve uyumluluk garantileri sağlar. Şirket, organizasyonların AI inovasyonu ile veri güvenliği arasında seçim yapmasını gerektirmez, bunun yerine gizli hesaplama, şifreli çalışma zamanı ortamları ve donanım tarafından doğrulanan yürütme kullanır, böylece hassas bilgiler işleme öncesi, sırasında ve sonrasında korunur. Teknolojisi, finans, sigorta, sağlık ve yüksek teknoloji gibi yüksek düzenleme gerektiren sektörler için tasarlanmıştır ve müşterileri ve ortakları arasında ServiceNow, Anthropic, Accenture ve diğer kurumsal organizasyonlar bulunmaktadır.

Kurumsal platformlar oluşturup ölçeklendirme konusunda uzun süredir deneyim sahibi olduğunuz için, OPAQUE’da CEO olarak görev aldığınızı ve güven, mahremiyet ve AI yönetimine odaklandığınızı neler tetikledi?

Benim kariyerim boyunca kurumsal platformlar oluşturup ölçeklendirme konusunda deneyim kazandım, önce MindTouch’ta ve daha sonra ServiceNow’da, burada en hızlı büyüyen ürünü yarattım. Her ikisi de bana aynı dersi öğretti: en güçlü teknoloji, ancak insanlar onu güvendiğinde kazanır.

OPAQUE’un kurucuları Raluca Ada Popa, Ion Stoica ve Rishabh Poddar ile tanıştığımda, yetenek ve vizyonun nadir bir kombinasyonunu gördüm. Raluca, dünyanın önde gelen mahremiyet ve güvenlik araştırmacılarından biridir. Ion, Databricks’in kurucularından biridir. Rishabh, OPAQUE’un temelini oluşturan kriptografik sistemleri inşa etti.

UC Berkeley’nin RISELab’da, onlar tarafından oluşturulan şeyi hemen tanıdım, bu, nesiller arası bir şeydi. Verilerin her AI iş akışında özel kalacağına dair kriptografik kanıt. Vaatler değil, politikalar değil, kanıt.

AI’nin nereye gittiğini düşündüm, ajanların özerk olarak empresa sistemleri üzerinden makine hızında çalıştığını gördüm ve Vint Cerf’in 30 yıldır uyardığı aynı boşluğu gördüm: güven katmanı yok. İnternet, insanların gardiyan olarak görev yaptığı için güven katmanına ihtiyaç duymadan hayatta kaldı. Ajanslı web, bu lüksü yaşamayacaktır. İşte bu, beni çekti.

Ajansların güvenli bir şekilde araçlara, uygulamalara ve verilere erişmesini sağlayan MCP (Model Context Protocol) standardının ortaya çıkmasıyla, ajanslı AI’nin kurumsal ölçekte dağıtılmasını ve ölçeklendirilmesini nasıl değiştireceğini düşünüyorsunuz?

MCP, ajanslı AI’nin kurumsal ölçekte dağıtılmasını ve ölçeklendirilmesini önemli bir adım olarak görüyorum. Bunu, AI iş akışları için evrensel bir konektör olarak düşünün. Araçlara, uygulamalara ve verilere erişimi standardize eder, gerçek sürtünmeyi azaltır ve deney yapmayı hızlandırır.

Ancak, erişimi standardize etmek alone, ajanslı AI’yi güvenli veya ölçeklenebilir yapmaz. Bağlantı noktalarının sayısı arttıkça, daha fazla ajan, daha fazla araç ve daha fazla veri kaynağı ile birlikte, veri sızıntısı yüzeyi her yeni entegrasyonla birlikte genişler. Her bir bağlantı noktası, çalışma zamanı uygulaması olmadan potansiyel bir maruz kalma vektörüdür. AI ajanları, hassas sistemlerle ve özel mantıkla etkileşime girdiğinde, şifreleme ve ağ kontrolleri yeterli değildir. Güvenlik sınırı, çalışma zamanına kaymıştır ve bu kayma, ekosistemin ölçeklendirilmesi ile birlikte daha da acil hale gelmektedir.

Ajanslı sistemlerde güvenlik, politika uygulaması ve güven konusunda en büyük boşluklar nerede?

Bu boşluklar, bağlantı noktalarında değil, ajanların bağlandığı anda ortaya çıkıyor. MCP, kimin neye erişebileceğini ve nasıl erişebileceğini standardize ediyor, ancak çalışma zamanında ne olacağını garanti etmiyor.

Biz, 2026 AI Leak Surface araştırmasını tamamladık ve bulgularımızı “AI Stack’inizden Kaçan 12 Veri” başlıklı bir özet olarak yayınladık. Bu nghiênmede, 8 kategoride 46 maruz kalma vektörü belirledik: hesap, kontrol, uygulama ve aralarındaki elverişler. Bunlar, hiçbir şeyin bozulmadığı, günlüklerin temiz göründüğü ancak sistemin hala veri sızdırdığı senaryolardır.

En büyük boşluklar, bağlantı noktalarında değil, ajanların bağlandığı anda ortaya çıkıyor. Çoğu organizasyon, üç temel soruyu cevaplayamaz: AI’miz nasıl davranır? Kim kontrol eder? Ve politikalar nasıl uygulanır?

Araştırmamız, sınırların yapılandırıldığını ancak hiçbir zaman uygulanmadığını gösterdi. Bir politika, bir belgede, bir yapılandırma dosyasında veya bir dağıtım zamanı ayarında olabilir, ancak çalışan sistem buna bağlı değildir. Bir AI asistanı, malzeme olmayan kamu bilgisi bir takvim davetine koyar. Bir RAG kopyası, yönetim kurulu finansallerini bir genç analiste sunar. Bir satıcı SDK, 12 ay boyunca 10 milyon sorguyu sessizce sızdırır. Her durumda, erişim kontrolleri yerindeydi, ancak veri yine de sızdı.

Ajanslara hassas sistemlere ve özel verilere erişim izni verildiğinde, ortaya çıkan yeni mahremiyet ve uyumluluk riskleri nelerdir?

Çoğu kuruluş, verilerin dinlenme veya iletim sırasında mahremiyetini düşünür. Ancak ajanslı iş akışlarında, en büyük risk, verilerin kullanılması sırasında ortaya çıkar.

Örneğin, bir performans araba üreticisi, montaj hattında AI kullanır. Ham veriler zararsız görünür: sensör okumaları, zamanlama dizileri, kalite kontrolleri. Ancak bir LLM, bu ham veriden özel üretim süreçlerini yeniden oluşturabilir. Beş yıl önce gürültü olan şey, şimdi bir rakip için bir plan haline gelir.

Araştırmamız, bu kalıbı dozens of senaryolarda belgeliyor. Operasyonel telemetri araçları, AI yüklerini full olarak yakalar ve bir Avrupa bankası, APM varsayılan ayarlarını değiştirmeyerek 2.1 milyon.prompt chứa PII’yi bir ABD SaaS örneğine akıttı. Ajans belleği, seanslar arasında bağlam sızdırır. Zincir-düşünce izleri, gözlem platformlarına maruz kalır ve bu platformlar, alt yükleniciler tarafından erişilebilir. Geleneksel uyumluluk çerçeveleri, bu tür sızıntıları tespit etmek için tasarlanmadı. İnsanların, insan hızında veri taşıdığına varsayılıyordu.

Gizli AI, MCP’ye neden gerekli bir karşıt haline geliyor ve erişimi standardize etmek alone ajanslı AI’yi güvenli veya ölçeklenebilir yapamadığı challenges’i nasıl ele alıyor?

MCP, kimin neye erişebileceğini ve nasıl erişebileceğini standardize eder, ancak çalışma zamanında ne olacağını garanti etmez. Gizli AI, bu garantileri sağlar.

Gizli AI, çalışma zamanında veri, kimlik, kod ve iletişim için kriptografik garantiler sağlar. Ajansların, yetkilendirildikleri şeyleri yapabileceğini ve bunu kanıtlatabileceğini sağlar. Erişim standardı alone, çalışma zamanında güvenlik ihlallerini, politika kaymasını veya yetkisiz veri kullanımını önleyemez. Gizli AI, bu garantileri sağlar.

Özerk AI ajanlarının kritik iş akışları üzerinden çalıştığı bir kuruluş için, doğrulanabilir güven ne anlama geliyor?

Doğrulanabilir güven, kodu çalıştırdığımı, nerede çalıştırdığımı, hangi politikalar altında çalıştırdığımı, hangi verilere erişildiğini ve sistemin davranışını kanıtlamak anlamına gelir.

Uygulamada, bir sigorta şirketinin talepleri işlemek için AI ajanları kullandığını düşünün. Çalışma zamanı önce, donanım kimlik doğrulaması, ajanın kimliğini ve ortamın bütünlüğünü doğrular. Çalışma zamanında, kriptografik politika bağlama, donanım tarafından desteklenen bir Güvenli Çalışma Zamanı Ortamında (TEE) veri korumasını ve politika uygulamasını sağlar. Çalışma zamanı之后, bir suçüstü kayıt defteri, tam olarak ne olduğunu kaydeder.

Ajanslı sistemler makine hızında çalıştığından, neden geleneksel insan denetimi bozulur ve organizasyonlar bu yeni ortamda yönetim nasıl yeniden düşünmelidir?

İnsanlar, internetin görünmeyen gardiyanları olarak görev yaptı. Ajanslı AI, bu varsayımları ortadan kaldırır. Ajanslar, sürekli olarak çalışır, özerk olarak karar verir ve makine hızında hareket eder. İnsanlar, bu hızda takip edemez.

Yüz ajandan oluşan bir ağ, yalnızca %1 risk ile bile, %63’lük bir ihlal olasılığına sahiptir. Bin ajana ölçeklendirildiğinde, bu oran %99,99’a çıkar. İnsanların, ajansların davranışını takip etmesi ve güvence altına alması imkansızdır. Denetim, ardından gözden geçirme yerine, çalışma zamanı garantilerine dönüşmelidir. Bu, sıfır güven iş akışları, varsayılan politika uygulaması ve insan müdahalesine bağlı olmaksızın doğrulanabilir yürütme anlamına gelir.

Ajanslı AI ile deney yapan ancak içermeyen bir güven katmanına sahip kuruluşlarda en sık görülen güvenlik hataları nelerdir?

En sık gördüğüm kalıp, kuruluşların ajanların davranışları için kriptografik garantiler olmadan ajanslara izin vermesidir. Umuda dayalı olarak hassas IP işliyorlar.

Ne olacağı öngörülebilir ve AI Leak Surface araştırmamızda bu kalıpları belgeliyoruz. Çalışma zamanı ihlalleri, geleneksel çevre güvenlik kontrollerini atlar, çünkü ajan zaten ağ içinde çalışmaktadır. Özerk ajan zincirleri, zincirleme arızalara neden olur. Bir ajansın sömürülmesi, bağlı sistemler boyunca domino etkisine neden olur. Özel mantık, izlenmeyen veri atıkları yoluyla sızar. Ajanslar, kurumsal niyeti kötü niyetli girdiden ayırt edemez, çünkü çalışma zamanında doğrulanabilir kimlik veya politika bağlama yoktur.

İleri AI yeteneklerini kilitlemek için aynı zamanda en hassas veri varlıklarını korumak isteyen önde gelen organizasyonlar nasıl dengeliyor?

Önde gelen organizasyonlar, mahremiyet ve yönetimi, frenler olarak değil, hızlandırıcılar olarak ele alıyor. Bu, anahtar bir bakış açısı.

Alanlarda gördüğüm şey, önde gelen kuruluşların, advanced AI yeteneklerini, doğrulanabilir garantiler sunan gizli AI platformlarıyla eşleştirdiği. Hassas verilere AI inovasyonu için erişim izni verirken, özel bilgilerin korunduğunu garantiliyorlar.

Eski çerçeve, yetenek karşı güvenlik idi. Önde gelen organizasyonlar, bu takasın tamamen reddedildiğini görüyor. AI stratejilerinin temelinde doğrulanabilir güveni inşa ediyorlar ve en değerli verilerini çalıştırabiliyorlar. Aynı zamanda, rakipleri, pilot modunda, etkisini göstermeyen temizlenmiş veri kümeleri üzerinde AI çalıştırıyor.

Ajanslı sistemlerin pilot aşamasından tam üretim aşamasına geçtiği nächsten birkaç yıl içinde, kurumsal AI yönetim modellerinin nasıl evrilmesini bekliyorsunuz?

Yönetim, belgelerden kanıtlara doğru evrilecek. Bu, en basit şekilde ifade edilebilir. İlk yönetim modelleri, insan hızında yazılım için inşa edildi: politikalar kağıt üzerinde, dağıtımdan önce onaylar, şeyler yanlış gittiğinde gözden geçirme. Ajanslı sistemler, bu tüm varsayımları bozar. Sürekli olarak çalışırlar, özerk olarak karar verirler ve makine hızında hareket ederler.

Ne gördüğümüz, güvence sınırının, çalışma zamanı doğrulanabilirliğine doğru kaydığı. Bu, ajansların yaşam döngüsünün her aşamasında, önce, sırasında ve之后, davranışlarını kanıtlamak için kriptografik garantiler tarafından desteklenen bir güvence sınırı anlamına gelir. İnternet güvenliği için HTTPS’in ortaya çıkışındaki aynı model, AI yönetimine de geliyor. İnsanlar, web bağlantılarını şifrelemenin gerekliliğini artık tartışmıyor. birkaç yıl içinde, kimse AI çalıştırma zamanını doğrulamanın gerekliliğini tartışmayacak. Bu, temel bir gereksinim haline gelecek.

Harika bir röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular OPAQUE ziyaret edebilir.