Chester Leung, OPAQUE’un Kurucu Ortağı ve AI Platform Başkanı – Röportaj Serisi

Chester Leung, OPAQUE‘un Kurucu Ortağı ve Platform Mimarisi Başkanı’dır. OPAQUE, bir Serie A startup şirketidir ve gizli veri ve AI platformunu inşa etmektedir. Bu platform, şirketlerin veri管道larını gizli bir katman ile genişletmelerine olanak tanır, böylece daha hızlı ve daha az çaba ile gizli ve denetlenebilir veri ve kontrol sağlar.

Önceki olarak, Chester, UC Berkeley’de bilgisayar bilimi yüksek lisans öğrencisiydi. Burada, üst düzey konferanslarda hakemli makaleler yayınladı ve aynı zamanda güvenli işbirliği analizi ve makine öğrenimi için açık kaynaklı MC2 projesinin lider bakım sorumlusuydu.

Siz, UC Berkeley’nin RISELab’de AI ve güvenli sistemler arasında köprü kuran çalışmalarınızın ardından OPAQUE’u kurduk. Şirketin yönünü belirleyen, kuruluşuna yol açan şirket veri altyapısında hangi boşluğu gördünüz?

O zamanlar, akademide ve endüstride, makine öğrenimi için özel kullanım durumlarını kullanma konusunda büyük bir odaklanma vardı. Laboratuvarda, büyük şirket sponsorlarına sahip olmak bizim için çok şanslıydı. Bu sponsorlar, bizim çalışmalarımızı şirketlerin karşılaştığı sorunları çözmeye yöneltmemize yardımcı oldular. Özellikle teknoloji, bankacılık, finansal hizmetler ve sigorta (BFSI) şirketleri ile yakın çalıştık. Bu şirketlerle birlikte, hassas ancak değerli verilerin makine öğrenimi için kullanımındaki zorlu gizlilik sorunlarını çözmeye çalıştık. Makine öğrenimi, değerli ve sağlam içgörüler üretmek için büyük miktarda yüksek kaliteli veriye dayanır.

Amazon (AMZN ), Scotiabank ve Ant Group (o zamanlar Ant Financial) gibi şirketlerle işbirliği yaparken, aynı kalıpyı tekrar tekrar gördük: AI güçlendirilmiş projeleri, hassas ancak kritik verilerin kullanımındaki endişeler nedeniyle üretim aşamasına ulaşmadan durduruldu. Diğer bir deyişle, bu şirketler, şirket için değer üretebilecek AI projelerini gerçekleştiremediler, çünkü doğru verilere erişemediler.

OPAQUE’da, aynı sorunu çözmeye çalışıyoruz. Şirketlerin doğru verilere erişmelerine yardımcı olmak ve AI yeteneklerini kilitlemelerine veya satışa sunmalarına olanak tanımak. Araştırma günlerimizden bu yana değişen tek şey, sorunun aciliyetidir: AI benimsemesi ve entegrasyonu, şirketlerin stratejik öncelik haline gelmektedir ve doğru verilere erişimi engelleyen bir engel olarak görülmektedir.

Şirketler, neden güvenceli veri管道larına ihtiyaç duyarlar?

Güvenli veri管道ları, şirketlerin akıl yürütme modelleri ve ajans AI’lerini inşa ettiği temel altyapıyı oluşturur. Bu modelleri eğitme ve ajans AI’lerini dağıtma, hassas verilere ve güvenli veri管道larına dayanır.

Örneğin, endüstri olarak, bu modelleri eğitmek için yüksek kaliteli verilerin oluşturulmasına yönelik artan bir yatırım görüyoruz. Bazı raporlar, yüksek kaliteli veri oluşturulması için yapılan yatırımın, modelleri eğitmek için yapılan yatırımdan daha fazla olacağını öngörüyor. Tabii ki, veri oluşturma, şirketin en değerli IP’sini üreten bir dizi adımdan oluşur: domaine özgü, yüksek kaliteli veri, modelleri eğitebilir ve aşağı akışta büyük değer üretebilir. Veri oluşturma yatırımının büyüklüğü, oluşturulan verinin, şirketin rakiplerinden ayıran bir özellik olarak hizmet etmesi nedeniyle, şirketin bu pipeline’ı güvence altına alması gerekir.

OPAQUE’un gizli hesaplama platformu, şifreli verilerin analizi için olanak tanır. Bu platformun, şirketler için ölçeklenebilir ve geliştirici dostu olması için ortaya çıkan temel teknik zorluklar nelerdir?

Confidential AI platformumuz, sadece şifreli verilerin analizi değil, aynı zamanda makine öğrenimi ve üretken AI için de olanak tanır. Ayrıca, verilerin sadece beklendiği şekilde ve izin verilen şekilde kullanıldığının kanıtlanmasını sağlar.

Ölçeklenebilirlik, geliştirme ve yönetim ile ilgili temel zorluklar, iş yükünün güvenli ve denetlenebilir bir şekilde düzenlenmesinde yatmaktadır. Özellikle, birçok şirket, ölçeklenebilirlik için yönetilen bulut hizmetlerini kullanmaktadır. Bu, maliyet açısından etkili ve uygun olabilir. Ancak, yönetilen bulut hizmetlerinin bir kısmı, bulut sağlayıcısı tarafından yönetilir. Bu nedenle, şirketin kontrolü altında olmayan bir yazılıma nasıl güvence altına alınacağı sorusu ortaya çıkar. Şirket, tüm yazılımları kontrolü altına alırsa, yönetilen hizmetleri kullanmamak için ne tür fedakarlıklar yapması gerekir ve bunu yaparak ne tür kayıplar yaşayabilir?

Güvenli tasarım mimarisi, şirketler için kalıcı bir rekabet avantajı sağlayabilir. Bu ilkenin, şirketlerin AI ekipleri için pratikte nasıl işlediğini açıklar mısınız?

Bu ilkeyi iki açıdan ele alabiliriz: ürün açısından ve mühendislik açısından.

Ürün açısından, herkes verilerinin radyoaktif, hendek veya her ikisi olduğunu anlar. Şirketler, data gizliliği, güvenliği ve egemenliği konusunda çözüm değerlendirmelerine giderek daha olgunlaşıyorlar. Dolayısıyla, herhangi bir şirketin, şirket verilerini işleyen herhangi bir ürün geliştirmesi, işlenen verilerin sadece yetkili kişiler ve varlıklar tarafından görüntüleneceği ve kullanılacağı konusunda güvence vermelidir. Güvenli tasarım mimarisi, ürünün tasarımında veri gizliliği, güvenliği ve egemenliğinin ilk sınıf considerationlar olduğunu kanıtlar ve bu güvenceleri açıkça sağlar.

Mühendislik açısından, güvenli tasarım mimarisi daha esnek ve geleceğe dönüktür. Yasal, risk ve uyum ekipleri, yeni riskler ve düzenlemeler karşısında giderek daha sıkı bir hale geliyor. Bu nedenle, mühendislik organizasyonları, güvenli bir şirket AI sistemini baştan inşa etmelidir, böylece mevcut sistemlerinin güvensiz ve riskli olduğunu fark ettiklerinde, sistemlerini yeniden yapılandırmak veya yama yapmak zorunda kalmazlar. Sistemlerini yeniden yapılandırmak ve yamamak, değerli mühendislik bant genişliği açısından aylar, hatta yıllar kaybı anlamına gelebilir.

Otonom AI sistemleri evrilirken, şirketlerin verilerini, bir kaynak olarak değil, bir savunulabilir hendek olarak yeniden düşünmeleri nasıl gerekir?

Endüstride, verilerin yakın zamanda şirketlerin sahip olabileceği tek hendek olabileceği konusunda artan bir uzlaşı vardır. Araştırmacı ve mühendis yeteneği ile bu yeteneklerin inşa ettiği mükemmel teknolojiler ve ürünleri, şirketler arasında kolayca aktarılabilir. Bu nedenle, birçok şirket aynı ürünleri, aynı teknolojilerle destekleyebilir.

Şirketler arasında kolayca aktarılamayan şey, şirketin verisidir – tabii ki sızdırılmadığı sürece. Ayrıca, bu veri, bir ürünü rakiplerinden daha kişiselleştirilmiş, uyarlanmış ve domaine özgü hale getirebilir. Şirketler, verilerini güvence altına almak ve bu verilerini rekabet avantajı olarak kullanmak için her şeyi yapmalıdır.

Uygulamada, bir AI pipeline’ın dayanıklı olması nasıl görünür ve şirketlerin AI dağıtımlarını ölçeklendirirken gizli maliyetleri veya riskleri nasıl önler?

Dayanıklı bir AI pipeline’ı, güvenilir, arızaya dayanıklı, ancak en önemlisi, uçtan uca denetlenebilir güvenli bir pipeline’dır. İşlem öncesi, şirketler pipeline’ın ve pipeline’a giren verilerin doğruluğunu doğrulamalıdır, böylece pipeline’ın verilerini suistimal etme ihtimali olmasın. İşlem sırasında, AI pipeline’ı, verilerin çalınmasını veya sağladığı içgörülerin çarpıtılmasını önlemek için suistimal edilemez olmalıdır. İşlem sonrası, AI pipeline’ı, karar alma ve AI pipeline’ın izleyicilerinin ve açıklanabilirliğinin denetlenebilir olması için olmalıdır, böylece bir sorun ortaya çıktığında neyin yanlış gittiğini görebilirler.

Şirketler, AI pipeline’ları ve veri paylaşımı etrafında ortaya çıkan tehditleri veya zayıflıkları tam olarak takdir etmiyor olabilir. Bu tehditlere örnekler verilebilir mi?

AI ajanları ile çeşitli sistemlerin kaydını etkileyen bu ajans altın rush’ta, şirketlerin verilerine erişimi olan ve değerlendirebileceği AI ajanlarına karşı büyük riskler görüyoruz. Bu ajanlar, değer üretebilir, ancak aynı zamanda büyük riskler taşırlar, çünkü birçok sistemi değerli verilerle etkilerler. Ajanlar, doğaları gereği belirsizdir ve birçok durumda beklenmedik şeyler yaptıklarını gördük. Verileri şirketin tek hendeği ise, şirket liderleri, verilerini suistimal etmemeleri veya kasıtlı olarak suistimal etmemeleri için AI ajanlarına güvenip güvenemeyeceklerini her zaman sorgulamalıdır.

Küresel olarak AI düzenlemeleri şekillenirken, güvenli veri altyapısı, model sorumluluğu ve uyumun bir sonraki birkaç yılda nasıl evrilmesini öngörüyorsunuz?

Güvenli veri altyapısı, model ve ajan sorumluluğunu sağlar. Özellikle, bir ajanın veya modelin karar alma veya araç kullanımının denetlenebilir kanıtı olmadan, hiçbir şeyden emin olamayız, bu nedenle sorumluluğu takip edemeyiz. AI, günlük hayatımızın daha fazla bir parçası haline geldikçe, kontrolü elimizde tutmak isteyeceğiz, bu nedenle AI’dan daha fazla açıklanabilirlik ve gözlemlenebilirlik isteyeceğiz. Ancak, AI, makine hızında çalışabilir ve biz yapamayız, bu nedenle kötü niyetli bir AI, kolayca bizi kandıran yanlış tarihler oluşturabilir. AI’yi sorumlu tutmak için denetlenebilirliğe ihtiyacımız vardır.

Bana göre, düzenleyici uyum, çok geriden gelmektedir. Düzenlemelerin geliştirilmesi ve kabul edilmesi, teknolojik yeniliklerin hızından çok daha yavaştır. Bu, AI’nin bizim yenilik hızımızı artırdıkça giderek daha doğru olacaktır. Uyum, nihayetinde, geri kalanları güvenli veri altyapısını benimsemeye zorlayacaktır, ancak erken benimseyenler ve erken çoğunluk, bunun AI güvenliği için kritik olduğunu anlar ve bunu, uyumun zorunlu kılmasından çok önce benimseyecektir. Şirketlerin kendi AI güçlendirilmiş ürünlerinin benimsenmesi için ajan sorumluluğunun, güvenli veri altyapısı tarafından sağlandığını anlarlar.

Harika röportaj için teşekkür ederiz. Daha fazla bilgi edinmek isteyen okuyucular, OPAQUE‘u ziyaret edebilir.