Confident Güvenlik’in Kurucusu ve CEO’su Jonathan Mortensen – Röportaj Serisi

Jonathan Mortensen, Confident Güvenlik’in kurucusu ve CEO’su, şu anda endüstriyel güvenlik ve uyumluluk gereksinimlerine sahip sektörler için kanıtlanabilir özel AI sistemlerinin geliştirilmesini yönetiyor. Ayrıca, South Park Commons’da bir Kurucu Üyesi olarak AI hesaplama, bellek, gizlilik ve mülkiyetin geleceğini araştırıyor. Confident Güvenlik’i kurmadan önce, Databricks’te bir Staff Yazılım Mühendisi olarak çalıştı ve bit.io teknolojisini veri platformuna entegre etti, çok kiracılı güvenlik, IAM/ACL’ler, VPC izolasyonu, şifreleme ve veri mülkiyeti üzerinde odaklanarak. Daha önce, bit.io’yu kurdu ve yönetti, çok bulutlu, çok bölgeli sunucusuz bir PostgreSQL hizmeti geliştirdi ve yüz binlerce güvenli veritabanını destekledi, daha sonra Databricks tarafından satın alındı.

Confident Güvenlik, şirketlerin AI iş akışlarını duyarlı bilgileri açığa vurmadan çalıştırmasına olanak tanıyan altyapılar oluşturur. Platformu, promt’lar, veriler ve model çıktılarının tamamen özel kalmasını, hiçbir zaman günlüğe kaydedilmemesini ve yeniden kullanılmamasını sağlar, böylece şirketlere AI’yi benimsemelerine ve katı düzenleyici ve uyumluluk standartlarını karşılamalarına güvenli bir yol sunar.

Confident Güvenlik’i 2024 yılında bit.io’yu kurduktan ve Databricks’te çalıştıktan sonra kurduğunuz için, AI’nin gizlilik açısından temelde farklı bir yaklaşıma ihtiyacı olduğunu fark etmenize ne sebep oldu?

Veri altyapısı oluşturma deneyimim bana şunu öğretti: insanlar duyarlı bilgileri bir sisteme girdiklerinde, güven yeterli değildir. Kanıt gerekir. Müşterilerin verilerini sahip oldukları ve bunu doğrulamak için yollar sunduğumuz bir altyapı oluşturduk.

Şirketlerin LLM’leri nasıl kullandığına baktığımda, bu kanıtın mevcut olmadığını gördüm. Çalışanlar kaynak kodları, yasal belgeleri ve hasta kayıtlarını üçüncü taraf tarafından çalıştırılan modellere yapıştırdılar. already özel sohbetlerin yanlışlıkla çevrimiçi olarak dizine eklenmesini ve politika değişikliklerininuddenly konuşmaları varsayılan olarak eğitim verisi haline getirmesini gördük. Bu, mevcut gizlilik modelinin ne kadar kırılgan olduğunu gösterdi.

AI, dünyanın en duyarlı bilgilerini işleyecekse, bir satıcıların iç sözlerine güvenmek zorunda kalmadan garantiler olması gerekiyor. İşte bu, beni Confident Güvenlik’i kurmaya iten şey.

OpenPCC, “AI için Sinyal” olarak tanımlanıyor. Bu gizlilik katmanının açık, doğrulanabilir ve işbirliği içinde olmasının neden önemli olduğu hakkında konuşabilir misiniz?

Uçtan uca şifreleme, herkesin benimseyebileceği bir standart haline gelene kadar popüler olmadı. AI gizliliği için de aynı şeyi istiyoruz.

OpenPCC, Apache 2.0 altında açık kaynaklıdır, bu nedenle herkes üzerine inşa edebilir veya inceleyebilir. Gizli bir güven gereksinimi yoktur. Donanım doğrulaması, çalıştırılan şey ve nerede çalıştırıldığı hakkında kriptografik kanıt sağlar. Ve her yerde çalışmasını sağladık: herhangi bir bulut, herhangi bir model sağlayıcı, herhangi bir geliştirme yığını.

Herkesin katılabileceği bir gizlilik standardının değeri çok büyüktür. OpenPCC kullanıyorsanız, verilerinize model sağlayıcıların, düzenleyicilerin veya hatta bizim erişemeyeceğinizi bilirsiniz. Bir standart, ancak tüm ekosistemin katılabileceği şekilde tasarlandığında işe yarar, bu nedenle mümkün olduğunca kapsayıcı olacak şekilde tasarladık.

Confident Güvenlik’ten önce, çok kiracılı, şifreleme ve veri mülkiyeti için büyük ölçekli sistemler oluşturdunuz. Bu deneyimler, OpenPCC’nin mimarisini nasıl şekillendirdi?

Bu sistemler, iki gerçeği pekiştirdi: bir sistem veri tutabiliyorsa, sonunda bunu yapacak, bu ya günlükler, yanlış yapılandırmalar veya yasal talepler yoluyla olabilir. Ve güven, bir gizlilik modeli değildir. Kullanıcılar, görünürlük ve kontrol gerektirir.

OpenPCC, durumsuz bir moda çalışır, böylece promt’lar işleme sonrasında kaybolur. Doğrulama, kullanıcıların verilerinin nereye gittiğini ve hangi kodun çalıştırıldığını doğrulamasına olanak tanır. Ve kontrolü veriden ayırarak, OpenPCC, özel girişlerin hiçbir zaman yürütülebilir komutlar olarak işlenmesini engeller.

Bu kısıtlamalar, şirketlerin beklediği garantilerdir: verilerin beklenmedik bir şekilde ortaya çıkmayacağına dair garantiler.

Çoğu “özel AI” çözümü, şeffaf olmayan sistemlere güveniyor. Bağımsız doğrulamanın gerçek gizlilik için neden gerekli olduğu hakkında konuşabilir misiniz?

Şu anda kullanılan çoğu gizlilik dili, temelde “bize güvenin” demektir. Ulusal güvenlik ve düzenlenmiş sağlık verileri gibi yüksek riskler söz konusu olduğunda, bu yeterli değildir. Kullanıcı, iddiasını doğrulayamıyorsa, bu bir garanti değil, pazarlamadır.

Doğrulanabilir gizlilik farklıdır. Operatörün niyetine güvenmezsiniz. Donanımı, yazılım görüntüsünü ve veri işleme garantilerini doğrularsınız. Kriptografi, sınırları zorlar. Günlükler, birinin yanlışlıkla sızdırmasına veya mahkeme celbine neden olmaz.

Kullanıcı, gizliliği denetleyebiliyorsa, daha güvenli bir sistem oluşturursunuz. Bu, matematiksel olarak hesap verilebilirliktedir.

Google’ (GOOGL ) ın “Özel AI” duyurusu, OpenPCC’den kısa bir süre sonra geldi. Bağımsız test için bir TPU talep ettiğiniz hakkında konuşabilir misiniz?

Gizlilik garantileri iddia ediyorsanız, topluluğa bunları doğrulaması için izin vermelisiniz. NVIDIA (NVDA ), already H100 GPU’larındaki dış doğrulamayı 허용 ediyor ve biz de topluluk tarafından benimsenmesini teşvik etmek için onların doğrulama kütüphanesinin Go sürümünü açık kaynaklı olarak yayınladık.

Google, TPÜ’ler için benzer vaatlerde bulunmak istiyorsa, biz de bunları ölçüp doğrulayabilmeliyiz, sadece bir blog yazısında okumak yerine. Gizlilik sisteminden beklediğimiz kontrolleri arayacağız: katı veri saklama sınırları, denetlenebilir doğrulama ve günlüklerin veya telemetrinin kaçabileceği gizli yollar yok.

OpenPCC’nin tam şifreli kanallarının geleneksel istemci tarafı şifrelemesi veya gizli hesaplama’dan farkı nedir?

İstemci tarafı şifreleme, verileri girişte korur ve gizli hesaplama, işlenirken korur, ancak operatörlerin veya saldırganların duyarlı bilgileri erişebileceği boşluklar vẫn vardır.

OpenPCC, bu boşlukları kapatır. İstemci ve model arasında, promt, yanıt, kullanıcı kimliği ve hatta metadata veya zaman sinyallerini koruyan mühürlü bir uçtan uca yol oluşturur. Operatörler hiçbir şeyi şifreleyemez. Hiçbir şey günlüğe kaydedilmez veya saklanmaz, hatta ihlal koşullarında bile.

Gizlilik, sağlayıcının arkasında doğru şeyi yapmasını ummak yerine kriptografik olarak zorlanmalıdır.

Doğrulanabilir gizlilik, finans, sağlık ve savunma gibi düzenlenmiş endüstriler için denklemini nasıl değiştirir?

Düzenlenmiş endüstriler, AI’den en çok kazananlar olacak, ancak aynı zamanda en çok kaybedenler de olacaklar. Bugün, çalışanların %78’i iç verilerini AI araçlarına yapıştırıyor ve her beş vakadan biri, PHI veya PCI gibi düzenlenmiş bilgileri içeriyor. Maruz kalma zaten oluyor.

Doğrulanabilir gizlilik, en büyük engeli ortadan kaldırır. Duyarlı promt’lar, model sağlayıcının ortamında hiçbir zaman açık metin olarak var olmaz. Hiçbir şey eğitim için kullanılamaz. Yasal talepler bile, sistem自己 göremeyeceği şeyi erişemez.

Risk ve uyumluluk ekipleri, sonunda “evet” deme yoluna sahiptir.

Herhangi bir entreprise yığınında çalışan, bulut-agnostic bir gizlilik katmanını tasarlamak için karşılaştığınız en büyük mühendislik zorlukları nelerdi?

Gizli hesaplama ve uzak doğrulama hala bebeklik döneminde. Her bir bulut sağlayıcısı ve çıplak metal sağlayıcısı, biraz farklı bir şey yapıyor. Bazı sağlayıcılar, AWS gibi, bunu yapmak için gerekli donanıma bile sahip değil. Eklediğimiz her bir özellik, 1000 kesik ve bir tightrope yürümek gibi. Ancak bütün nokta, açık bir standart haline gelmektir, bu nedenle herkesin bulutunda çalışması için bunu yapmamız gerekiyor. Açık kaynaklı, bu nedenle desteklenen daha fazla platform ve yapılandırma eklemeye teşvik ediyorum!

Varsayılan doğrulanabilir şifrelemenin olduğu bir dünya nasıl görünür ve şirketler, bulut sağlayıcıları ve model sağlayıcıları arasındaki güç dengesini nasıl değiştirebilir?

Şirketler, en değerli varlıklarını – verilerini – kontrol ederler. Model sağlayıcılar, performans ve maliyet üzerinde rekabet eder, biriktirdikleri özel bilgilere göre değil. Bulutlar, gizliliği ermöglichtir, sessiz bir gözlemcisi değil.

BU, daha sağlıklı bir güç dengesidir. Ve tüm ekosistem, güvenlik temelde inşa edildiğinde kazanır.

AI’nin her yerde olduğu ve ağır bir şekilde düzenlendiği bir gelecekte, doğrulanabilir gizliliğin şirketler, bulut sağlayıcıları ve model geliştiricileri için rekabet ortamını nasıl değiştireceğini düşünüyorsunuz?

Düzenleyiciler, already kullanıcı verilerinin nasıl depolandığı ve kullanıldığı hakkında soru soruyor. Güvene dayalı gizlilik, uzun süre onlara yeterli gelmeyecek. Kullanıcılar, bugün mesajlaşma uygulamalarında şifrelemeyi bekledikleri gibi, gizlilik garantileri bekleyecekler.

Kazanacaklar, kullanıcıların fedakarlık yapmasını istemeyen şirketler olacak. Gizliliği kanıtlarsanız, dünyanın en değerli verilerine sahip organizasyonların güvenini kazanırsınız. Veriler, kilitli olduğu yerlerde kullanılabilir hale gelir.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Confident Güvenlik‘i ziyaret edebilir.