Rony Ohayon, DeepKeep’in CEO’su ve Kurucusu – Röportaj Serisi

Rony Ohayon, DeepKeep’in CEO’su ve kurucusu, AI, siber güvenlik, otonom sistemler ve büyük ölçekli video teknolojileri alanlarında kariyeri olan deneyimli bir girişimci ve teknoloji uzmanıdır. Bu alanlarda birçok şirketi kurmuş ve yönetmiştir, bunlar arasında otonom araç bağlantısı, canlı video iletimi ve ileri mühendislik gibi önemli roller ve daha önceki bilgisayar mühendisliği alanındaki akademik çalışmalar bulunmaktadır.

DeepKeep şirketinin amacı, işletmelerin AI, üretken AI, LLM’ler, bilgisayar görüşü ve çok modlu sistemleri tüm yaşam döngüleri boyunca güvence altına almalarına yardımcı olmak için tasarlanmış bir AI güvenlik platformudur. Şirket, güvenlik açıklarının belirlenmesi, düşmanca tehditlerin engellenmesi, veri sızıntısı ve.prompt manipülasyonu gibi sorunların önlenmesi, düzenleyici uyumluluğun desteklenmesi ve güvenilir, esnek ve korunan AI dağıtımlarının sağlanmasına yönelik sürekli izleme sağlamaya odaklanmaktadır.

Siz, video iletimi, otonom araç bağlantısı ve AI sistemleri alanlarında önemli yeniliklere liderlik ettiniz. Kariyerinizde, işletme AI’sini güvence altına almak için çözmeye ihtiyaç duyduğunuz bir sonraki büyük zorluğu neyin olduğunu size gösterdi?

Her zaman endüstrileri yeniden şekillendiren yüksek etkili zorlukları çözmeye motive oldum. Yıllar içinde, yeni teknolojinin, özellikle AI’nin, genellikle güvenlik önlemlerini geride bıraktığını ve kritik güvenlik açıklarını geride bıraktığını gözlemledim.

İşletmelerin AI benimsemesi, özellikle büyük dil modellerinin (LLM’ler) ve ajan AI’nin yükselişi ile birlikte, yeni riskler açığa çıkardı ve işletmeler genellikle bunları güvenle ve güvenle kullanmaya hazır hissetmediler. AI sistemlerindeki deneyimim, bu teknolojilerin kalbinde güvenlik entegrasyonunun ne kadar önemli olduğunu vurguladı, böylece bunlar sadece yenilikçi değil, aynı zamanda güvenli ve güvenilir sonuçlar üretebilsinler. Bu gerçekleşme, DeepKeep’in kurulmasına yol açtı ve işletmelerin AI’yi güvenle benimsemesini sağlamak için AI sistemlerini güvence altına almaya odaklanmayı amaçladı.

DeepKeep’i 2021’de kurduğunuzda, size bir AI güvenlik platformuna acil ihtiyaç olduğunu gösteren specific AI güvenlik kör noktası nelerdi ve bu görüş nasıl şirketin ilk yönünü şekillendirdi?

Yıllarca bilgisayar görüşü ile çalıştıktan sonra, bu teknolojinin güvenilir ve güçlü olması için önemli çaba sarf ettiğimizi fark ettik ve bu nedenle bilgisayar görüşü modellerinin güvenliğini sağlamak için özel bir çözüm tasarlamak zamanı geldiğini anladık.

2021’de, LLM patlamasından önce, bilgisayar görüşü modellerindeki riskleri ele almak için DeepKeep’i kurduk.

En erken prototipinize geri dönelim – ne yapıyordu, takım kaç kişiden oluşuyordu ve doğru yolda olduğunuzu nasıl doğruladınız?

DeepKeep’i kurduğumuzda, odak noktamız hala geleneksel AI – bilgisayar görüşü, tablo modelleri ve erken NLP – büyük dil modellerinin yükselişinden önce idi. İlk prototipimiz, bilgisayar görüşü sınıflandırıcılarını düşmanca saldırılarına karşı test etmek için bir sistemdi. Bunun yanı sıra, AI ateş duvarını detect ve flag edebilen bir erken sürümünü de inşa ettik.

İlk kullanım durumları, model davranışının gerçek operasyonel risk taşıdığı otomotiv, sigorta ve finansal hizmetler gibi sektörlerden geldi. O zamanlar takımız yaklaşık sekiz kişiden oluşuyordu, bu da hızlı bir şekilde iterasyon yapmamızı ve erken bir prototip üretmemizi sağladı.

Potansiyel müşterilerle doğrudan konuşarak, düşmanca dayanıklılığın ortaya çıkan bir endişe olduğunu vurguladıklarını gördük ve bu, bizim doğru yolda olduğumuzu doğruladı. Aynı zamanda, MITRE’nin ATLAS gibi çerçevelerinin ortaya çıkması, AI güvenliği ve düşmanca tehdit modellemenin bir alan olarak büyüyeceğinin önemli bir dış sinyaliydi. Müşteri geri bildirimi ve endüstri yönünün uyumu, bizim doğru yönde olduğumuzu gösterdi.

DeepKeep, geleneksel yazılımların güvenliğini sağlamak yerine AI sistemlerini güvence altına almak için tasarlandı. Hangi model tiplerine ve saldırı yüzeylerine odaklanmaya öncelik verdiniz?

Başlangıçtan itibaren, işletme AI’sini güvence altına almanın bir paradigma değişikliği gerektiğini anladık. Birçok organizasyon, kullandıkları modeller için penetrasyon testi ve değerlendirme yapma konusunda yetenekli olsa da, bu eylemlerin sadece başlangıç noktası olduğunu anladık.

AI uygulamaları ve AI ajanlarının tüm uygulama ekosisteminde, sadece modellerde değil, güvenlik açıklarının ortaya çıkabileceği yerlerde de güvenlik önlemlerini entegre etmeyi amaçladık.

Tüm model türleri için model taraması sağlıyoruz, ancak aynı zamanda düşmanca saldırılar, veri sızıntısı, sistem suistimali ve güven erozyonu gibi en acil tehditlere karşı korumayı da sağlıyoruz. AI promt ve yanıtlarını güvence altına alan güvenlik önlemleri uyguluyoruz.

AI’nin “anlamsal katmanını” da güvence altına alarak, modellerin çalıştığı bağlamı anlıyoruz, bu da modellerin daha kolay manipüle edilmesini önler.

Kuruluş aşamasından DeepKeep’in güncel ürün yönüne kadar, teknik veya stratejik olarak en büyük değişikliklere ne karar verdiniz?

Aldığımız en büyük kararlardan biri, geleneksel model güvenliğinden AI uygulama güvenliğine doğru genişlemeye karar vermek oldu. Başlangıçta, bireysel modelleri güvence altına almaya odaklandık, ancak AI manzarası evrimleşince, AI ekosistemlerinin tümünü, birden fazla model, ajan ve kullanım durumunun kesiştiği yerleri güvence altına almanın daha kritik olduğunu anladık.

Diğer bir önemli karar, tam esneklik sunarak, bulut-agnostic, on-prem ve hava boşluğu çözümleri sunarak, işletmelerin DeepKeep’i herhangi bir ortamda güvenle dağıtabilmelerini sağlamaktı. Ayrıca, platformumuza bir kişiselleştirilebilir kimlik bilgisi koruma önlemini entegre ettik, bu da müşterilerimize daha derin bir veri koruma seviyesi sağladı ve işletmelerin AI kullanımını ölçeklendirirken küresel uyumluluk gereksinimlerini karşılamalarına yardımcı oldu.

DeepKeep, güvenlik ve güvenilirlik üzerinde eşit olarak duruyor. Şirketin kimliği olarak bu çift odak ne zaman ortaya çıktı?

Güvenlik ve güvenilirlik üzerinde odaklanma, müşterilerimizle daha derin bir anlayış geliştirdikçe ve onların ihtiyaçlarını anladıkça netleşti.

AI modelleriyle çalışırken, güvenlik ve güvenilirlik el ele gider ve her ikisi de eşit olarak rol oynar, çünkü sonunda her ikisi de zararlı ve yıkıcı sonuçlara yol açabilir. Bir uygulama güçlü olabilir, ancak aynı zamanda güvensiz olabilir ve tersi de doğru olabilir.

Geleneksel siber güvenlik araçları, promt enjeksiyonu, hallucinations, veri sızıntısı veya model manipülasyonu için tasarlanmamıştı. Hangi ortaya çıkan tehdit vektörlerini işletmelerin en çok mücadele ettiğini gördünüz ve bu gerçek dünya sorunları nasıl DeepKeep’in mimarisini etkiledi?

Gördüğümüz en önemli tehdit vektörleri, promt enjeksiyonu ve veri sızıntısıdır. AI uygulamaları ve AI ajanları iş süreçlerine daha fazla entegre edildiğinde, promt manipülasyonu ve hassas verilerin kazara açığa çıkma riskleri daha belirgin hale gelir. Bu sorunlar, AI ekosistemlerindeki tüm veri akışını ve etkileşimleri koruyan bağlamsal güvenlik üzerine odaklanarak DeepKeep’i tasarlamamıza yol açtı. Altyapımızı, bu katmanları geliştirme aşamasında pentest etmek ve çalışma zamanında AI etkileşimlerini güvence altına almak için inşa ettik.

Platformunuz, güvenlik önlemleri, kırmızı takım ve veri koruma katmanlarını birleştiriyor. Teknik olarak, hangisinin büyük ölçekte mühendislik açısından en zor olduğunu düşünüyorsunuz ve hızlı hareket eden AI modellerine uyum sağlamak için ne öğrendiniz?

Her bir katman – güvenlik önlemleri, kırmızı takım ve veri koruma – kendi mühendislik zorluklarına sahiptir, ancak hepsinin ortak bir zorluğu vardır: değişim hızı. Yeni riskler, jailbreak’ler ve saldırı teknikleri sürekli ortaya çıkıyor, bu da her şeyin statik kalması durumunda nhanh chóng eskimesine neden oluyor.

İkinci zorluk, bağlam adaptasyonudur: işletmelerde, tek boyutlu bir yaklaşım çalışmaz, çünkü her uygulama farklı politikalar, veri duyarlılıkları ve kullanıcı davranışlarına sahiptir.

İlk zorluğu çözmek için, tamamen modüler bir mimari tasarladık, bu da kırmızı takım motoruna yeni saldırılar eklememize veya güvenlik duvarına yeni güvenlik önlemleri eklememize olanak tanır.

İkinci zorluğu çözmek için, bağlamsal bir sistem tasarladık. Uygulamanın ortamını analiz ediyor ve ilgili güvenlik önlemlerini otomatik olarak uyarlıyor, bu da AI modelleri ve kullanım durumlarının hızlı bir şekilde evrimleşmesi durumunda çok önemlidir.

Bu iki yetenek, modülerlik ve bağlamsal farkındalık, büyük ölçekli işletmelerde çalışırken ve hızlı hareket eden AI sistemlerini takip ederken çok önemli oldu.

AI güvenliği, gelişen bir disiplin. Şirketin güvenlik yığını ve müşteri altyapısını tasarlamak için, işletmelerde hangi boşlukları görüyorsunuz – politika, araçlar veya risk anlayışında?

Boşluklar, endüstriye, şirket büyüklüğüne ve AI benimseme olgunluğuna bağlı olarak önemli ölçüde değişebilir.

Büyük işletmelerde gördüğümüz en büyük boşluklardan biri, tüm AI güvenlik ihtiyaçlarını kapsayan tek bir çözümün eksikliğidir. Bu işletmeler, AI güvenlik çözümlerine ihtiyaç duyduklarının farkındalar, ancak benimseme arttıkça, ek güvenlik kapsamı gereksinimi de artar. Erken öğrendiğimiz şey, farklı yeteneklerin birlikte ve sorunsuz entegrasyonla çalıştığı, güçlü, uçtan uca bir çözümün değeridir. Müşteriler, parçaların toplamından daha büyük olan bir çözümün faydalarını görür.

Pazarda olgunlaştıkça, işletmelerin daha özelleştirilmiş ve daha az genel güvenlik araçlarına ihtiyaç duyduğunu fark ettik. Bağlamsal yaklaşımımızın bir nedeni, bu boşluğu doldurmak için tasarlandı, her uygulamanın ve ajanın farklı olduğunu ve güvence altına alınmaları gerektiğini anladık.

Beş yıl sonrasına bakarsak, işletme AI risklerinin nasıl evrimleşmesini bekliyorsunuz ve gelecekteki bu risklerin önünde kalabilmek için DeepKeep’in nerede konumlanması gerektiğini düşünüyorsunuz?

AI risklerinin, AI otonomisinin gelişmesiyle birlikte evrimleşmesini bekliyorum. Ajanlar, işletme operasyonlarının her birine entegre olarak ve karmaşık görevleri gerçekleştirebilecek şekilde daha otonom hale geldikçe, güvenlik ihlali ve suistimal riski artacaktır. Ajanların birbirleriyle etkileşime girdiği ve sécurilmesi gereken daha kompleks bir AI etkileşimleri ağı olan Ajanlar İnterneti (IoA) gelişmesini öngörüyoruz.

Önlerinde kalmak için, DeepKeep, AI sistemlerini güvence altına almak için platformunu sürekli olarak geliştirecek, böylece işletmelerin AI karar alma trendini destekleyecek ve tüm AI ekosistemlerini, ne kadar karmaşık olursa olsun, güvence altına alabilecek güvenilir bir ortak olacağız.

Harika röportaj için teşekkür ederiz, daha fazla bilgi öğrenmek isteyen okuyucular DeepKeep ziyaret edebilir.