Jonathan Dambrot, Cranium AI CEO’su ve Kurucu Ortağı – Röportaj Serisi

Jonathan Dambrot, Cranium AI şirketinin CEO’su ve kurucu ortağıdır. Cranium AI, siber güvenlik ve veri bilimi ekiplerine, AI’ın sistemlerine, verilerine veya hizmetlerine nasıl etki ettiğini anlamalarına yardımcı olan bir girişimdir.

Jonathan, KPMG’nin eski ortaklarından biri ve siber güvenlik endüstrisi lideridir. KPMG’den önce, Prevalent’i 2016’nın sonlarında Insight Venture Partners’a satılmadan önce 3. taraf risk yönetimi endüstrisinde Gartner ve Forrester lideri haline getirdi. 2019’da Jonathan, şirketin yeni liderlik altında büyümesini sürdürmesi için Prevalent CEO rolünü devretti. Birçok yayında alıntılanmış ve müşterilere IT, bilgi güvenliği ve uyum trendleri hakkında düzenli olarak konuşmuştur.

Cranium AI’nin arkasındaki hikayeyi paylaşabilir misiniz?

2021 Haziran’ında KPMG’de Üçüncü Taraf Güvenlik hizmetlerini küresel olarak yönetirken Cranium fikri oluştu. Büyük müşterilerimiz için AI güçlendirilmiş çözümler geliştiriyor ve sunuyorduk, ancak bunları saldırgan kaynaklı tehditlere karşı korumak için hiçbir şey yapmıyorduk. Aynı soruyu en büyük müşterilerimizin siber güvenlik liderlerine sordum ve aldığım cevaplar da aynı derecede kötüydü. Çoğu güvenlik ekibi, veri bilimcilerle hiç konuşmamıştı – teknoloji hakkında tamamen farklı diller konuşuyorlardı ve şirket çapındaki AI hakkında hiçbir görünürlüğü yoktu. Tüm bunlar, artan düzenleyici gelişmelerle birleşti ve AI güvenliğini sağlayabilecek bir platform oluşturma fikrini tetikledi. KPMG Studio kuluçka merkeziyle çalışmaya başladık ve en büyük müşterilerimizi tasarım ortakları olarak geliştirme sürecine dahil ettik. Bu yılın Ocak ayında Syn Ventures, Tohum finansmanını tamamladı ve Mart ayında KPMG’den bağımsız olarak çıktık ve Nisan 2023’te gizlilik perdesini kaldırdık.

Cranium AI Kartı nedir ve hangi önemli içgörüler sağlar?

Cranium AI Kartı, organizasyonların AI modellerinin güvenilirliği ve uyumluluğu hakkında müşteriler ve düzenleyicilerle bilgi toplamasını ve paylaşmasını sağlar. Ayrıca, tedarikçilerin AI sistemlerinin güvenliğini görselleştirmek ve izlemek için güvenlik ve uyum ekiplerine yardımcı olur. AI sistemlerini, mevcut ve gelecek uyumluluk gereksinimlerine ve çerçevelerine uyumlu hale getirmek ve AI sistemlerinin güvenli ve güvenilir olduğunu kolayca paylaşmak için tasarlanmıştır.

İnsanların AI ile ilgili güvensizlik konuları nelerdir ve bu çözüm bu konuları nasıl çözer?

İnsanlar genellikle kullandıkları AI’nin arkasındaki şeyleri bilmek ister, özellikle de günlük iş akışları AI tarafından bir şekilde etkilenirse. Müşterilerimize, kendi müşterilerinden gelebilecek sorulara cevap verebilmeleri için yardımcı olmak istiyoruz. Örneğin, “Bu nasıl yönetiliyor?”, “Veri ve modellerin güvenliği için ne yapılıyor?” ve “Bu bilgi doğrulanmış mı?” gibi sorulara cevap verebilmeleri için AI Kartı, kuruluşların bu soruları hızla yanıtlamasına ve AI sistemlerinin hem şeffaflığını hem güvenilirliğini göstermesine yardımcı olur.

2022 Ekim ayında Beyaz Saray Bilim ve Teknoloji Politikası Ofisi (OSTP), AI Haklar Bildirgesi için bir plan yayınladı. Sorumlu AI kullanımı için bağlayıcı olmayan bir yol haritası sunan bu belgenin artıları ve eksileri hakkındaki kişisel görüşünüzü paylaşabilir misiniz?

Beyaz Saray’ın AI için ilk adımları atanması çok önemlidir, ancak bu belgenin yeterli olmadığını düşünüyoruz. Rehberlik, yalnızca AI temelli bir karara itiraz etmek isteyen bireylere değil, kuruluşlara da yeterince yol göstermelidir. Gelecek düzenleyici rehberlik, sadece AI sistemleri sağlayanlar için değil, aynı zamanda bu teknolojiyi güvenli ve güvenilir bir şekilde kullanmak isteyenler için de olmalıdır. AI sistemleri daha güvenli, daha kapsayıcı ve daha şeffaf olacaktır. Ancak, organizasyonların gelecekteki düzenlemeler için hazırlanmasına yardımcı olacak bir risk temelli çerçeve olmadan, özellikle şeffaflık ve açıklanabilirlik gereksinimlerinin teknik olarak karşılanamadığı durumlarda inovasyonun yavaşlama riski bulunuyor.

Cranium AI, şirketlerin bu AI Haklar Bildirgesi’ne uymalarına nasıl yardımcı oluyor?

Cranium Enterprise, şirketlerin güvenli ve güvenilir sistemler geliştirmelerine yardımcı olur, bu da Bildirge’nin ilk ana ilkesidir. AI Kartı, organizasyonların AI sistemlerinin nasıl çalıştığını ve hangi verileri kullandığını paylaşmalarına yardımcı olur, bu da Bildirge’nin bildirim ve açıklama ilkesini karşılar.

NIST AI Risk Yönetimi Çerçevesi nedir ve Cranium AI, şirketlerin bu çerçevenin AI uyumluluk yükümlülüklerini yerine getirmesine nasıl yardımcı olacak?

NIST AI RMF, kuruluşların AI’nin bireyler, kuruluşlar ve toplum açısından oluşturduğu riskleri daha iyi yönetmesine yardımcı olan bir çerçevedir. AI için başarılı bir risk yönetimi programının sonuçlarını tanımlayarak NIST’in diğer çerçevelerine çok benzer bir yapı izler. AI Kartımızı çerçevede belirtilen hedeflerle eşleştirerek kuruluşların AI sistemlerinin bu hedeflerle nasıl uyum sağladığını takip etmesini destekliyoruz. Kurumsal platformumuz bu bilgilerin önemli bir bölümünü zaten topladığından bazı alanları otomatik doldurup doğrulayabiliyoruz.

AB AI Yasası, yakın zamanda görülen en önemli AI düzenlemelerinden biridir. AB dışı şirketlerin neden bu yasaya uyması gerektiğini düşünüyorsunuz?

Veri gizliliğinde GDPR gibi, AB AI Yasası da küresel şirketlerin AI sistemlerini geliştirme ve işletme şeklini temelden değiştirecektir. AB dışı şirketler, AI sistemleri AB vatandaşlarını etkileyen herhangi bir şirketin, şirketin bulunduğu yerden bağımsız olarak bu yasaya uyması gerektiğini bilmelidir.

Cranium AI, AB AI Yasası’na nasıl hazırlanıyor?

Cranium AI olarak, AI Yasası’nın gelişimini başından beri takip ediyoruz ve AI Kartı ürünümüzü, şirketlerin uyumluluk gereksinimlerini karşılamalarına yardımcı olmak için tasarladık. AI Yasası’nın nasıl geliştiğine dair erken farkındalığımız ve bu konuda liderliğimiz sayesinde, bu konuda şirketlere yardımcı olmaya hazırız.

Sorumlu AI neden şirketler için öncelikli olmalıdır?

AI, her iş sürecine ve işlevine hızla entegre ediliyor. Sorumlu AI’yi önceliklendirmek, şirketlerin daha etkili bir şekilde büyümesini sağlar ve gelecekte büyük engellerle karşılaşmalarını önler.

Cranium AI’nin gelecekteki vizyonunuz nedir?

Cranium AI’nin güvenli ve güvenilir AI için kategori kralı olmasını hayal ediyoruz. Etik kullanım ve açıklanabilirlik gibi karmaşık zorlukların tümünü çözemeyebiliriz; ancak sorumlu AI’nin diğer alanlarındaki liderlerle iş birliği yaparak, müşterilerimizin tüm sorumlu AI alanlarını kapsamasını kolaylaştıracağız. Ayrıca, yenilikçi üretken AI çözümlerinin geliştiricileriyle çalışarak, bu kabiliyetlerin güvenliğini ve güvenilirliğini desteklemek istiyoruz. Cranium AI, şirketlerin güvenli ve güvenilir biçimde yenilik yapmaya devam etmesine yardımcı olmayı hedefliyor.

Harika röportaj için teşekkür ederiz. Daha fazla bilgi almak isteyen okuyucular, Cranium AI web sitesini ziyaret edebilir.