Claudionor Coelho, Zscaler Yapay Zeka Direktörü – Röportaj Serisi

Claudionor Coelho Zscaler'da Baş Yapay Zeka Sorumlusu'dur ve ekibini, en son teknoloji uygulamalı Makine Öğrenimi (ML), Derin Öğrenme ve Üretken Yapay Zeka teknikleriyle verileri, cihazları ve kullanıcıları korumak için yeni yollar bulmaya yönlendirmekten sorumludur. Zscaler'a katılmadan önce Advantest'te Baş Yapay Zeka Sorumlusu ve Mühendislik Kıdemli Başkan Yardımcısı olarak görev yaptı. Daha önce Coelho, Palo Alto Networks'te Başkan Yardımcısı ve Yapay Zeka Laboratuvarları Başkanıydı. Ayrıca Google'da ML ve derin öğrenme rolleri üstlendi.

Zscaler'ın Kuruluşların daha fazla çeviklik, verimlilik, dayanıklılık ve güvenlik elde etmelerini sağlayarak dijital dönüşümü hızlandırmaya odaklanmaktadır. Şirketin bulut tabanlı Zero Trust Exchange platformu, kullanıcıları, cihazları ve uygulamaları konumlarından bağımsız olarak güvenli bir şekilde birbirine bağlayarak siber saldırılardan ve veri kaybından korumak üzere tasarlanmıştır. Zscaler, dünya çapında binlerce müşteriye hizmet vererek güçlü güvenlik ve kesintisiz bağlantıya vurgu yapmaktadır.

Zscaler'ın ilk Yapay Zeka Yöneticisi olarak, özellikle yapay zekayı siber güvenlikle bütünleştirme konusunda şirketin yapay zeka stratejisini nasıl şekillendirdiniz?

Zscaler, siber güvenlik için AI'da rakiplerinden farklı kılan önemli ilerlemeler kaydetti. Zscaler'ın Zero Trust platformu, kimlik hırsızlığını ve kimlik avı sayfalarından gelen tarayıcı istismarını tespit etmek ve durdurmak için AI'dan yararlanır. Günlük 400 milyardan fazla işlemden gelen tehdit istihbaratı, karmaşık siber saldırılara karşı savunmayı artıran gerçek zamanlı analizler sunar. Ayrıca, BT ve ağ operasyonlarını basitleştirirken, Zero Trust Exchange™ platformundan gelen verileri işleyerek işletmeleri tehditlere karşı proaktif bir şekilde savunan Zscaler ZDX Copilot gibi üretken AI destekli güvenlik ve BT yenilikleri sunmak için NVIDIA ile iş birliği yapıyoruz. Son olarak, Avalor satın alımıyla, Data Fabric for Security kullanarak Zero Trust Exchange™ yeteneklerini genişlettik. 150'den fazla önceden oluşturulmuş entegrasyonla, operasyonel verimliliği artırırken kritik güvenlik açıklarını belirler ve tahmin eder.

Kunumi de dahil olmak üzere birçok şirket kurdunuz ve önde gelen şirketlerde liderlik rolleri üstlendiniz. Girişimci geçmişiniz, Zscaler'da kurumsal yapay zeka lideri olarak yaklaşımınızı nasıl etkiledi?

Elektronik Tasarım Otomasyonu üzerine bir girişim olan Jasper Design Automation'da Mühendislikten Sorumlu Başkan Yardımcısı olduğumda, milyarlarca dolarlık şirketlerle rekabet ettik ancak inovasyon, iş süreçleri ve çeviklik sayesinde %70-80'den fazla pazar payı elde ettik. Strateji toplantılarımızda her zaman başvurduğum kitaplardan biri Prof. Kathleen M. Eisenhardt'ın "Uçta Rekabet: Yapılandırılmış Kaos Olarak Strateji" adlı kitabıydı. Bu kitap 1998'den kalma olsa da, bugün Generative AI ile gördüğümüz şeyler için hala geçerlidir.

Daha önce dünyayı değiştiren bir teknoloji bu kadar hızlı hareket etmemişti. Motorola mühendisi Martin Cooper, ilk cep telefonu aramasını 1973'te yaptı, ancak dünyanın ilk ticari şebekenin açılması 10 yıl, iPhone'un piyasaya sürülmesi ise 24 yıl sürdü ve bu da bilgisayar makineleriyle etkileşim şeklimizi değiştirdi.

ChatGPT, Kasım 2022'de yayınlandı. Sonraki yıl, WEF tarafından desteklenen bir seminerde Yapay Genel Zeka'nın (AGI) yakında geleceğini tartıştık. O zamanlar, sadece birkaçımız, LLM'lerin boşluklarını araçlarla doldurarak birçok akıllı sistem oluşturmak için Ajanları kullanabileceğimizi fark etmiştik - AGI'den bile önce. 2024'te tartışma AI Ajanlarına kaydı ve yıl sonunda, birkaç akıllı AI Ajanı (örneğin ZDX Yardımcı Pilot veya blog platformu  Kiroku).

Bu hız yalnızca bir startup ortamında görülebileceğinden, benzeri görülmemiş hızdaki bir teknolojiyi kaldırabilecek kadar çevik olmakta zorlanan büyük organizasyonlarda muazzam bir strese yol açıyor.

Hem Brezilya'da hem de ABD'de şirketlere liderlik etme deneyiminiz göz önüne alındığında, yapay zeka ve siber güvenlik benimsenmesi açısından iki pazar arasındaki temel farklar nelerdir?

Girişimleri tartışmak, pazarlar arasındaki benzerlikleri ve farklılıkları göstermeye başlamanın iyi bir yoludur, çünkü bunlar genellikle büyük şirketlere ulaşmadan önce radikal yenilikleri gördüğünüz yerlerdir. Brezilya'da girişimler için yaygın bir strateji, başarılı erken aşama ABD girişimlerini kopyalamak olmuştur, çünkü ABD girişimleri genellikle önce iç pazara bakar (ancak bu değişmiştir). Ancak ABD geleneksel olarak bir şirket kurmayı kolaylaştıran daha istikrarlı bir sermaye sistemine sahiptir.

Kunumi'yi 2014'te Brezilya'daki ilk Derin Öğrenme şirketi olarak kurdum. Bu yılın başlarında Bradesco Bank'a satıldı. Genel olarak, Brezilya'daki şirketler Üretken Yapay Zeka'yı nasıl benimseyeceklerini bilmiyorlar ve çok sayıda hata göreceksiniz - ABD'de de aynı şey geçerli. Hayatım boyunca dört Copilot inşa ettim - ilki 2016'da, Synopsys'teyken. Büyük emülasyon makinelerinin derleme ve yürütme günlüklerini tarayabilen, kullanıcının sorularıyla ilgili bilgileri arayan, çoklu dil desteğine sahip bir ajandı. O zamanlar, dönüştürücüler yoktu, LLM'ler yoktu ve hatta çeviri bile bugün sahip olduğumuzdan çok farklıydı.

2020'de, CERN'in alt atom parçacıklarını aramada yarattığım şeyi kullanmasıyla birlikte, Google'da Derin Öğrenme modeli sıkıştırma ve niceleme üzerinde çalışan bir araştırmacıydım. Veriler konusunda bir savaşta olduğumuzu düşündüğümde, siber güvenliğin bir ülkeye veya diğerine özgü olmayan küresel bir sorun olduğu ortaya çıktı. İşte o zaman bu alana girmeye karar verdim.

Birkaç ay önce, siber güvenliğin ABD'nin bir sorunu olduğunu ve kurumunun endişelenecek bir şeyi olmadığını söyleyen yabancı bir hükümet yetkilisiyle konuşuyordum; ancak birkaç hafta sonra kurumuna bir siber saldırı gerçekleşti.

Son olarak, Brezilya ve ABD arasındaki siber güvenlik durumunu fidye yazılımı suçlamalarıyla karşılaştırdığımızda, gerçekte tahmini fidye yazılımı suçlamalarının hemen hemen aynı olduğu görülmektedir.

Yapay zeka ve siber güvenliğe yönelik düzenleyici ortam Brezilya ile ABD arasında nasıl farklılık gösteriyor ve bu durum bu bölgelerdeki inovasyonu nasıl etkiliyor?

Üretken Yapay Zeka çok hızlı hareket ettiğinden, hükümetler bir şeyi koruma ihtiyacını fark ederler ancak genellikle neyi korumaya çalıştıkları konusunda net olmazlar. 2023'te LLM'ler için yasalar çıkarırsak ve 2024'te Yapay Zeka Aracıları kullanırsak etkisi ne olur? Düzenlemelere ihtiyacımız var ancak yerel vatandaşları nasıl daha iyi koruyabileceğimizi görmek için düzenleyici ortamın duygusuz bir analizini de yapmamız gerekiyor.

Bununla birlikte, AI yalnızca nedenleri veya özellikleri temsil eden kesin sayısal girdilere dayanarak kararlar aldığında, analiz genellikle eksiktir ve hatalı bir gerçek yaşam sonucu verir. Örneğin, bir AI algoritması bir kişiye "olasılık" gibi belirsiz bir ölçüte dayanarak kredi kararı verirse ve maaş veya ırk gibi bir faktör dahil edilirse, bir kişinin bu iki faktörden birinin net etkisine dayanarak kredisinin reddedileceği bir senaryoyu kolayca görebilirsiniz. Üretken AI ile sorun daha da kötüleşir, çünkü LLM'lerin muhakeme varsayımları yapmak için harici verileri getirme yetersizliği vardır. Hatalı sistemlerin karar almasına izin vermeyen düzenlemelere sahip olduğumuzdan emin olmak önemlidir (özellikle derin bir denetim olmadan), çünkü hata yapmaya mahkumdurlar.

Öte yandan, insanlara kıyasla kaza yapmadan önce gidilen mil sayısını aştıkları gösterilen Tesla arabalarının tam otonom sürüş kabiliyetinden son derece memnun kaldım. Evet, hata yapıyorlar, ancak yardımcı pilotlu uçaklarda bile, acil bir durumda pilotların kontrolü ele alması gerekiyor.

Siber güvenlik konusunda, birkaç ABD kuruluşu (örneğin JCDC.AI, NIST, CISA, vb.) AI ve siber güvenliği ele alma ihtiyacını tartışmıştır. Elbette, hızlı tempolu pazarlarda veya teknolojilerde, sürekli olarak değişikliklere uyum sağlamanız gerekir ve bunlar aşırı hızlı hareket ettiğinde, kaosun eşiğinde çalışmanız gerekir.

Zscaler'ın Zero Trust Exchange'i güvenlik modelinin önemli bir parçasıdır. Yapay zeka bu platformu nasıl geliştirir ve bu alandaki en heyecan verici gelişmelerden bazıları nelerdir?

Zscaler'ın sıfır güven mimarisi, kuruluşların yapay zeka dağıtımları için daha güvenli bir ortam oluşturmasına yardımcı olur; ancak platform, yapay zekayı çeşitli şekillerde de kullanır; bunlardan biri de üretken yapay zeka destekli güvenlik yenilikleri sunan ZDX Copilot'tur. NVIDIA ile iş birliği içinde geliştirilen bu araç, işletmeleri tehditlere karşı proaktif olarak savunmak ve BT ve ağ operasyonlarını basitleştirmek için Üretken Yapay Zeka'dan yararlanır. Zscaler ayrıca, Zscaler Sıfır Güven Borsası'na Avalor'un Güvenlik için Veri Yapısı'nı ekleyerek öngörücü güvenlik açığı tespitini de geliştirmiştir. Son olarak, yapay zeka, Zscaler'ın sıfır güven platformunun merkezinde yer alır ve kimlik avı sayfalarından kimlik bilgisi hırsızlığını ve tarayıcı istismarını tespit edip durdurur. Günlük 400 milyardan fazla işlemden elde edilen tehdit istihbaratına dayanan gerçek zamanlı analizler, karmaşık siber saldırılara karşı savunmasını güçlendirir.

Yapay zeka, siber tehditlere karşı mücadelede giderek daha merkezi hale geliyor. Yapay zekanın, özellikle IoT ve OT cihazları alanında, siber güvenlik risklerinin artan karmaşıklığını ele almak için nasıl geliştiğini görüyorsunuz?

Tehdit manzarası, AI tabanlı siber saldırıların ortaya çıkmasıyla açıkça evrimleşti, bu nedenle kuruluşlar AI ile AI ile mücadele edebilir. Büyük evrim, AI çözümlerini ek veri kaynaklarıyla geliştirmek olacaktır.

Siber saldırıların sayısı arttıkça, siber riskleri tespit etmek ve ele almak için AI ile daha fazla otomasyon kullanmamız gerekiyor. AI ve Generative AI'nın şu anda yeni saldırı cepheleri oluşturmak için kullanıldığını ve bundan dolayı, daha önce yaptığımızdan daha fazla sinyali ilişkilendirerek oyunu yükseltmemiz gerektiğini belirtmekte fayda var.

IoT ve OT cihazları söz konusu olduğunda, kuruluşlar için önemli riskler oluştururlar; çünkü birçok IoT cihazı en güncel yazılım yığınlarını kullanmaz; Wi-Fi anahtarları, internete bağlı televizyonlar, bulaşık makineleri, fırınlar vb. kolayca satın alabilmenize rağmen. Yıllardır, sayısız mal IoT/OT'de maruz kaldığımız zaafları gösteren.

Sürekli farkındalığa ihtiyacımız var ve anormallikleri ve potansiyel tehditleri tespit etmek için her türlü veri ve sinyali analiz ederek siber güvenlik savunmasını geliştirmeliyiz. Bu oyunu kazanmak için, gerçek zamanlı olarak büyük miktarda veriyle eğitilmiş son teknoloji AI modellerine ihtiyacımız var. Üretken AI, şirketlerin sonuçları analiz edip kullanıcılara ve güvenlik operatörlerine özetlemesini sağlayarak etkili bir rol oynar.

Dünya Ekonomik Forumu'ndaki Yapay Zeka ve Siber Güvenlik çalışma gruplarının bir üyesi olarak, Yapay Zeka etiği ve siber güvenlik etrafındaki küresel tartışmalar, Zscaler'daki rolünüze yaklaşımınızı nasıl şekillendiriyor?

Teknoloji çok hızlı hareket ettiğinden, hükümetlerin ve kuruluşların temel bilgilere sahip olması gerekiyor ve ben bunu Dünya Ekonomik Forumu'nun rolü olarak görüyorum. Yapay Zeka ve Siber Güvenlik tek başlarına ayrı gruplar gerektirecek kadar ihtiyaç duyuyor, ancak ikisini birleştirdiğinizde, neredeyse kendi başına yeni bir alan haline geliyor. Örneğin, Gartner bu yıl, Üretken Yapay Zeka'nın saldırı yüzeyini muazzam bir şekilde artırdığını, bunu girdi ve çıktıda anında enjeksiyondan uygulama kodu saldırılarına, model saldırılarına ve hatta eklenti saldırılarına kadar taşıdığını gösterdi.

Bu saldırıların bazıları ChatGPT gibi LLM'lere özgüdür, ancak LLM'lerden AI Agent'lara ve Multi-Agent sistemlerine geçtiğimizi düşünürseniz, çok daha fazla bilgiyi göz önünde bulundurmanız gerekir. Örneğin, LLM'lerde istemli enjeksiyon, uyuyan hücre davranışı (özel anahtar sözcüklere göre LLM'nin farklı şekilde yanıt vermesini tetikleme) veya tescilli bilgi sızıntısı ile ilgilenebilirsiniz. AI Agent'ları tartışırken, SQL enjeksiyonu ve OS komut enjeksiyonunun tekrar mümkün olabileceğini varsayarak bile araçlara ve veri kaynaklarına yönelik saldırıları da göz önünde bulundurmamız gerekir.

Ayrıca, ajanların farklı konumlarda bulunabileceği çoklu ajan sistemleri eklersek, bunun protokollerle iletişim kuran tamamen farklı bir ağ anlamına geldiğini hayal etmeliyiz. İnsanlar binlerce ajanla deneyler yapıyor - tıpkı bir bilgisayar ağı gibi.

Son olarak, iş gücümüzü Üretken Yapay Zeka'yı kullanmaya hazırlamalı, onlara bu yeni dünyada faaliyet gösterebilecekleri araçlar ve ortamlar sunmalıyız.

Özellikle Zscaler'ın Latin ve Hispanik ERG'si Sabor'un Yönetici Sponsoru olarak çeşitlilik ve kapsayıcılığın güçlü bir savunucusu oldunuz. Kültürel geçmişiniz, liderlik tarzınızı ve yapay zeka geliştirme yaklaşımınızı nasıl etkiledi?

Brezilya'da doğup büyüyen gururlu bir Latin olarak, Zscaler'daki Latin ve Hispanik topluluklarını destekleme ve güçlendirme konusunda tutkuluyum. Siber güvenlik aracılığıyla daha iyi bir dünyaya katkıda bulunabildiğim ve giderek karmaşıklaşan bir dünyada toplumu korumaya yardımcı olabildiğimiz için büyük bir başarı duygusu hissediyorum. Değerlerim beni bugün olduğum yere getirdi ve geldiğim yerden son derece gurur duyuyorum.

Tavsiyem, nereden geldiğinizi ve ne yaptığınızı asla unutmamanızdır. Sizi benzersiz kılan şeyle her zaman gurur duyun, ancak çeşitliliğin kral olduğunu da kabul edin. Günün 24 saati kendimle yaşıyorum. Sadece bana benzeyen ve benimle aynı fikirde olan insanları işe alırsam, bilgimi artıramam. Çok sayıda lokasyondan ve geçmişten insanları işe almak, küresel müşteri tabanımızın özel ihtiyaçlarını daha iyi anlamamıza yardımcı olur.

Son olarak, siber güvenlikte yapay zekanın geleceği konusunda sizi en çok heyecanlandıran şey nedir ve Zscaler'ın bu gelecekte nasıl bir rol oynayacağını düşünüyorsunuz?

Yapay zeka, etkili siber savunmanın temellerini değiştirmez; bunların önemini vurgular. Şeffaflığın, sağlam güvenlik uygulamalarının ve sürekli izlemenin sektör genelinde yaygınlaşmasını bekliyoruz. Kuruluşlar, tehditleri tespit etmek ve bunlara yanıt vermek için gelişmiş önlemler uygulayarak güvenliğe kapsamlı bir yaklaşım benimsemelidir. Buna, bir güvenlik farkındalığı kültürü oluşturmak, düzenli güvenlik denetimleri yapmak ve etkili güvenlik stratejileri geliştirmek için paydaşlarla iş birliği yapmak dahildir. Kuruluşlar bunu yaparak ihlal riskini azaltabilir ve hassas bilgilerini koruyabilir.

Zscaler, kullanıcı gizliliğini korumaya, verileri anonimleştirmek için en gelişmiş teknikleri kullanmaya ve bunları LLM'lerimizden uzak tutmaya, bireysel kullanıcıların veya kuruluşların tanımlanmasını engellemeye kendini adamıştır. Gelecekte LLM'leri ince ayarlamayı araştırsak da, hiçbir kullanıcı verisinin tehlikeye atılmamasını sağlamak için uyguladığımız katı veri gizliliği önlemleri en önemli unsur olmaya devam edecektir. Amacımız, müşteri gizliliğini ihlal etmeden güvenliği iyileştirmek için yapay zekanın gücünden yararlanmaktır.

Harika röportaj için teşekkürler, daha fazla bilgi edinmek isteyen okuyucular ziyaret etmelidir. Zscaler'ın.