Claudionor Coelho, Chief AI Officer di Zscaler – Seri Wawancara

Claudionor Coelho adalah Chief AI Officer di Zscaler, bertanggung jawab untuk memimpin timnya untuk menemukan cara baru untuk melindungi data, perangkat, dan pengguna melalui teknik Machine Learning (ML), Deep Learning, dan Generative AI yang mutakhir. Sebelum bergabung dengan Zscaler, ia menjabat sebagai Chief AI Officer dan Senior Vice President of engineering di Advantest. Sebelumnya, Coelho menjabat sebagai Vice President dan Head of AI Labs di Palo Alto Networks (PANW ). Ia juga pernah menjabat sebagai ML dan deep learning di Google (GOOGL ).

Zscaler fokus pada percepatan transformasi digital dengan memungkinkan organisasi untuk mencapai agility, efisiensi, ketahanan, dan keamanan yang lebih besar. Platform Zero Trust Exchange cloud-native perusahaan dirancang untuk melindungi pengguna dari serangan cyber dan kehilangan data dengan menghubungkan pengguna, perangkat, dan aplikasi secara aman, terlepas dari lokasinya. Zscaler melayani ribuan pelanggan di seluruh dunia, menekankan keamanan yang kuat dan koneksi yang mulus.

Sebagai Chief AI Officer pertama Zscaler, bagaimana Anda membentuk strategi AI perusahaan, terutama dalam mengintegrasikan AI dengan keamanan siber?

Zscaler telah membuat kemajuan signifikan dalam AI untuk keamanan siber, yang membedakannya dari kompetitor. Platform Zero Trust Zscaler menggunakan AI untuk mendeteksi dan menghentikan pencurian kredensial dan eksploitasi browser dari halaman phishing. Intelijen ancaman dari lebih dari 400 miliar transaksi harian menyediakan analitik waktu nyata yang meningkatkan pertahanan terhadap serangan cyber yang canggih. Selain itu, kami bekerja sama dengan NVIDIA (NVDA ) untuk menghadirkan inovasi keamanan dan IT yang didukung oleh AI generatif seperti Zscaler ZDX Copilot, yang mempermudah operasi IT dan jaringan, sambil memproses data dari platform Zero Trust Exchange untuk melindungi perusahaan secara proaktif terhadap ancaman. Akhirnya, dengan akuisisi Avalor, kami telah memperluas kemampuan Zero Trust Exchange menggunakan Data Fabric untuk Keamanan. Dengan lebih dari 150 integrasi yang sudah dibangun, itu mengidentifikasi dan memprediksi kerentanan kritis sambil meningkatkan efisiensi operasional.

Anda telah mendirikan beberapa perusahaan, termasuk Kunumi, dan memegang peran kepemimpinan di perusahaan terkemuka. Bagaimana latar belakang kewirausahaan Anda mempengaruhi pendekatan Anda sebagai pemimpin AI korporat di Zscaler?

Ketika saya menjadi SVP of Engineering di Jasper Design Automation, sebuah startup di bidang Electronic Design Automation, kami bersaing dengan perusahaan multibillion dollar tetapi mencapai lebih dari 70-80% pangsa pasar karena inovasi, proses bisnis, dan fleksibilitas. Salah satu buku yang saya selalu rujuk selama pertemuan strategi kami adalah “Competing on the Edge: Strategy as Structured Chaos” oleh Prof. Kathleen M. Eisenhardt. Meskipun buku ini dari tahun 1998, masih relevan dengan apa yang kita lihat dengan AI Generatif hari ini.

Tidak pernah sebelumnya teknologi yang mengubah dunia bergerak secepat ini. Insinyur Motorola Martin Cooper membuat panggilan telepon seluler pertama pada tahun 1973, tetapi membutuhkan waktu 10 tahun hingga jaringan komersial pertama dibuka dan 24 tahun lagi hingga iPhone dirilis, mengubah cara kita berinteraksi dengan mesin komputasi.

ChatGPT dirilis pada November 2022. Tahun depan, kita membahas dalam seminar yang disponsori WEF bahwa Artificial General Intelligence (AGI) akan segera hadir. Pada saat itu, hanya beberapa dari kita yang menyadari bahwa kita dapat menggunakan Agen untuk menciptakan banyak sistem cerdas dengan mengisi celah LLM dengan alat-alat–bahkan sebelum AGI. Pada tahun 2024, diskusi bergeser ke Agen AI, dan pada akhir tahun, kita mulai melihat beberapa Agen AI cerdas (seperti ZDX Copilot atau platform blogging Kiroku).

Kecepatan ini hanya dapat dilihat di lingkungan startup, sehingga menyebabkan stres besar pada organisasi besar, yang berjuang untuk menjadi cukup agile untuk mengakomodasi teknologi dengan kecepatan yang belum pernah terjadi sebelumnya.

Dengan pengalaman Anda memimpin perusahaan di Brasil dan AS, apa beberapa perbedaan kunci antara kedua pasar dalam hal adopsi AI dan keamanan siber?

Membahas startup adalah cara yang baik untuk menggambarkan kesamaan dan perbedaan antara pasar, karena mereka sering melihat inovasi radikal sebelum mereka mencapai perusahaan besar. Strategi umum di Brasil untuk startup telah menjadi menyalin startup awal yang sukses di AS, karena startup AS biasanya melihat pasar internal terlebih dahulu (meskipun ini telah berubah). Namun, AS secara tradisional memiliki sistem modal yang lebih stabil yang membuatnya lebih mudah untuk memulai perusahaan.

Saya menciptakan Kunumi pada tahun 2014 sebagai perusahaan Deep Learning pertama di Brasil. Ini dijual ke Bradesco Bank awal tahun ini. Secara umum, perusahaan di Brasil tidak tahu bagaimana mereka akan mengadopsi AI Generatif, dan Anda akan melihat banyak kesalahan–juga benar di AS. Saya telah membangun empat Copilot dalam hidup saya–yang pertama pada tahun 2016, saat saya di Synopsys. Ini adalah agen yang dapat memindai log kompilasi dan eksekusi mesin emulasi besar, mencari informasi terkait pertanyaan pengguna, dengan dukungan multi-bahasa. Pada saat itu, tidak ada transformer, tidak ada LLM, dan bahkan terjemahan sangat berbeda dari apa yang kita miliki hari ini.

Pada tahun 2020, saya menjadi peneliti di Google yang bekerja pada kompresi model Deep Learning dan kuantisasi, dengan CERN menggunakan apa yang saya ciptakan dalam pencarian partikel sub-atom. Ketika saya pikir bahwa kita sedang berperang melawan data, menjadi jelas bahwa keamanan siber adalah masalah global yang tidak terbatas pada satu negara atau yang lain. Itulah saat saya memutuskan untuk pindah ke bidang itu.

Beberapa bulan yang lalu, saya berbicara dengan pejabat pemerintah asing yang mengatakan bahwa Keamanan Siber adalah masalah AS dan agensinya tidak memiliki apa-apa untuk dikhawatirkan–hanya untuk mengalami serangan cyber di organisasinya beberapa minggu kemudian.

Akhirnya, dalam membandingkan keadaan Keamanan Siber dengan biaya ransomware antara Brasil dan AS, kenyataannya adalah bahwa biaya ransomware yang diperkirakan hampir sama.

Bagaimana lingkungan regulasi untuk AI dan keamanan siber berbeda antara Brasil dan AS, dan bagaimana hal itu mempengaruhi inovasi di wilayah-wilayah tersebut?

Karena AI Generatif bergerak sangat cepat, pemerintah mengakui kebutuhan untuk melindungi sesuatu tetapi sering tidak jelas tentang apa yang mereka coba lindungi. Apa dampaknya jika kita menciptakan hukum untuk LLM pada tahun 2023, dan pada tahun 2024 kita menggunakan Agen AI? Kita membutuhkan regulasi, tetapi kita juga perlu melakukan analisis yang tidak emosional tentang lingkungan regulasi untuk melihat bagaimana kita dapat lebih baik melindungi warga lokal.

Yang dikatakan, ketika AI membuat keputusan hanya berdasarkan input numerik yang tepat yang mewakili alasan atau fitur, analisisnya sering tidak lengkap dan menghasilkan hasil nyata yang rusak. Misalnya, jika algoritma AI membuat keputusan pinjaman kepada seseorang berdasarkan kriteria yang samar seperti “probabilitas” dan faktor seperti gaji atau ras termasuk, Anda bisa dengan mudah melihat skenario di mana seseorang akan ditolak pinjaman berdasarkan efek jaringan dari salah satu faktor tersebut. Dengan AI Generatif, masalahnya menjadi lebih buruk, karena ketidakmampuan LLM untuk membawa data eksternal untuk membuat asumsi penalaran. Penting untuk memastikan kita memiliki regulasi yang tidak memungkinkan sistem yang rusak untuk membuat keputusan (terutama tanpa pengawasan yang mendalam), karena mereka pasti akan membuat kesalahan.

Di sisi lain, saya sangat senang dengan kemampuan mengemudi otonom penuh mobil Tesla (TSLA ), yang, dibandingkan dengan manusia, telah terbukti melebihi jumlah mil yang dikemudi sebelum mereka terlibat dalam kecelakaan. Ya, mereka membuat kesalahan, tetapi bahkan di pesawat dengan copilot, pilot perlu mengambil alih kontrol dalam kasus darurat.

Mengenai keamanan siber, beberapa organisasi AS (misalnya JCDC.AI, NIST, CISA, dll.) telah membahas kebutuhan untuk menangani AI dan keamanan siber. Tentu saja, di pasar atau teknologi yang bergerak cepat, Anda perlu terus beradaptasi dengan perubahan, dan ketika mereka bergerak sangat cepat, Anda perlu beroperasi di tepi kekacauan.

Arsitektur Zero Trust Zscaler adalah bagian kunci dari model keamanan perusahaan. Bagaimana AI memperkuat platform ini, dan apa beberapa perkembangan paling menarik di area ini?

Arsitektur Zero Trust Zscaler membantu organisasi menciptakan lingkungan yang lebih aman untuk penerapan AI, tetapi platform ini juga menggunakan AI dalam berbagai cara, dimulai dengan ZDX Copilot yang menghadirkan inovasi keamanan yang didukung oleh AI generatif. Dikembangkan dalam kolaborasi dengan NVIDIA, agen ini menggunakan AI Generatif untuk melindungi perusahaan secara proaktif terhadap ancaman dan mempermudah operasi IT dan jaringan. Zscaler juga telah meningkatkan identifikasi kerentanan prediktif dengan menambahkan Data Fabric untuk Keamanan Avalor ke Zero Trust Exchange Zscaler. Akhirnya, AI hidup di inti platform Zero Trust Zscaler, mendeteksi dan menghentikan pencurian kredensial dan eksploitasi browser dari halaman phishing. Analitik waktu nyata berdasarkan intelijen ancaman dari lebih dari 400 miliar transaksi harian meningkatkan pertahanannya terhadap serangan cyber yang canggih.

AI telah menjadi semakin sentral dalam melawan ancaman cyber. Bagaimana Anda melihat AI berkembang untuk menangani kompleksitas risiko keamanan siber yang meningkat, terutama di bidang perangkat IoT dan OT?

Lanskap ancaman telah berkembang secara tidak terkalahkan dengan munculnya serangan cyber berbasis AI, sehingga organisasi mungkin melawan AI dengan AI. Evolusi utama akan menjadi meningkatkan solusi AI dengan sumber data tambahan.

Ketika jumlah serangan cyber meningkat, kita perlu menggunakan lebih banyak otomatisasi dengan AI untuk mendeteksi dan menangani risiko cyber. Pantas untuk dicatat bahwa AI dan AI Generatif saat ini digunakan untuk menciptakan front serangan baru, dan karena itu, kita perlu meningkatkan permainan dengan mengorelasikan lebih banyak sinyal daripada yang kita lakukan sebelumnya.

Dalam kasus perangkat IoT dan OT, mereka menyajikan risiko signifikan bagi organisasi, karena beberapa perangkat IoT tidak menggunakan tumpukan perangkat lunak yang paling mutakhir–meskipun Anda dapat dengan mudah membeli sakelar Wi-Fi, TV terhubung internet, mesin cuci, oven, dll. Selama bertahun-tahun, kita telah melihat berbagai artikel yang menunjukkan kerentanan yang kita hadapi dalam IoT/OT.

Kita perlu kesadaran konstan dan meningkatkan pertahanan keamanan siber dengan menganalisis semua jenis data dan sinyal untuk mendeteksi anomali dan ancaman potensial. Untuk memenangkan permainan ini, kita perlu memiliki model AI mutakhir yang dilatih dengan jumlah data besar secara waktu nyata. AI Generatif memainkan peran instrumental dengan memungkinkan perusahaan untuk menganalisis dan merangkum hasil untuk pengguna dan operator keamanan.

Sebagai anggota kelompok kerja AI dan Keamanan Siber di Forum Ekonomi Dunia, bagaimana diskusi global tentang etika AI dan keamanan siber membentuk pendekatan Anda terhadap peran Anda di Zscaler?

Karena teknologi bergerak sangat cepat, pemerintah dan organisasi perlu memiliki informasi yang solid, dan saya melihat ini sebagai peran Forum Ekonomi Dunia. AI dan Keamanan Siber saja memiliki kebutuhan yang cukup untuk memerlukan kelompok terpisah, tetapi ketika Anda menggabungkan keduanya, hampir menjadi area baru oleh itself. Misalnya, Gartner tahun ini menunjukkan bahwa AI Generatif meningkatkan permukaan serangan secara besar-besaran, membawanya dari injeksi prompt di input dan output ke serangan kode aplikasi, serangan model, dan bahkan serangan plug-in.

Beberapa serangan ini spesifik untuk LLM seperti ChatGPT, tetapi jika Anda mempertimbangkan kita bergerak dari LLM ke Agen AI dan Sistem Multi-Agen, Anda perlu mempertimbangkan lebih banyak informasi. Misalnya, dalam LLM Anda mungkin peduli tentang injeksi prompt, perilaku sel tidur (mengaktifkan LLM untuk merespons secara berbeda berdasarkan kata kunci khusus), atau kebocoran informasi propietary. Ketika membahas Agen AI, kita perlu mempertimbangkan serangan pada alat dan sumber data juga–bahkan mengasumsikan bahwa injeksi SQL dan perintah OS mungkin dimungkinkan lagi.

Akhirnya, kita perlu mempersiapkan tenaga kerja untuk menggunakan AI Generatif, menyediakan alat dan lingkungan di mana mereka dapat beroperasi dalam dunia baru ini.

Anda telah menjadi advokat kuat untuk keberagaman dan inklusi, terutama sebagai Sponsor Eksekutif untuk ERG Latino dan Hispanik Zscaler, Sabor. Bagaimana latar belakang budaya Anda mempengaruhi gaya kepemimpinan dan pendekatan Anda terhadap pengembangan AI?

Sebagai orang Latino yang bangga, lahir dan dibesarkan di Brasil, saya sangat bersemangat untuk mendukung dan memberdayakan komunitas Latino dan Hispanik di Zscaler. Saya merasa sangat bangga dapat memberikan kontribusi pada dunia yang lebih baik melalui keamanan siber, di mana kita membantu melindungi masyarakat dalam dunia yang semakin kompleks. Nilai-nilai saya telah membantu saya mencapai posisi saya saat ini, dan saya sangat bangga dengan asal-usul saya.

Saran saya akan menjadi untuk tidak pernah melupakan dari mana Anda berasal dan apa yang telah Anda lakukan. Selalu bangga dengan apa yang membuat Anda unik, tetapi juga mengakui bahwa keberagaman adalah raja. Saya hidup dengan diri saya sendiri 24 jam sehari. Jika saya hanya merekrut orang yang mirip dengan saya dan setuju dengan saya, saya tidak akan meningkatkan pengetahuan saya. Merekrut orang dari berbagai lokasi dan latar belakang membantu kita untuk lebih baik memahami kebutuhan spesifik basis pelanggan global kita.

Akhirnya, apa yang paling Anda bangkitkan tentang masa depan AI dalam keamanan siber, dan apa peran yang Anda lihat Zscaler mainkan dalam masa depan itu?

AI tidak mengubah prinsip-prinsip dasar pertahanan cyber yang efektif–itu menyoroti pentingnya mereka. Kami antisipasi melihat transparansi, praktik keamanan yang kuat, dan pemantauan terus-menerus menyebar di seluruh industri. Organisasi harus mengadopsi pendekatan komprehensif terhadap keamanan, mengimplementasikan langkah-langkah canggih untuk mendeteksi dan menanggapi ancaman. Ini termasuk memupuk budaya kesadaran keamanan, melakukan audit keamanan secara teratur, dan berkolaborasi dengan pemangku kepentingan untuk mengembangkan strategi keamanan yang efektif. Dengan melakukan hal ini, organisasi dapat mengurangi risiko pelanggaran dan melindungi informasi sensitif mereka.

Zscaler berkomitmen untuk melindungi privasi pengguna, menggunakan teknik paling canggih untuk meng anonimkan data dan memastikan kita menjaganya keluar dari LLM kita, mencegah identifikasi pengguna atau organisasi individu. Sementara kita mungkin menjelajahi fine-tuning LLM di masa depan, langkah-langkah privasi data yang ketat untuk memastikan bahwa tidak ada data pengguna yang dikompromikan akan terus menjadi yang utama. Tujuan kita adalah untuk memanfaatkan kekuatan AI untuk meningkatkan keamanan tanpa mengganggu privasi pelanggan.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Zscaler.