Claudionor Coelho, Chief AI Officer di Zscaler – Seri Wawancara

Claudionor Coelho adalah Chief AI Officer di Zscaler, bertanggung jawab untuk memimpin timnya untuk menemukan cara baru untuk melindungi data, perangkat, dan pengguna melalui teknik Machine Learning (ML), Deep Learning, dan Generative AI yang mutakhir. Sebelum bergabung dengan Zscaler, ia menjabat sebagai Chief AI Officer dan Senior Vice President of engineering di Advantest. Sebelumnya, Coelho adalah Vice President dan Head of AI Labs di Palo Alto Networks. Ia juga pernah menjabat sebagai ML dan deep learning di Google.

Zscaler fokus pada percepatan transformasi digital dengan memungkinkan organisasi mencapai agility, efisiensi, ketahanan, dan keamanan yang lebih besar. Platform Zero Trust Exchange cloud-native perusahaan dirancang untuk melindungi pengguna dari serangan cyber dan kehilangan data dengan menghubungkan pengguna, perangkat, dan aplikasi secara aman, tanpa memandang lokasi. Zscaler melayani ribuan pelanggan di seluruh dunia, menekankan keamanan yang kuat dan koneksi yang mulus.

Sebagai Chief AI Officer pertama Zscaler, bagaimana Anda telah membentuk strategi AI perusahaan, terutama dalam mengintegrasikan AI dengan keamanan siber?

Zscaler telah membuat kemajuan signifikan dalam AI untuk keamanan siber, yang membedakannya dari kompetitor. Platform Zero Trust Zscaler menggunakan AI untuk mendeteksi dan menghentikan pencurian kredensial dan eksploitasi browser dari halaman phishing. Intelijen ancaman dari lebih dari 400 miliar transaksi harian memberikan analitik waktu nyata yang meningkatkan pertahanan melawan serangan cyber yang canggih. Selain itu, kami berkolaborasi dengan NVIDIA untuk menghadirkan inovasi keamanan dan IT yang didukung oleh generative AI, seperti Zscaler ZDX Copilot, yang menyederhanakan operasi IT dan jaringan, sambil memproses data dari platform Zero Trust Exchange untuk melindungi perusahaan dari ancaman. Akhirnya, dengan akuisisi Avalor, kami telah memperluas kemampuan Zero Trust Exchange menggunakan Data Fabric untuk Keamanan. Dengan lebih dari 150 integrasi pra-bangun, itu mengidentifikasi dan memprediksi kerentanan kritis sambil meningkatkan efisiensi operasional.

Anda telah mendirikan beberapa perusahaan, termasuk Kunumi, dan menjabat sebagai pemimpin di perusahaan terkemuka. Bagaimana latar belakang entrepreneurial Anda mempengaruhi pendekatan Anda sebagai pemimpin AI korporat di Zscaler?

Ketika saya menjadi SVP of Engineering di Jasper Design Automation, sebuah startup di Electronic Design Automation, kami bersaing melawan perusahaan multibillion dolar tetapi mencapai lebih dari 70-80% pangsa pasar karena inovasi, proses bisnis, dan keluwesan. Salah satu buku yang saya selalu rujuk selama pertemuan strategi kami adalah “Competing on the Edge: Strategy as Structured Chaos” oleh Prof. Kathleen M. Eisenhardt. Meskipun buku ini dari 1998, itu masih berlaku untuk apa yang kita lihat dengan Generative AI hari ini.

Tidak pernah sebelumnya teknologi yang mengubah dunia bergerak secepat ini. Insinyur Motorola Martin Cooper membuat panggilan telepon seluler pertama pada 1973, tetapi membutuhkan waktu 10 tahun bagi dunia untuk membuka jaringan komersial pertama dan 24 tahun lagi sebelum iPhone dirilis, mengubah cara kita berinteraksi dengan mesin komputasi.

ChatGPT dirilis pada November 2022. Tahun depan, kami membahas dalam seminar yang disponsori WEF bahwa Artificial General Intelligence (AGI) akan segera hadir. Pada saat itu, hanya beberapa dari kami yang mengakui bahwa kita dapat menggunakan Agen untuk membuat banyak sistem cerdas dengan mengisi celah LLM dengan alat–bahkan sebelum AGI. Pada 2024, diskusi bergeser ke AI Agen, dan pada akhir tahun, kami mulai melihat beberapa Agen AI cerdas (seperti ZDX Copilot atau platform blogging Kiroku).

Kecepatan ini hanya dapat dilihat di lingkungan startup, sehingga menyebabkan stres besar pada organisasi besar, yang berjuang untuk menjadi cukup agile untuk mengakomodasi teknologi dengan kecepatan yang belum pernah terjadi sebelumnya.

Dengan pengalaman Anda memimpin perusahaan di Brasil dan AS, apa saja perbedaan kunci antara kedua pasar dalam hal adopsi AI dan keamanan siber?

Membahas startup adalah cara yang baik untuk menggambarkan kesamaan dan perbedaan antara pasar, karena mereka sering kali melihat inovasi radikal sebelum mereka mencapai perusahaan besar. Strategi umum di Brasil untuk startup telah menjadi menyalin startup AS yang sukses, karena startup AS biasanya melihat pasar internal terlebih dahulu (meskipun ini telah berubah). Namun, AS secara tradisional memiliki sistem modal yang lebih stabil yang membuatnya lebih mudah untuk memulai perusahaan.

Saya membuat Kunumi pada 2014 sebagai perusahaan Deep Learning pertama di Brasil. Ini dijual ke Bradesco Bank awal tahun ini. Secara umum, perusahaan di Brasil tidak tahu bagaimana mereka akan mengadopsi Generative AI, dan Anda akan melihat banyak kesalahan–juga benar di AS. Saya telah membangun empat Copilot dalam hidup saya–yang pertama pada 2016, saat saya di Synopsys. Ini adalah agen yang dapat memindai kompilasi dan eksekusi log mesin emulasi besar, mencari informasi terkait pertanyaan pengguna, dengan dukungan multi-bahasa. Pada saat itu, tidak ada transformer, tidak ada LLM, dan bahkan terjemahan sangat berbeda dari apa yang kita miliki hari ini.

Pada 2020, saya adalah peneliti di Google yang bekerja pada kompresi dan kuantisasi model Deep Learning, dengan CERN menggunakan apa yang saya ciptakan dalam pencarian partikel sub-atom. Ketika saya pikir bahwa kita sedang berperang melawan data, menjadi jelas bahwa keamanan siber adalah masalah global yang tidak terlokalisasi pada satu negara atau lainnya. Itulah saat saya memutuskan untuk pindah ke sana.

Beberapa bulan yang lalu, saya berbicara dengan pejabat pemerintah asing yang mengatakan bahwa Keamanan Siber adalah masalah AS dan agensinya tidak memiliki apa-apa untuk dikhawatirkan–hanya untuk mengalami serangan cyber di organisasinya beberapa minggu kemudian.

Akhirnya, dalam membandingkan keadaan Keamanan Siber dengan biaya ransomware antara Brasil dan AS, kenyataannya adalah bahwa biaya ransomware yang diperkirakan hampir sama.

Bagaimana lingkungan regulasi untuk AI dan keamanan siber berbeda antara Brasil dan AS, dan bagaimana itu mempengaruhi inovasi di wilayah tersebut?

Karena Generative AI bergerak sangat cepat, pemerintah mengakui kebutuhan untuk melindungi sesuatu, tetapi sering kali tidak jelas apa yang mereka coba lindungi. Apa dampaknya jika kita membuat hukum untuk LLM pada 2023, dan pada 2024 kita menggunakan AI Agen? Kita membutuhkan regulasi, tetapi kita juga perlu melakukan analisis yang tidak emosional terhadap lingkungan regulasi untuk melihat bagaimana kita dapat lebih baik melindungi warga lokal.

Itu dikatakan, ketika AI membuat keputusan hanya berdasarkan input numerik yang tepat yang mewakili alasan atau fitur, analisisnya sering kali tidak lengkap dan menghasilkan hasil yang tidak lengkap dalam kehidupan nyata. Misalnya, jika algoritma AI membuat keputusan pinjaman kepada seseorang berdasarkan kriteria yang samar seperti “probabilitas” dan faktor seperti gaji atau ras termasuk, Anda bisa dengan mudah melihat skenario di mana seseorang akan ditolak pinjaman berdasarkan efek jaringan dari salah satu faktor tersebut. Dengan Generative AI, masalahnya menjadi lebih buruk, karena ketidakmampuan LLM untuk membawa data eksternal untuk membuat asumsi penalaran. Penting untuk memastikan kita memiliki regulasi yang tidak memungkinkan sistem yang rusak untuk membuat keputusan (terutama tanpa pengawasan yang mendalam), karena mereka pasti akan membuat kesalahan.

Di sisi lain, saya sangat senang dengan kemampuan mengemudi penuh dari mobil Tesla, yang, dibandingkan dengan manusia, telah terbukti melebihi jumlah mil yang dikemudi sebelum mereka terlibat dalam kecelakaan. Ya, mereka membuat kesalahan, tetapi bahkan di pesawat dengan copilot, pilot perlu mengambil alih kontrol dalam kasus darurat.

Mengenai keamanan siber, beberapa organisasi AS (misalnya JCDC.AI, NIST, CISA, dll.) telah membahas kebutuhan untuk mengatasi AI dan keamanan siber. Tentu saja, di pasar atau teknologi yang cepat, Anda perlu terus beradaptasi dengan perubahan, dan ketika mereka bergerak sangat cepat, Anda perlu beroperasi di tepi kekacauan.

Zero Trust Exchange Zscaler adalah bagian kunci dari model keamanan perusahaan. Bagaimana AI meningkatkan platform ini, dan apa saja perkembangan paling menarik di area ini?

Arsitektur zero trust Zscaler membantu organisasi membuat lingkungan yang lebih aman untuk penerapan AI, tetapi platform ini juga menggunakan AI dalam berbagai cara, dimulai dengan ZDX Copilot yang menghadirkan inovasi keamanan yang didukung oleh generative AI. Dikembangkan dalam kolaborasi dengan NVIDIA, agen ini menggunakan Generative AI untuk melindungi proaktif perusahaan dari ancaman dan menyederhanakan operasi IT dan jaringan. Zscaler juga telah meningkatkan identifikasi kerentanan prediktif dengan menambahkan Data Fabric untuk Keamanan Avalor ke Zscaler Zero Trust Exchange. Akhirnya, AI hidup di inti platform zero trust Zscaler, mendeteksi dan menghentikan pencurian kredensial dan eksploitasi browser dari halaman phishing. Analitik waktu nyata berdasarkan intelijen ancaman dari lebih dari 400 miliar transaksi harian meningkatkan pertahanan melawan serangan cyber yang canggih.

AI telah menjadi semakin sentral dalam melawan ancaman cyber. Bagaimana Anda melihat AI berkembang untuk mengatasi kompleksitas risiko keamanan siber yang meningkat, terutama di realm perangkat IoT dan OT?

Lanskap ancaman telah berkembang dengan jelas dengan munculnya serangan cyber berbasis AI, sehingga organisasi mungkin melawan AI dengan AI. Evolusi utama akan menjadi meningkatkan solusi AI dengan sumber data tambahan.

Ketika jumlah serangan cyber meningkat, kita perlu menggunakan lebih banyak otomatisasi dengan AI untuk mendeteksi dan mengatasi risiko cyber. Pantas untuk dicatat bahwa AI dan Generative AI sedang digunakan saat ini untuk membuat front serangan baru, dan karena itu, kita perlu meningkatkan permainan dengan mengorelasikan lebih banyak sinyal daripada yang kita lakukan sebelumnya.

Dalam kasus perangkat IoT dan OT, mereka menyajikan risiko signifikan bagi organisasi, karena beberapa perangkat IoT tidak menggunakan tumpukan perangkat lunak yang paling mutakhir–meskipun Anda bisa dengan mudah membeli sakelar Wi-Fi, TV internet, mesin cuci, oven, dll. Selama bertahun-tahun, kita telah melihat berbagai artikel yang menunjukkan kerentanan yang kita hadapi dalam IoT/OT.

Kita perlu kesadaran konstan dan meningkatkan pertahanan keamanan siber dengan menganalisis semua jenis data dan sinyal untuk mendeteksi anomali dan ancaman potensial. Untuk memenangkan permainan ini, kita perlu model AI mutakhir yang dilatih dengan jumlah data besar secara waktu nyata. Generative AI memainkan peran instrumental dengan memungkinkan perusahaan menganalisis dan merangkum hasil untuk pengguna dan operator keamanan.

Sebagai anggota kelompok kerja AI dan Keamanan Siber di Forum Ekonomi Dunia, bagaimana diskusi global tentang etika AI dan keamanan siber membentuk pendekatan Anda terhadap peran Anda di Zscaler?

Karena teknologi bergerak sangat cepat, pemerintah dan organisasi perlu memiliki informasi yang kuat, dan saya melihat ini sebagai peran Forum Ekonomi Dunia. AI dan Keamanan Siber saja memiliki kebutuhan yang cukup untuk memerlukan kelompok terpisah, tetapi ketika Anda menggabungkan keduanya, itu hampir sebuah area baru oleh itself. Misalnya, Gartner tahun ini menunjukkan bahwa Generative AI meningkatkan permukaan serangan secara signifikan, membawanya dari injeksi prompt di input dan output ke serangan aplikasi, model, dan bahkan serangan plug-in.

Beberapa serangan ini spesifik untuk LLM seperti ChatGPT, tetapi jika Anda mempertimbangkan kita bergerak dari LLM ke AI Agen dan sistem multi-agen, Anda perlu mempertimbangkan banyak informasi. Misalnya, dalam LLM Anda mungkin peduli tentang injeksi prompt, perilaku sel tidur (memicu LLM untuk merespons secara berbeda berdasarkan kata kunci khusus), atau kebocoran informasi propietary. Ketika membahas AI Agen, kita perlu mempertimbangkan serangan pada alat dan sumber data juga–bahkan mengasumsikan bahwa injeksi SQL dan injeksi perintah OS mungkin memungkinkan lagi.

Selanjutnya, jika kita menambahkan sistem multi-agen, di mana agen mungkin berada di lokasi yang berbeda, kita harus membayangkan ini menyiratkan jaringan yang berkomunikasi dengan protokol yang berbeda. Orang-orang telah bereksperimen dengan ribuan agen–seperti jaringan komputer.

Akhirnya, kita perlu mempersiapkan tenaga kerja kita untuk menggunakan Generative AI, menyediakan alat dan lingkungan di mana mereka dapat beroperasi di dunia baru ini.

Anda telah menjadi advokat yang kuat untuk keanekaragaman dan inklusi, terutama sebagai Sponsor Eksekutif untuk ERG Latino dan Hispanik Zscaler, Sabor. Bagaimana latar belakang budaya Anda mempengaruhi gaya kepemimpinan dan pendekatan Anda terhadap pengembangan AI?

Sebagai orang Latino yang bangga, lahir dan dibesarkan di Brasil, saya sangat bersemangat untuk mendukung dan memberdayakan komunitas Latino dan Hispanik di Zscaler. Saya merasa sangat bangga dapat memberikan kontribusi pada dunia yang lebih baik melalui keamanan siber, di mana kita membantu melindungi masyarakat dalam dunia yang semakin kompleks. Nilai-nilai saya telah membantu saya mencapai tempat saya hari ini, dan saya sangat bangga dengan asal saya.

Saran saya akan menjadi untuk tidak pernah melupakan dari mana Anda berasal dan apa yang telah Anda lakukan. Selalu bangga dengan apa yang membuat Anda unik, tetapi juga mengakui bahwa keanekaragaman adalah raja. Saya hidup dengan diri saya 24 jam sehari. Jika saya hanya merekrut orang yang mirip dengan saya dan setuju dengan saya, saya tidak akan meningkatkan pengetahuan saya. Merekrut orang dari berbagai lokasi dan latar belakang membantu kita untuk lebih baik memahami kebutuhan khusus basis pelanggan global kita.

Akhirnya, apa yang paling Anda bangga tentang masa depan AI dalam keamanan siber, dan apa peran yang Anda lihat Zscaler mainkan dalam masa depan itu?

AI tidak mengubah prinsip-prinsip dasar pertahanan cyber yang efektif–itu menyoroti pentingnya mereka. Kami antisipasi melihat transparansi, praktik keamanan yang kuat, dan pemantauan terus-menerus yang tersebar di seluruh industri. Organisasi harus mengadopsi pendekatan komprehensif terhadap keamanan, menerapkan langkah-langkah canggih untuk mendeteksi dan menanggapi ancaman. Ini termasuk memupuk budaya kesadaran keamanan, melakukan audit keamanan secara teratur, dan berkolaborasi dengan pemangku kepentingan untuk mengembangkan strategi keamanan yang efektif. Dengan melakukan hal ini, organisasi dapat mengurangi risiko pelanggaran dan melindungi informasi sensitif mereka.

Zscaler berkomitmen untuk melindungi privasi pengguna, menggunakan teknik paling canggih untuk membuat data anonim dan memastikan kita menjaganya keluar dari LLM kita, mencegah identifikasi pengguna atau organisasi individual. Sementara kita mungkin menjelajahi fine-tuning LLM di masa depan, langkah-langkah privasi data yang ketat kita untuk memastikan bahwa tidak ada data pengguna yang dikompromikan akan terus menjadi yang utama. Tujuan kita adalah untuk memanfaatkan kekuatan AI untuk meningkatkan keamanan tanpa mengorbankan privasi pelanggan.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Zscaler.