Natasha Mohanty, Wakil Presiden Teknik di Doppel – Seri Wawancara

Natasha Mohanty, Wakil Presiden Teknik di Doppel, adalah seorang pemimpin teknologi berpengalaman dengan pengalaman mendalam di bidang AI, pembayaran, media, dan platform konsumen. Sebelum bergabung dengan Doppel, dia memimpin teknik untuk Optimized Checkout Suite dan Link Stripe, mengembangkan organisasi dari 30 menjadi 200 insinyur sambil membantu mengarahkan adopsi besar-besaran di produk checkout dan dompet konsumen Stripe. Sebelumnya, dia menjabat sebagai Wakil Presiden Teknik di Nielsen setelah akuisisi Prizma.ai, perusahaan analitik media dan video berbasis AI yang dia dirikan dan pimpin sebagai CTO. Sebelumnya dalam karirnya, dia menghabiskan lebih dari tujuh tahun di Google, bekerja di berbagai bidang seperti Kualitas Pencarian, Google News, dan personalisasi Google+.

Doppel adalah perusahaan pertahanan teknik sosial asli AI yang fokus melindungi organisasi, eksekutif, merek, dan pelanggan dari impersonasi AI, phishing, penipuan, dan risiko digital yang lebih luas. Platformnya menggabungkan perlindungan risiko digital, perlindungan eksekutif dan merek, keamanan email, manajemen risiko manusia, simulasi, dan pelatihan kesadaran keamanan, menggunakan AI dan intelijen ancaman waktu nyata untuk mendeteksi, mengorelasikan, dan mengganggu infrastruktur penyerang di seluruh saluran seperti domain, media sosial, aplikasi pesan, iklan, dan web gelap. Perusahaan ini telah memposisikan diri di sekitar ancaman yang meningkat dari teknik sosial berbasis AI, membantu tim keamanan merespons serangan yang semakin canggih di seluruh lanskap ancaman digital modern.

Anda telah memimpin organisasi teknik di perusahaan seperti Stripe, Google, Nielsen, dan sekarang Doppel. Bagaimana pandangan Anda tentang peran insinyur perangkat lunak berevolusi dari menulis sistem langsung ke mengatur alur kerja AI yang semakin otonom?

Alur kerja insinyur perangkat lunak telah berubah secara dramatis, tetapi akuntabilitas yang diperlukan dari insinyur tidak berubah. Ketika saya memulai karir saya di Google dua dekade yang lalu, insinyur menghabiskan sebagian besar waktu menulis dan menguji kode mereka sendiri. Sekarang, AI dapat menangani sebagian besar generasi kode, tetapi insinyur masih bertanggung jawab untuk mendefinisikan tujuan, memvalidasi output, menetapkan batasan, menguji kode, dan memastikan sistem tetap andal dalam jangka panjang. Dalam banyak hal, AI telah memperluas ruang lingkup tanggung jawab teknik daripada menguranginya.

Apa yang berkembang adalah tempat insinyur menciptakan nilai. Ketika AI mengambil alih lebih banyak mekanika pengkodean, peran menjadi semakin berpusat pada selera dan penilaian, memahami masalah, membuat keputusan arsitektur, mengevaluasi trade-off, dan memastikan hasil sesuai dengan kebutuhan pengguna dan bisnis. Insinyur terbaik tidak hanya menulis perangkat lunak. Mereka akan mengatur sistem kohesif manusia dan AI, menerapkan konteks dan akuntabilitas yang mesin masih kurang. Ini mirip dengan pergeseran dari kontributor individu ke manajer.

Anda telah berargumen bahwa AI tidak mengurangi tanggung jawab teknik, melainkan memperluasnya. Apa yang merupakan kesalahpahaman terbesar yang masih dimiliki eksekutif tentang apa yang dapat dilakukan agen pengkodean AI secara realistis tanpa pengawasan manusia?

Kesalahpahaman terbesar adalah bahwa AI akan menghilangkan kebutuhan akan insinyur yang kuat. Kenyataannya adalah AI meningkatkan batas atas apa yang dapat dibangun oleh tim kecil yang terampil, yang membuat penilaian teknik lebih berharga, bukan kurang.

Apa yang berubah adalah permukaan yang insinyur tanggung jawab. Mereka tidak hanya menulis kode lagi. Mereka mendefinisikan apa yang dibangun, memvalidasi bahwa agen melakukan apa yang mereka maksudkan, dan memiliki hasil ketika mereka tidak.

Jika ada, ruang masalah telah menjadi lebih menarik. Penyerang memiliki akses ke alat AI yang sama dengan kita, yang berarti tantangan untuk tetap mendahului mereka lebih sulit dan lebih menarik daripada sebelumnya. Tidak ada kekurangan masalah sulit untuk dipecahkan, dan Doppel sedang merekrut insinyur di seluruh bidang untuk orang-orang yang bersemangat dengan jenis pekerjaan ini.

Bagaimana tim teknik mulai mengkoordinasikan beberapa agen AI di seluruh pengkodean, pengujian, debugging, dan dokumentasi, apa yang terlihat seperti alur kerja “manajemen agen” yang efektif dalam praktek?

Insinyur semakin bertindak sebagai manajer sistem otonom, bukan hanya kontributor. Insinyur terbaik dapat mempertahankan konteks yang signifikan di seluruh alur kerja paralel sambil mengetahui konteks apa yang harus dibagikan dengan setiap agen. Dalam praktek, itu berarti menulis kriteria penerimaan yang terdefinisi dengan baik, menetapkan batasan yang jelas untuk privasi dan keamanan, dan meminta agen untuk menjelaskan alasan dan asumsi mereka sebagai langkah validasi. Jika agen tidak dapat menjelaskan apa yang mereka lakukan dan mengapa, Anda tidak dapat sepenuhnya mempercayai output.

Di Doppel, kami sedang membangun sistem agen yang menyelidiki ancaman, terus-menerus mengadaptasi kebijakan deteksi, dan menjelaskan keputusan mereka dalam bahasa sederhana. Manajemen agen yang efektif juga memerlukan infrastruktur sistem tingkat, termasuk lingkungan pengujian, pipa pengujian otomatis, alat keamanan dengan izin yang ditentukan dan pengawasan, dan kerangka evaluasi yang terus-menerus menilai apakah agen dan sistem yang lebih luas beroperasi sesuai dengan yang diharapkan.

Apa yang merupakan risiko operasional atau keamanan terbesar yang muncul ketika agen AI diberi akses ke alat internal, sistem produksi, atau alur kerja sensitif tanpa batasan yang kuat?

Risikonya tidak hanya bahwa agen AI membuat kesalahan. Risikonya adalah bahwa mereka dapat membuat kesalahan dengan skala yang sulit untuk ditangkap dalam waktu nyata. Bahaya yang lebih spesifik adalah agen yang bertindak di luar cakupan yang dimaksudkan, apakah itu berarti mengakses sistem yang tidak dirancang untuk disentuh atau menangani data yang tidak seharusnya dipertahankan.

Dalam produk keamanan email kami, misalnya, agen memproses data yang secara inheren sensitif. Kami telah melakukan upaya besar untuk memastikan bahwa agen tersebut memiliki akses yang sangat terbatas, tidak dapat secara tidak sengaja mengungkapkan informasi pribadi sensitif di hilir, dan tidak mempertahankan informasi rahasia, sambil masih memiliki konteks yang diperlukan untuk membuat keputusan yang tepat.

Pada titik mana mengandalkan kode AI yang dihasilkan secara berat mulai memperkenalkan utang teknis jangka panjang, dan bagaimana pemimpin teknik harus memikirkan keseimbangan antara kecepatan dan kemaintan?

Risikonya adalah memprioritaskan kecepatan jangka pendek atas dasar yang memungkinkan sistem untuk berkembang dan berubah. Salah satu pelajaran terbesar dari waktu saya di Stripe adalah bahwa tidak semua keputusan sama. Beberapa adalah trapdoor: sulit untuk dibalik dan kemungkinan memiliki konsekuensi jangka panjang, sementara yang lain dapat diubah lebih mudah.

Dengan AI, disiplinnya adalah mengetahui keputusan mana yang masih memiliki konsekuensi jangka panjang, meletakkan batasan yang lebih kuat di sekitar mereka, dan bergerak cepat pada yang lain. Di Doppel, itu berarti menggunakan sistem evaluasi dan dokumentasi saat ini untuk memastikan agen terus beroperasi sesuai dengan yang diharapkan saat sistem berkembang. Tujuannya bukan untuk memperlambat, tetapi untuk memastikan kecepatan tidak diam-diam mengikis dasar yang sedang dibangun.

Selama waktu Anda mengembangkan organisasi teknik di Stripe, apa pelajaran tentang keandalan, kepercayaan, dan desain sistem yang sekarang terasa sangat relevan di era agen AI otonom?

Di Stripe, keandalan adalah segalanya, terutama karena industri keuangan sangat teratur dan bisa berakibat bencana bagi bisnis jika portal pembayaran mereka turun. Jika sistem tidak berfungsi sesuai dengan yang diharapkan, ada dampak langsung pada pelanggan, dan itu menciptakan budaya kepemilikan dan akuntabilitas yang kuat di perusahaan.

Salah satu hal yang menarik saya ke Doppel adalah tingkat obsesi pelanggan yang serupa. Tim di sini sangat fokus pada memahami tantangan yang dihadapi pelanggan dan mengambil tanggung jawab untuk memecahkannya.

Sekarang bahwa saya berada di Doppel, pelajaran itu terasa sangat relevan. Kami sedang membangun sistem asli AI untuk membantu organisasi melawan serangan teknik sosial yang semakin canggih. Dan serupa dengan Stripe, di mana Anda tidak bisa membiarkan sistem pemrosesan pembayaran turun, itu berakibat bencana bagi bisnis untuk tidak memiliki postur keamanan siber yang kuat. Keduanya memiliki risiko yang sangat tinggi, tetapi untuk alasan yang berbeda.

Bagaimana Anda mengharapkan perekrutan teknik akan berubah dalam beberapa tahun ke depan ketika perusahaan semakin memprioritaskan keahlian AI, pemikiran sistem, dan adaptabilitas daripada spesialisasi teknis yang lebih sempit?

Saya pikir kita akan melihat penekanan yang meningkat pada merekrut insinyur yang dapat beroperasi dengan otonomi, penilaian yang kuat, dan kemampuan untuk belajar dengan cepat. Itu adalah sifat yang saya selalu cari, tetapi sekarang lebih penting, bukan kurang. Sepanjang karir saya, insinyur yang memiliki dampak terbesar bukanlah mereka yang memiliki spesialisasi yang paling sempit. Mereka adalah yang dapat beradaptasi dengan cepat, menavigasi ketidakpastian, dan terus-menerus belajar saat teknologi berkembang.

Tapi batang telah bergeser. Di Doppel, masalah yang kami pecahkan tidak terdefinisi dengan baik. Kami terus-menerus bekerja untuk tetap mendahului penyerang yang juga menggunakan AI, yang berarti membangun sistem seperti agen intelijen ancaman yang proaktif menjelajahi web untuk menemukan ancaman. Tidak ada buku pedoman yang mapan untuk jenis pekerjaan ini, jadi itu membutuhkan ketabahan dan kemauan untuk mendorong batas apa yang mungkin.

AI hanya akan terus mengubah cara kerja dilakukan, tetapi perusahaan masih akan membutuhkan orang-orang yang dapat bekerja di seluruh sistem dan mengambil tanggung jawab untuk seluruh siklus hidup apa yang mereka bangun. Insinyur yang akan berkembang adalah mereka yang terus-menerus mengubah apa yang mereka mampu saat lanskap AI berkembang di sekitar mereka.

Anda telah bekerja secara luas pada personalisasi, sistem rekomendasi, dan platform berbasis mesin pembelajaran sepanjang karir Anda. Bagaimana pengalaman itu membentuk cara Anda memikirkan kolaborasi manusia-AI di dalam organisasi teknik saat ini?

Satu hal yang saya pelajari dari bekerja pada sistem personalisasi dan mesin pembelajaran adalah bahwa kualitas output hanya sebaik kualitas input, termasuk data pelatihan, kerangka evaluasi, dan definisi yang jelas tentang apa yang “baik” sebenarnya. Model sangat baik dalam memproses informasi dengan skala besar, tetapi orang-orang membawa penilaian, konteks, dan pemahaman tentang apa yang paling penting.

Saya pikir prinsip yang sama berlaku untuk organisasi teknik yang beroperasi saat ini. AI dapat membantu tim bergerak lebih cepat, tetapi tim terbaik akan sengaja tentang konteks dan kebenaran yang mereka berikan kepada AI, serta bagaimana sistem AI yang digerakkan terintegrasi ke dalam ekosistem teknik yang lebih luas. Insinyur masih perlu membuat keputusan, mengevaluasi trade-off, dan pada akhirnya memiliki hasil.

Banyak perusahaan berlomba untuk memaksimalkan produktivitas pengembang dengan alat AI. Apakah Anda pikir keunggulan kompetitif akan datang dari pengkodean yang lebih cepat, atau dari membangun organisasi yang tahu cara mengatur dan mengkoordinasikan sistem AI secara efektif?

Kecepatan penting, terutama di keamanan siber, di mana ketinggalan penyerang bukanlah pilihan. Tetapi kecepatan tanpa batasan hanya cara yang lebih cepat untuk menciptakan celah yang dapat dieksploitasi. Pemerintahan sistem AI harus menjadi dasar untuk setiap perusahaan yang membangun dengan AI, bukan sesuatu yang dipikirkan kemudian. Ini penting untuk memastikan kualitas, keandalan, dan akuntabilitas dalam alur kerja teknik perangkat lunak. Dalam industri keamanan siber khususnya, pemerintahan sangat penting karena penyerang akan menemukan dan mengeksploitasi setiap celah yang Anda tinggalkan. Itulah mengapa kami telah membangun platform agen kami di Doppel, kami telah memimpin dengan batasan privasi dan jejak audit yang jelas dibangun dari awal.

Melihat ke depan lima tahun, apa yang Anda pikir tim teknik perangkat lunak modern akan terlihat seperti sekali agen AI menjadi sangat terintegrasi ke dalam alur kerja pengembangan sehari-hari?

Lima tahun sulit diprediksi dengan kepercayaan karena dunia bergerak sangat cepat. Apa yang bisa saya katakan dengan lebih percaya diri adalah bahwa dalam 18 bulan hingga tiga tahun ke depan, agen AI kemungkinan akan menangani sebagian besar generasi kode, pengujian, dan debugging pertama.

Apa yang dimiliki insinyur adalah penilaian produk: spesifikasi, selera, arsitektur, dan akuntabilitas ketika sesuatu rusak. Tim mungkin menjadi lebih kecil, tetapi peran akan menjadi lebih sulit. Insinyur yang akan berkembang tidak harus yang menghasilkan kode paling banyak, tetapi yang dapat mengarahkan, mengevaluasi, dan mengoreksi sistem otonom secara efektif.

Setelah bekerja melalui pergeseran teknologi sebelumnya, satu hal yang saya pelajari adalah bahwa inovasi jarang mengikuti garis lurus. Tim yang akan berhasil adalah mereka yang tetap penasaran, beradaptasi dengan cepat, dan mengembangkan alur kerja mereka saat teknologi berubah. Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Doppel.