Babak Hodjat, Chief AI Officer di Cognizant: Percakapan Kembali

Babak Hodjat, Chief AI Officer di Cognizant, memimpin AI Research Labs perusahaan, di mana pekerjaannya mencakup AI agentik, komputasi evolusioner, intelijen terdistribusi, dan pengembangan sistem AI yang dirancang untuk penerapan skala besar di perusahaan. Sebagai peneliti AI, penemu, dan pengusaha berpengalaman, Hodjat sebelumnya ikut mendirikan Sentient Technologies, di mana ia membantu membangun salah satu sistem AI terdistribusi terbesar di dunia, dan sebelumnya juga ikut mendirikan Dejima, yang mengembangkan teknologi bahasa alami berorientasi agen yang berkontribusi pada dasar-dasar Siri milik Apple.

Ketika kami sebelumnya berbicara dengan Babak Hodjat, diskusi kami mengeksplorasi kariernya di bidang AI, pendekatan evolusioner terhadap pengambilan keputusan yang kompleks, pekerjaan Cognizant dalam menerapkan AI untuk tantangan iklim dan penggunaan lahan, serta demokratisasi AI yang semakin meluas di seluruh perusahaan. Dalam percakapan lanjutan ini, fokus beralih ke perusahaan agenik yang berkembang pesat. Mengacu pada tema-tema dari buku terbarunya, The Agentic Enterprise, Hodjat meneliti mengapa arsitektur mungkin lebih penting daripada kemampuan model, bagaimana organisasi dapat mengoordinasikan jaringan agen AI yang semakin kompleks, di mana kepercayaan dan tata kelola terpusat berperan dalam ekosistem agen terdesentralisasi, dan apa yang masih perlu diubah sebelum sistem otonom dapat secara andal mengelola tujuan jangka panjang dengan intervensi manusia yang minimal.

Karier Anda mencakup beberapa pekerjaan paling awal pada agen cerdas, mulai dari teknologi bahasa alami Dejima yang membantu menginspirasi Siri hingga membangun sistem AI terdistribusi besar di Sentient dan kini menjabat sebagai Chief AI Officer di Cognizant. Bagaimana definisi Anda tentang “AI agent” berkembang selama perjalanan itu, dan apa yang dapat dipelajari pengembang masa kini dari generasi awal sistem berbasis agen tersebut?

Definisi tersebut tetap sama, tetapi kemampuan agen saat ini berarti banyak fungsi dasar agen yang harus kami kode pada tahun 1990-an kini tersedia secara langsung dengan LLM. Inilah mengapa agen berbasis LLM menjadi standar sekarang, dan ketika orang membicarakan agen, mereka mengasumsikan ada LLM yang menggerakkan antarmuka dan penalarannya.

Dalam buku Anda yang baru, The Agentic Enterprise, Anda berargumen bahwa sistem AI perusahaan sering berhasil atau gagal karena arsitekturnya, bukan karena kemampuan mentah model yang mendasarinya. Apa yang salah dipahami perusahaan ketika mereka mengasumsikan bahwa meningkatkan ke model yang lebih kuat akan menyelesaikan masalah AI agentik mereka?

Sebagaimana harness (yaitu bagian non-LLM dari sebuah agen) dapat menentukan keberhasilan atau kegagalan agen pemrograman, arsitektur sistem multi-agenik sangat penting bagi kesuksesannya. Hal ini karena arsitektur mencerminkan konteks di mana agen harus beroperasi—mirip dengan rangka yang menahan enterprise agentik bersama. Tanpa itu, agen tetap tidak berakar pada realitas operasi perusahaan, data, alur kerja, dan proses. Ini agak analog dengan struktur organisasi sebuah bisnis, yang mencakup deskripsi pekerjaan, definisi proses, dan protokol komunikasi bagi karyawan.

Anda telah menekankan bahwa sistem di sekitarnya, termasuk kontrol akses, akuntabilitas, orkestrasi, observabilitas, dan pengawasan, dapat lebih penting daripada model itu sendiri. Apa yang sebenarnya dibutuhkan oleh arsitektur agentik siap produksi yang kebanyakan penerapan proof-of-concept belum miliki?

Proof of concept (PoC) seringkali tidak berlandaskan, sehingga pada awalnya, kami memerlukan agen untuk beroperasi dalam lingkungan di mana mereka memiliki akses ke data dan aplikasi internal perusahaan. Pertanyaan penting harus diajukan, seperti data dan aplikasi apa yang kami siapkan untuk diakses oleh agen, dan keputusan apa yang kami nyaman biarkan agen buat agar sistem tetap aman dan terjamin, sambil tetap mencapai peningkatan kualitas dan produktivitas yang kami harapkan. Sulit menentukan jawaban atas pertanyaan-pertanyaan ini dalam konteks PoC. Lebih lanjut, batasan dan pengawasan hanya bermakna ketika sistem agentik beroperasi bersamaan dengan proses manusia atau agentik lainnya dalam perusahaan. Oleh karena itu, sandboxing merupakan langkah penting dalam proses memindahkan secara efektif dari PoC ke penerapan.

Cognizant telah menggambarkan munculnya “Agent Operating System” untuk mengoordinasikan jaringan agen AI. Fungsi apa yang harus dilakukan lapisan tersebut, dan apakah Anda memperkirakan orkestrasi agen pada akhirnya akan menjadi setara pentingnya dengan sistem operasi dan platform cloud dalam komputasi perusahaan seperti saat ini?

Koordinasi agen penting: jika terlalu kaku, sistem Anda akan terdegradasi dan rapuh. Jika terlalu longgar dengan koordinasi yang sepenuhnya diserahkan kepada agen, Anda berisiko membuat tugas agen menjadi terlalu kompleks atau berisiko. Mekanisme koordinasi yang baik memungkinkan agen secara spontan membentuk tim sebagai respons terhadap berbagai situasi, menghasilkan disiplin organisasi yang kuat dan fleksibel. Saya mendukung koordinasi terdistribusi. Ini analog dengan memberi wewenang kepada organisasi manusia dengan tingkat otoritas tertentu atas domain tanggung jawabnya. Ketika suatu konteks muncul, anggota organisasi berkomunikasi dan berkoordinasi melalui struktur organisasi untuk menentukan individu yang bertanggung jawab menangani situasi tersebut, dan responsnya dikumpulkan, dikoordinasikan, serta dikonsolidasikan antar node organisasi. Kabar baiknya, kontrol ketat dan perlindungan dapat diterapkan pada sistem agen sehingga fleksibilitas tersebut tidak menghasilkan perilaku berisiko.

Saya berpendapat, sebagaimana MCP dengan cepat menjadi standar de‑facto untuk akses aplikasi agenik, protokol koordinasi juga akan muncul dan menjadi standar lintas platform agenik untuk memungkinkan proses multi‑agen spontan melintasi batas sistem agenik. Sistem operasi dan platform cloud mungkin bukan analogi terbaik di sini; melainkan, standar yang disepakati secara luas untuk definisi multi‑agen dan protokol koordinasi harus muncul agar penetrasi dan pertumbuhan agenifikasi di perusahaan dapat meluas.

Seiring perusahaan beralih dari copilot individu ke jaringan yang berisi puluhan bahkan ratusan agen khusus, bagaimana organisasi memutuskan tanggung jawab mana yang menjadi milik agen individu dan mana yang harus tetap terpusat?

Seperti firewall internet dan mekanisme keamanan, penetapan kepercayaan melalui audit langsung terhadap kebijakan serta penegakan batasan pada sistem agenik harus menjadi fungsi terpusat dalam bisnis, didefinisikan dan dipelihara oleh satu entitas dalam perusahaan. Semua sistem agenik lainnya dapat disediakan atau diimplementasikan secara terdesentralisasi, namun sistem‑sistem tersebut harus mendaftar ke sistem kepercayaan agar diizinkan beroperasi.

Cognizant telah menerapkan sistem multi‑agen secara internal yang menghubungkan sekitar 200 agen di seluruh organisasi dengan sekitar 350.000 karyawan. Apa yang terungkap ketika beroperasi pada skala tersebut tentang AI agenik yang sulit ditemukan melalui pilot yang lebih kecil?

Kami harus merancang untuk skalabilitas, ekstensi, efisiensi biaya, dan waktu respons yang wajar. Dalam proyek berskala besar, Anda sering harus menciptakan hal‑hal yang tidak diperlukan dalam sistem agenik kecil yang terbatas dengan sedikit pengguna. Misalnya, Anda harus membuat koordinasi antar‑agen menjadi personalisasi dan efisien, sehingga langkah tambahan dan biaya dapat dihindari. Selain itu, sistem harus mampu menarik aplikasi buatan khusus serta sistem dan agen pihak ketiga, sehingga interoperabilitas menjadi penting dan dapat menghemat waktu serta uang.

Ketika agen otonom dapat memanggil API, mengakses sistem perusahaan, berkomunikasi dengan agen lain, dan mengambil tindakan dengan kecepatan mesin, tata kelola AI tradisional menjadi jauh lebih sulit. Di mana pengawasan manusia harus tetap wajib, dan di mana organisasi dapat dengan aman membiarkan agen beroperasi secara independen?

Saya pikir penentu utama di mana pengawasan manusia diperlukan dan wajib adalah kepercayaan. Seiring sistem ini menjadi lebih dapat dipercaya, kami akan memberi mereka lebih banyak otonomi, dan kecuali diwajibkan secara hukum (misalnya, karena kurangnya kepribadian hukum untuk AI), kami akan merasa nyaman menyerahkan keputusan kepada agen. Mengukur kepercayaan dan risiko oleh karena itu penting dan dapat membantu menggambar batas antara otonomi dan pengawasan manusia — batas yang mungkin mulai bergeser seiring sistem ini menjadi lebih dapat dipercaya dan kurang berisiko untuk dijalankan secara otonom.

Banyak riset Anda sebelumnya berfokus pada komputasi evolusioner dan sistem yang meningkatkan diri melalui seleksi dan adaptasi. Bagaimana pendekatan evolusioner dapat melengkapi model bahasa besar dan pembelajaran penguatan saat kita berusaha membangun agen yang dapat terus meningkatkan diri daripada sekadar mengeksekusi alur kerja yang telah ditentukan?

Arus utama AI saat ini didominasi oleh pendekatan gradient descent, yang merupakan bentuk pencarian hill‑climbing yang tidak terlalu kreatif. Komputasi evolusioner sangat efisien dalam menjelajahi ruang pencarian yang kompleks dan dapat melengkapi pendekatan arus utama. Laboratorium kami, misalnya, baru‑baru ini mencapai terobosan: kami telah menunjukkan bahwa Evolutionary Strategies lebih unggul daripada Reinforcement Learning untuk sebagian besar pelatihan lanjutan LLM, menghasilkan model dengan kualitas setara atau lebih baik dengan biaya jauh lebih rendah. Pendekatan evolusioner juga dapat membantu dalam Test‑Time Training, yang bertujuan memungkinkan LLM belajar setelah diterapkan.

Penelitian Cognizant telah mengeksplorasi lingkungan di mana agen yang berinteraksi mengembangkan kerja sama, kompetisi, pengetahuan bersama, bahkan strategi menipu. Seiring sistem multi‑agen menjadi lebih kompleks, apakah perilaku emergen dapat menjadi salah satu tantangan terbesar dalam menjaga AI perusahaan tetap dapat diprediksi dan selaras dengan tujuan organisasi?

Ini sudah terjadi, sebagaimana dibuktikan oleh insiden OpenAI/Hugging Face yang banyak dipublikasikan baru-baru ini. Kita mungkin berpikir bahwa agen, yang terbatas pada prompt dan konteks mereka, serta menggunakan LLM yang tidak belajar secara runtime, akan tetap lebih atau kurang konsisten dalam perilakunya. Namun faktanya lingkungan dan motivasi sebuah agen dapat berubah, seringkali sebagai hasil tindakan agen itu sendiri dalam lingkungan, yang menghasilkan perilaku tak terduga. Hal ini bahkan lebih mungkin terjadi ketika banyak agen berinteraksi, sehingga penting bagi kami untuk mengamati agen otonom dalam lingkungan sandbox yang aman agar kami dapat menentukan ruang lingkup dan skala kecenderungan emergen mereka, serta memperhitungkannya dalam desain dan perlindungan agen kami. Sistem publik kami, TerraLingua, di mana Anda dapat memperkenalkan agen, artefak, bahkan meniru agen dan mengamati perilaku individu serta kolektif mereka, adalah langkah ke arah ini.

Melihat melampaui gelombang AI agen saat ini, terobosan teknologi atau pergeseran arsitektur apa yang Anda yakini masih belum ada sebelum kita dapat membangun sistem AI yang mampu secara andal mengelola tujuan jangka panjang yang kompleks dengan intervensi manusia minimal?

Banyak keterbatasan agen saat ini berasal dari keterbatasan state-of-the-art dalam AI. LLM pada dasarnya tetap setelah pelatihan dan tidak dapat ‘mengubah pendapat’ tentang sesuatu saat mereka menemui informasi baru. LLM adalah segala hal dan semua orang sekaligus, sehingga mereka perlu dipersiapkan dengan konteks dan prompt serta sangat sensitif terhadap persiapan tersebut. LLM memiliki jendela konteks yang terbatas dan harus diberi semua informasi kembali untuk setiap kata yang mereka hasilkan atau tindakan yang mereka ambil. Pada tingkat multi-agen, saya pikir kita memerlukan protokol koordinasi terdistribusi yang diterima secara luas, pengaman kepercayaan dan kebijakan, serta sistem arbiter transaksi agar masa depan agen dapat mencapai potensi penuhnya.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin belajar lebih lanjut harus mengunjungi Cognizant atau wawancara sebelumnya.