Efrain Ruh, CTO EMEA di Digitate – Seri Wawancara

Efrain Ruh adalah Chief Technology Officer untuk EMEA di Digitate, di mana ia memimpin strategi teknologi regional dengan fokus kuat pada kecerdasan buatan perusahaan, otomatisasi, dan transformasi operasional skala besar. Ia bekerja sama dengan pelanggan di seluruh Eropa, Timur Tengah, dan Afrika untuk membantu organisasi menerapkan kecerdasan buatan secara bertanggung jawab, menekankan eksekusi praktis, tata kelola, dan hasil yang dapat diukur. Ruh adalah kontributor aktif dalam diskusi industri tentang kecerdasan buatan agen, kematangan MLOps, dan kenyataan beralih dari pilot kecerdasan buatan ke sistem produksi.

Digitate adalah perusahaan perangkat lunak perusahaan dan anak perusahaan dari Tata Consultancy Services yang mengkhususkan diri dalam otomatisasi yang digerakkan oleh kecerdasan buatan untuk IT dan operasi bisnis. Platform intinya, ignio, memungkinkan operasi otonom dengan menggabungkan pembelajaran mesin, grafik pengetahuan, dan otomatisasi cerdas untuk mendeteksi masalah, memprediksi hasil, dan memperbaiki sistem secara mandiri di seluruh lingkungan perusahaan yang kompleks. Digitate melayani organisasi global besar yang mencari untuk mengurangi kompleksitas operasional sambil meningkatkan ketahanan dan efisiensi melalui kecerdasan buatan yang diterapkan.

Bagaimana pandangan Anda tentang pentingnya kecerdasan buatan yang dapat dijelaskan berkembang dibandingkan dengan model otomatisasi black-box yang masih digunakan oleh banyak organisasi saat ini?

Generasi otomatisasi sebelumnya sebagian besar bersifat reaktif dan berbasis aturan, yang membuat perilaku black-box lebih dapat ditoleransi karena hasilnya sangat dapat diprediksi. Ketika sistem kecerdasan buatan sekarang beralih ke agen proaktif yang dapat beralasan dan menghasilkan responsnya sendiri, toleransi untuk opasitas menghilang. Pemimpin IT bertanggung jawab untuk menjaga ketersediaan sistem kritis misi sepanjang waktu, dan tanggung jawab itu meninggalkan sangat sedikit ruang untuk eksperimen dengan sistem yang alasanannya tidak dapat divalidasi. Keterjelasan telah bergeser dari fitur teknis menjadi persyaratan operasional yang memungkinkan kepercayaan dalam skala besar. Agar kita dapat mempercayai agen kecerdasan buatan ini, penting bahwa mereka membagikan garis pemikiran mereka (secara dasar bagaimana mereka tiba pada solusi) dan hasil alasan mereka.

Mengapa kepercayaan dan keterjelasan muncul sebagai hambatan terbesar untuk adopsi yang lebih luas dari otomatisasi yang digerakkan oleh kecerdasan buatan canggih di IT perusahaan?

IT perusahaan beroperasi di bawah akuntabilitas dan risiko konstan. Ketika sistem kecerdasan buatan membuat keputusan secara otonom, terutama dalam model operasional pencegahan atau perbaikan mandiri, tim pengawas harus dapat memahami mengapa tindakan tertentu diambil. Tanpa visibilitas ke dalam bukti, konteks, dan logika keputusan, kecerdasan buatan memperkenalkan ketidakpastian daripada menguranginya. Kekurangan transparansi dan ketidakpastian itu memengaruhi kepercayaan, sehingga memperlambat adopsi di antara tim IT lebih dari akurasi model atau kinerja yang pernah bisa.

Apa yang sebenarnya dimaksud dengan keterjelasan dalam operasi IT yang digerakkan oleh kecerdasan buatan, dan bagaimana hal itu dapat membantu tim memvalidasi keputusan sebelum sistem bertindak secara otonom?

Keterjelasan yang sebenarnya adalah praktis dan berfokus pada operator. Ini berarti bahwa teknologi harus secara jelas menunjukkan data yang digunakan untuk alasan, memvalidasi bahwa sistem memahami konteks operasional yang benar, dan menjelaskan rencana tindakan yang disarankan dalam bahasa yang dapat dibaca manusia. Ini juga mencakup validasi historis, seperti apakah keputusan serupa telah dibuat sebelumnya dan apa hasilnya. Ini memungkinkan tim untuk memvalidasi tindakan dengan cepat dan memperluas eksekusi otonom di mana risiko rendah. Jika orang tidak dapat dengan cepat mencerna dan bertindak atas keluaran, maka alat keterjelasan gagal memenuhi tujuannya.

Bagaimana kekurangan keterjelasan diterjemahkan ke dalam risiko operasional, keuangan, atau bisnis nyata untuk organisasi besar?

Jika Anda menjalankan pabrik dan peralatan vital kekurangan peringatan untuk menandai masalah perawatan, itu akhirnya akan mulai rusak tanpa memberi tahu tim – menyebabkan produk berkualitas buruk atau downtime yang tidak terencana. Serupa dengan itu, kecerdasan buatan tanpa keterjelasan dapat mengubah masalah data kecil menjadi insiden bisnis besar. Sistem peramalan kapasitas berbasis kecerdasan buatan yang beroperasi pada data tidak lengkap mungkin mengurangi kapasitas infrastruktur untuk menghemat biaya, hanya untuk menyebabkan degradasi kinerja parah selama periode pemrosesan puncak. Dalam kasus sistem kecerdasan buatan perusahaan, Anda sering melihat dampak keterjelasan yang buruk melalui SLA yang terlewat, penalti keuangan, dan dampak pelanggan. Serupa dengan itu, penekanan peringatan yang agresif dapat menyembunyikan kegagalan kritis, memungkinkan gangguan untuk tidak terdeteksi sampai menjadi darurat sebenarnya.

Dari perspektif Anda, apa peran yang harus dimainkan oleh platform kecerdasan buatan dalam membuat alasan mereka dapat diaudit dan dipahami oleh tim IT yang mengoperasikan sistem kritis misi?

Agen kecerdasan buatan atau platform yang dirancang dengan baik memiliki keterjelasan yang sudah terintegrasi, polos dan sederhana. Sistem otonom harus mendokumentasikan data yang digunakan, logika yang diterapkan, tindakan yang disarankan atau diambil, dan hasil yang diikuti. Informasi ini perlu disajikan dalam bahasa operasional yang digunakan oleh tim IT, seperti ketergantungan, insiden historis, dan dampak bisnis, bukan skor kecerdasan buatan abstrak. Auditabilitas sangat penting untuk akuntabilitas, pembelajaran, dan kepercayaan jangka panjang.

Apa pendekatan arsitektur atau desain yang membantu perusahaan beralih dari otomatisasi yang tidak transparan ke pengambilan keputusan yang lebih transparan, glass-box?

Perusahaan mengadopsi arsitektur yang mengaitkan keputusan kecerdasan buatan dengan data operasional berkualitas tinggi dan memisahkan validasi data dari logika keputusan dengan jelas. Sistem transparan memastikan kecerdasan buatan bekerja dengan input yang benar dan asumsi sebelum bertindak. Banyak organisasi juga menggunakan otonomi bertahap, dimulai dengan rekomendasi dan kemudian membatasi eksekusi otonom saat kepercayaan tumbuh. Akses data terbuka dan lapisan kebijakan yang jelas sangat penting untuk menghindari perilaku black-box saat otonomi meningkat. Masih banyak ruang bagi industri untuk tumbuh dalam fitur keterjelasan, dan saya pikir kita akan melihat ledakan fitur keterjelasan tahun ini

Bagaimana organisasi mencapai keseimbangan yang tepat antara tindakan kecerdasan buatan otonom dan pengawasan manusia tanpa memperlambat operasi?

Keseimbangan dicapai melalui kontrol berbasis risiko daripada pengawasan blanketed. Tugas dengan risiko rendah dan frekuensi tinggi dapat diotomatisasi secara menyeluruh dengan guardrail, sementara keputusan dengan dampak lebih besar tetap divalidasi oleh manusia sampai sistem menunjukkan keandalan. Saat keterjelasan meningkat dan kecerdasan buatan secara konsisten menunjukkan penilaian yang sehat, otonomi secara alami berkembang tanpa memperkenalkan gesekan operasional.

Apa saran yang Anda berikan kepada CIO dan CTO yang ingin menskalakan kecerdasan buatan di seluruh operasi IT tetapi menghadapi resistensi internal karena kekhawatiran tentang visibilitas dan akuntabilitas?

Mulailah dengan transparansi, bukan otonomi. Libatkan tim IT Anda sejak dini dan prioritaskan visibilitas dalam desain dan peluncuran untuk membangun kepercayaan. Resistensi biasanya berasal dari kurangnya wawasan ke dalam keputusan kecerdasan buatan, bukan dari oposisi terhadap inovasi itu sendiri. Kemudian, fokus pada kasus penggunaan yang mengurangi kebisingan, menghilangkan kelelahan peringatan, dan menjelaskan bagaimana keputusan dibuat sebelum memungkinkan sistem untuk bertindak secara mandiri.

Bagaimana tim kepemimpinan harus memikirkan kembali tata kelola, validasi, dan model kepercayaan saat sistem kecerdasan buatan mengambil lebih banyak tanggung jawab pengambilan keputusan?

Tata kelola harus bergeser dari proses persetujuan statis ke validasi terus-menerus. Tim kepemimpinan perlu mendefinisikan di mana otonomi diizinkan, apa bukti yang diperlukan, dan kapan intervensi manusia diperlukan. Kepercayaan harus diperoleh melalui hasil yang dapat diukur seperti akurasi, insiden yang berkurang, dan waktu resolusi yang lebih cepat, bukan asumsi tentang kecanggihan model.

Bagaimana Anda melihat kecerdasan buatan yang dapat dijelaskan dan transparan mengubah masa depan operasi IT otonom dalam beberapa tahun mendatang?

Kecerdasan buatan yang dapat dijelaskan akan menjadi bagian fundamental dari teka-teki ketika membangun operasi IT proaktif dan otonom untuk berkembang dengan aman, tanpa kehilangan kepercayaan tim IT yang vital. Kecerdasan buatan generatif sudah meningkatkan transparansi dengan memungkinkan sistem untuk mengungkapkan bukti, memvalidasi fakta, dan menjelaskan keputusan dalam bahasa yang dapat dibaca manusia. Dalam beberapa tahun mendatang, tingkat keterjelasan ini akan menjadi standar, memungkinkan organisasi untuk melampaui eksperimen dan mengintegrasikan kecerdasan buatan secara dalam ke operasi, tata kelola, dan alur kerja sebagai mitra tepercaya daripada pengambil keputusan yang tidak transparan. Dalam beberapa tahun mendatang, agen kecerdasan buatan akan ada untuk mengelola kegiatan yang berbeda dari suatu organisasi, mereka akan menjadi bagian dari kehidupan sehari-hari kita, tetapi untuk ini kita perlu dapat mempercayai mereka dan akurasi serta transparansi adalah aspek kunci untuk mencapai tujuan ini. Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Digitate.