Celah Pengetahuan yang Dibuat AI Adalah Celah Keamanan Baru. Berikut Cara Menutupnya.

Perusahaan teknologi membuat taruhan yang sudah lazim: bahwa AI dapat melakukan pekerjaan lebih cepat dan lebih murah daripada manusia. Meskipun dalam banyak kasus hal ini mungkin benar, AI juga digunakan sebagai pembenaran mudah untuk pemutusan hubungan kerja.

Dalam laporan PwC yang dipublikasikan awal tahun ini, 56% CEO mengatakan bahwa sejauh ini mereka belum melihat manfaat finansial yang signifikan dari investasi AI mereka. Hanya 12% yang melaporkan sekaligus penghematan biaya dan pertumbuhan pendapatan berkat AI. Selain itu, sebuah studi pada Februari oleh National Bureau of Economic Research menemukan bahwa hampir 90% perusahaan mengatakan bahwa AI tidak berdampak pada ketenagakerjaan ataupun produktivitas selama tiga tahun terakhir. Semua ini menegaskan kenyataan yang membuka mata: banyak organisasi belum melihat manfaat pendapatan dan produktivitas yang awalnya dijanjikan AI. Untuk menutup kerugian, mereka terus memberhentikan ribuan pekerja.

Namun, ada hal yang tidak disampaikan dalam telekonferensi laporan keuangan: ketika Anda memberhentikan manajer akun yang menyimpan konteks hubungan pelanggan selama sepuluh tahun di kepalanya, atau insinyur QA yang pengetahuan institusionalnya menjadi satu-satunya hal yang mendeteksi cacat sebelum sampai kepada pelanggan, Anda bukan sekadar membuang lemak berlebih. Anda merobohkan dinding penopang. Biaya pengerjaan ulang, kehilangan pelanggan, dan masalah kualitas yang menyusul jarang muncul dalam presentasi yang sama dengan perayaan pengurangan karyawan. Biaya-biaya itu diam-diam diserap pada kuartal-kuartal berikutnya, dikaitkan dengan kondisi pasar, lalu dilupakan. Kesenjangan antara janji restrukturisasi berbasis AI dan hasil nyatanya benar-benar ada, terus membesar, dan bagi banyak organisasi masih sama sekali tidak diakui.

Biaya nyata dari siklus ini tidak jatuh pada satu tempat. Biaya itu tersebar ke semua tim yang tersisa setelah pemangkasan. Pengembang mengambil alih beban kerja para insinyur yang telah pergi, sambil menerima alat AI yang masih belum cukup matang untuk mengimbangi hilangnya karyawan. Tim produk kehilangan konteks yang menjaga rencana mereka tetap berpijak pada realitas pelanggan. Tim dukungan kewalahan dan kualitas respons menurun, sementara pelanggan langsung mengenali konten buruk buatan AI dalam jawaban atas permintaan bantuan mereka. Beban itu tidak terkonsentrasi, melainkan tersebar, dan penyebaran inilah yang ikut membuatnya mudah diabaikan dalam laporan kuartalan. Namun, dalam penyebaran yang lebih luas itu, tim TI menghadapi versi masalah yang khas dan semakin berat. Mereka tidak hanya harus melakukan lebih banyak dengan sumber daya lebih sedikit. Mereka diminta mengelola infrastruktur yang dibangun dengan cepat, tanpa pengetahuan institusional yang membuatnya terpadu. Pada saat yang sama, mereka harus menangani proses keluarnya rekan yang telah pergi dan proses orientasi penggantinya, ketika perusahaan diam-diam membatalkan pemangkasan yang sebelumnya mereka rayakan secara terbuka.

Seiring berjalannya tahun ini dan upaya organisasi mewujudkan janji AI, sudah waktunya kita menyadari bahwa yang hilang jauh lebih banyak daripada sekadar pendapatan ketika keahlian manusia dipangkas demi efisiensi berbantuan AI. Kabar baiknya, kita dapat memperoleh yang terbaik dari kedua dunia. Namun, hal itu memerlukan pendekatan AI yang lebih praktis dan pragmatis, yang menempatkan manusia di pusat strategi.

Apa yang Hilang Ketika Pengetahuan Keluar Pintu

Pengetahuan operasional yang penting berada pada manusia dan diterapkan melalui pertimbangan manusia, bukan sistem. Ketika orang-orang itu pergi, pengetahuan tersebut ikut pergi bersama mereka. Secanggih apa pun modelnya, AI tidak dapat menutup kesenjangan itu saat ini.

Sekalipun kemampuan AI berkembang, otomatisasi tanpa konteks yang kaya nuansa menciptakan titik buta berbahaya di bidang-bidang penting:

• Penilaian dan strategi: Intuisi, pengetahuan institusional, dan pemahaman pasar tidak dapat dimasukkan dengan rapi ke dalam kumpulan data, bahkan yang tidak terstruktur sekalipun.
• Konteks dan kesadaran situasional: Manusia mengenali nuansa, niat, dan dapat menavigasi area abu-abu di mana aturan kaku mungkin gagal.
• Empati dan kepercayaan: Momen-momen berdampak tinggi atau emosional (terutama yang melibatkan pelanggan atau karyawan) menuntut respons yang berpusat pada manusia.
• Pengawasan dan akuntabilitas: Seseorang harus bertanggung jawab untuk mengidentifikasi kegagalan dan bias atau mencegah misinformasi sebelum terjadi. Sekadar mengatakan, “Anda benar, izinkan saya mencoba lagi,” setelah memberikan informasi yang sepenuhnya salah tidaklah cukup.
• Memori institusional dan konteks sistem: Memahami mengapa tim membangun infrastruktur dengan cara tertentu — atau mengapa tidak —, apa yang pernah mereka coba, dan kasus khusus apa yang ada tetapi tidak pernah didokumentasikan.
• Kepemimpinan dan tata kelola: Menentukan kebijakan, toleransi risiko, dan mempertahankan batas etika tetap menjadi tanggung jawab manusia yang mendasar.

AI dapat menyajikan wawasan, merekomendasikan tindakan, dan mempercepat pelaksanaan, tetapi tidak dapat menggantikan memori institusional yang mencegah bencana atau menyediakan akuntabilitas yang mendeteksinya sebelum berkembang di luar kendali.

Apa yang Dilakukan Secara Berbeda oleh Organisasi yang Cerdas

Organisasi yang berhasil dengan AI tidak menghilangkan manusia dari persamaan. Mereka menggunakan AI untuk menyederhanakan proses rutin dan berulang yang menghambat operasi sehari-hari. Dengan demikian, waktu dan sumber daya penting lainnya terbebaskan agar manusia dapat menemukan cara baru yang kreatif untuk memberikan manfaat bisnis lebih besar. Mereka menggunakan AI sebagai alat untuk “berlari bersama” dan memperkuat kemampuan manusia. Pertimbangkan operasi TI. Tim-tim ini sudah kewalahan, mengelola infrastruktur yang luas dengan sumber daya terbatas. AI, atau mungkin lebih tepatnya pembelajaran mesin (ML), dapat memberikan nilai nyata di sini. AI dan ML dapat mengotomatiskan tugas rutin yang sebelumnya menyita waktu dan menimbun para ahli yang berharga dengan pekerjaan operasional: penelitian dan pengujian patch, klasifikasi tiket bantuan, pembuatan alur kerja, penemuan, serta pemetaan risiko.

Tugas-tugas ini merupakan fondasi operasi TI, tetapi menyita sangat banyak waktu. Hal ini terutama terjadi saat lingkungan digital organisasi meluas, lanskap kerentanan berubah, dan karyawan semakin mengharapkan pengalaman digital yang positif dengan perangkat kerja mereka. Ketika tim tidak dapat menjalankan hal-hal mendasar dengan baik — mengelola atau memantau kemampuan dan proses tersebut — karena kewalahan, konsekuensinya berat: gangguan layanan, patch yang tidak diterapkan, kebocoran data, dan pelanggaran keamanan.

Sebaliknya, ketika AI digunakan dengan baik untuk menyederhanakan pekerjaan di bidang-bidang ini, staf TI memperoleh waktu untuk melakukan hal yang tidak dapat dilakukan AI: mengurangi utang teknis, memperbaiki sistem dan proses yang ada, merancang ulang arsitektur untuk meningkatkan ketahanan, dan mempertahankan pengetahuan institusional yang menjaga sistem penting tetap berfungsi. Itu lebih dari sekadar efisiensi. Itu adalah mitigasi risiko. Dan hal itu membangun fondasi yang lebih kokoh bagi pertumbuhan jangka panjang.

Mengadopsi AI dengan Tepat

Organisasi yang memulai dengan penerapan dan adopsi AI yang dipikirkan secara matang, sekaligus memprioritaskan dukungan bagi penggunaan yang aman dan efektif, sedang melihat — dan akan terus melihat — manfaat lebih besar dari strategi AI mereka. Optimalisasi bukan berasal dari memangkas karyawan. Optimalisasi berasal dari berinvestasi pada mereka, merancang ulang alur kerja, dan melatih tim tentang cara terbaik menggunakan AI.

Hal ini sebenarnya bukan sesuatu yang baru. Teknologi telah berkembang melalui siklus antargenerasi selama ratusan tahun. Setiap kali, kita cenderung mengulangi kesalahan yang sama. Kita bertindak berlebihan dan mencoba menjadikan suatu kemajuan sebagai obat mujarab untuk semua masalah. Tidak sedikit penipu yang memanfaatkan keputusasaan ini, menjanjikan terlalu banyak, dan menghilang sebelum hasilnya dapat diukur. Kenyataannya, AI dan ML dapat melakukan apa yang selalu dilakukan komputer: menjalankan tugas tertentu dengan kecepatan dan akurasi lebih tinggi daripada manusia. Mereka yang menemukan peluang ini dan menerapkan AI secara pragmatis, untuk bekerja bersamanya, akan segera melihat pengembalian investasi. Dalam praktiknya, ini berarti:

• Menggunakan AI untuk menghilangkan tugas bernilai rendah, bukan pertimbangan manusia yang bernilai tinggi
• Merancang alur kerja dengan keterlibatan manusia untuk mengurangi risiko keputusan berdampak besar
• Menetapkan jalur eskalasi yang jelas ketika sistem AI gagal atau menghasilkan keluaran yang tidak pasti
• Menetapkan secara tegas tanggung jawab atas keputusan berbasis AI
• Melatih tim untuk menelaah hasil AI secara kritis, bukan menerimanya secara membabi buta

Biaya Riil dari Kesalahan

Siklus industri teknologi saat ini berupa pemutusan hubungan kerja massal yang diikuti perekrutan kembali secara diam-diam bukanlah pergeseran talenta, melainkan pemindahan risiko. Organisasi menukar puluhan tahun memori institusional dengan beberapa bulan kecepatan otomatisasi, dan para pemimpin TI yang akhirnya harus menanggung tanggung jawab untuk mengelola dampaknya.

AI menawarkan manfaat nyata, tetapi manfaat itu paling bernilai ketika AI digunakan untuk mempertahankan dan memperkuat keahlian, bukan menggantikannya. Perusahaan yang terus berkembang pada era AI bukanlah yang melakukan pemangkasan paling besar atau menerapkan alat AI paling banyak. Mereka adalah perusahaan yang menggunakan AI secara bijak untuk mengotomatiskan pekerjaan monoton dan meningkatkan kreativitas, kolaborasi, serta keahlian manusia.

Sebab, ketika sistem berikutnya gagal atau gangguan layanan maupun insiden keamanan siber berikutnya terjadi, Anda tidak menginginkan robot atau mesin yang memimpin pemulihan sistem atau komunikasi dengan pelanggan. Saat itulah Anda menginginkan — dan membutuhkan — orang dengan konteks historis dan pengetahuan mendalam yang masih bekerja di perusahaan.

Jika kita ingin membuka seluruh potensi AI, kita harus berfokus menggunakannya untuk tugas-tugas monoton dan berhenti menjadikannya alasan untuk kinerja bisnis yang buruk.