Jika Karyawan Anda Bertindak Seperti AI, Anda Pasti Sudah Memecatnya Sekarang

Bayangkan Anda baru saja mempekerjakan seseorang yang baru, dan kebanyakan hari mereka efisien, berpengetahuan, fasih, dan percaya diri. Mereka adalah segala yang Anda harapkan, menunjukkan banyak kualitas seorang karyawan yang hebat.

Sekarang bayangkan bahwa sesekali, ketika dihadapkan pada pertanyaan yang tidak mereka ketahui jawabannya, mereka hanya mengada‑ada. Jawabannya mengalir, meyakinkan, sehingga pada awalnya Anda mempercayainya begitu saja. Namun ketika hal itu berdampak pada bisnis, Anda kembali ke karyawan tersebut, menantangnya – dan mereka tidak dapat menjelaskan proses berpikir atau membagikan cara kerja mereka. Anda bahkan mungkin menjelaskan bahwa mereka salah, namun mereka bersikeras sebaliknya dan membuat lebih banyak kebohongan untuk mendukungnya. Setelah terjadi dua atau tiga kali, apakah Anda kemungkinan akan memecat mereka, atau setidaknya memberi peringatan? Jawaban bagi kebanyakan pemberi kerja hampir pasti ya.

Saya merasa bingung bahwa perusahaan kini menyerahkan alur kerja kritis dan pengambilan keputusan kepada seorang ‘karyawan’ yang diketahui menunjukkan perilaku persis seperti ini. Satu‑satunya alasan mengapa hal ini tidak terdeteksi adalah karena ‘karyawan’ tersebut adalah perangkat lunak, bukan manusia.

Mengapa AI Tidak Gagal Seperti Manusia

Ada asumsi umum yang keliru di antara perusahaan yang menerapkan AI bahwa jika teknologi memiliki tingkat kesalahan, itu pada dasarnya sama dengan masalah kesalahan manusia dan dapat dikelola dengan cara yang sama. Namun pemeriksaan, tinjauan, dan eskalasi tidak selalu berhasil dengan model bahasa besar (LLM). Mereka dibuat agar terdengar seperti manusia, tetapi lihat apa yang ada di baliknya, dan Anda akan melihat bahwa mereka tidak beroperasi seperti kita sama sekali.

Jika seorang karyawan bintang membuat kesalahan, kita akan menganggap bahwa kesalahan itu tulus – mereka melakukan yang terbaik dan terpeleset. Itu terjadi. Jika mereka dengan sengaja menciptakan jawaban untuk menghindari ketidaktahuan, dan melakukannya berulang kali, kita akan menganggapnya sebagai pelanggaran. Manajer tahu di mana harus memfokuskan pengawasan mereka, karena tingkat kesulitan dan margin kesalahan bertepatan. Mereka dapat meminta karyawan menjelaskan penalarannya dan menanyainya tentang hal itu. Karyawan biasanya tahu ketika mereka berada di luar kemampuan mereka, dan mengatakannya. Dan setelah satu kesalahan, mereka belajar, sehingga kesalahan yang sama tidak terulang dalam siklus terus‑menerus.

Sistem AI membalikkan semua asumsi ini. Respons default mereka terhadap kegagalan adalah menciptakan hal yang mengalir dan percaya diri. Mereka akan menghasilkan jawaban yang tampak masuk akal namun sebenarnya tidak benar, yang merupakan perilaku tepat yang akan mengakhiri karier manusia. LLM dirancang untuk menghasilkan kelanjutan yang paling mungkin secara statistik dari sebuah teks, dan ketika mereka tidak mengetahui jawabannya, mereka sering menghasilkan sesuatu yang terdengar seolah‑olah benar. Peneliti OpenAI sendiri telah mengakui bahwa tingkat kesalahan faktual tertentu adalah kepastian statistik dari cara kerja model ini, dan bahwa pelatihan menghargai tebakan percaya diri daripada pengakuan jujur atas ketidakpastian.

Di Mana Pendekatan Neurosimbolik Berperan

Inilah tepatnya yang dirancang untuk diperbaiki oleh pendekatan neurosimbolik. Mereka menggabungkan jaringan saraf, yang unggul dalam memahami bahasa dan data dunia nyata yang berantakan, dengan penalaran deterministik berbasis aturan. Ini berarti kesimpulan sistem berasal dari logika eksplisit yang dapat diperiksa, bukan muncul dari proses yang tidak dapat dilihat siapa pun.

Tanpa lapisan logika tambahan yang diberikan teknologi neurosimbolik, kesalahan AI tidak berkorelasi dengan tingkat kesulitan pekerjaan seperti halnya kesalahan manusia – mereka tidak dapat diprediksi. Mereka dapat muncul pada tugas‑tugas sederhana sementara tugas sulit berhasil tanpa hambatan, sehingga sulit menentukan di mana sebaiknya fokus pengawasan manusia. Penjelasan mereka, bila diberikan, dihasilkan setelah fakta, bukan memberikan akun yang sebenarnya tentang bagaimana mereka mencapai kesimpulan. Kesalahan yang sama dapat berulang tanpa batas, karena tidak ada pihak di dalam sistem yang belajar darinya, atau yang dapat dipertanggungjawabkan.

Kepercayaan Tanpa Memahami

Peneliti telah mendokumentasikan bahwa ketika orang baru mengenal sebuah sistem, mereka cenderung meninggalkannya setelah satu kesalahan yang terlihat; namun ketika itu adalah sistem yang familiar, mereka beralih ke ekstrem lain – menerima outputnya semata karena mereka telah terbiasa, bukan karena output tersebut menjadi lebih dapat diandalkan. Yang jarang terlihat adalah tingkat kepercayaan yang tepat, karena hal itu bergantung pada orang memahami kapan sebuah sistem AI kemungkinan salah dan dapat mengenali saat itu.

Itu bukan berarti AI tidak boleh dipercaya dengan pekerjaan penting. Itu berarti kita bersedia memberikan jenis kepercayaan yang tidak akan kita berikan kepada seseorang, sebagian karena tidak ada individu yang jelas untuk dipertanggungjawabkan ketika ia gagal.

Jika AI akan mengambil alih pekerjaan berbasis penilaian seperti seorang kolega yang dihargai, ia harus memenuhi standar dasar yang sama. Jawaban harus dapat diverifikasi, dengan penalaran yang terlihat, dan menerima fakta bahwa kadang‑kadang, hal terbaik yang dapat dilakukannya adalah mengatakan “Saya tidak tahu”.