Pemimpin pemikiran
Sebelum Memperluas Penggunaan Agen AI, Tanyakan Apa yang Tidak Mereka Ketahui

Poin utamaJawaban yang percaya diri gagal ketika agen mengabaikan konteks seperti tanggal…
Lihat selengkapnya
- Jawaban yang percaya diri gagal ketika agen mengabaikan konteks seperti tanggal pengarsipan yang sudah usang atau perbedaan kalender fiskal.
- Hampir 6 dari 10 bisnis melacak jawaban AI yang percaya diri tetapi salah hingga konteks bisnis yang hilang atau tidak lengkap.
- Tinjauan manusia harus meningkat seiring dengan risikonya karena data yang benar yang dibagikan secara salah tetap dapat melanggar peraturan.
Bayangkan situasi ini: Seorang direktur keuangan (CFO) sedang bersiap untuk rapat dengan investor institusi besar. Untuk membantu persiapan, tim hubungan investor (IR) meminta alat AI mengumpulkan beberapa informasi latar belakang—tanggal rapat terakhir dengan perusahaan tersebut, prioritas yang disampaikan, jumlah saham yang dimiliki, dan sebagainya.
Dengan yakin, alat itu menyatakan bahwa investor tersebut memiliki 2,5 juta saham. Tak seorang pun mempertanyakannya, dan CFO pun terus mempersiapkan percakapan penting itu tanpa ragu.
Namun, ada masalah: AI mengambil angka tersebut dari dokumen Formulir 13F, yang melaporkan kepemilikan per akhir kuartal sebelumnya. Informasi itu memang akurat saat dilaporkan… tetapi sekarang sudah berusia beberapa bulan. Sementara itu, investor tersebut diam-diam telah menjual 2 juta saham, sehingga kepemilikannya berkurang secara signifikan. Agenda rapat (dan mungkin rapat itu sendiri!) tampaknya sudah tidak relevan lagi.
Apa yang keliru? Dalam skenario ini, AI tidak berhalusinasi atau mengarang angka. AI mengambil informasi yang sah, tetapi gagal memberikan kualifikasi atau menjelaskan keterbatasannya.
Dalam kasus ini, dampaknya mungkin hanya berupa percakapan yang canggung atau peluang yang terlewat. Namun, dalam situasi lain, jawaban serupa yang disampaikan dengan penuh kepastian tetapi tidak memiliki konteks penting dapat menimbulkan risiko yang jauh lebih besar.
Model yang Lebih Baik Belum Tentu Menjadi Jawaban
Model fondasi terus menjadi semakin baik. Lantas, mengapa jawaban yang disampaikan dengan yakin tetapi keliru tampaknya semakin sering muncul—masalah yang dihadapi perusahaan di berbagai industri?
Pertama-tama, AI generatif (GenAI) kini telah digunakan secara luas. Menurut laporan McKinsey Kondisi AI pada 2026, hampir 9 dari 10 profesional bisnis mengatakan bahwa organisasi mereka secara rutin menggunakan AI setidaknya dalam satu fungsi bisnis.
Ketika organisasi beranjak dari tahap eksperimen—dan semakin mengandalkan AI untuk tugas serta keputusan bisnis sehari-hari—mereka juga mulai menghadapi keterbatasan pengetahuan dan pemahaman alat-alat ini.
Sebuah survei industri terbaru menunjukkan penyebab yang kerap mendasarinya: dalam enam bulan terakhir saja, hampir 6 dari 10 bisnis (57%) menelusuri jawaban agen AI yang disampaikan dengan yakin tetapi keliru ke konteks bisnis yang hilang atau tidak lengkap.
Dengan begitu banyak data yang tersedia bagi AI, hal ini mungkin mengejutkan. Namun, ada perbedaan penting yang perlu dipahami: Konteks tidak sama dengan data.
Apa Itu Konteks—dan Apa yang Bukan
Konteks dapat mencakup pengetahuan kelembagaan, pengecualian terhadap aturan, hubungan, proses, serta ekspektasi mengenai cara kerja diselesaikan—nuansa yang sering kali khas bagi masing-masing perusahaan.
Dalam pekerjaan saya bersama tim hubungan investor, saya melihat betapa pentingnya perbedaan-perbedaan ini. Berikut beberapa contoh yang sekilas tampak sederhana:
- Kalender fiskal: Kuartal pertama suatu perusahaan mungkin bertepatan dengan tahun kalender, sementara kuartal pertama perusahaan lain dimulai pada September. Tanpa konteks tersebut, agen AI dapat membandingkan hasil dari periode pelaporan yang keliru.
- Metrik keuangan: Sebuah organisasi mungkin melaporkan laba per saham menurut standar GAAP maupun non-GAAP. Agen yang tidak memahami angka mana yang relevan untuk dikutip (dan kapan) dapat memberikan gambaran yang keliru tentang kinerja bisnis.
- Narasi perusahaan: Pesan yang disampaikan perusahaan berkembang seiring waktu, mencerminkan keputusan yang disengaja tentang hal-hal yang perlu ditekankan dan dihilangkan. Tanpa memahami sejarah dan alasan di baliknya, agen AI dapat menghasilkan konten yang justru merusak narasi yang telah disusun dengan cermat.
Mengingat semua ini, tidak mengherankan jika model dasar yang sama dapat memberikan hasil yang sangat berbeda di perusahaan yang berbeda, bergantung pada konteks dan pengetahuan khusus yang tersedia baginya.
AI yang dirancang khusus untuk industri tertentu (atau AI vertikal) dapat membantu menjembatani sebagian kesenjangan ini dengan mengenali pengetahuan khusus, alur kerja, dan nuansa di sektor tertentu. Namun, bahkan teknologi paling canggih pun tidak dapat menangkap seluruh pengetahuan suatu organisasi. Karena itu, manusia juga tetap memiliki peran.
Hal-Hal tentang Bisnis Anda yang Tidak Diketahui AI
Namun, manusia tidak selamanya bertahan di perusahaan. Bayangkan apa yang terjadi ketika seorang pejabat hubungan investor (IRO) berpengalaman meninggalkan perusahaannya setelah, misalnya, lima tahun. Selama bekerja, ia mungkin telah mengidentifikasi dan menyasar calon investor, menganalisis aktivitas pemegang saham, membina hubungan, mempersiapkan laporan kinerja, menyiapkan para eksekutif… dan melakukan banyak hal lainnya.
Perusahaan tetap menyimpan naskah laporan kinerja, presentasi, dan berkas lainnya. Namun, bagaimana dengan pengetahuan kelembagaan yang mendasarinya? Banyak pengetahuan itu ikut terbawa saat mereka pergi, terutama jika mempertimbangkan bahwa hampir 8 dari 10 IRO (78%) belum memiliki pengganti yang ditunjuk untuk jabatan mereka.
Itulah sebabnya organisasi perlu berupaya melestarikan pengetahuan dan pemahaman dengan cara yang dapat digunakan oleh sistem AI. Menghubungkan agen AI ke drive bersama saja sering kali tidak cukup.
Memiliki cara untuk mencatat pengetahuan dan alur kerja penting secara sistematis—seperti alasan di balik keputusan penting, riwayat hubungan, dan informasi penting lainnya yang tidak pernah dituangkan dalam dokumen resmi—merupakan hal penting bagi perusahaan di berbagai industri.
Namun, membangun basis pengetahuan semacam itu membutuhkan keterlibatan manusia, baik untuk mencatat informasi maupun menerapkan pertimbangan dalam memanfaatkannya. AI dapat membantu menata pengetahuan, tetapi karyawanlah yang memberikan konteks penting yang sering kali luput dari teknologi.
Di Lingkungan dengan Risiko Tinggi, Kesenjangan Konteks Bisa Berakibat Serius
Kita telah membahas apa yang terjadi ketika AI memberikan jawaban yang salah. Namun, terkadang agen AI dapat mengambil informasi yang benar—akurat, terkini, dan relevan—tetapi tetap menimbulkan masalah karena membagikannya dalam situasi yang tidak tepat.
Kesalahan seperti itu sangat merugikan, terutama di industri yang regulasinya ketat.
Misalnya, dalam hubungan dengan investor, membagikan informasi material nonpublik (MNPI), seperti hasil keuangan yang belum dirilis, kepada analis atau investor dapat melanggar Regulation Fair Disclosure (Reg FD) dari SEC AS—yang berpotensi mengakibatkan sanksi finansial dan kerusakan reputasi.
Industri lain, seperti layanan kesehatan, jasa keuangan, dan jasa hukum, menghadapi risiko regulasi serupa. Hal ini menegaskan perlunya mekanisme pengaman ketika agen AI memiliki akses ke informasi sensitif.
Hal ini juga menunjukkan mengapa manusia tetap berperan penting—sebagai bagian esensial dalam meninjau dan menyetujui informasi yang disampaikan. Perusahaan dapat mempertimbangkan untuk menyesuaikan tingkat peninjauan oleh manusia dengan tingkat risikonya, sehingga berbagai jenis alur kerja AI dapat beroperasi dengan tingkat otonomi yang berbeda.
Tiga Pertanyaan Sebelum Memperluas Penggunaan Agen AI
Kita mungkin pernah menghadapi situasi, baik di tempat kerja maupun dalam kehidupan sehari-hari, ketika kita tidak tahu hal apa yang belum kita ketahui. Terkadang, dampaknya tidak berarti; di lain waktu, dampaknya bisa lebih serius.
Dengan begitu banyaknya data yang tersedia bagi AI saat ini, model AI mengetahui jauh lebih banyak… tetapi tetap perlu “angkat bicara” ketika ada kekurangan informasi. Karena itu, saat perusahaan memanfaatkan AI untuk menangani prioritas dan alur kerja yang lebih strategis, penting untuk mengajukan pertanyaan berikut sebelum memperluas penggunaannya:
- Dapatkah agen kami menunjukkan sumber jawabannya—dan kapan informasi tersebut terakhir diperbarui? Dapatkah agen memberikan informasi ini tanpa diminta?
- Apakah agen memiliki konteks bisnis yang diperlukan untuk menafsirkan dan menanggapi permintaan? Apakah agen akan menjelaskan keterbatasannya?
- Apakah kita tahu kapan manusia perlu turun tangan untuk meninjau dan memberikan persetujuan? Dalam situasi apa hal itu akan terjadi, dan bagaimana peninjauan akan dipicu?
Solusinya Bukan Menghindari AI
Saya ingin menegaskan: saya sangat optimistis terhadap AI. Saya menggunakannya setiap hari dalam pekerjaan, melihat manfaatnya saat ini maupun di masa mendatang, dan berpendapat bahwa—dalam banyak hal—kita baru menggarap sebagian kecil dari potensi AI. Saya yakin perusahaan yang menghindari AI, serta perusahaan yang gagal menerapkannya secara terencana dan efektif, benar-benar berisiko tertinggal.
Namun, mengadopsi AI bukan berarti memberikan akses ke data perusahaan kepada model serbaguna lalu membiarkannya bekerja tanpa kendali.
Saat ini, sejauh yang saya pahami, AI yang sepenuhnya otonom tidak cocok untuk setiap tugas atau keputusan bisnis. Organisasi perlu memahami di mana AI dapat bekerja secara mandiri, di mana AI membutuhkan konteks tambahan, dan di mana pertimbangan manusia mutlak diperlukan.
Jadi, sebelum bertanya apa yang diketahui agen AI, tanyakan apa yang tidak diketahuinya. Jawabannya akan menentukan cara Anda menerapkannya, hal-hal yang dapat Anda percayakan kepadanya, dan cara mempersiapkannya agar berhasil.












