Jika AI Anda Mengalami Halusinasi, Jangan Salahkan AI

Halusinasi AI – jawaban yang terdengar meyakinkan tetapi palsu – menarik banyak perhatian media, seperti artikel New York Times baru-baru ini, AI Semakin Kuat, Tetapi Halusinasinya Semakin Parah. Halusinasi adalah bahaya nyata ketika Anda berhadapan dengan chatbot konsumen. Dalam konteks aplikasi bisnis AI, ini adalah masalah yang lebih serius. Untungnya, sebagai pemimpin teknologi bisnis, saya memiliki lebih banyak kontrol atas hal ini. Saya dapat memastikan bahwa agen memiliki data yang tepat untuk menghasilkan jawaban yang bermakna.

Karena itu adalah masalah nyata. Dalam bisnis, tidak ada alasan untuk halusinasi AI. Berhenti menyalahkan AI. Salahkan diri Anda sendiri karena tidak menggunakan AI dengan benar.

Ketika alat AI generatif mengalami halusinasi, mereka melakukan apa yang mereka desain untuk lakukan – memberikan jawaban terbaik yang mereka bisa berdasarkan data yang tersedia. Ketika mereka membuat sesuatu, menghasilkan jawaban yang tidak berdasar pada kenyataan, itu karena mereka kekurangan data yang relevan, tidak dapat menemukannya, atau tidak memahami pertanyaan. Ya, model baru seperti o3 dan o4-mini dari OpenAI mengalami halusinasi lebih banyak, bertindak lebih “kreatif” ketika mereka tidak memiliki jawaban yang baik untuk pertanyaan yang diajukan kepada mereka. Ya, alat yang lebih kuat dapat mengalami halusinasi lebih banyak – tetapi mereka juga dapat menghasilkan hasil yang lebih kuat dan berharga jika kita mengatur mereka untuk sukses.

Jika Anda tidak ingin AI Anda mengalami halusinasi, jangan biarkan mereka kekurangan data. Berikan AI data terbaik dan paling relevan untuk masalah yang ingin Anda pecahkan, dan mereka tidak akan tergoda untuk menyimpang.

Even then, ketika bekerja dengan alat AI apa pun, saya sarankan untuk tetap menjaga kemampuan berpikir kritis Anda. Hasil yang dihasilkan oleh agen AI dapat produktif dan menyenangkan, tetapi tujuannya bukan untuk mematikan otak Anda dan membiarkan perangkat lunak melakukan semua pemikiran untuk Anda. Teruslah bertanya. Ketika agen AI memberikan jawaban, tanyakan jawaban itu untuk memastikan bahwa itu masuk akal dan didukung oleh data. Jika demikian, itu harus menjadi tanda yang menggembirakan bahwa itu layak untuk Anda tanyakan pertanyaan lanjutan.

Semakin banyak Anda bertanya, semakin baik wawasan yang Anda dapatkan.

Mengapa Halusinasi Terjadi

Ini bukanlah misteri. AI tidak mencoba untuk berbohong kepada Anda. Setiap model bahasa besar (LLM) AI pada dasarnya memprediksi kata atau angka berikutnya berdasarkan probabilitas.

Pada tingkat yang tinggi, apa yang terjadi di sini adalah bahwa LLM menghubungkan kalimat dan paragraf satu kata demi satu, memprediksi kata berikutnya yang harus terjadi dalam kalimat berdasarkan miliaran contoh lain dalam data pelatihannya. Leluhur LLM (selain Clippy) adalah prompt otomatis untuk pesan teks dan kode komputer, alat terjemahan bahasa manusia, dan sistem linguistik probabilistik lainnya. Dengan peningkatan kekuatan komputasi brute, plus pelatihan pada volume data skala internet, sistem ini menjadi “cerdas” sehingga mereka dapat melakukan percakapan penuh melalui chat, seperti yang dipelajari dunia dengan diperkenalkannya ChatGPT.

Pengkritik AI suka menunjukkan bahwa ini tidak sama dengan “kecerdasan” yang sebenarnya, hanya perangkat lunak yang dapat menyuling dan memuntahkan kecerdasan manusia yang telah diberikan ke dalamnya. Tanyakan untuk merangkum data dalam laporan tertulis, dan itu meniru cara penulis lain merangkum data serupa.

Hal itu tampaknya seperti argumen akademis selama data benar dan analisisnya berguna.

Apa yang terjadi jika AI tidak memiliki data? Ini mengisi celah. Terkadang itu lucu. Terkadang itu benar-benar berantakan.

Ketika membangun agen AI, ini adalah risiko 10 kali lipat. Agen seharusnya memberikan wawasan yang dapat diambil, tetapi mereka membuat lebih banyak keputusan di sepanjang jalan. Mereka melaksanakan tugas multi-langkah, di mana hasil langkah 1 mempengaruhi langkah 2, 3, 4, 5, … 10 … 20. Jika hasil langkah 1 salah, kesalahan akan diperkuat, membuat output pada langkah 20 menjadi lebih buruk. Terutama, karena agen dapat membuat keputusan dan melewati langkah.

Jika dilakukan dengan benar, agen mencapai lebih banyak untuk bisnis yang menggunakannya. Namun, sebagai manajer produk AI, kita harus mengakui risiko yang lebih besar yang datang bersama dengan imbalan yang lebih besar.

Apa yang kita lakukan adalah melihat risiko dan menanganinya. Kita tidak hanya membangun robot yang mewah; kita memastikan bahwa itu berjalan pada data yang tepat. Berikut adalah apa yang saya pikir kita lakukan dengan benar:

• Mem bangun agen untuk bertanya pertanyaan yang tepat dan memverifikasi bahwa ia memiliki data yang tepat. Pastikan proses input data awal agen benar-benar lebih deterministik, kurang “kreatif”. Anda ingin agen mengatakan ketika tidak memiliki data yang tepat dan tidak melanjutkan ke langkah berikutnya, daripada membuat data.
• Membangun playbook untuk agen Anda – pastikan itu tidak mengarang rencana baru setiap saat tetapi memiliki pendekatan semi-terstruktur. Struktur dan konteks sangat penting pada tahap pengumpulan dan analisis data. Anda dapat membiarkan agen lebih “kreatif” ketika memiliki fakta dan siap untuk menulis ringkasan, tetapi pertama-tama, dapatkan fakta yang benar.
• Mem bangun alat berkualitas tinggi untuk mengekstrak data. Ini harus lebih dari sekadar panggilan API. Ambil waktu untuk menulis kode (orang masih melakukannya) yang membuat jumlah dan variasi data yang akan dikumpulkan, membangun pemeriksaan kualitas ke dalam proses.
• Mem bangun agen untuk menunjukkan pekerjaannya. Agen harus mengutip sumber dan menautkan ke tempat pengguna dapat memverifikasi data, dari sumber asli, dan menjelajahinya lebih lanjut. Tidak ada tipu muslihat yang diizinkan!
• Guardrails: Pikirkan apa yang bisa salah, dan bangun perlindungan terhadap kesalahan yang tidak dapat Anda izinkan. Dalam kasus kita, itu berarti bahwa ketika agen yang ditugaskan untuk menganalisis pasar tidak memiliki data – yang saya maksud adalah data Similarweb kita, bukan sumber data acak yang ditarik dari web – memastikan bahwa itu tidak membuat sesuatu adalah garis pertahanan yang penting. Lebih baik bagi agen untuk tidak dapat menjawab daripada memberikan jawaban yang salah atau menyesatkan.

Kita telah mengintegrasikan prinsip-prinsip ini ke dalam rilis terbaru dari tiga agen baru kita, dengan lebih banyak yang akan mengikuti. Misalnya, Agen Persiapan Pertemuan AI kita untuk penjual tidak hanya meminta nama perusahaan target tetapi juga detail tentang tujuan pertemuan dan siapa yang hadir, mempersiapkannya untuk memberikan jawaban yang lebih baik. Ini tidak perlu menebak karena menggunakan kekayaan data perusahaan, data digital, dan profil eksekutif untuk memandu rekomendasinya.

Apakah agen kita sempurna? Tidak. Tidak ada yang membuat AI yang sempurna, bahkan perusahaan terbesar di dunia. Tetapi menghadapi masalah itu jauh lebih baik daripada mengabaikannya.

Ingin memiliki halusinasi yang lebih sedikit? Berikan AI Anda sepotong data berkualitas tinggi.

Jika itu mengalami halusinasi, mungkin itu bukan AI yang perlu diperbaiki. Mungkin itu adalah pendekatan Anda untuk menggunakan kemampuan baru yang kuat ini tanpa memasukkan waktu dan upaya untuk melakukannya dengan benar.