Pemimpin pemikiran
Ketika AI Anda Menciptakan Fakta: Risiko Perusahaan yang Tidak Boleh Diabaikan
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Itu terdengar benar. Itu terlihat benar. Itu salah. Itulah AI Anda pada halusinasi. Masalahnya bukan hanya bahwa model AI generatif saat ini halusinasi. Itu adalah bahwa kita merasa jika kita membangun enough guardrails, fine-tune itu, RAG itu, dan menyerahkan itu dengan cara tertentu, maka kita akan dapat mengadopsinya pada skala Perusahaan.
| Studi | Domain | Tingkat Halusinasi | Temuan Utama |
|---|---|---|---|
| Stanford HAI & RegLab (Jan 2024) | Hukum | 69%–88% | LLM menunjukkan tingkat halusinasi yang tinggi saat merespons kueri hukum, seringkali tidak memiliki kesadaran diri tentang kesalahan mereka dan memperkuat asumsi hukum yang salah. |
| Studi JMIR (2024) | Referensi Akademik | GPT-3.5: 90.6%, GPT-4: 86.6%, Bard: 100% | Referensi yang dihasilkan oleh LLM seringkali tidak relevan, salah, atau tidak didukung oleh literatur yang tersedia. |
| Studi UK tentang Konten yang Dihasilkan AI (Feb 2025) | Keuangan | Tidak spesifik | Konten yang dihasilkan oleh AI meningkatkan risiko bank run, dengan sebagian besar pelanggan bank mempertimbangkan untuk memindahkan uang mereka setelah melihat konten palsu yang dihasilkan oleh AI. |
| Laporan Risiko Global World Economic Forum (2025) | Penilaian Risiko Global | Tidak spesifik | Informasi yang salah dan disinformasi, yang diperkuat oleh AI, menduduki peringkat sebagai risiko global teratas dalam jangka waktu dua tahun. |
| Vectara Hallucination Leaderboard (2025) | Evaluasi Model AI | GPT-4.5-Preview: 1.2%, Google Gemini-2.0-Pro-Exp: 0.8%, Vectara Mockingbird-2-Echo: 0.9% | Mengevaluasi tingkat halusinasi di berbagai LLM, mengungkapkan perbedaan yang signifikan dalam kinerja dan akurasi. |
| Studi Arxiv tentang Halusinasi Faktual (2024) | Penelitian AI | Tidak spesifik | Memperkenalkan HaluEval 2.0 untuk mempelajari dan mendeteksi halusinasi dalam LLM, fokus pada ketidakakuratan faktual. |
Tingkat Halusinasi Mulai dari 0,8% hingga 88%
Ya, itu tergantung pada model, domain, penggunaan, dan konteks, tetapi penyebaran itu seharusnya mengganggu setiap pengambil keputusan perusahaan. Ini bukanlah kesalahan kasus tepi. Mereka sistemik. Bagaimana Anda membuat keputusan yang tepat ketika datang ke adopsi AI di perusahaan Anda? Di mana, bagaimana, seberapa dalam, seberapa luas?
Dan contoh konsekuensi nyata dari hal ini muncul di berita Anda setiap hari. Dewan Stabilitas Keuangan G20 telah mengidentifikasi AI generatif sebagai vektor disinformasi yang dapat menyebabkan krisis pasar, ketidakstabilan politik, dan yang lebih buruk–keruntuhan, berita palsu, dan penipuan. Dalam sebuah cerita yang dilaporkan baru-baru ini, firma hukum Morgan & Morgan mengeluarkan memo darurat kepada semua pengacara: Jangan mengajukan pengajuan yang dihasilkan AI tanpa memeriksa. Hukum palsu adalah “pelanggaran yang dapat dipecat”.
Ini mungkin bukan waktu terbaik untuk bertaruh pada tingkat halusinasi yang cenderung menuju nol dalam waktu dekat. Terutama di industri yang diatur, seperti hukum, ilmu kehidupan, pasar modal, atau di lainnya, di mana biaya kesalahan bisa tinggi, termasuk penerbitan pendidikan tinggi.
Halusinasi Bukan Kesalahan Pembulatan
Ini bukan tentang jawaban yang salah secara teratur. Ini tentang risiko: Reputasi, Hukum, Operasional.
AI generatif bukanlah mesin penalaran. Ini adalah penyelesaian statistik, seekor burung beo stokastik. Ini menyelesaikan prompt Anda dengan cara yang paling mungkin berdasarkan data pelatihan. Bahkan bagian yang terdengar benar adalah tebakan. Kami menyebut bagian yang paling absurd “halusinasi,” tetapi output seluruhnya adalah halusinasi. Yang terlihat bagus. Namun, itu bekerja, secara ajaib baik—sampai itu tidak.
AI sebagai Infrastruktur
Dan yet, itu penting untuk mengatakan bahwa AI akan siap untuk adopsi Perusahaan-luas ketika kita mulai memperlakukannya seperti infrastruktur, dan tidak seperti sihir. Dan di mana diperlukan, itu harus transparan, dapat dijelaskan, dan dapat dilacak. Dan jika tidak, maka cukup sederhana, itu tidak siap untuk adopsi Perusahaan-luas untuk kasus penggunaan tersebut. Jika AI membuat keputusan, itu harus berada di radar Dewan Anda.
Undang-Undang AI Uni Eropa memimpin di sini. Domain risiko tinggi seperti keadilan, kesehatan, dan infrastruktur akan diatur seperti sistem kritis. Dokumentasi, pengujian, dan keterjelasan akan menjadi wajib.
Apa yang Dilakukan Model AI yang Aman Perusahaan
Perusahaan yang berspesialisasi dalam membangun model AI yang aman untuk perusahaan, membuat keputusan sadar untuk membangun AI secara berbeda. Dalam arsitektur AI alternatif mereka, Model Bahasa tidak dilatih pada data, sehingga mereka tidak “terkontaminasi” dengan apa pun yang tidak diinginkan dalam data, seperti bias, pelanggaran IP, atau kecenderungan untuk menebak atau halusinasi.
Model tersebut tidak “menyelesaikan pikiran Anda” — mereka menalar dari konten pengguna. Basis pengetahuan mereka. Dokumen mereka. Data mereka. Jika jawabannya tidak ada di sana, model tersebut mengatakan demikian. Itulah yang membuat model AI tersebut dapat dijelaskan, dapat dilacak, deterministik, dan pilihan yang baik di tempat di mana halusinasi tidak dapat diterima.
5 Langkah untuk Akuntabilitas AI
- Petakan lanskap AI – Di mana AI digunakan di seluruh bisnis Anda? Keputusan apa yang mereka pengaruhi? Berapa premi yang Anda tempatkan pada kemampuan untuk melacak keputusan tersebut kembali ke analisis transparan pada materi sumber yang dapat diandalkan?
- Selaraskan organisasi Anda – Bergantung pada cakupan penerapan AI Anda, atur peran, komite, proses, dan praktik audit yang sama ketat dengan yang untuk risiko keuangan atau keamanan siber.
- Bawa AI ke tingkat risiko Dewan – Jika AI Anda berbicara dengan pelanggan atau regulator, itu milik Anda dalam laporan risiko. Pemerintahan bukanlah pertunjukan sampingan.
- Perlakukan vendor seperti keliabilitas – Jika AI vendor membuat sesuatu, Anda masih memiliki dampaknya. Perluas prinsip Akuntabilitas AI Anda kepada mereka. Tuntut dokumentasi, hak audit, dan SLA untuk keterjelasan dan tingkat halusinasi.
- Latih skeptisisme – Tim Anda harus memperlakukan AI seperti analis junior — berguna, tetapi tidak tak tercela. Rayakan ketika seseorang mengidentifikasi halusinasi. Kepercayaan harus diperoleh.
Masa Depan AI di Perusahaan bukanlah model yang lebih besar. Apa yang dibutuhkan adalah lebih presisi, lebih transparan, lebih percaya, dan lebih akuntabel.
