Pemimpin pemikiran

Konten AI Bermutu Rendah Mulai Merambah Perusahaan

Chris Ackerson
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaAlat AI umum berisiko membanjiri perusahaan dengan keluaran berkualitas rendah dari…
Lihat selengkapnya
  • Alat AI umum berisiko membanjiri perusahaan dengan keluaran berkualitas rendah dari data yang tidak terverifikasi.
  • AI spesifik domain pada data yang dikurasi memberikan wawasan setingkat keputusan yang tidak dapat ditandingi oleh model umum.
  • AI sampah menciptakan putaran umpan balik di mana masukan dan keluaran berkualitas rendah merusak pengambilan keputusan perusahaan.

AI menghadapi masalah konten bermutu rendah yang diproduksi massal, dikenal sebagai “AI slop”. Sebagian orang menemukannya saat menjelajahi media sosial setiap hari, dalam bentuk video buatan AI atau, jika menyusuri internet cukup jauh, sebagai drama ala acara realitas di antara buah-buahan buatan AI yang dipersonifikasikan sebagai manusia. Contoh-contoh ini mungkin sekadar hiburan yang tidak berbahaya, tetapi di mana kita menetapkan batas konten buatan AI dalam lingkungan yang lebih serius dan menghindari risiko, seperti perusahaan? 

Di perusahaan, AI slop muncul sebagai analisis yang tampak rapi dan meyakinkan, tetapi bertumpu pada data yang dangkal, tidak dapat diakses, atau tidak akurat. Perusahaan mulai merasakan biayanya. Data AlphaSense mencerminkan perubahan ini: penyebutan AI slop dalam berita dan liputan media naik 20% dari kuartal IV 2025 ke kuartal I 2026, dibandingkan kuartal sebelumnya.

 Banyak pengguna perangkat AI serbaguna menganggap ketiadaan akses ke sumber yang aman dan bermutu tinggi sebagai kelemahan. Tidak semua keputusan dapat atau seharusnya didasarkan pada sumber web. Ketika keputusan penting memerlukan informasi yang cukup andal untuk mendasarinya, tampak perbedaan jelas antara perangkat yang menghasilkan jawaban dangkal dan perangkat yang menyediakan wawasan khusus suatu bidang.

 Masalahnya, lonjakan konten buatan AI mendorong siklus umpan balik besar dengan masukan bermutu rendah dan keluaran yang mutunya lebih rendah lagi. Organisasi yang memutus siklus ini dan berfokus pada masukan tepercaya yang sesuai bidangnya akan menentukan tahap berikutnya bagi AI perusahaan, dengan membedakan wawasan nyata dari derau buatan.

Keterbatasan terbesar AI perusahaan adalah data yang diberikan kepadanya

Perangkat AI serbaguna merupakan sistem yang mampu memahami, belajar, dan bernalar di berbagai bidang. Perangkat ini berfokus pada kemampuan dasar seperti penalaran dan pembelajaran, sehingga berguna untuk merampingkan alur kerja dan meningkatkan produktivitas. Namun, data umum yang digunakan untuk melatih model dapat menghasilkan keluaran yang sama umumnya, sehingga memunculkan AI slop saat digunakan dalam skala besar.

 Di industri teknologi, banyak perusahaan kini mengandalkan perangkat AI serbaguna dan model bahasa besar ini untuk beragam alur kerja serta penghematan waktu.

 Perusahaan tidak lagi sekadar menguji model, tetapi mengintegrasikannya ke dalam alur kerja berbasis agen AI. Di dalamnya, sistem AI berinteraksi secara mandiri dengan data perusahaan, API, dan aplikasi eksternal untuk menuntaskan tugas dari awal hingga akhir. Hal ini membatasi perusahaan pada data yang kebenarannya sering sulit atau mustahil dibuktikan, sehingga menghasilkan keluaran tanpa nilai.

 Penggunaan perangkat AI serbaguna menimbulkan sejumlah masalah yang menyumbang pada AI slop di perusahaan:

  • Konten buatan AI sering membanjiri basis pengetahuan internal, sehingga lebih sulit dipercaya dan digunakan.
  • Kesalahan yang terus beredar melalui siklus umpan balik memenuhi konten dengan informasi umum dan tidak relevan.
  • AI merampingkan proses pembuatan, tetapi sekaligus mengurangi pemeriksaan mutu yang biasanya terintegrasi di sepanjang proses.

Sebaliknya, AI khusus bidang mengutamakan kedalaman daripada keluasan, dengan merancang sistem yang memecahkan masalah bernilai tinggi dan terdefinisi sempit dalam bidang tertentu. Alih-alih mengandalkan data pelatihan yang luas dan tersedia untuk umum, perangkat ini menggunakan kumpulan data milik sendiri yang dikurasi dengan cermat. Dengan demikian, keluarannya dapat jauh lebih bermutu dan relevan dengan konteks. Dengan bertumpu pada keahlian bidang, bukan data umum, AI terapan menyediakan wawasan yang memenuhi tuntutan ketepatan dan akuntabilitas perusahaan. Sumber yang transparan, keluaran yang didukung rujukan, serta kemampuan penelitian lebih mendalam memastikan bahwa informasi dapat ditelusuri, divalidasi, dan dipercaya.

 Tingkat ketepatan ini bukan pilihan tambahan bagi perusahaan yang beroperasi dalam skala besar, ketika risiko AI slop dapat berujung pada kesalahan kritis.

Memutus siklus penurunan mutu

Masukan dan keluaran yang buruk dapat memengaruhi jawaban seiring waktu, memperparah masalah AI slop dan menciptakan siklus umpan balik yang merugikan.

 Misalnya, dalam lingkungan yang menggunakan model serbaguna, konten buatan AI telah menciptakan siklus penurunan mutu yang memperkuat dirinya sendiri. Sistem AI sering belajar dari informasi internal yang dapat diakses, termasuk keluaran sebelumnya, serta kerap menyerap dan mengulang kesalahan yang ada. Jika materi tersebut mengandung kesalahan, kesalahan itu kembali beredar dan pola umum memperkuat dirinya sendiri. Sederhananya, jika data pelatihan dasarnya bermutu rendah, keluaran model akan mencerminkan mutu yang sama.

 Pemikiran orisinal juga menurun ketika keterlibatan manusia berkurang. Seiring berjalannya proses, siklus berulang dan mutu keluaran terus menurun secara eksponensial. Perangkat AI sering tidak mengutamakan pemeriksaan keakuratan dan tidak mempertimbangkan pilihan kata dengan cermat saat mengisi kekosongan dalam konten. Akibatnya, AI slop memenuhi konten dengan derau buatan dalam laju yang terus meningkat.

 Tren ini terlihat jelas dalam komunikasi perusahaan besar. Sebuah artikel terbaru di Barron’s menelaah penggunaan pola khas AI “bukan ini, melainkan itu” berdasarkan data AlphaSense. Pola tersebut muncul di begitu banyak saluran komunikasi eksternal perusahaan hingga mengejutkan. Menurut artikel itu, penggunaannya hampir dua kali lipat pada masing-masing tahun 2024 dan 2025.

 Selain komunikasi, risiko AI slop dapat berdampak besar pada berbagai fungsi perusahaan, terutama ketika AI semakin lazim digunakan dalam alur kerja pengambilan keputusan. Jika keputusan penting dipengaruhi informasi yang tidak akurat atau bahkan berulang tanpa perlu, tim tidak dapat dan tidak seharusnya memercayai keluarannya.

 Sistem AI paling efisien menyediakan informasi yang layak menjadi dasar keputusan

 Ketika perusahaan memperluas penggunaan AI dan menilai imbal hasil investasi, kemampuan membedakan wawasan berharga dari AI slop akan menjadi keunggulan kompetitif yang menentukan. Organisasi yang hanya mengandalkan perangkat AI serbaguna tanpa secara aktif memastikan mutu data dan konteks bidangnya berisiko membanjiri kegiatan operasional serta membuang waktu dengan keluaran yang tidak dapat diandalkan.

 AI terapan menawarkan jalan yang lebih aman menuju wawasan lebih mendalam. Namun, organisasi juga harus memadukan perangkat ini dengan pengawasan manusia yang jelas, standar verifikasi, dan penilaian berkelanjutan atas alur kerja serta keluaran untuk mendeteksi AI slop. Tidak ada satu pendekatan yang cocok untuk semua.

 Perusahaan yang melakukannya dengan benar akan mengambil keputusan yang lebih baik dan berdasarkan informasi yang lebih lengkap. Di pasar yang semakin dipengaruhi AI, perbedaan ini sudah menjadi keunggulan kompetitif.

Chris Ackerson menjabat sebagai Wakil Presiden Senior bidang Produk di AlphaSense.AlphaSense adalah teknologi yang mendasari keputusan terpenting dunia bisnis—mulai dari Wall Street hingga ruang rapat direksi di berbagai industri utama. Dipercaya oleh lebih dari 6.500 perusahaan terkemuka—termasuk 88% perusahaan dalam S&P 100, 80% bank global terkemuka, dan seluruh 20 perusahaan farmasi terbesar di dunia—platform pencarian AI dan intelijen pasar kami membantu para pemimpin bisnis bergerak lebih cepat dan lebih yakin dengan menyajikan wawasan yang tepat pada saat yang tepat.