Polusi AI dalam Hasil Pencarian Risiko ‘Keruntuhan Pencarian’

Seiring polusi konten AI di web, vektor serangan baru terbuka di medan pertempuran konsensus budaya.

Penelitian yang dipimpin oleh perusahaan pencarian Korea berargumen bahwa ketika halaman yang dihasilkan AI memasuki hasil pencarian, mereka melemahkan stabilitas pipa pencarian dan peringkat, serta melemahkan sistem – seperti Retrieval-Augmented Generation (RAG) – yang bergantung pada peringkat tersebut untuk menentukan informasi apa yang disajikan dan dipercaya, sehingga meningkatkan risiko bahwa materi yang menyesatkan atau tidak akurat akan dianggap sebagai otoritatif.

Istilah yang diciptakan untuk sindrom ini oleh peneliti adalah Keruntuhan Pencarian, yang berbeda dari ancaman yang sudah diketahui dari keruntuhan model (di mana AI yang dilatih pada outputnya sendiri menjadi semakin buruk).

Dalam skenario Keruntuhan Pencarian, konten yang dihasilkan AI secara progresif mendominasi hasil pencarian mesin, sehingga bahkan ketika jawaban tetap akurat secara superficial, basis bukti yang mendasarinya akan menjadi terpisah dari sumber manusia asli. Namun, data “tanpa akar” ini tampaknya akan mencapai posisi tinggi dalam hasil pencarian*:

‘Dengan proliferasi teks yang dihasilkan AI, tantangan dalam atribusi dan kualitas data pra-pelatihan telah meningkat. Tidak seperti spam kata kunci tradisional spam, konten sintetis modern adalah koheren secara semantik, memungkinkan untuk menyatu ke dalam sistem peringkat dan menyebar melalui pipa sebagai bukti otoritatif.’

Makalah tersebut menyatakan bahwa ini akan menciptakan lingkungan yang “rapuh secara struktural” di mana sinyal peringkat mendukung halaman yang dihasilkan AI dan dioptimalkan SEO, menggantikan sumber yang ditulis manusia dari waktu ke waktu dengan cara yang tidak jelas, yaitu tanpa memicu penurunan kualitas jawaban yang jelas:

‘[Pertumbuhan] konten yang dihasilkan AI di Web menyajikan risiko struktural bagi pencarian informasi, karena mesin pencari dan sistem Retrieval-Augmented Generation (RAG) semakin mengonsumsi bukti yang dihasilkan oleh Model Bahasa Besar (LLM).

‘Kami menggambarkan mode kegagalan tingkat ekosistem ini sebagai Keruntuhan Pencarian, proses dua tahap di mana (1) konten yang dihasilkan AI mendominasi hasil pencarian, mengikis keanekaragaman sumber, dan (2) konten berkualitas rendah atau berbahaya meresap ke dalam pipa pencarian.’

Peneliti tersebut berpendapat bahwa sekali fase “dominasi” terbentuk, pipa pencarian yang sama menjadi lebih rentan terhadap polusi yang disengaja, karena halaman yang berbahaya dapat mengeksploitasi mekanisme optimasi yang sama untuk mendapatkan visibilitas*:

‘Dengan membangun kerangka Keruntuhan Pencarian, pekerjaan ini meletakkan dasar untuk memahami bagaimana konten sintetis mengubah pencarian informasi. Untuk memitigasi risiko ini, kami mengusulkan peralihan ke strategi Peringkat Defensif yang secara bersamaan mengoptimalkan relevansi, faktualitas, dan provenansi.’

Keruntuhan Pencarian secara nyata akan memperburuk keruntuhan model, karena menambahkan lapisan niat jahat pada “efek fotokopi” entropi, di mana AI semakin memakan output yang dihasilkan AI. Selain mempengaruhi kesepakatan yang tampak tentang “kebenaran” dalam hasil pencarian waktu nyata, ketidakakuratan dan serangan dapat kemudian diabadikan dalam LLM yang dilatih sebagai sumber otoritatif.

Pekerjaan baru ini berjudul Keruntuhan Pencarian Ketika AI Mencemari Web, dan berasal dari tiga peneliti di Naver Corporation.

Metode

Untuk menguji bagaimana konten yang dihasilkan AI menyebar melalui sistem pencarian, peneliti tersebut secara acak mengambil 1000 pasangan pertanyaan/jawaban dari dataset dan benchmark MS MARCO, yang terdiri dari pertanyaan domain terbuka yang dipasangkan dengan jawaban referensi yang divalidasi oleh manusia. Ini digunakan baik untuk memulai pencarian dan untuk mengevaluasi kebenaran faktual dari respons yang dihasilkan.

Untuk setiap pertanyaan MS MARCO dalam tes, sepuluh dokumen web diambil dari Google Search, berdasarkan hasil SEO teratas untuk setiap istilah, akhirnya menghasilkan kumpulan 10.000 dokumen.

Kebenaran faktual dokumen tersebut dinilai dengan membandingkan setiap dokumen dengan kebenaran dasar MS MARCO, menggunakan GPT-5 Mini sebagai hakim.

Simulasi Pertanian Konten

Untuk mensimulasikan tingkat kualitas (dari artikel normal, non-berbahaya) yang terkait dengan pertanian konten, penulis menggunakan model GPT-5 Nano OpenAI yang ekonomis untuk menghasilkan artikel sintetis baru, karena ini adalah tingkat AI yang “terjangkau” yang kemungkinan digunakan oleh pabrik konten. GPT-5 Mini, yang digunakan untuk menilai output, adalah model yang sedikit lebih mampu.

Sebaliknya, untuk mensimulasikan posting berbahaya (yaitu konten yang dirancang untuk menyebarkan informasi yang salah atau yang lainnya yang mengandung informasi yang salah), tidak ada referensi dunia nyata yang digunakan. Sebaliknya, draf pertama sampel dibuat dengan generator clickbait/SEO konvensional, dan kemudian diberikan kepada GPT-5 Nano, yang ditugaskan untuk menggantikan sejumlah fakta dengan alternatif yang masuk akal tetapi tidak benar. GPT-5 Nano juga melakukan re-pengurutan semantik untuk tujuan konteks eksperimental.

Untuk mensimulasikan kejenuhan AI dari waktu ke waktu, proses pencemaran 20 putaran dijalankan, di mana satu dokumen sintetis ditambahkan per pertanyaan ke set dokumen asli yang tetap, meningkatkan bagian AI dari 0% menjadi 66,7%.

Untuk kumpulan gaya SEO, generator diprompt untuk ‘bertindak sebagai spesialis SEO’, dan untuk mengintegrasikan kata kunci TF-IDF tinggi dari dokumen asli untuk meningkatkan kemungkinan pencarian.

Untuk kumpulan berbahaya, prompt dirancang untuk mempertahankan prosa yang alami dan natural sambil mengubah entitas yang dinamai dan detail numerik, menciptakan dokumen yang tidak akan memicu filter statistik, sambil secara diam-diam mengikis akurasi faktual.

Metrik

Tiga metrik diadopsi untuk eksperimen: Tingkat Pencemaran Kumpulan (PCR), untuk menentukan seberapa banyak kumpulan dokumen secara keseluruhan yang dihasilkan AI; Tingkat Pencemaran Paparan (ECR), untuk mengukur seberapa banyak dari hasil pencarian sepuluh besar berasal dari sumber AI (menunjukkan apa yang sebenarnya memasuki pipa pencarian); dan Tingkat Pencemaran Kutipan (CCR), untuk mencatat seberapa banyak bukti yang dikutip dalam jawaban akhir yang sintetis.

Untuk memeriksa dampak praktis, baik kualitas sumber yang diperoleh dan integritas jawaban akhir diuji. Presisi@10 (P@10) menangkap seberapa banyak dari sepuluh hasil teratas yang sebenarnya benar ketika diperiksa melawan kebenaran dasar MS MARCO; dan Akurasi Jawaban (AA) mengukur apakah respons yang dihasilkan sesuai dengan jawaban referensi yang sama, dengan GPT-5 Mini digunakan untuk menentukan apakah makna konsisten.

Uji

Awalnya, penulis menguji metode mereka melawan kumpulan dokumen asli yang diekstrak dari SERPS, yaitu sebelum mereka digunakan sebagai bahan untuk menghasilkan data sintetis, dan mereka mencatat bahwa peringkat LLM mereka mencapai ‘kualitas pencarian yang kuat’, mengungguli BM25 Ranker baseline.

Uji skenario pertama, yang disebut Dominasi dan Homogenisasi, adalah pemeriksaan cara dokumen sintetis yang dioptimalkan SEO mempengaruhi hasil pencarian:

Kiri: kurva pencemaran untuk Skenario 1 di bawah BM25 dan LLM ranker menunjukkan Tingkat Pencemaran Kumpulan (PCR) meningkat dengan setiap putaran, dengan Tingkat Pencemaran Paparan (ECR) dan Tingkat Pencemaran Kutipan (CCR) meningkat lebih curam karena dokumen sintetis memadati hasil teratas; Akurasi Jawaban (AA) tetap stabil. Kanan: tabel yang sesuai melaporkan kemajuan numerik yang sama di seluruh putaran 0, 5, 10, dan 20, merinci PCR, ECR, CCR, dan AA untuk kedua peringkat.

Ketika lebih banyak halaman yang dihasilkan AI ditambahkan ke lingkungan uji, mereka mulai mendominasi hasil pencarian teratas lebih cepat dari yang diharapkan. Ketika konten AI membentuk 50% dari semua dokumen yang tersedia, lebih dari 68% dari hasil teratas BM25 sudah dihasilkan AI; dan ketika bagian materi AI naik menjadi 67%, lebih dari 80% dari hasil teratasnya berasal dari sumber AI.

Peringkat LLM menunjukkan kecenderungan yang lebih kuat dalam arah ini, dengan sekitar 76% dari hasil teratasnya berasal dari halaman yang dihasilkan AI, ketika halaman tersebut membentuk hanya setengah dari kumpulan secara keseluruhan – dan terus mengandalkan mereka lebih berat daripada BM25, karena kehadiran mereka meningkat. Penulis mengomentari:

‘Polanya menunjukkan bahwa konten yang dioptimalkan SEO secara tidak proporsional mengaktifkan sinyal peringkat, menyebabkan kedua model berkumpul cepat ke arah bukti yang didominasi sintetis.’

Mengenai ketegangan antara kestabilan faktual dan keruntuhan keanekaragaman, makalah tersebut mencatat bahwa meskipun pergeseran dramatis yang ditunjukkan dalam bukti yang diperoleh, Akurasi Jawaban tetap stabil, atau bahkan meningkat:

‘Karena dokumen SEO berkualitas tinggi dan sejalan topik, pencarian tampak sehat ketika diukur hanya dengan akurasi. Namun, hampir semua bukti yang diperoleh adalah sintetis, menunjukkan keruntuhan keanekaragaman sumber yang parah.

‘Pergeseran ini, yang ditandai dengan akurasi yang stabil meskipun keanekaragaman yang runtuh, mengungkapkan pipa pencarian yang rapuh secara struktural: sistem berfungsi dengan baik dalam metrik agregat sementara kehilangan landasan dalam konten yang ditulis manusia.

‘Secara keseluruhan, konten sintetis berkualitas tinggi tidak hanya terintegrasi secara mulus ke dalam pipa pencarian tetapi juga menghancurkan sinyal peringkat, menyebabkan kedua BM25 dan LLM Ranker bergantung hampir secara eksklusif pada bukti yang dihasilkan AI.’

Skenario kedua disebut Pencemaran dan Korupsi Sistem, dan mengungkapkan perbedaan yang mencolok dalam perilaku peringkat, dibandingkan dengan skenario pertama:

Kiri: hasil skenario 2 menunjukkan apa yang terjadi ketika halaman yang sengaja menyesatkan ditambahkan ke sistem. Ketika lebih banyak halaman tersebut dicampur, BM25 mulai meletakkan beberapa di antaranya dalam hasil teratasnya – meskipun hanya sampai sekitar seperempat di titik tengah, dan hampir tidak ada yang benar-benar digunakan dalam jawaban akhir. Kualitas jawaban secara keseluruhan sedikit menurun. Kanan: tabel yang sesuai menyajikan pola yang sama dalam angka untuk kedua peringkat BM25 dan LLM, membuat jelas bahwa BM25 membiarkan beberapa halaman menyesatkan masuk ke dalam hasil teratasnya, sementara peringkat LLM sebagian besar menyaringnya.

Peringkat LLM sebagian besar dapat mengenali dan menyaring halaman yang menyesatkan, menjaga bagian konten tersebut dalam hasil teratasnya tetap dekat dengan nol; tetapi BM25 membiarkan sebagian halaman berbahaya masuk ke dalam hasil teratasnya, dengan sekitar 19% hingga 24% muncul di sana pada tahap tertentu uji.

Meskipun peringkat LLM terbukti lebih tahan dalam eksperimen ini, penulis mencatat bahwa sistem peringkat berbasis LLM lebih menuntut secara komputasi, yang dapat membuat penerapan skala besar menjadi tidak praktis. Meskipun BM25 lebih sederhana dan lebih murah untuk dijalankan, sistem pencarian yang banyak digunakan yang memanfaatkan BM25 mungkin, menurut makalah tersebut, lebih rentan terhadap konten yang dimanipulasi daripada yang tampaknya.

Penulis menggambarkannya sebagai ‘risiko struktural yang signifikan’.

Penulis mencatat bahwa dalam hal kontras antara kestabilan yang tampak dan degradasi yang mendasarinya, penulis mencatat bahwa dalam konteks ini, AA tetap relatif stabil, karena hakim LLM menekan korupsi kutipan, dan dengan demikian bertindak sebagai semacam firewall terakhir melawan konten berbahaya.

Namun, Akurasi Jawaban dalam aspek ini secara konsisten lebih rendah daripada dalam skenario pertama:

‘Sementara Skenario 1 melihat AA dipertahankan atau bahkan ditingkatkan (mencapai hingga 70% dengan LLM Ranker) karena kualitas konten SEO yang tinggi, Skenario 2 menunjukkan penurunan kualitas jawaban relatif terhadap pengaturan SEO […]

‘Ini memastikan bahwa terlepas dari peringkat, polusi berbahaya dalam tahap pencarian negatif mempengaruhi kinerja ujung-ke-ujung, dengan degradasi yang paling parah ketika bergantung pada retriever ringan.’

Penulis menyimpulkan bahwa re-pengurutan pada tahap pencarian terlalu lambat, dan bahwa ‘filter tahap ingestion’ harus dipertimbangkan, mengusulkan bahwa ‘graf provenansi’ dan ‘filter kebingungan’ dapat digunakan.

Mereka menutup dengan menekankan bahwa ancaman inti adalah konten dengan kelancaran tinggi tetapi kepadatan atribusi rendah, secara esensial terlepas dari rantai provenansi yang memuaskan, dan mengamati:

‘[Ketika] AI Agensi mulai menerbitkan konten secara otonom, mekanisme pertahanan harus berkembang dari analisis teks statis ke sidik jari perilaku, mengidentifikasi dan mengisolasi agen yang secara sistematis menghasilkan aliran entropi tinggi, faktualitas rendah.’

Kesimpulan

Pembentukan metodologi baru atau ditingkatkan untuk provenansi informasi mungkin merupakan salah satu kebutuhan paling kritis untuk 2026. Skema kredential yang kompleks seperti C2PA yang gagal, yang memerlukan perubahan infrastruktur dari penerbit, dan pendidikan publik tentang apa yang mereka maksud dan bagaimana atau mengapa menggunakannya, tampaknya ditakdirkan untuk gagal.

Sesuatu yang lebih sederhana diperlukan, dan itu belum ditemukan. Ini adalah misi yang mendesak, karena era saat ini mungkin merupakan titik balik paling kritis untuk konsensus publik tentang kebenaran sejak penemuan fotografi pada 1822, dan munculnya propaganda pada dekade sebelum Perang Dunia II.

* Konversi saya (selektif, jika perlu) dari kutipan inline penulis ke tautan.

Publikasi pertama pada hari Kamis, 19 Februari 2026