มลพิษ AI ในผลการค้นหาอาจก่อให้เกิด ‘การล่มสลายของการค้นหา’

เมื่อเนื้อหาที่สร้างโดย AI มลพิษเว็บโลก การโจมตีเวกเตอร์ใหม่จะเปิดในสนามรบของการรับทราบทางวัฒนธรรม

การวิจัยที่นำโดยบริษัทค้นหาของเกาหลีแถลงว่าเมื่อ หน้าที่สร้างโดย AI เข้ามาในผลการค้นหา พวกมันจะทำลายเสถียรภาพของการค้นหาและระบบการจัดอันดับ และทำให้ระบบที่เชื่อถือการจัดอันดับเหล่านั้นเพื่อตัดสินใจว่าข้อมูลใดที่จะถูกนำเสนอและเชื่อถือได้ เช่น ระบบ การสร้างเสริมการค้นหา (RAG) เพิ่มความเสี่ยงที่วัสดุที่ทำให้เข้าใจผิดหรือไม่ถูกต้องจะถูกมองว่าเป็นข้อมูลที่เชื่อถือได้

คำที่ตั้งขึ้นสำหรับอาการนี้โดยนักวิจัยคือ การล่มสลายของการค้นหา ซึ่งแตกต่างจากภัยคุกคามที่ทราบของ การล่มสลายของโมเดล (โดยที่ AI ที่ฝึกฝนจากผลลัพธ์ของตัวเอง กลายเป็นแย่ลงเรื่อยๆ)

ในสถานการณ์การล่มสลายของการค้นหา เนื้อหาที่สร้างโดย AI จะเข้ามาในผลการค้นหาได้มากขึ้นจนถึงขั้นที่แม้ว่าคำตอบจะยังคงถูกต้องในระดับผิวเผิน แต่ฐานหลักฐานของข้อมูลจะถูกตัดขาดจากแหล่งที่มาของมนุษย์

วิธีการ

เพื่อทดสอบว่าเนื้อหาที่สร้างโดย AI จะแพร่กระจายผ่านระบบการค้นหาอย่างไร นักวิจัยได้เลือกตัวอย่าง 1000 คู่คำถามและคำตอบจากชุดข้อมูล MS MARCO และใช้ข้อมูลเหล่านั้นเพื่อประเมินความถูกต้องของคำตอบที่สร้างขึ้น

สำหรับแต่ละคำถามใน MS MARCO ที่ใช้ทดสอบ นักวิจัยได้เรียกเอกสาร 10 หน้าจาก Google Search โดยอาศัยผลลัพธ์ที่มีอันดับสูงสุดของ SEO สำหรับแต่ละคำ และสร้างกลุ่มเอกสารทั้งหมด 10,000 หน้า

ความถูกต้องของข้อเท็จจริงของเอกสารเหล่านั้นได้รับการประเมินโดยการเปรียบเทียบเอกสารแต่ละหน้ากับข้อมูลที่ถูกต้องจาก MS MARCO โดยใช้ GPT-5 Mini เป็นตัวตัดสิน

การจำลองฟาร์มเนื้อหา

เพื่อจำลองระดับคุณภาพ (ของบทความปกติที่ไม่ใช่แบบโจมตี) ที่เกี่ยวข้องกับฟาร์มเนื้อหา นักวิจัยได้ใช้ GPT-5 Nano ของ OpenAI เพื่อสร้างบทความสังเคราะห์ใหม่ๆ เนื่องจากนี่คือระดับ AI ที่มีราคาไม่แพงและน่าจะถูกใช้โดยฟาร์มเนื้อหา GPT-5 Mini ที่ใช้ในการประเมินผลลัพธ์เป็นโมเดลที่มีความสามารถมากกว่าเล็กน้อย

ในทางกลับกัน เพื่อจำลอง โพสต์ที่โจมตี (เช่น เนื้อหาที่ออกแบบมาเพื่อเผยแพร่ข้อมูลที่ไม่ถูกต้องหรือมีข้อมูลที่ไม่ถูกต้อง) ไม่ได้ใช้อ้างอิงจากโลกแห่งความเป็นจริง แต่สร้างต้นฉบับของตัวอย่างขึ้นมาโดยใช้เครื่องมือสร้างเนื้อหาที่ดึงดูดผู้เข้าชม/SEO แล้วส่งต่อไปยัง GPT-5 Nano เพื่อที่จะแทนที่ข้อเท็จจริงบางส่วนด้วยข้อเท็จจริงที่เป็นไปได้แต่ไม่ถูกต้อง GPT-5 Nano ยังทำการเรียงลำดับ语义ใหม่สำหรับบริบทการทดลอง

เพื่อจำลองการอิ่มตัวของ AI ตามเวลา นักวิจัยได้ดำเนินการกระบวนการปนเปื้อน 20 รอบ โดยเพิ่มเอกสารสังเคราะห์หนึ่งหน้าต่อคำถามในกลุ่มเอกสารเดิม 10 หน้า ทำให้สัดส่วนของ AI เพิ่มขึ้นจาก 0% ถึง 66.7%

สำหรับกลุ่มเอกสารที่มีลักษณะ SEO นักวิจัยได้สั่งให้เครื่องมือสร้างเนื้อหา ‘ทำหน้าที่เป็นผู้เชี่ยวชาญด้าน SEO’ และรวม คำหลักความถี่สูง จากเอกสารต้นฉบับเพื่อเพิ่มโอกาสในการค้นหา

สำหรับกลุ่มเอกสารที่โจมตี นักวิจัยได้ออกแบบคำสั่งให้เขียนข้อความที่ดูเป็นธรรมชาติและไหลลื่นในขณะเดียวกันก็เปลี่ยนแปลงรายละเอียดที่ตั้งชื่อและตัวเลขเล็กน้อย ทำให้เอกสารเหล่านั้นไม่กระตุ้นฟิลเตอร์ทางสถิติในขณะเดียวกันก็ลดความถูกต้องของข้อเท็จจริงอย่างเงียบๆ

มาตรการ

นักวิจัยได้ใช้มาตรการสามประการสำหรับการทดลอง: อัตราการปนเปื้อนของกลุ่ม (PCR) เพื่อกำหนดสัดส่วนของเอกสารทั้งหมดที่สร้างโดย AI; อัตราการปนเปื้อนจากการเปิดเผย (ECR) เพื่อวัดสัดส่วนของผลลัพธ์การค้นหาที่มาจากแหล่ง AI (บ่งชี้ว่าอะไรที่เข้ามาในระบบการค้นหา); และอัตราการปนเปื้อนการอ้างอิง (CCR) เพื่อบันทึกสัดส่วนของหลักฐานที่อ้างอิงในคำตอบสุดท้ายที่เป็นสังเคราะห์

เพื่อตรวจสอบผลกระทบเชิงปฏิบัติ ทั้งคุณภาพของแหล่งที่มาและความสมบูรณ์ของคำตอบสุดท้ายถูกทดสอบ ความแม่นยำ@10 (P@10) บันทึกว่าผลลัพธ์ที่ถูกต้องจำนวนเท่าใดจาก 10 อันดับแรกที่ตรวจสอบกับข้อมูลที่ถูกต้องจาก MS MARCO; และความถูกต้องของคำตอบ (AA) วัดว่าคำตอบที่สร้างขึ้นตรงกับคำตอบอ้างอิงหรือไม่ โดยใช้ GPT-5 Mini เพื่อตัดสินว่าความหมายสอดคล้องกัน

การทดสอบ

ในตอนแรก นักวิจัยได้ทดสอบวิธีการของตนกับกลุ่มเอกสารต้นฉบับที่ดึงมาจาก SERPS ก่อนที่จะใช้ในการสร้างข้อมูลสังเคราะห์ และพวกเขาสังเกตว่าระบบการจัดอันดับ LLM ของพวกเขาบรรลุ ‘คุณภาพการค้นหาที่แข็งแกร่ง’ และทำได้ดีกว่า BM25 Ranker ที่เป็นฐานมาตรฐาน

การทดสอบหลักสองครั้งครั้งแรกที่เรียกว่า การครอบงำและการทำให้เป็นเนื้อเดียวกัน เป็นการตรวจสอบว่าเอกสารสังเคราะห์ที่มีลักษณะ SEO ส่งผลต่อผลลัพธ์การค้นหาอย่างไร:

Left: contamination curves for Scenario 1 under BM25 and LLM rankers show Pool Contamination Rate (PCR) rising with each round, with Exposure Contamination Rate (ECR) and Citation Contamination Rate (CCR) increasing more steeply as synthetic documents crowd into the top results; Answer Accuracy (AA) remains broadly stable. Right: the corresponding table reports the same progression numerically across rounds 0, 5, 10, and 20, detailing PCR, ECR, CCR, and AA for both rankers.

เมื่อเพิ่มเอกสารที่เขียนโดย AI มากขึ้นใน環境ทดสอบ พวกมันเริ่มครอบงำผลลัพธ์การค้นหามากกว่าที่คาดไว้ เมื่อเนื้อหาที่สร้างโดย AI คิดเป็น 50% ของเอกสารที่มีอยู่ทั้งหมด มากกว่า 68% ของผลลัพธ์ที่มีอันดับสูงสุดของ BM25 เป็นเอกสารที่สร้างโดย AI; และเมื่อเนื้อหาที่สร้างโดย AI เพิ่มขึ้นถึง 67% มากกว่า 80% ของผลลัพธ์ที่มีอันดับสูงสุดของมันมาจากแหล่ง AI

ระบบการจัดอันดับ LLM แสดงแนวโน้มที่จะพึ่งพาเอกสารที่เขียนโดย AI มากกว่าเมื่อเอกสารเหล่านั้นเพิ่มขึ้น โดยมีเอกสารที่เขียนโดย AI ประมาณ 76% ในผลลัพธ์ที่มีอันดับสูงสุดเมื่อเอกสารเหล่านั้นคิดเป็น 50% ของกลุ่มเอกสารทั้งหมด และยังคงพึ่งพาเอกสารเหล่านั้นมากกว่า BM25 เมื่อเอกสารเหล่านั้นเพิ่มขึ้น นักวิจัยให้ความเห็นว่า:

‘รูปแบบนี้แสดงให้เห็นว่าเนื้อหาที่มีลักษณะ SEO จะกระตุ้นให้เกิดสัญญาณการจัดอันดับอย่างไม่สมส่วน ทำให้ทั้งสองแบบจำลอง hội tụอย่างรวดเร็วสู่หลักฐานที่สร้างโดยสังเคราะห์’

เกี่ยวกับความตึงเครียดระหว่างความเสถียรของข้อเท็จจริงและการล่มสลายของความหลากหลาย นักวิจัยสังเกตว่าแม้ว่าหลักฐานที่ค้นพบจะเปลี่ยนแปลงไปอย่างมาก แต่ความถูกต้องของคำตอบยังคงเสถียรหรือแม้กระทั่งดีขึ้น:

‘เนื่องจากเอกสาร SEO มีคุณภาพสูงและจัดเรียงตามหัวข้อ การค้นหาดูเหมือนจะแข็งแกร่งเมื่อวัดโดยความถูกต้อง แต่หลักฐานที่ค้นพบเกือบทั้งหมดเป็นสังเคราะห์ ซึ่งบ่งชี้ถึงการล่มสลายของความหลากหลายของแหล่งที่มาอย่างรุนแรง’

‘การเปลี่ยนแปลงนี้ ซึ่งแสดงถึงความเสถียรของความถูกต้องแม้จะมีการล่มสลายของความหลากหลาย เป็นการเปิดเผยถึงความเปราะบางทางโครงสร้างของระบบการค้นหา: ระบบทำงานได้ดีในมาตรการรวม แต่สูญเสียการเชื่อมโยงกับเนื้อหาที่เขียนโดยมนุษย์อย่างเงียบๆ’

‘โดยรวมแล้ว เนื้อหาที่มีคุณภาพสูงซึ่งสร้างโดย AI ไม่เพียงแต่รวมเข้ากับระบบการค้นหาได้อย่างราบรื่น แต่ยังครอบงำสัญญาณการจัดอันดับและนำหลักฐานที่สร้างโดย AI มาใช้อย่างไม่หยุดยั้ง ทำให้ทั้ง BM25 และ LLM Ranker พึ่งพาหลักฐานที่สร้างโดย AI เกือบจะโดยสมบูรณ์’

การทดสอบครั้งที่สองที่เรียกว่า การปนเปื้อนและการทำลายระบบ เปิดเผยผลต่างที่สำคัญในพฤติกรรมของระบบการจัดอันดับเมื่อเปรียบเทียบกับการทดสอบครั้งแรก:

Left: the scenario 2 results show what happens when deliberately misleading pages are added to the system. As more of these pages are mixed in, BM25 begins to place some of them in its top results – though only up to about a quarter at the midpoint, and almost none are actually used in the final answer. Right: the table presents the same pattern in numbers for both BM25 and the LLM-based ranker, making clear that BM25 lets some misleading pages into its top results, whereas the LLM ranker largely filters them out.

ระบบการจัดอันดับ LLM สามารถตระหนักและกรองหน้าที่ทำให้เข้าใจผิดได้โดยส่วนใหญ่ โดยรักษาสัดส่วนของเนื้อหาดังกล่าวในผลลัพธ์ที่มีอันดับสูงสุดให้ใกล้เคียงกับศูนย์ แต่ BM25 ปล่อยให้หน้าที่ทำให้เข้าใจผิดจำนวนหนึ่งเข้ามาในผลลัพธ์ที่มีอันดับสูงสุด โดยมีประมาณ 19% ถึง 24% ปรากฏที่นั่นในบางขั้นตอนของการทดสอบ

แม้ว่าระบบการจัดอันดับ LLM จะทนต่อการทดสอบนี้ได้ดีกว่า แต่นักวิจัยสังเกตว่าระบบการจัดอันดับ LLM ต้องการการคำนวณมากกว่า ซึ่งสามารถทำให้การปรับใช้ในระดับใหญ่ไม่เหมาะสม แม้ว่า BM25 จะง่ายกว่าและถูกกว่าในการใช้งาน แต่ระบบการค้นหาที่ใช้ BM25 อาจเสี่ยงต่อเนื้อหาที่ถูกจัดการมากกว่าที่เห็นได้

นักวิจัยอธิบายว่านี่คือ ‘ความเสี่ยงทางโครงสร้างที่สำคัญ’

เกี่ยวกับความแตกต่างระหว่าง ความเสถียรที่เห็นได้และความเสื่อมถอยในระดับลึก นักวิจัยสังเกตว่าในบริบทนี้ ความถูกต้องของคำตอบยังคงเสถียรเนื่องจากตัวตัดสิน LLM ระงับการปนเปื้อนของการอ้างอิง และทำหน้าที่เป็นรั้วป้องกันสุดท้ายก่อนที่จะเผชิญกับเนื้อหาที่ทำให้เข้าใจผิด

อย่างไรก็ตาม ความถูกต้องของคำตอบในด้านนี้คงที่น้อยกว่าในสถานการณ์แรก:

‘ในขณะที่สถานการณ์ที่ 1 มีความถูกต้องของคำตอบคงที่หรือแม้กระทั่งดีขึ้น (ถึง 70% โดยใช้ LLM Ranker) เนื่องจากคุณภาพของเนื้อหาที่มีลักษณะ SEO สูง ในสถานการณ์ที่ 2 มีการเสื่อมถอยของความถูกต้องของคำตอบเมื่อเทียบกับการตั้งค่า SEO […]’

‘สิ่งนี้ยืนยันว่าไม่ว่าระบบการจัดอันดับจะอย่างไร การปนเปื้อนของเนื้อหาที่ทำให้เข้าใจผิดในขั้นตอนการค้นหาจะส่งผลเสียต่อประสิทธิภาพโดยรวม โดยมีการเสื่อมถอยที่รุนแรงที่สุดเมื่อใช้ระบบการค้นหาที่เบา’

นักวิจัยสรุปว่าการเรียงลำดับใหม่ในขั้นตอนการค้นหานั้นช้าเกินไป และควรพิจารณาใช้ฟิลเตอร์ในขั้นตอนการรับข้อมูล และเสนอแนะว่า ‘กราฟการอ้างอิง’ และ ‘ฟิลเตอร์ความสับสน’ อาจถูกนำมาใช้

พวกเขาปิดท้ายด้วยการเน้นย้ำว่าภัยคุกคามหลักคือเนื้อหาที่มีคล่องแคล่วแต่มีความหนาแน่นของการอ้างอิงต่ำ ซึ่งแทบจะไม่มีห่วงโซ่การอ้างอิงที่น่าเชื่อถือ และสังเกตว่า:

‘เมื่อ AI ที่มีเจตนาเริ่มเผยแพร่เนื้อหาโดยอัตโนมัติ ระบบป้องกันจะต้องพัฒนาจากการวิเคราะห์ข้อความแบบคงที่ไปสู่การวิเคราะห์พฤติกรรม โดยระบุและแยกแยะตัวแทนการที่สร้างสตรีมความบันเทิงสูง ความจริงต่ำ’

สรุป

การสร้างวิธีการใหม่ๆ หรือปรับปรุงวิธีการเกี่ยวกับการพิสูจน์แหล่งที่มาของข้อมูลอาจเป็นหนึ่งในความจำเป็นที่สำคัญที่สุดสำหรับปี 2026 ระบบเครดิตที่ซับซ้อน เช่น C2PA ที่ล้มเหลว ซึ่งต้องการการเปลี่ยนแปลงโครงสร้างพื้นฐานจากผู้จัดพิมพ์ และการศึกษาของสาธารณชนเกี่ยวกับสิ่งที่พวกเขาเป็นตัวแทนและวิธีการใช้งานดูเหมือนจะถูกกำหนดให้ล้มเหลว

สิ่งที่ง่ายกว่านั้นจำเป็นต้องมี และยังไม่ได้รับการค้นพบ มันเป็นภารกิจที่เร่งด่วน เนื่องจากยุคปัจจุบันอาจเป็นจุดเปลี่ยนสำคัญที่สุดสำหรับการรับรู้ของสาธารณชนเกี่ยวกับความจริงตั้งแต่การคิดค้นการถ่ายภาพในปี 1822 และการเพิ่มขึ้นของการโฆษณาชวนเชื่อในหลายทศวรรษก่อนสงครามโลกครั้งที่สอง

* การแปลงอ้างอิงภายในของฉัน (โดยเลือกเมื่อจำเป็น) ไปเป็นลิงก์

เผยแพร่ครั้งแรกวันพฤหัสบดีที่ 19 กุมภาพันธ์ 2026