‘การโจมตีด้วยการสำรวจ DDos’ ที่ทำให้การวิจัยทางวิทยาศาสตร์ถดถอย

โมเดล AI ที่สร้างข้อความ เช่น ChatGPT กำลังทำให้แพลตฟอร์มการเผยแพร่ทางวิชาการอัดแน่นไปด้วยเอกสารการสำรวจที่สร้างโดย AI ในระดับที่ทำให้อัตราส่วนสัญญาณต่อเสียงรบกวนถึงขีดวิกฤติ การศึกษาใหม่ระบุว่านี่ทำให้นักวิจัยต้องท่วมท้น เสียหายต่อการอ้างอิง และกัดกร่อนความไว้วางใจในบันทึกทางวิทยาศาสตร์ โดยเปรียบการหลั่งเอกสารที่ช่วยโดย AI เหมือนกับการ ‘โจมตี DDoS’ ต่อวิทยาศาสตร์เอง

(ส่วนหนึ่งเป็นความคิดเห็น) สัปดาห์ที่แล้ว สำหรับครั้งแรกในเจ็ดปีที่ติดตามกระแสวรรณกรรมทางวิทยาศาสตร์ที่เกี่ยวข้องกับ AI ฉันต้องยอมแพ้และยอมรับว่า ในช่วงเวลาสูงสุด ฉันต้องเลือกว่าจะติดตามสิ่งพิมพ์ใหม่ที่สำคัญหรือมีเวลามาเขียนเกี่ยวกับบางส่วน

จำนวนรายการในหมวดหมู่ที่จำกัดมาก (การมองเห็นของคอมพิวเตอร์, การเรียนรู้ของเครื่อง, แบบจำลองภาษา และบางส่วนอื่นๆ ที่มีการสมัครสมาชิกน้อย) มีมากกว่า 1,000 รายการ – สำหรับการส่งภายในวันเดียว

ด้วยปริมาณดังกล่าว แม้แต่การดูหัวข้อใหม่ทั้งหมดและอ่านสรุปย่อบางส่วนก็จะทำให้ใช้เวลาทั้งวัน

วันนี้คือวันอังคารที่ 7 ตุลาคม โดยเปรียบเทียบ ในหมวด การเรียนรู้ของเครื่อง วันอังคารที่ผ่านมา (14 ตุลาคม) มีปริมาณการเผยแพร่ที่น้อยกว่าเล็กน้อยเมื่อเทียบกับ 400 รายการในอังคารของสัปดาห์ที่แล้ว; มีเพียง 354 รายการ:

354 การส่งในหมวดการเรียนรู้ของเครื่องภายในวันเดียว Source: https://arxiv.org/

คุณจะต้องอ่าน Arxiv ทุกวัน เป็นเวลาหลายปี เพื่อเข้าใจว่าตัวเลขเหล่านี้เพิ่มขึ้นมากเพียงใด

โดยยอมรับว่าอังคารเป็นวัน ‘ชั่วโมงเร่งด่วน’ ของ Arxiv สำหรับการส่ง และหมวดการเรียนรู้ของเครื่อง เป็น หมวด ‘จับได้ทั้งหมด’ ที่มีเอกสารที่ไม่ซ้ำกันน้อยกว่าหมวดอื่นๆ

อย่างไรก็ตาม การเพิ่มขึ้นของการส่งเอกสารเป็นปรากฏการณ์ที่ ได้รับการบันทึก ในวงการวิชาการและสื่อแล้ว

ด้านที่น่าตกใจที่สุดของการเพิ่มขึ้นนี้คือว่าหมวดหมู่อื่นๆ ที่อยู่ข้างๆ ไม่เปลี่ยนแปลงมากนักในความถี่ในช่วงสามปีที่ผ่านมา ในขณะที่หมวดวิทยาศาสตร์คอมพิวเตอร์ (ดู ตัวเลขอย่างเป็นทางการของ Arxiv ด้านล่าง) กำลังเพิ่มขึ้นอย่างรุนแรง:

การเพิ่มขึ้นของเอกสารวิทยาศาสตร์คอมพิวเตอร์ในช่วงสามปีที่ผ่านมา Source: https://info.arxiv.org/about/reports/submission_category_by_year.html

สามปีที่แล้ว การส่งเอกสาร AI ของ Arxiv คาดว่าจะ เพิ่มขึ้นสองเท่า ทุกๆ ไม่กี่ปี และจะน่าสนใจที่จะอ่านสรุปประจำปีของ Arxiv เกี่ยวกับแนวโน้มที่สิ้นปี 2025

ปริมาณที่ 11

สองสาเหตุที่ชัดเจนที่สุดว่าทำไมสิ่งนี้จึงเกิดขึ้นคือ a) การมอบเงินทุนไม่เคยเกิดขึ้นมาก่อน ให้กับ AI ที่สร้างข้อความ ซึ่งดึงดูดนักวิจัยเข้ามา และ b) ระบบแบบจำลองภาษา AI เช่น ChatGPT ทำให้การส่งเอกสารวิจัยเป็นกระบวนการที่เกือบจะอุตสาหกรรม

อย่างไรก็ตาม คุณภาพของการส่งเอกสารวิจัย ไม่ได้เพิ่มขึ้น ทันปริมาณ (แม้ว่าผลลัพธ์ที่มีข้อผิดพลาดของ AI มักจะสร้าง ข่าวในภาคกฎหมาย มากกว่าภาควิชาการ)

นโยบายที่ไม่ยอมให้มีข้อผิดพลาดไม่สามารถนำไปใช้ได้ในกรณีนี้ แม้ว่าการ ตรวจจับเนื้อหาที่สร้างโดย AI จะง่ายกว่าก็ตาม; นอกเหนือจากข้อเท็จจริงที่ว่า AI เป็นประโยชน์ที่ชัดเจนต่อการวิจัยทางวิทยาศาสตร์โดยทั่วไปแล้ว การใช้ AI ในการส่งเอกสารวิจัยโดยทั่วไป ได้ ปรับปรุงความชัดเจนของงานจากผู้ส่งที่ไม่ใช่คนอังกฤษ – ซึ่งจนถึงตอนนี้ ทำงานในความไม่เท่าเทียม

แต่ปัญหาในการลดข้อจำกัดทางภาษาในลักษณะนี้คือการเพิ่มจำนวนผู้ส่งทั่วโลก โดยไม่เพิ่มการกำกับดูแลของมนุษย์ที่ให้คุณค่าแก่การทำงานนั้น

หากการส่งเอกสารเพิ่มขึ้นอย่างรวดเร็ว อัตราส่วนสัญญาณต่อเสียงรบกวนจะกลายเป็นเรื่องที่ควบคุมไม่ได้ และ AI เองก็ไม่เหมาะสมที่จะนำทางน้ำท่วมใหม่ๆ ของเอกสาร AI เช่นเดียวกับการตรวจสอบผลลัพธ์ของตนเอง สิ่งนี้ขัดแย้งกับวิธีการวิจัยทางวิทยาศาสตร์ ซึ่งเป็นงานที่ต้องใช้มนุษย์อย่างมาก

การโจมตีต่อการวิจัย

สาเหตุของการสะท้อนความคิดนี้คือ การทำงานร่วมกันใหม่ จากจีนซึ่งมีชื่อเรื่องว่า หยุดการโจมตี DDoS ต่อชุมชนการวิจัยด้วยเอกสารการสำรวจที่สร้างโดย AI

เอกสารตำแหน่งใหม่นี้เน้นเฉพาะ การสำรวจ – การสรุปข้อมูลที่ต้องใช้ความพยายามสูง ซึ่งโดยปกติจะจัดทำและให้ข้อมูลเชิงบริบท โดยตีความแนวโน้มและทำการคาดการณ์ที่มีข้อมูล:

เพียงเศษเสี้ยวของเอกสารการสำรวจที่เพิ่มขึ้นเรื่อยๆ ในส่วนเกี่ยวข้องกับการเรียนรู้ของเครื่องและ AI ที่ arxiv.org

เนื่องจากการสำรวจคัดเลือกมากกว่าการสร้างขึ้นมาใหม่ จึงสามารถทำให้การทำงานอัตโนมัติด้วย AI ง่ายขึ้น และผู้เขียนของเอกสารใหม่นี้อธิบายการแพร่กระจายของการสำรวจที่ไม่ต้องใช้ความพยายามมากนักในแง่ของ ภัยคุกคามด้านความปลอดภัย ต่อภาควิจัย:

‘การเพิ่มขึ้นอย่างรวดเร็วของเอกสารการสำรวจที่สร้างโดย AI โดยเฉพาะอย่างยิ่งด้วยโมเดลภาษาขนาดใหญ่ (LLMs) ได้เปลี่ยนประเภทที่ต้องใช้ความพยายามสูงนี้ให้เป็นผลลัพธ์ที่มีปริมาณสูงและต้องใช้ความพยายามน้อย ‘

‘ในขณะที่การอัตโนมัตินี้ลดข้อจำกัดในการเข้าถึง แต่ก็มีการแนะนำภัยคุกคามที่สำคัญ: ปรากฏการณ์ที่เรียกว่า “การโจมตี DDoS ด้วยเอกสารการสำรวจ” ต่อชุมชนการวิจัย ‘

‘[เรา] แสดงว่า เราต้องหยุดอัปโหลดเอกสารการสำรวจที่สร้างโดย AI จำนวนมาก (เช่น การโจมตี DDoS ด้วยเอกสารการสำรวจ) ไปยังชุมชนการวิจัย โดยการสร้างบรรทัดฐานที่เข้มงวดสำหรับการเขียนบทวิจารณ์ที่ช่วยโดย AI’

ผู้เขียนยืนยันว่าการเพิ่มขึ้นของการผลิตการสำรวจโดยไม่มีการควบคุมนี้จะทำให้ระบบการวิจัยท่วมท้นไปด้วยรายงานที่ดูเหมือนครอบคลุม แต่ขาดความลึกที่สำคัญ และมีแนวโน้มที่จะแพร่กระจายข้อผิดพลาดหรือ สิ่งที่หลอกลวง และการอ้างอิง

เอกสารนี้เตือนว่าหากไม่มีกฎหรือการกำกับดูแลที่ดีขึ้น เอกสารการสำรวจที่ช่วยโดย AI อาจกลายเป็นสำเนาที่ผิวเผินซึ่งทำให้เข้าใจผิดว่าหัวข้อใดที่สำคัญ ซ่อนการวิเคราะห์ที่มีความหมาย และทำให้การตรวจสอบวรรณกรรมน่าเชื่อถือน้อยลง:

‘ผลกระทบต่อคุณภาพการวิจัยและความไว้วางใจมีผลกระทบอย่างลึกซึ้ง ขั้นแรก การพัฒนาที่แท้จริงมีความเสี่ยงที่จะถูกบดบังด้วยการสร้างซ้ำของงานที่มีอยู่โดยอัลกอริทึม ‘

‘ผู้เริ่มต้นและนักวิชาการสหวิทยาการอาจต้องดิ้นรนในการค้นหามุมมองที่เชื่อถือได้ giữaเสียงรบกวน ‘

‘นอกจากนี้ ข้อผิดพลาดหรืออคติที่เกิดจากการจัดรูปแบบอัตโนมัติสามารถแพร่กระจายได้โดยไม่มีการตรวจสอบ และสามารถสร้างการวิจัยในอนาคตด้วยสมมติฐานที่ไม่ถูกต้อง ‘

‘โดยสรุป การท่วมท้นของเอกสารการสำรวจที่ไม่ได้รับการตรวจสอบโดยผู้ทรงคุณวุฒิซึ่งสร้างโดย AI ทำให้ทั้งคุณภาพของการตรวจสอบวรรณกรรมและความน่าเชื่อถือของบันทึกทางวิทยาศาสตร์ตกอยู่ในความเสี่ยง ‘

ผู้เขียนที่ ‘ผิดปกติ’

นักวิจัยของเอกสารใหม่นี้ให้การวิเคราะห์ที่น่าสนใจเกี่ยวกับการพัฒนาการส่งเอกสารการสำรวจ:

ซ้าย: จำนวนเอกสารการสำรวจวิทยาศาสตร์คอมพิวเตอร์ตั้งแต่ปี 2020 ถึง 2024 กลาง: คะแนนการสร้าง AI สำหรับเอกสารเหล่านั้นในช่วงเวลาเดียวกัน ขวา: จำนวนผู้เขียนที่ถูกตีตราว่า ‘ผิดปกติ’ (ผู้ที่มีการผลิตการสำรวจสูง มีความหลากหลายในการร่วมเขียนน้อย และมีรูปแบบสถาบันที่ซ้ำกัน) ทุกปี ทั้งสามแนวโน้มแสดงการเพิ่มขึ้นอย่างรวดเร็วตั้งแต่ปี 2023 ซึ่งตรงกับการเปิดตัว ChatGPT และโมเดลภาษาขนาดใหญ่อื่นๆ

ในคอลัมน์แรก เราจะเห็นแนวโน้มการเติบโต: เส้นโค้งเริ่มชันขึ้นเมื่อถึงปี 2022 เมื่อ ChatGPT ปรากฏตัวขึ้นและโมเดลภาษาขนาดใหญ่เริ่มเป็นที่นิยม และโมเดลตัวต่อไป เช่น Claude, PaLM และ Gemini จะรักษาโมเมนตัมนี้ตลอดปี 2023

กราฟกลางแสดงการเพิ่มขึ้นอย่างรวดเร็วของการส่งเอกสารหลังปี 2022 ซึ่งตรงกับการเปิดตัว ChatGPT ทีมวิจัยหนึ่ง พบว่า ในปี 2024 มากกว่า 10% ของบทคัดย่อทางวิทยาศาสตร์ถูกผ่านโมเดลภาษาขนาดใหญ่ (LLM) แล้ว รายงานที่แยกต่างหากจาก บริษัทตรวจจับ AI ระบุว่าการเพิ่มขึ้นของเอกสารที่อาจเขียนด้วยความช่วยเหลือของ AI ใน arXiv หลัง ChatGPT อยู่ที่ 72%

กราฟที่สามทางด้านขวามือแสดงการเพิ่มขึ้นของ ‘รูปแบบผู้เขียนที่ผิดปกติ’ (นักวิจัยที่ส่งการสำรวจสามรายการขึ้นไปภายในหนึ่งเดือนโดยทำงานร่วมกับผู้ร่วมเขียนน้อยกว่าสองคน) โดยมีการเพิ่มขึ้นอย่างรวดเร็วตั้งแต่ปี 2022

ผู้เขียนยืนยันว่าเอกสารการสำรวจหลายรายการอาจถูกเขียนโดย AI เนื่องจากหลายสาเหตุ: บางส่วนเขียนโดยผู้เขียนเดี่ยวหรือกลุ่มเล็กๆ ที่ส่งการสำรวจหลายรายการในเวลาสั้นๆ มีหลายรายการครอบคลุมหัวข้อที่ไม่เกี่ยวข้อง และในบางกรณี ผู้เขียนไม่มีประวัติในด้านที่พวกเขากำลังสรุป

นอกจากนี้ บางส่วนตีพิมพ์ภายใต้ชื่อหมู่ที่ไม่ชัดเจนโดยไม่มีสถาบันที่ชัดเจน – รูปแบบที่ชี้ให้เห็นว่ามีการท่วมท้นภาคการวิจัยด้วยการสำรวจที่รวดเร็ว ซึ่งอาจทำเพื่อให้ได้การอ้างอิงหรือปรับปรุงโปรไฟล์ทางวิชาการ มากกว่าที่จะสร้างความก้าวหน้าใดๆ ในวรรณกรรม

ปัญหา

แม้ว่าเราจะไม่สามารถครอบคลุมข้อโต้แย้งของเอกสารใหม่ได้ทั้งหมด แต่เราควรพิจารณามุมมองที่สำคัญที่สุดและวิพากษ์วิจารณ์คำแนะนำของเอกสาร

คุณภาพและความเป็นเอกลักษณ์

ปัญหาไม่ใช่แค่ปริมาณ: การสำรวจหลายรายการโดย AI ขาดสิ่งที่ทำให้การสำรวจมีประโยชน์: โครงสร้างที่ชัดเจน การวิเคราะห์ที่ลึกซึ้ง การให้เครดิตที่ถูกต้องและพิถีพิถัน และข้อมูลเชิงลึกที่แท้จริง แทนที่จะอ่านเหมือนสรุปที่ตัดต่อเข้าด้วยกัน โดยไม่มีการดูแลหรือการคัดเลือก

ผู้เขียนสังเกตเห็นว่าการสำรวจที่เขียนโดย AI มักขาดโครงสร้าง แต่เพียงแค่นำเสนอบทความโดยไม่มีทิศทางที่ชัดเจน ข้ามส่วนสำคัญ และไม่สามารถสร้างบริบทได้ การสำรวจที่เขียนโดยมนุษย์มีแนวโน้มที่จะกำหนดหมวดหมู่ที่เหมาะสมและเล่าเรื่องราวที่สอดคล้องกัน

นอกจากนี้ การสำรวจที่อาจได้รับการช่วยเหลือจาก AI หลายรายการดูเหมือนจะคัดลอกการแบ่งหัวข้อที่มีอยู่แล้ว บางครั้งโดยตรงจากวิกิพีเดีย ตัวอย่างเช่น เอกสารระบุว่าการสำรวจหลายรายการเกี่ยวกับ Vision Transformers มีหัวข้อและโครงสร้างที่เหมือนกัน ซึ่งบ่งบอกถึงการสร้างโดย AI ที่ขับเคลื่อนด้วยเทมเพลต:

‘ในทางตรงกันข้าม การสำรวจที่เขียนโดยมนุษย์อาจแนะนำระบบการจำแนกประเภทใหม่ เช่น การจำแนก ViT ตามกลยุทธ์การเพิ่มประสิทธิภาพ ‘

อย่าพูดมันตามคำพูดของฉัน

ที่น่าอายที่สุดคือ การสำรวจที่เขียนโดย AI มักจะ การอ้างอิง ไม่ถูกต้อง โดยพลาดบทความสำคัญ รวมทั้ง ไม่เกี่ยวข้อง และบางครั้งแม้แต่ ไม่มีอยู่จริง – ข้อผิดพลาดที่ชี้ให้เห็นว่าการอ้างอิงมาจากการจับคู่รูปแบบในระดับผิวเผิน มากกว่าความเชี่ยวชาญที่แท้จริง

ผู้เขียนชี้ให้เห็นว่าการสำรวจบางรายการในระยะหลัง ซึ่งมักมาจากทีมที่แตกต่างกัน มีการทับซ้อนกันของรายการอ้างอิงถึง 70% – ระดับที่สูงมากที่บ่งบอกถึงการอาศัย LLMs ที่มีแหล่งที่มาเดียวกัน

แท้จริงแล้ว ผู้ใช้ AI ที่ไม่ซับซ้อนจะรู้ว่าหัวข้อที่ไม่ค่อยมีใครรู้จัก มีแหล่งที่มาให้ AI เรียนรู้น้อย และมักจะพบแหล่งที่มาของ AI บนเว็บมากกว่าการโต้ตอบกับข้อมูลนั้นผ่าน AI ที่ไม่มีข้อมูลเพียงพอในโดเมนนั้น

รูปแบบ ‘โฮโมจีนีส’ ที่เกิดขึ้น

ผู้เขียนยังชี้ให้เห็นว่าการสำรวจหลายรายการโดย AI ในหัวข้อเดียวกันมีลักษณะและเสียงที่เกือบจะเหมือนกัน เนื่องจาก LLMs ใช้คำและโครงสร้างซ้ำๆ โดยเฉพาะสำหรับหัวข้อที่เป็นที่นิยม ซึ่งนำไปสู่การหลั่งเอกสารที่เพิ่มมูลค่าเล็กน้อยและเพิ่มเสียงรบกวนอย่างมีนัยสำคัญให้กับนักวิจัยที่กำลังมองหาคำตอบในโดเมน:

‘เมื่อนักเขียนหลายคนขอให้ LLM “เขียนการตรวจสอบวรรณกรรมเกี่ยวกับ X” โมเดลมักจะผลิตการตอบกลับที่คล้ายคลึงกัน โดยเฉพาะสำหรับนิยามหรือข้อเท็จจริงที่รู้จักกันดี ‘

ChatGPT ของคุณกำลังแสดงตัว

เอกสารระบุว่าวิธีการค้นหาเอกสารการสำรวจที่เขียนโดย AI อย่างรวดเร็วก็คือการมีประโยคเช่น ‘ในฐานะโมเดลภาษา AI‘ หรือ ‘ข้อมูลของฉันถูกตัด‘ ซึ่งบ่งบอกถึงการขาดการดูแลหรือการปรับแต่งของเอาต์พุตจากโมเดลภาษา trướcการส่งเอกสาร (แม้ว่าการค้นหาที่มุ่งเป้าหมายในขณะเขียนจะไม่พบสิ่งเหล่านี้ใน Google Search)

เอกสารระบุว่าการสำรวจ ‘ที่น่าสงสัย’ มักจะมีความหลากหลายของคำที่ต่ำกว่าและใช้คำซ้ำๆ เช่น การเริ่มต้นหลาย段落ด้วย นอกจากนี้ รูปแบบนี้ตามที่ผู้เขียนชี้ให้เห็น เป็นลักษณะของการเขียนแบบ GPT และอาจเป็นเครื่องหมายที่มีประโยชน์ในการตรวจจับข้อความที่สร้างโดยอัตโนมัติ

(ความคิดเห็นส่วนตัวของฉันเกี่ยวกับเรื่องนี้คือว่าข้อจำกัดของการเขียนออนไลน์มักต้องการให้นักเขียนแสดงรายการหลายรายการในรูปแบบที่ไม่มีรูปแบบ โดยไม่มีทางเลือกทางคำศัพท์ที่จำกัด ดังนั้น ChatGPT และเพื่อนๆ ของมันจึงอาจได้เรียนรู้นิสัยที่ไม่ดีนี้จากนักเขียนที่ต้องเผชิญกับทางเลือกคำศัพท์ที่จำกัด)

แม้ว่านักวิจัยจะพัฒนาการอภิปรายที่น่าสนใจเกี่ยวกับผลกระทบด้านลบของการสำรวจ AI ต่อวัฒนธรรมการวิจัยและความไว้วางใจ แต่เราต้องอ้างอิงผู้อ่านไปยัง เอกสารต้นฉบับ สำหรับความลึกเพิ่มเติมเกี่ยวกับเรื่องนี้

วิธีแก้ปัญหา?

วิธีแก้ปัญหาของเอกสารนี้น่าสนใจ แต่ในขณะเดียวกันก็ไม่ใหม่: ควรแทนที่ความเป็นประโยชน์ของเอกสารการสำรวจด้วย การสำรวจแบบไดนามิก – โดยตีความ คือ รูปแบบผสมระหว่างวิกิและหน้า GitHub ที่อัปเดตด้วยข้อมูลใหม่จาก LLMs และระบบ AI อื่นๆ แต่การอัปเดตจะทำโดยมนุษย์เพื่อให้ AI ไม่สามารถ ‘อัปโหลดอัตโนมัติ’ ได้

ระบบที่เสนอจะใช้การแบ่งส่วนและการสร้างสาขาเช่นเดียวกับ GitHub โดยพื้นฐานแล้วจะเปลี่ยนแหล่งข้อมูลให้เป็นรายการอัปเดตอย่างต่อเนื่อง เช่นเดียวกับ ‘awesome’ สายของรายการคัดสรรที่ GitHub:

‘ภายใต้โครงสร้างนี้ สมาชิกในชุมชนจะสร้างวิกิหัวข้อการสำรวจโดยการระบุพื้นที่ หัวข้อการวิจัยที่สำคัญ และเอกสารอ้างอิงที่สำคัญ ซึ่งจะกำหนดขอบเขตและโครงสร้างเริ่มต้น ‘

‘ต่อไป ตัวแทนการรับข้อมูลที่ขับเคลื่อนด้วย LLM จะติดตามเอกสารก่อนตีพิมพ์ การดำเนินการประชุม และกระดานผู้นำการbenchmark อัตโนมัติ จะดึงข้อสรุปย่อ ภาพ และเมตริกการแสดงผลที่สำคัญ; สรุปผลลัพธ์ใหม่ๆ; อัปเดตกราฟการอ้างอิงเพื่อสะท้อนความสัมพันธ์ระหว่างเอกสาร; และระบุแนวโน้มการวิจัยที่เกิดขึ้นใหม่เพื่อการตรวจสอบเพิ่มเติม ‘

‘ด้วยการออกแบบ การอัปเดตอัตโนมัติเหล่านี้จะเกิดขึ้นภายในไม่กี่ชั่วโมงหลังการเผยแพร่ เพื่อให้แน่ใจว่าคลังข้อมูลยังคงอยู่ในระดับแนวหน้า ‘

‘จากนั้น ผู้ร่วมให้ข้อมูลของมนุษย์จะเข้ามาเพื่อมอบความลึกในการตีความที่เครื่องจักรเพียงอย่างเดียวไม่สามารถให้ได้ ‘

คัมภีร์ของการเปลี่ยนแปลง

ผู้เขียนอธิบายถึงข้อเสนอแนะนี้อย่างกระตือรือร้นและยาวนาน และพิสูจน์มันด้วยสิ่งที่เป็นจริง: การสำรวจที่เขียนด้วยความพยายามสูงเกี่ยวกับหัวข้อที่เปลี่ยนแปลงอย่างรวดเร็วรอบ AI เสื่อมสภาพได้เร็ว และเอกสารระบุว่าการกลับมาของเอกสารการสำรวจใหม่ภายในสามเดือนจะทำให้เอกสารนั้น ล้าสมัย หรือแม้แต่ ล้าสมัยอย่างรุนแรง เมื่อวันเผยแพร่ที่กำหนดมาถึง:

‘ปีแล้วปีเล่า ชุมชนถูกท่วมท้นไปด้วยการสรุปซ้ำๆ หรือผิวเผิน ซึ่งเสื่อมสภาพอย่างรวดเร็ว ทำให้ผู้ปฏิบัติงานและผู้เริ่มต้นต้องดิ้นรนในการแยกสัญญาณออกจากเสียงรบกวน ‘

‘นอกจากนี้ ช่วงเวลาการตีพิมพ์แบบดั้งเดิม (เช่น การเขียนแบบ मसودร่าง ส่ง การตรวจสอบ และเผยแพร่) อาจใช้เวลาหลายเดือน ซึ่งอาจทำให้การผ่านพ้นไปของการ突破ที่สำคัญ ‘

เสียใจที่ว่า วิธีแก้ปัญหาเอกสารนี้มีคุณสมบัติที่แย่ที่สุดและถูกวิพากษ์วิจารณ์มากที่สุดของ Discord: โดยเฉพาะอย่างยิ่งว่ามันจะเป็นทรัพยากรที่เปลี่ยนแปลงและเปลี่ยนแปลงอยู่ตลอดเวลา

เนื่องจากส่วนใดๆ ของการสำรวจแบบไดนามิกอาจหายไปหรือเปลี่ยนแปลงได้ทุกเมื่อ จึงเป็นไปไม่ได้ที่จะใช้เป็นแหล่งอ้างอิงที่มั่นคงและเชื่อถือได้; ยกเว้นว่าโดยการเชื่อมโยงกับ ‘การอัปเดตก่อนหน้า’ ในลักษณะเดียวกับที่ archive.is และ Wayback Machine รวมถึงไซต์อาร์ไคฟ์อื่นๆ ให้ลิงก์ที่สามารถเชื่อมโยงไปยังเนื้อหาของหน้าเว็บที่ถูกแช่แข็งไว้ที่เวลาที่กำหนด

นอกจากนี้ แพลตฟอร์ม/วิกิที่มีการเปลี่ยนแปลงคำจำกัดความและเนื้อหาที่เปลี่ยนแปลงอยู่ตลอดเวลา จะท้าทายในการสร้างดัชนี ไม่ว่าจะเป็นเครื่องมือค้นหาทั่วไปหรือ LLMs

ส่วนที่อ่อนที่สุดของระบบที่เสนอคือความคิดที่ว่าคนจริงๆ ควรควบคุมการอัปเดตจากตัวแทน AI; เสมอไป คนจริงๆ มีราคาแพง สิ่งที่ถูกเสนอคือสิ่งที่อยู่ระหว่างพิพิธภัณฑ์และห้องสมุด; ทั้งสองอย่างต้องการการให้เงินสนับสนุนจาก ‘เนื้อและเลือด’ ที่สอดคล้องกับปริมาณข้อมูลและจำนวนหัวข้อที่ครอบคลุม

หาก ‘ใช้คนจริงๆ’ เป็นคำตอบเดียวสำหรับปัญหาการพัฒนาด้วย AI ก็ยุติธรรมที่จะบอกว่าปัญหายังคงเปิดและยังไม่ได้รับการแก้ไข

สรุป

ในขณะนี้ อายุการเก็บของเอกสารการสำรวจเกี่ยวกับ AI น่าหงุดหงิด; หากแนวโน้มที่มีการเขียนอัตโนมัติและการส่งเอกสารในระดับสูงยังคงดำเนินต่อไปตามที่เห็นในเอกสารใหม่ อัตราส่วนสัญญาณต่อเสียงรบกวนจะกลายเป็นเรื่องเร่งด่วน และวรรณกรรมจะไม่สามารถควบคุมได้

ในสถานการณ์ดังกล่าว จะยากกว่าที่เป็นอยู่แล้วสำหรับเสียงที่ไม่ใช่ FAANG ที่จะถูกได้ยินในพายุของการส่ง และผู้นำตลาดรายใหญ่จะน่าจะได้รับความโดดเด่นมากขึ้น

นอกเหนือจากการสำรวจแบบไดนามิก เอกสารใหม่เสนอแนะว่าผู้เขียนไม่เพียงแต่ต้องประกาศเมื่อ AI ถูกใช้ในส่วนใดๆ ของการส่ง แต่ยังต้องระบุชัดเจนว่าส่วนใดของเอกสารที่ได้รับการช่วยเหลือจาก AI (อาจด้วยไฟล์ JSON ที่อยู่ข้างๆ)

เนื่องจากสิ่งนี้เป็นความคาดหวังที่ยากลำบาก เอกสารจึงแนะนำสิ่งที่ฉันสามารถอธิบายได้ว่าเป็น ‘เกตโต AI’ – ส่วนเฉพาะในเอกสารที่จัดสรรไว้สำหรับการมีส่วนร่วมของ AI

โดยสรุป เอกสารใหม่นี้ไม่มีคำตอบที่เป็นจริงที่จะให้ แต่ผู้เขียนได้ทำหน้าที่ที่มีประโยชน์ในการกำหนดความท้าทายที่จะเกิดขึ้น

เอกสาร หยุดการโจมตี DDoS ต่อชุมชนการวิจัยด้วยเอกสารการสำรวจที่สร้างโดย AI สามารถพบได้ที่ https://arxiv.org/abs/2510.09686 และเขียนโดยผู้เขียนหกคนจากภาควิชาต่างๆ ที่ Shanghai Jiao Tong University

___________________________________

* ไม่ใช่ทุกคนที่รู้สึกว่ามันเป็นเช่นนั้น.

^†การเน้นของผู้เขียน ไม่ใช่ของผม นอกจากนี้ การแปลงการอ้างอิงแบบอินไลน์ของผู้เขียนเป็นลิงก์โดยทั่วไป

เผยแพร่ครั้งแรกวันศุกร์ที่ 17 ตุลาคม 2025