โมเดลภาษาส่วนบุคคลสามารถสร้างได้ง่าย และตรวจจับได้ยากขึ้น

โมเดลภาษาแบบเปิดซอร์สของ ChatGPT สามารถปรับให้เหมาะสมได้ที่ระดับใหญ่และด้วยความเชี่ยวชาญที่จำกัดหรือไม่มี ทำให้เกิด “โมเดลภาษาส่วนบุคคล” ที่หลบเลี่ยงการตรวจจับได้ เครื่องมือส่วนใหญ่ไม่สามารถระบุได้ว่าโมเดลเหล่านี้มาจากไหนหรือได้รับการฝึกฝนมาเพื่อทำอะไร ทำให้นักเรียนและผู้ใช้รายอื่นสามารถสร้างข้อความ AI ได้โดยไม่ต้องถูกจับได้ แต่วิธีการใหม่หนึ่งอ้างว่าสามารถระบุโมเดลเหล่านี้ได้โดยการตรวจจับ “ลักษณะครอบครัว” ที่มีร่วมกันในผลลัพธ์ของโมเดล

ตามการศึกษาใหม่จากแคนาดา โมเดลภาษา AI ที่ปรับให้เหมาะสมสามารถสร้างเนื้อหาสื่อสังคมที่เหมือนกับการเขียนของมนุษย์ได้ และสามารถหลอกลวงอัลกอริทึมตรวจจับและมนุษย์ได้

ในเอกสารระบุว่า:

‘ผู้โจมตีที่มีแรงจูงใจจะปรับโมเดลให้เหมาะสมกับรูปแบบและกรณีการใช้งานของตนเอง เนื่องจากเป็นเรื่องที่ทำได้ง่ายและไม่มีค่าใช้จ่ายมากนัก ด้วยความพยายามและเวลาและเงินที่น้อยที่สุด เราสามารถสร้างโมเดลที่ปรับให้เหมาะสมได้ ซึ่งสามารถสร้างทวีตสื่อสังคมที่มีลักษณะเหมือนมนุษย์ได้ และได้รับการยืนยันผ่านการแยกรายการของมนุษย์’

นักเขียนเน้นย้ำว่าโมเดลที่ปรับให้เหมาะสมนี้ไม่จำกัดเฉพาะเนื้อหาสื่อสังคมแบบสั้น:

‘แม้ว่าเราจะได้รับแรงบันดาลใจจากการแพร่กระจายของเนื้อหา AI บนสื่อสังคมและความเสี่ยงของการสร้างความไม่สงบและแคมเปญอิทธิพล แต่เราก็เน้นย้ำว่าผลการวิจัยหลักนี้สามารถใช้ได้กับทุกโดเมนข้อความ’

‘แท้จริงแล้ว การปรับโมเดลให้เหมาะสมสำหรับการสร้างเนื้อหาที่มีลักษณะเฉพาะเป็นวิธีการที่ใช้ได้กับทั่วไป และอาจเป็นวิธีการที่ผู้ใช้ AI สร้างเนื้อหาหลายคนใช้แล้ว ซึ่งทำให้เกิดคำถามว่า วิธีการตรวจจับ AI ที่มีอยู่จะยังคงมีประสิทธิภาพในโลกแห่งความเป็นจริงหรือไม่’

เมื่อตรวจสอบแล้วว่า วิธีการสร้างโมเดลภาษาส่วนบุคคลนี้คือการปรับให้เหมาะสม โดยผู้ใช้จะรวบรวมข้อมูลเป้าหมายของตนเองและป้อนเข้าไปในเครื่องมือฝึกอบรมออนไลน์ที่ง่ายต่อการใช้งานและไม่มีค่าใช้จ่ายสูง

ตัวอย่างเช่น โมเดลภาษา Hugging Face มีระบบ AutoTrain ที่ให้ผู้ใช้สามารถปรับโมเดลภาษาได้ด้วยตนเอง โดยสามารถใช้ GPU ออนไลน์ได้ในราคาไม่แพงหรือใช้ฟรีหากผู้ใช้มีฮาร์ดแวร์ที่เหมาะสม

ตารางแสดงราคาและตัวเลือก GPU สำหรับระบบ AutoTrain ของ Hugging Face

เครื่องมืออื่นๆ ที่ให้บริการคล้ายกัน ได้แก่ Axolotl, Unsloth และ TorchTune

ตัวอย่างการใช้งานคือ นักเรียนที่ไม่ต้องการเขียนเรียงความของตนเอง แต่กลัวว่าจะถูกจับได้โดยเครื่องมือตรวจจับ AI สามารถใช้เรียงความในอดีตของตนเองเป็นข้อมูลฝึกอบรมเพื่อปรับโมเดลภาษาที่มีประสิทธิภาพสูง เช่น โมเดล Mistral

แม้ว่าการปรับโมเดลให้เหมาะสมจะทำให้ประสิทธิภาพโดยรวมลดลง แต่โมเดลที่ปรับให้เหมาะสมสามารถใช้เพื่อ “ลบเลื่อม AI” ออกจากผลลัพธ์ของระบบ AI เช่น ChatGPT โดยการปรับให้เหมาะสมกับรูปแบบการเขียนของตนเอง

อย่างไรก็ตาม หากใช้โมเดลที่ปรับให้เหมาะสมเฉพาะสำหรับงานหรือโดเมนเฉพาะ จะสามารถมีความเข้าใจที่ลึกซึ้งยิ่งขึ้นในโดเมนนั้นได้ และอาจมีค่าใช้จ่ายน้อยกว่า 10-20 ดอลลาร์ในการฝึกอบรม

ภูเขาน้ำแข็งของโมเดลภาษา

ยากที่จะบอกได้ว่าการใช้โมเดลภาษาส่วนบุคคลนี้มีขนาดใหญ่แค่ไหน แต่จากประสบการณ์ของผู้เขียนบนแพลตฟอร์มสื่อสังคมต่างๆ มีการใช้โมเดลภาษาที่ปรับให้เหมาะสมเพิ่มขึ้นอย่างมากเมื่อเทียบกับปีที่แล้ว

โมเดลที่มีลักษณะเฉพาะตัวนี้ต้องการข้อมูล “จับคู่” (ตัวอย่างก่อนและหลังในปริมาณมาก) ในขณะที่การสร้าง “สี” ของนักเขียนคนหนึ่งเป็นงานที่ง่ายกว่าและคล้ายกับการ “ถ่ายโอนสไตล์”

แม้ว่านี่จะเป็นกิจกรรมที่ซ่อนเร้น แต่ด้วยเหตุผลทั่วไปที่นำไปสู่การออกกฎหมาย TAKE IT DOWN ในปีนี้ ก็สามารถนำไปใช้กับกรณีนี้ได้: กิจกรรมเป้าหมายเป็นไปได้และไม่มีค่าใช้จ่ายสูง และมีความเข้าใจทั่วไปว่าผู้ใช้ที่มีศักยภาพมีแรงจูงใจสูง

มีความต้านทานเพียงพอในระบบฝึกอบรมออนไลน์ที่ง่ายที่สุดเพื่อให้การฝึกอบรมและใช้โมเดลที่ปรับให้เหมาะสมอย่างไม่ซื่อสัตย์ยังคงเป็นกรณีการใช้งานเฉพาะทางในขณะนี้

PhantomHunter

สิ่งนี้นำเราไปสู่เอกสารหลักที่สนใจใน đây – วิธีการใหม่จากจีนที่รวบรวมเทคนิคต่างๆ เข้าด้วยกันในเฟรมเวิร์กเดียวที่เรียกว่า PhantomHunter – ซึ่งอ้างว่าสามารถระบุผลลัพธ์ของโมเดลภาษาที่ปรับให้เหมาะสมได้ ซึ่งจะหลบเลี่ยงการตรวจจับได้

ระบบนี้ได้รับการออกแบบมาเพื่อทำงานได้แม้ว่าโมเดลที่ปรับให้เหมาะสมเฉพาะจะไม่เคยพบมาก่อน โดยอาศัยสิ่งที่เหลืออยู่จากโมเดลฐานที่เรียกว่า “ลักษณะครอบครัว” ที่ยังคงอยู่หลังการปรับให้เหมาะสม

ในการทดสอบ ระบบนี้แสดงผลการตรวจจับที่แข็งแกร่ง โดยสามารถเอาชนะการประเมินของ GPT-4-mini ในการตรวจจับข้อความที่มาจากโมเดลที่ปรับให้เหมาะสม

สิ่งนี้ชี้ให้เห็นว่าการปรับให้เหมาะสมมากขึ้นจะทำให้โมเดลเปิดเผยมากขึ้นเกี่ยวกับประวัติของมัน ซึ่งขัดแย้งกับความเชื่อที่ว่าการปรับให้เหมาะสมส่วนบุคคลจะซ่อนตัวตนของโมเดลเสมอ

เอกสารระบุว่า:

‘การตรวจจับข้อความที่สร้างโดย AI โดยทั่วไปจะแยกข้อความที่สร้างโดย AI และข้อความที่เขียนโดยมนุษย์โดยใช้การจำแนกประเภทแบบทวินาม การตรวจจับข้อความที่สร้างโดย AI ที่มีอยู่จะเรียนรู้คุณลักษณะข้อความทั่วไปที่ใช้ร่วมกันโดยโมเดล AI โดยใช้การเรียนรู้แบบแสดง หรือออกแบบเมตริกที่แตกต่างกันระหว่างข้อความที่สร้างโดย AI และข้อความที่เขียนโดยมนุษย์โดยอาศัยสัญญาณภายในของ AI (เช่น ความน่าจะเป็นของโทเค็น)’

‘สำหรับทั้งสองประเภท การทดสอบส่วนใหญ่จะดำเนินการบนข้อมูลจากโมเดล AI ที่มีอยู่สาธารณะ โดยสมมติว่าผู้ใช้สร้างข้อความโดยใช้บริการ AI สาธารณะ’

‘เราอ้างว่าสถานการณ์นี้กำลังเปลี่ยนแปลงเนื่องจากการพัฒนาในชุมชนโมเดล AI ที่เปิดซอร์ส ด้วยความช่วยเหลือจากแพลตฟอร์มเช่น HuggingFace และเทคนิคการฝึกอบรมโมเดล AI ที่มีประสิทธิภาพ เช่น การปรับให้เหมาะสมแบบต่ำ (LoRA) การสร้างโมเดล AI ที่ปรับให้เหมาะสมด้วยชุดข้อมูลส่วนบุคคลได้ง่ายขึ้นกว่าเดิม’

‘ตัวอย่างเช่น มีโมเดล Llama มากกว่า 60,000 รุ่นที่สร้างจาก HuggingFace หลังจากการปรับให้เหมาะสมด้วยชุดข้อมูลที่ไม่รู้จัก คุณลักษณะที่เรียนรู้ของโมเดลฐานอาจเปลี่ยนแปลงไป และเครื่องมือตรวจจับข้อความที่สร้างโดย AI อาจล้มเหลว ทำให้เกิดความเสี่ยงใหม่ที่ผู้ใช้ที่มีเจตนาไม่ดีสามารถสร้างข้อความที่เป็นอันตรายได้โดยไม่ต้องถูกจับได้โดยเครื่องมือตรวจจับข้อความที่สร้างโดย AI’

วิธีการและฝึกอบรม

ระบบ PhantomHunter ใช้กลยุทธ์การเรียนรู้ที่ตระหนักถึง “ครอบครัว” โดยรวมสามส่วนประกอบ: ตัวแยกคุณลักษณะที่จับผลลัพธ์ความน่าจะเป็นจากโมเดลฐานที่ทราบ, ตัวเข้ารหัสแบบต้านทานที่ฝึกให้แยกแยะระหว่างครอบครัว, และ (ตามที่อธิบายไว้ด้านล่าง) ตัวจำแนกผสมผสานที่กำหนดฉลากครอบครัวให้กับตัวอย่างข้อความใหม่:

สเคมาสำหรับระบบ PhantomHunter

PhantomHunter ทำงานโดยส่งตัวอย่างข้อความผ่านโมเดลฐานหลายตัวและบันทึกความน่าจะเป็นที่แต่ละโมเดลคิดว่าคำถัดไปจะเป็นเช่นไร ที่แต่ละจุด รูปแบบเหล่านี้จะถูกป้อนเข้าไปในเครือข่ายประสาทที่เรียนรู้คุณลักษณะที่แตกต่างของแต่ละครอบครัว

ระหว่างการฝึกอบรม ระบบจะเทียบข้อความจากครอบครัวเดียวกันและเรียนรู้ที่จะจัดกลุ่มเข้าด้วยกัน ในขณะที่แยกความแตกต่างระหว่างข้อความจากครอบครัวที่แตกต่างกัน ช่วยให้ระบุความเชื่อมโยงที่ซ่อนอยู่ระหว่างโมเดลที่ปรับให้เหมาะสมและโมเดลฐาน

MOE

เพื่อตัดสินว่าข้อความถูกเขียนโดยมนุษย์หรือ AI PhantomHunter ใช้ระบบผสมผสานที่เรียกว่า “ผสมผสานผู้เชี่ยวชาญ” โดยที่ผู้เชี่ยวชาญแต่ละคนได้รับการฝึกอบรมให้ตรวจจับข้อความจากครอบครัวแบบจำลองที่เฉพาะเจาะจง

เมื่อระบบเดาได้ว่าข้อความมาจากครอบครัวไหน มันจะใช้การเดานั้นเพื่อตัดสินว่าจะให้น้ำหนักการเห็นชอบของแต่ละผู้เชี่ยวชาญเท่าใด การเห็นชอบที่มีน้ำหนักเหล่านี้จะถูกรวมกันเพื่อการตัดสินสุดท้าย: AI หรือมนุษย์

การฝึกอบรมระบบนี้เกี่ยวข้องกับวัตถุประสงค์หลายประการ: การเรียนรู้เพื่อระบุครอบครัว, การเรียนรู้เพื่อแยกแยะระหว่างข้อความ AI และข้อความของมนุษย์, และการเรียนรู้เพื่อแยกแยะระหว่างครอบครัวโดยใช้การเรียนรู้แบบต้านทาน – วัตถุประสงค์เหล่านี้ถูกสร้างสมดุลระหว่างการฝึกอบรมผ่านพารามิเตอร์ที่ปรับได้

โดยการมุ่งเน้นไปที่รูปแบบที่ใช้ร่วมกันในแต่ละครอบครัว PhantomHunter ควรจะสามารถตรวจจับโมเดลที่ปรับให้เหมาะสมได้แม้ว่าจะไม่เคยพบมาก่อนก็ตาม

ข้อมูลและการทดสอบ

เพื่อพัฒนาข้อมูลสำหรับการทดสอบ ผู้เขียนเน้นไปที่สองสถานการณ์ทางวิชาการที่พบบ่อยที่สุด: การเขียนและการตอบคำถาม สำหรับการเขียน ผู้เขียนรวบรวมบทคัดย่อ 69,297 บทจากคลังข้อมูล Arxiv และแบ่งออกเป็นโดเมนหลัก สำหรับการตอบคำถาม ผู้เขียนรวบรวมคู่คำถามและคำตอบ 2,062 คู่จากชุดข้อมูล HC3 ในสามหัวข้อ: ELI5, การเงิน, และการแพทย์:

รายการแหล่งข้อมูลและจำนวนข้อมูลที่รวบรวมสำหรับการศึกษา

โดยรวมแล้ว มีการฝึกอบรมโมเดล 12 โมเดลสำหรับการทดสอบ โมเดลฐานทั้งสามคือ LLaMA-2 7B-Chat, Mistral 7B-Instruct-v0.1, และ Gemma 7B-it ซึ่งจากนั้นจะถูกปรับให้เหมาะสมเป็น 9 รุ่น โดยแต่ละรุ่นจะถูกปรับให้เหมาะสมสำหรับโดเมนหรือรูปแบบการเขียนที่แตกต่างกันโดยใช้ข้อมูลโดเมนส่วนบุคคล

สถิติของชุดข้อมูลที่ใช้ในการประเมิน

โดยรวมแล้ว มีการฝึกอบรมโมเดลฐานทั้งสามโดยใช้ทั้งการปรับให้เหมาะสมแบบเต็มและ LoRA ทั่วโดเมนที่แตกต่างกันสามโดเมนในแต่ละสถานการณ์การใช้งาน: การเขียนบทคัดย่อทางวิชาการและการตอบคำถาม

เพื่อสะท้อนถึงความท้าทายในการตรวจจับในโลกแห่งความเป็นจริง โมเดลที่ปรับให้เหมาะสมด้วยข้อมูลคอมพิวเตอร์จะถูกแยกออกจากการทดสอบการเขียน ในขณะที่โมเดลที่ปรับให้เหมาะสมด้วยข้อมูลการเงินจะถูกแยกออกจากการทดสอบการตอบคำถาม

เฟรมเวิร์กที่เป็นคู่แข่งที่ถูกเลือก ได้แก่ RoBERTa, T5-Sentinel, SeqXGPT, DNA-GPT, DetectGPT, Fast-DetectGPT, และ DeTeCtive

PhantomHunter ถูกฝึกอบรมโดยใช้ชั้นประสาทสองประเภท: ชั้นเชิงสัมผัสสามชั้นด้วยการรวมสูงสุดเพื่อจับภาพรูปแบบข้อความท้องถิ่น และชั้นเปลี่ยนรูปสองชั้นด้วยหัวจับฟัง四ชั้นเพื่อสร้างแบบจำลองความสัมพันธ์ที่ยาวกว่า

สำหรับการเรียนรู้แบบต้านทาน ซึ่งกระตุ้นให้ระบบแยกแยะระหว่างครอบครัวแบบจำลองที่แตกต่างกัน พารามิเตอร์อุณหภูมิจะถูกตั้งค่าไว้ที่ 0.07

วัตถุประสงค์การฝึกอบรมรวมสามเทอมการสูญเสีย: L1 (สำหรับการจำแนกครอบครัว) และ L2 (สำหรับการตรวจจับแบบทวินาม) โดยแต่ละเทอมมีน้ำหนัก 1.0 และ L3 (สำหรับการเรียนรู้แบบต้านทาน) มีน้ำหนัก 0.5

โมเดลถูกเพิ่มประสิทธิภาพโดยใช้ Adam ด้วยอัตราการเรียนรู้ 2e-5 และขนาดชุดข้อมูล 32 การฝึกอบรมเกิดขึ้นเป็นเวลา 10 เอพพอกที่สมบูรณ์ โดยใช้จุดตรวจสอบที่ดีที่สุดจากการเลือกชุดตรวจสอบ

เมตริกที่ใช้ในการประเมิน ได้แก่ การให้คะแนน F1 สำหรับแต่ละชุดการทดสอบย่อย ร่วมกับอัตราการตรวจจับที่แท้จริง สำหรับการเปรียบเทียบกับเครื่องมือตรวจจับเชิงพาณิชย์

คะแนน F1 สำหรับการตรวจจับข้อความที่สร้างโดยโมเดลภาษาที่ปรับให้เหมาะสมที่ไม่เคยเห็นมาก่อน

ผลลัพธ์ของการทดสอบเบื้องต้น ซึ่งแสดงในตารางด้านบน แสดงให้เห็นว่า PhantomHunter มีประสิทธิภาพเหนือกว่าระบบฐานทั้งหมด โดยรักษาคะแนน F1 ไว้เหนือ 90% สำหรับทั้งข้อความที่สร้างโดยมนุษย์และ AI แม้ว่าจะถูกประเมินจากผลลัพธ์ของโมเดลที่ปรับให้เหมาะสมที่ถูกแยกออกจากชุดฝึกอบรมก็ตาม

ผู้เขียนแสดงความคิดเห็นว่า:

‘ด้วยการปรับให้เหมาะสมแบบเต็ม PhantomHunter เพิ่มคะแนน MacF1 เปอร์เซ็นต์เหนือระบบฐานที่ดีที่สุด 3.65% และ 2.96% ในทั้งสองชุดข้อมูล ตามลำดับ; และด้วยการปรับให้เหมาะสมแบบ LoRA การปรับปรุงคือ 2.01% และ 6.09% ตามลำดับ’

‘ผลลัพธ์แสดงให้เห็นถึงความสามารถในการตรวจจับที่ทรงพลังของ PhantomHunter สำหรับข้อความที่สร้างโดยโมเดลภาษาที่ปรับให้เหมาะสมที่ไม่เคยเห็นมาก่อน’

การศึกษาการลบส่วนประกอบได้ถูกดำเนินการเพื่อประเมินบทบาทของแต่ละส่วนประกอบหลักใน PhantomHunter เมื่อเอาส่วนประกอบออก การลดความแม่นยำจะถูกสังเกตเห็น ซึ่งบ่งชี้ว่าโครงสร้างนี้พึ่งพาการประสานงานของทุกส่วน

ผู้เขียนยังตรวจสอบว่า PhantomHunter สามารถทั่วไปได้หรือไม่ เมื่อใช้กับผลลัพธ์ของโมเดลฐานที่ไม่ได้ใช้ในการฝึกอบรม และพบว่ายังคงเหนือกว่าวิธีการอื่นๆ

สรุป

หนึ่งในข้อโต้แย้งที่สนับสนุนโมเดลภาษาที่ผู้ใช้ฝึกอบรมเองคือ โมเดลเหล่านี้ยังคงรักษาลักษณะและความพิเศษเฉพาะตัวของนักเขียนได้ ในสภาพแวดล้อมที่ภาษา AI ที่มีลักษณะเหมือนกันกำลัง “ทำให้ภาษาเป็นมาตรฐาน” ทุกที่ที่ AI เป็นผู้ร่วมให้ข้อมูลหลัก

ด้วยการ “ถูกตัดค่า” ของการเขียนเรียงความในมหาวิทยาลัย และด้วยนักเรียนที่ตอนนี้บันทึกการเขียนเรียงความของตนเองเพื่อพิสูจน์ว่าไม่ได้ใช้ AI ในการ提交ของตนเอง ครูหลายคนนอกยุโรป (ที่การสอบปากเปล่าเป็นเรื่องปกติ) กำลังพิจารณาการสอบปากเปล่าเป็นทางเลือกแทนการ提交ข้อความที่เขียน

ในทางที่เป็นไปได้ วิธีแก้ปัญหาทั้งสองนี้ดีกว่าการวิ่งแข่งอาวุธ AI ที่อาจเกิดขึ้นได้ แต่มาพร้อมกับค่าใช้จ่ายของความพยายามและความสนใจของมนุษย์ ซึ่งเป็นสิ่งที่วัฒนธรรมเทคโนโลยีกำลังพยายามที่จะลบออกไป

^† กรุณาไปดูที่ส่วนต่อท้ายของเอกสารหลักสำหรับรายละเอียดเกี่ยวกับเรื่องนี้

* การแปลงอ้างอิงแบบแทรกของฉันให้เป็นลิงก์

เผยแพร่ครั้งแรกวันพฤหัสบดีที่ 19 มิถุนายน 2025