การทำเครื่องหมาย LLM ซึ่งรวมสัญญาณที่ตรวจจับได้แต่ไม่เห็นได้ภายในผลลัพธ์ของโมเดลเพื่อระบุเนื้อหาที่สร้างโดย LLM ถือเป็นสิ่งสำคัญสำหรับการป้องกันการใช้โมเดลภาษาขนาดใหญ่ในทางที่ผิด เทคนิคการทำเครื่องหมายเหล่านี้ส่วนใหญ่แบ่งออกเป็นสองประเภท: ครอบครัว KGW และครอบครัว Christ ครอบครัว KGW ปรับเปลี่ยนลอจิตที่ผลิตโดย LLM เพื่อสร้างผลลัพธ์ที่มีเครื่องหมายโดยการแบ่งพจนานุกรมออกเป็นรายการสีเขียวและรายการสีแดงตามโทเค็นก่อนหน้า ความเอนเอียงถูกนำเข้าสู่ลอจิตของโทเค็นในรายการสีเขียวระหว่างการสร้างข้อความ โดยให้ความชอบแก่โทเค็นเหล่านี้ในข้อความที่ผลิตขึ้น จากนั้นจะคำนวณเมตริกทางสถิติจากอัตราส่วนของคำสีเขียว และกำหนดค่าขีดจำกัดเพื่อแยกความแตกต่างระหว่างข้อความที่มีเครื่องหมายและไม่มีเครื่องหมาย การปรับปรุงวิธีการ KGW รวมถึงการแบ่งพาร์ติชันรายการที่ดีขึ้น การจัดการลอจิตที่ดีขึ้น ความจุของข้อมูลเครื่องหมายที่เพิ่มขึ้น การต้านทานการโจมตีเพื่อลบเครื่องหมาย และความสามารถในการตรวจจับเครื่องหมายสาธารณะ

ในทางกลับกัน ครอบครัว Christ จะเปลี่ยนกระบวนการการสุ่มตัวอย่างระหว่างการสร้างข้อความของ LLM โดยฝังเครื่องหมายโดยการเปลี่ยนแปลงวิธีการเลือกโทเค็น ทั้งสองครอบครัวของการทำเครื่องหมายมุ่งหมายเพื่อสร้างสมดุลระหว่างการตรวจจับเครื่องหมายและคุณภาพของข้อความ โดยแก้ไขปัญหาเช่น ความแข็งแกร่งในสถานการณ์เอนโทรปีที่แตกต่างกัน การเพิ่มขึ้นของความจุของข้อมูลเครื่องหมาย และการป้องกันการลบเครื่องหมาย การวิจัยล่าสุดมุ่งเน้นไปที่การปรับปรุงการแบ่งพาร์ติชันรายการและการจัดการลอจิต การเพิ่มขึ้นของความจุของข้อมูลเครื่องหมาย การพัฒนาวิธีการต้านทานการลบเครื่องหมาย และการเปิดใช้งานการตรวจจับสาธารณะ สุดท้าย การทำเครื่องหมาย LLM ถือเป็นสิ่งสำคัญสำหรับการใช้โมเดลภาษาขนาดใหญ่อย่างมีจริยธรรมและรับผิดชอบ โดยให้วิธีการติดตามและยืนยันข้อความที่สร้างโดย LLM ครอบครัว KGW และ Christ เสนอแนวทางที่แตกต่างกันซึ่งมีความแข็งแกร่งและแอปพลิเคชันที่ไม่เหมือนใครซึ่งพัฒนาอย่างต่อเนื่องผ่านการวิจัยและนวัตกรรมที่กำลังดำเนินอยู่

เนื่องจากความสามารถของเฟรมเวิร์กการทำเครื่องหมาย LLM ในการฝังเครื่องหมายที่ตรวจจับได้ด้วยอัลกอริทึมในผลลัพธ์ของโมเดลเพื่อระบุเนื้อหาที่สร้างโดย LLM จึงมีบทบาทสำคัญในการบรรเทาผลกระทบจากการใช้โมเดลภาษาขนาดใหญ่ในทางที่ผิด อย่างไรก็ตาม มีเฟรมเวิร์กการทำเครื่องหมาย LLM จำนวนมากในตลาดในปัจจุบัน ซึ่งแต่ละรายการมีมุมมองและขั้นตอนการประเมินที่แตกต่างกัน ทำให้นักวิจัยพบว่ายากที่จะทดลองกับเฟรมเวิร์กเหล่านี้ได้ง่ายๆ เพื่อตอบสนองปัญหานี้ MarkLLM ซึ่งเป็นชุดเครื่องมือแบบเปิดสำหรับการทำเครื่องหมาย LLM เสนอเฟรมเวิร์กที่มีหน้าต่างและรวมถึงการนำไปใช้ซึ่งช่วยให้ผู้ใช้สามารถใช้งานได้ง่าย นอกจากนี้ เฟรมเวิร์ก MarkLLM ยังรองรับการแสดงภาพอัตโนมัติของกลไกของเฟรมเวิร์กเหล่านี้ ซึ่งเพิ่มความเข้าใจของโมเดลเหล่านี้ให้ดีขึ้น เฟรมเวิร์ก MarkLLM เสนอชุดเครื่องมือที่ครอบคลุม 12 ชิ้นซึ่งครอบคลุมสามมุมมองพร้อมด้วยสองแนวทางการประเมินอัตโนมัติสำหรับการประเมินประสิทธิภาพของตนเอง

MarkLLM: ชุดเครื่องมือสำหรับ LLM Watermarking

การเกิดขึ้นของเฟรมเวิร์กโมเดลภาษาขนาดใหญ่ เช่น LLaMA, GPT-4, ChatGPT และอื่นๆ ได้พัฒนาความสามารถของโมเดล AI ในการทำงานเฉพาะอย่าง เช่น การเขียนสร้างสรรค์ การทำความเข้าใจเนื้อหา การค้นหาข้อมูล และอื่นๆ อย่างไรก็ตาม ร่วมกับความสามารถที่น่าประทับใจของโมเดลภาษาขนาดใหญ่ในปัจจุบัน ความเสี่ยงบางอย่างก็เกิดขึ้น เช่น การเขียนวิทยานิพนธ์แบบ Ghostwriting การสร้างข่าวปลอมและการแสดงภาพโดย LLM และการปลอมตัวบุคคลเพื่อชื่อไม่กี่คน การพัฒนาวิธีการที่เชื่อถือได้ซึ่งมีความสามารถในการแยกความแตกต่างระหว่างเนื้อหาที่สร้างโดย LLM และเนื้อหาที่สร้างโดยมนุษย์เป็นข้อกำหนดหลักในการรับรองความถูกต้องของการสื่อสารดิจิทัลและการป้องกันการแพร่กระจายของข้อมูลที่ไม่ถูกต้อง

MarkLLM: สถาปัตยกรรมและวิธีการ

เทคนิคการทำเครื่องหมาย LLM แบ่งออกเป็นสองประเภทหลัก: ครอบครัว KGW และครอบครัว Christ ครอบครัว KGW ปรับเปลี่ยนลอจิตที่ผลิตโดย LLM เพื่อสร้างผลลัพธ์ที่มีเครื่องหมายโดยการแบ่งพจนานุกรมออกเป็นรายการสีเขียวและรายการสีแดงตามโทเค็นก่อนหน้า ความเอนเอียงถูกนำเข้าสู่ลอจิตของโทเค็นในรายการสีเขียวระหว่างการสร้างข้อความ โดยให้ความชอบแก่โทเค็นเหล่านี้ในข้อความที่ผลิตขึ้น จากนั้นจะคำนวณเมตริกทางสถิติจากอัตราส่วนของคำสีเขียว และกำหนดค่าขีดจำกัดเพื่อแยกความแตกต่างระหว่างข้อความที่มีเครื่องหมายและไม่มีเครื่องหมาย การปรับปรุงวิธีการ KGW รวมถึงการแบ่งพาร์ติชันรายการที่ดีขึ้น การจัดการลอจิตที่ดีขึ้น ความจุของข้อมูลเครื่องหมายที่เพิ่มขึ้น การต้านทานการโจมตีเพื่อลบเครื่องหมาย และความสามารถในการตรวจจับเครื่องหมายสาธารณะ

การประเมินแบบครอบคลุมอัตโนมัติ

การประเมินอัลกอริทึมการทำเครื่องหมาย LLM เป็นงานที่ซับซ้อน อันดับแรก มันจำเป็นต้องพิจารณาหลายด้าน รวมถึงการตรวจจับเครื่องหมาย ความแข็งแกร่งต่อการบุกรุก และผลกระทบต่อคุณภาพของข้อความ อันดับที่สอง การประเมินจากมุมมองแต่ละมุมอาจต้องใช้เมตริก การโจมตี และงานที่แตกต่างกัน นอกจากนี้ การประเมินโดยทั่วไปเกี่ยวข้องกับการดำเนินหลายขั้นตอน เช่น การเลือกโมเดลและชุดข้อมูล การสร้างข้อความที่มีเครื่องหมาย การประมวลผลหลัง การตรวจจับเครื่องหมาย การบุกรุกข้อความ และการคำนวณเมตริก เพื่ออำนวยความสะดวกในการประเมินอัลกอริทึมการทำเครื่องหมาย LLM อย่างสะดวกและครอบคลุม MarkLLM เสนอเครื่องมือ 12 ชิ้น รวมถึงเครื่องมือคำนวณเมตริกและโจมตีหลายอย่างที่ครอบคลุมมุมมองการประเมินสามมุมมองดังกล่าว

การประเมินแบบท่อ

เพื่ออำนวยความสะดวกในการประเมินอัลกอริทึมการทำเครื่องหมาย LLM อย่างอัตโนมัติ MarkLLM เสนอแนวทางการประเมินสองแบบ: หนึ่งสำหรับการประเมินความสามารถในการตรวจจับเครื่องหมายด้วยและไม่มีการโจมตี และอีกแบบหนึ่งสำหรับการวิเคราะห์ผลกระทบของอัลกอริทึมเหล่านี้ต่อคุณภาพของข้อความ

MarkLLM: การทดลองและผลลัพธ์

เพื่อประเมินประสิทธิภาพ เฟรมเวิร์ก MarkLLM ได้ทำการทดลองเกี่ยวกับอัลกอริทึม 9 แบบ และประเมินผลกระทบ ความแข็งแกร่ง และการตรวจจับเครื่องหมายต่อคุณภาพของข้อความ

ความคิดสุดท้าย

ในบทความนี้ เราได้พูดถึง MarkLLM ซึ่งเป็นชุดเครื่องมือแบบเปิดสำหรับการทำเครื่องหมาย LLM ที่เสนอฟีเจอร์และอินเทอร์เฟซที่ใช้งานง่าย นอกจากนี้ เฟรมเวิร์ก MarkLLM ยังรองรับการแสดงภาพอัตโนมัติของกลไกของเฟรมเวิร์กเหล่านี้ ซึ่งเพิ่มความเข้าใจของโมเดลเหล่านี้ให้ดีขึ้น เฟรมเวิร์ก MarkLLM เสนอชุดเครื่องมือที่ครอบคลุม 12 ชิ้นซึ่งครอบคลุมสามมุมมองพร้อมด้วยสองแนวทางการประเมินอัตโนมัติสำหรับการประเมินประสิทธิภาพของตนเอง