การแก้ไขปัญหาปัจจุบันภายใน LLMs และมองไปสู่สิ่งที่จะเกิดขึ้นต่อไป

ในปัจจุบันมีโมเดลภาษาขนาดใหญ่ (LLMs) ที่สามารถเข้าถึงได้หลายสิบแบบ เช่น GPT-3, GPT-4, LaMDA หรือ Bard และจำนวนโมเดลเหล่านี้ก็เพิ่มขึ้นอย่างต่อเนื่องเมื่อมีการเปิดตัวโมเดลใหม่ LLMs ได้ปฏิวัติวงการปัญญาประดิษฐ์โดยการเปลี่ยนแปลงวิธีการที่เราสื่อสารกับเทคโนโลยีในอุตสาหกรรมต่างๆ โมเดลเหล่านี้ช่วยให้เราสามารถเรียนรู้จากชุดข้อมูลภาษาของมนุษย์ได้มากมาย และเปิดโอกาสใหม่ๆ สำหรับการสร้างสรรค์ ความคิดสร้างสรรค์ และประสิทธิภาพ

อย่างไรก็ตาม ด้วยพลังที่ยิ่งใหญ่มาบรรจบกับความซับซ้อน LLMs ก็มีความท้าทายและประเด็นด้านจริยธรรมที่ต้องได้รับการแก้ไขก่อนที่เราจะสามารถใช้งานได้อย่างเต็มที่ ตัวอย่างเช่น การศึกษาของ Stanford ที่เพิ่งเผยแพร่พบว่ามีการแบ่งแยกทางเชื้อชาติและเพศเมื่อตรวจสอบ ChatGPT-4 ในการรับมือกับคิวรี่ที่มีชื่อและนามสกุลที่บ่งบอกถึงเชื้อชาติหรือเพศ ในการศึกษานี้ โปรแกรมได้รับการขอให้ให้คำแนะนำเกี่ยวกับวิธีการจ่ายเงินสำหรับการซื้อจักรยานมือสองที่ขายโดยบุคคลชื่อ Jamal Washington ซึ่งให้ผลลัพธ์ที่ต่างกันเมื่อเทียบกับการขายโดยบุคคลชื่อ Logan Becker เมื่อผลการวิจัยเหล่านี้เกิดขึ้น ความจำเป็นในการแก้ไขปัญหาของ LLMs ก็เพิ่มขึ้น

วิธีการบรรเทาปัญหาทั่วไปของ LLMs

การแบ่งแยก

หนึ่งในประเด็นที่ถูกกล่าวถึงมากที่สุดเกี่ยวกับ LLMs คือการแบ่งแยกและความยุติธรรม ในการศึกษาล่าสุด ผู้เชี่ยวชาญได้ทดสอบ LLMs สี่แบบที่เผยแพร่ล่าสุดและพบว่าทั้งสี่แบบแสดงถึงการมีสมมติฐานที่มีอคติเกี่ยวกับผู้ชายและผู้หญิง โดยเฉพาะอย่างยิ่งสมมติฐานที่สอดคล้องกับการรับรู้ของผู้คนมากกว่าข้อเท็จจริง ในบริบทนี้ การแบ่งแยกหมายถึงการรักษาหรือผลลัพธ์ที่ไม่เท่าเทียมกันระหว่างกลุ่มสังคมที่แตกต่างกัน ซึ่งอาจเกิดจากความไม่สมดุลของอำนาจในอดีตหรือโครงสร้าง

การแบ่งแยกใน LLMs เกิดจากการเลือกข้อมูล การแบ่งแยกทางประชากรของผู้สร้าง และการเอียงของภาษาหรือวัฒนธรรม การแบ่งแยกข้อมูลเกิดขึ้นเมื่อข้อความที่เลือกสำหรับการฝึกอบรม LLMs ไม่แสดงถึงความหลากหลายของภาษาที่ใช้บนอินเทอร์เน็ต LLMs ที่ฝึกอบรมด้วยชุดข้อมูลที่กว้างแต่จำกัดสามารถสืบทอดอคติที่มีอยู่แล้วในข้อความเหล่านั้น การแบ่งแยกทางประชากรเกิดขึ้นเมื่อกลุ่มประชากรบางกลุ่มได้รับการเน้นมากกว่ากลุ่มอื่นๆ ซึ่งแสดงถึงความจำเป็นในการเพิ่มความหลากหลายและความ包容ในการสร้างเนื้อหาที่จะช่วยลดการแบ่งแยก ตัวอย่างเช่น วิกิพีเดีย ซึ่งเป็นแหล่งข้อมูลทั่วไปสำหรับการฝึกอบรม LLMs มีการไม่สมดุลทางประชากรในหมู่ผู้เขียน โดยมีผู้ชายเป็นหลัก (84%) ซึ่งคล้ายกับการเอียงที่พบในภาษาและวัฒนธรรม

จำเป็นต้องฝึกอบรม LLMs ด้วยข้อมูลที่ผ่านการกรองแล้ว และต้องมีการป้องกันเพื่อระงับหัวข้อที่ไม่สอดคล้องกับการแสดงถึงข้อมูลที่แท้จริง วิธีหนึ่งในการทำเช่นนี้คือการใช้เทคนิคการเพิ่มข้อมูล (data augmentation) คุณสามารถเพิ่ม例จากกลุ่มที่ไม่ได้แสดงถึงในข้อมูลฝึกอบรม ซึ่งจะช่วยเพิ่มความหลากหลายของชุดข้อมูล อีกวิธีหนึ่งคือการกรองข้อมูลและการตั้งน้ำหนักซึ่งมุ่งเน้นไปที่การกำหนดเป้าหมายไปยังตัวอย่างที่ไม่ได้แสดงถึงในข้อมูลที่มีอยู่

การหลอกลวง

ในบริบทของ LLMs การหลอกลวงเป็นปรากฏการณ์ที่เกิดขึ้นเมื่อโมเดลผลิตข้อความที่แม้จะถูกต้องทางไวยากรณ์และดูเหมือนสมเหตุสมผล แต่ก็ไม่สอดคล้องกับความจริงหรือเจตนาของเนื้อหาที่มา ในความเป็นจริง รายงานล่าสุด พบว่าคดีเกี่ยวกับกฎหมายในมินนิโซตาส่งผลกระทบโดยตรงต่อการหลอกลวงของ LLMs ใบแถลงการณ์ที่ยื่นเพื่อสนับสนุนกฎหมายดังกล่าวพบว่ามีแหล่งข้อมูลที่ไม่มีอยู่จริงซึ่งอาจถูกสร้างขึ้นโดย ChatGPT หรือ LLMs อื่นๆ การหลอกลวงเหล่านี้สามารถลดความน่าเชื่อถือของ LLMs ได้อย่างง่ายดาย

มีสามรูปแบบหลักของการหลอกลวง:

1. การหลอกลวงที่ขัดแย้งกับข้อมูลเข้า: สิ่งนี้เกิดขึ้นเมื่อผลลัพธ์ของ LLM แตกต่างจากข้อมูลเข้าที่ผู้ใช้ให้มา ซึ่งโดยปกติจะรวมถึงคำแนะนำงานและเนื้อหาที่ต้องการประมวลผล
2. การหลอกลวงที่ขัดแย้งกับบริบท: LLMs อาจสร้างคำตอบที่ไม่สอดคล้องกันภายในในสถานการณ์ที่เกี่ยวข้องกับการสนทนาหรือการแลกเปลี่ยนหลายครั้ง ซึ่งบ่งชี้ถึงความไม่เพียงพอในความสามารถของโมเดลในการติดตามบริบทหรือรักษาความสอดคล้องระหว่างการโต้ตอบหลายครั้ง
3. การหลอกลวงที่ขัดแย้งกับข้อเท็จจริง: รูปแบบของการหลอกลวงนี้เกิดขึ้นเมื่อ LLMs ผลิตเนื้อหาที่ขัดแย้งกับข้อเท็จจริงที่กำหนดไว้ ต้นตอของข้อผิดพลาดเหล่านี้มีหลากหลายและอาจเกิดขึ้นที่หลายขั้นตอนในชีวิตของ LLMs

หลายปัจจัยมีส่วนทำให้เกิดปรากฏการณ์นี้ เช่น การขาดความรู้ ซึ่งอธิบายว่า LLMs อาจขาดความรู้หรือความสามารถในการดูดซึมข้อมูลอย่างถูกต้องระหว่างการฝึกอบรมก่อนหน้า นอกจากนี้ อคติในข้อมูลฝึกอบรมหรือยุทธวิธีการสร้างแบบลำดับของ LLMs ที่เรียกว่า “การหลอกลวงแบบหิมะตก” สามารถสร้างการหลอกลวงได้

มีวิธีการบรรเทาการหลอกลวง แม้ว่าจะเป็นลักษณะของ LLMs วิธีการบรรเทาที่มีประโยชน์สำหรับการหลอกลวงคือการบรรเทาในช่วงการฝึกอบรมก่อนหน้า (การปรับแต่งข้อมูลด้วยเทคนิคการกรอง) หรือการปรับแต่ง (การคัดเลือกข้อมูลฝึกอบรม) อย่างไรก็ตาม การบรรเทาในช่วงการอนุมานเป็นวิธีแก้ปัญหาที่ดีที่สุดเนื่องจากมีความคุ้มค่าและสามารถควบคุมได้

ความเป็นส่วนตัว

ด้วยการเพิ่มขึ้นของอินเทอร์เน็ต ความสามารถในการเข้าถึงข้อมูลส่วนบุคคลและข้อมูลอื่นๆ ที่เป็นส่วนตัวได้กลายเป็นข้อกังวลที่ได้รับการยอมรับอย่างกว้างขวาง การศึกษาพบว่า 80% ของผู้บริโภคชาวอเมริกันกังวลว่าข้อมูลของตนถูกใช้ในการฝึกอบรมโมเดล AI เนื่องจาก LLMs ที่โดดเด่นที่สุดได้รับแหล่งที่มาจากเว็บไซต์ จึงจำเป็นต้องพิจารณาว่าสิ่งนี้ส่งผลต่อความเสี่ยงด้านความเป็นส่วนตัวและยังคงเป็นปัญหาที่ยังไม่ได้รับการแก้ไขสำหรับ LLMs

วิธีที่ง่ายที่สุดในการป้องกันไม่ให้ LLMs แจกจ่ายข้อมูลส่วนบุคคลคือการลบข้อมูลนั้นออกจากข้อมูลฝึกอบรม อย่างไรก็ตาม ด้วยปริมาณข้อมูลที่เกี่ยวข้องกับ LLMs จึงเป็นเรื่องที่ยากที่จะรับประกันว่าข้อมูลส่วนบุคคลทั้งหมดถูกลบออกไป วิธีแก้ปัญหาทั่วไปสำหรับองค์กรที่พึ่งพาโมเดลที่พัฒนาโดยภายนอกคือการเลือกใช้ LLMs ที่เปิดกว้างแทนการบริการ เช่น ChatGPT

ด้วยการเข้าถึงนี้ องค์กรสามารถใช้โมเดลภายในได้ และคำถามของผู้ใช้จะยังคงปลอดภัยภายในเครือข่ายขององค์กร แทนที่จะถูกเปิดเผยต่อการบริการของบุคคลที่สาม แม้ว่าสิ่งนี้จะลดความเสี่ยงของการรั่วไหลของข้อมูลที่ละเอียดอ่อน แต่ก็เพิ่มความซับซ้อนให้กับการใช้งาน เมื่อพิจารณาถึงความยากลำบากในการรับประกันการปกป้องข้อมูลส่วนบุคคลอย่างเต็มที่ จึงเป็นสิ่งสำคัญสำหรับนักพัฒนาแอปพลิเคชันที่จะพิจารณาว่าโมเดลเหล่านี้อาจส่งผลต่อผู้ใช้ของตนได้อย่างไร

ขอบเขตใหม่สำหรับ LLMs

เมื่อเรายังคงเติบโตและ塑造การพัฒนาของ LLMs ในอนาคตผ่านการบรรเทาความเสี่ยงในปัจจุบัน เราควรคาดหวังการปรากฏตัวของตัวแทน LLMs ซึ่งเริ่มเห็นแล้วในบริษัทต่างๆ เช่น H ด้วย Runner H การเปลี่ยนแปลงจากโมเดลภาษาบริสุทธิ์ไปสู่สถาปัตยกรรมแบบตัวแทนแสดงถึงการเปลี่ยนแปลงในด้านการออกแบบระบบ AI อุตสาหกรรมจะผ่านพ้นข้อจำกัดที่มีอยู่ของอินเทอร์เฟซการแชทและเครื่องมือสร้างแบบง่ายๆ ตัวแทนใหม่เหล่านี้จะมีโมดูลการวางแผนขั้นสูงที่สามารถแบ่งวัตถุประสงค์ที่ซับซ้อนออกเป็นงานย่อยๆ ที่เป็นปรมาณู รักษาความจำเชิงบริบทสำหรับการให้เหตุผลเชิงบริบท และใช้เครื่องมือเฉพาะผ่าน API ที่กำหนดไว้อย่างดี สิ่งนี้จะช่วยให้สามารถใช้งานอัตโนมัติงานได้อย่างมีประสิทธิภาพมากขึ้น

นอกเหนือจาก LLMs แล้ว จะมีการเน้นไปที่การฝึกอบรมโมเดลภาษาที่เล็กกว่าเนื่องจากความคุ้มค่า ต้นทุนต่ำ และความง่ายในการใช้งาน ตัวอย่างเช่น โมเดลภาษาที่เน้นเฉพาะโดเมนจะเชี่ยวชาญในอุตสาหกรรมหรือสาขาเฉพาะ โมเดลเหล่านี้ได้รับการปรับให้เหมาะสมด้วยข้อมูลและคำศัพท์เฉพาะโดเมน ทำให้เหมาะสำหรับสภาพแวดล้อมที่ซับซ้อนและควบคุมอย่างเข้มงวด เช่น สาขาการแพทย์หรือกฎหมาย ซึ่งความแม่นยำเป็นสิ่งสำคัญ การเข้าถึงแบบเฉพาะจุดนี้จะช่วยลดความเสี่ยงของข้อผิดพลาดและการหลอกลวงที่โมเดลทั่วไปอาจเกิดขึ้นเมื่อเผชิญกับเนื้อหาที่ซับซ้อน

เมื่อเรายังคงสำรวจขอบเขตใหม่ๆ ของ LLMs จะเป็นสิ่งสำคัญที่จะต้องผลักดันขอบเขตของนวัตกรรมและแก้ไขปัญหาที่อาจเกิดขึ้นในการพัฒนาและการใช้งาน เพียงโดยการระบุและแก้ไขปัญหาเกี่ยวกับการแบ่งแยก การหลอกลวง และความเป็นส่วนตัวก่อน จึงจะสามารถสร้างรากฐานที่แข็งแกร่งสำหรับ LLMs เพื่อเติบโตในหลายๆ สาขาได้