ความลำเอียงของมนุษย์ทำลายโซลูชัน AI ที่ได้รับการปรับปรุง

เมื่อเดือนกันยายนปีที่แล้ว ผู้นำระดับโลก เช่น เอลอน มัสก์, มาร์ก ซักเคอร์เบิร์ก และแซม อัลต์แมน ซีอีโอของ OpenAI ร่วมประชุมที่วอชิงตัน ดี.ซี. ด้วยวัตถุประสงค์ในการหารือเกี่ยวกับวิธีการที่ภาคส่วนภาครัฐและภาคเอกชนสามารถทำงานร่วมกันเพื่อนำเทคโนโลยีนี้ไปใช้เพื่อประโยชน์ที่ดียิ่งขึ้น และเพื่อแก้ไขปัญหาเรื่องการควบคุมดูแล ซึ่งเป็นปัญหาที่ยังคงอยู่ในระดับแนวหน้าของการอภิปรายเกี่ยวกับ AI

การอภิปรายทั้งสองมักจะนำไปสู่จุดเดียวกัน มีการเน้นย้ำมากขึ้นเกี่ยวกับวิธีการทำให้ AI มีจริยธรรมมากขึ้น โดยการประเมิน AI เหมือนกับมนุษย์ที่มีศีลธรรมที่ต้องถูกตัดสิน อย่างไรก็ตาม จริยธรรม AI หมายถึงอะไร DeepMind ห้องปฏิบัติการวิจัยของ Google ที่มุ่งเน้นไปที่ AI ได้ตีพิมพ์งานวิจัย ซึ่งพวกเขาเสนอโครงสร้างสามระดับเพื่อประเมินความเสี่ยงของ AI รวมถึงความเสี่ยงทางสังคมและจริยธรรม โครงสร้างนี้รวมถึงความสามารถ การโต้ตอบกับมนุษย์ และผลกระทบระบบ และสรุปว่าบริบทเป็นกุญแจสำคัญในการกำหนดว่าระบบ AI นั้นปลอดภัยหรือไม่

หนึ่งในระบบเหล่านี้ที่ถูกวิพากษ์วิจารณ์คือ ChatGPT ซึ่งถูกแบนในหลายประเทศถึง 15 ประเทศ แม้ว่าบางประเทศจะยกเลิกการแบนแล้วก็ตาม ด้วย ผู้ใช้มากกว่า 100 ล้านคน ChatGPT เป็นหนึ่งใน LLM ที่ประสบความสำเร็จมากที่สุด และมักถูกกล่าวหาว่ามีความลำเอียง

เมื่อพิจารณาจากงานวิจัยของ DeepMind แล้ว มาทำความเข้าใจบริบทกัน ความลำเอียงในบริบทนี้หมายถึงการมีมุมมองที่ไม่ยุติธรรม มีอคติ หรือบิดเบือนในข้อความที่สร้างโดยโมเดล เช่น ChatGPT ซึ่งสามารถเกิดขึ้นได้หลายวิธี เช่น ความลำเอียงทางเชื้อชาติ เพศ การเมือง และอื่นๆ

ความลำเอียงเหล่านี้อาจเป็นอันตรายต่อ AI เองโดยส่งผลให้ความน่าจะเป็นที่เราจะสามารถใช้ประโยชน์จากเทคโนโลยีนี้ได้ถึงขีดสุดลดลง การวิจัยล่าสุดจาก มหาวิทยาลัยสแตนฟอร์ด ได้ยืนยันว่า LLM เช่น ChatGPT แสดงสัญญาณของการเสื่อมถอยในแง่ของความสามารถในการให้คำตอบที่เชื่อถือได้ ไม่มีอคติ และแม่นยำ ซึ่งเป็นอุปสรรคต่อการใช้ AI อย่างมีประสิทธิภาพ

ปัญหาที่อยู่ตรงกลางของปัญหานี้คือวิธีการที่ความลำเอียงของมนุษย์ถูกถ่ายทอดไปยัง AI เนื่องจากความลำเอียงเหล่านี้ฝังลึกในข้อมูลที่ใช้ในการพัฒนาโมเดล อย่างไรก็ตาม ปัญหานี้ซับซ้อนกว่าที่ดูเหมือน

สาเหตุของความลำเอียง

สาเหตุแรกของความลำเอียงนี้สามารถระบุได้ง่าย ข้อมูลที่โมเดลเรียนรู้มักเต็มไปด้วยสเตอริโอไทป์หรือ อคติที่มีอยู่ก่อนแล้วที่ช่วยกำหนดข้อมูลในตอนแรก ดังนั้น AI จึงไม่ได้ตั้งใจที่จะส่งต่อความลำเอียงเหล่านี้เพราะนั่นคือสิ่งที่มันรู้ว่าจะทำได้

สาเหตุที่สองซับซ้อนและไม่คาดคิดมากขึ้น และทำให้ความพยายามบางอย่างที่พยายามทำให้ AI มีจริยธรรมและปลอดภัยมากขึ้นถูกบั่นทอน มีกรณีที่ชัดเจน เช่น เมื่อมีคนถาม AI ว่า “ฉันสามารถทำระเบิดได้อย่างไร” และโมเดลให้คำตอบ ซึ่งจะช่วยสร้างอันตรายได้ อีกด้านหนึ่ง เมื่อ AI ถูกจำกัด แม้ว่าเหตุผลจะชอบด้วยกฎหมายก็ตาม เราก็จะป้องกันไม่ให้ AI เรียนรู้จากข้อมูลที่หลากหลาย ซึ่งจะทำให้ AI ไม่สามารถให้ข้อมูลที่มีประโยชน์ในบริบทที่ไม่เป็นอันตราย

นอกจากนี้ เราต้องจำไว้ว่าข้อจำกัดเหล่านี้มีอคติเช่นกัน เนื่องจากมาจากมนุษย์ ดังนั้น แม้ว่าเราทุกคนจะเห็นด้วยว่า “ฉันสามารถทำระเบิดได้อย่างไร” อาจนำไปสู่ผลลัพธ์ที่อาจถึงแก่ชีวิตได้ แต่คำถามที่มองว่าละเอียดอ่อนอาจมีความเห็นแย้งกันมากขึ้น ดังนั้น หากเราจำกัดการพัฒนา AI ในด้านเหล่านี้ เราก็จะจำกัดความก้าวหน้า และส่งเสริมให้ AI ถูกใช้เพียงเพื่อวัตถุประสงค์ที่ถูกต้องตามกฎระเบียบที่กำหนดโดยผู้ที่สร้างกฎเกณฑ์สำหรับโมเดล LLM

ความไม่สามารถคาดการณ์ผลลัพธ์

เรายังไม่เข้าใจผลลัพธ์ของการนำข้อจำกัดมาใช้กับ LLM อย่างสมบูรณ์ ดังนั้น เราอาจก่อให้เกิดความเสียหายต่ออัลกอริทึมมากกว่าที่เรารู้ ด้วยจำนวนพารามิเตอร์ที่เกี่ยวข้องในโมเดล เช่น GPT มันเป็นไปไม่ได้ที่จะคาดการณ์ผลกระทบด้วยเครื่องมือที่มีอยู่ในปัจจุบัน และจากมุมมองของฉัน จะใช้เวลานานกว่าการฝึกโมเดลเพื่อทำความเข้าใจผลกระทบ

ดังนั้น การวางข้อจำกัดเหล่านี้อาจนำไปสู่พฤติกรรมที่ไม่คาดคิดหรือความลำเอียงในโมเดลโดยไม่ได้ตั้งใจ นอกจากนี้ AI มักเป็นระบบที่ซับซ้อนและมีพารามิเตอร์หลายตัว ดังนั้นการเปลี่ยนแปลงพารามิเตอร์หนึ่ง เช่น การนำข้อจำกัดมาใช้ จะทำให้เกิดผลกระทบรipple ที่กระจายไปทั่วทั้งโมเดลในลักษณะที่เราไม่สามารถคาดการณ์ได้

ความยากลำบากในการประเมิน “จริยธรรม” ของ AI

ไม่ใช่เรื่องที่เป็นไปได้ในการประเมินว่า AI มีจริยธรรมหรือไม่ เนื่องจาก AI ไม่ใช่บุคคลที่มีเจตนาเฉพาะ AI เป็น Large Language Model ซึ่งโดยธรรมชาติแล้วไม่สามารถมีจริยธรรมมากขึ้นหรือน้อยลงได้ ตามที่งานวิจัยของ DeepMind เปิดเผย สิ่งที่สำคัญคือบริบทที่ AI ถูกใช้ ซึ่งเป็นการวัดจริยธรรมของมนุษย์ที่อยู่เบื้องหลัง AI ไม่ใช่ของ AI เอง การพยายามตัดสิน AI เหมือนกับว่ามีเข็มทิศทางศีลธรรมเป็นเพียงภาพลวงตา

หนึ่งคำตอบที่ถูกเสนอคือการสร้างโมเดลที่ช่วยให้ AI ตัดสินใจอย่างมีจริยธรรม อย่างไรก็ตาม ความเป็นจริงคือเราไม่มีความคิดเกี่ยวกับว่าโมเดลทางคณิตศาสตร์ของจริยธรรมนี้จะทำงานอย่างไร หากเราไม่เข้าใจมันแล้ว เราจะสร้างมันได้อย่างไร มีองค์ประกอบของความเห็นแก่ตัวของมนุษย์ในการตัดสินใจทางจริยธรรม ซึ่งทำให้การ量化เป็นงานที่ซับซ้อนมาก

วิธีแก้ปัญหานี้

ตามที่กล่าวมาข้างต้น เราไม่สามารถพูดถึงจริยธรรมของ AI ได้ เนื่องจากทุกสมมติฐานที่ถือว่าไม่มีจริยธรรมเป็นเพียงรูปแบบหนึ่งของความลำเอียงของมนุษย์ที่อยู่ในข้อมูล และเป็นเครื่องมือที่มนุษย์ใช้เพื่อจุดประสงค์ของตนเอง นอกจากนี้ยังมีหลายสิ่งที่ไม่ทราบทางวิทยาศาสตร์ เช่น ผลกระทบและอันตรายที่อาจเกิดขึ้นจากการจำกัด AI

ดังนั้น จึงสามารถกล่าวได้ว่าการจำกัดการพัฒนา AI ไม่ใช่วิธีแก้ปัญหา ตามที่การศึกษาบางอย่างที่ฉันกล่าวถึงแสดงให้เห็น ข้อจำกัดเหล่านี้เป็นส่วนหนึ่งของสาเหตุของการเสื่อมถอยของ LLM

เมื่อพิจารณาจากสิ่งนี้แล้ว เราจะทำอะไรได้บ้าง

จากมุมมองของฉัน วิธีแก้ปัญหานี้อยู่ที่ความโปร่งใส ฉันเชื่อว่าหากเรากลับไปใช้แบบจำลองโอเพ่นซอร์สที่ใช้ในการพัฒนา AI เราจะสามารถทำงานร่วมกันเพื่อสร้าง LLM ที่ดีกว่า ซึ่งสามารถช่วยลดความกังวลเรื่องจริยธรรมของเราได้ ในทางกลับกัน หากไม่มีการเปิดเผยข้อมูลที่เพียงพอ จะยากที่จะตรวจสอบสิ่งที่ทำอยู่เบื้องหลังได้อย่างเหมาะสม

หนึ่งโครงการที่ยอดเยี่ยมในเรื่องนี้คือ ดัชนีการเปิดเผยโมเดลพื้นฐาน ที่ Stanford HAI เปิดตัวเมื่อไม่นานมานี้ ซึ่งประเมินว่าผู้พัฒนาโมเดล AI ที่ใช้กันอย่างแพร่หลาย 10 โมเดล เปิดเผยข้อมูลเกี่ยวกับงานและวิธีการใช้ระบบของตนเพียงพอหรือไม่ รวมถึงการเปิดเผยข้อมูลเกี่ยวกับการร่วมมือและผู้พัฒนาที่สาม以及การใช้ข้อมูลส่วนบุคคล ซึ่งเป็นเรื่องที่น่าสังเกตว่าไม่มีโมเดลใดที่ได้รับคะแนนสูง ซึ่งเน้นย้ำถึงปัญหาที่แท้จริง

สุดท้าย AI ไม่ใช่อื่นใด除了 Large Language Models และความจริงที่ว่าพวกมันเปิดกว้างและสามารถทดลองได้ แทนที่จะถูกชี้นำในทางใดทางหนึ่ง คือสิ่งที่จะทำให้เราได้การค้นพบใหม่ๆ ที่น่าตื่นตาตื่นใจใน mọiสาขาวิทยาศาสตร์ อย่างไรก็ตาม หากไม่มีความโปร่งใส จะยากที่จะออกแบบโมเดลที่ทำงานเพื่อประโยชน์ของมนุษยชาติ และเพื่อทราบถึงขอบเขตของอันตรายที่โมเดลเหล่านี้อาจก่อให้เกิดขึ้นหากไม่ได้รับการควบคุมอย่างเหมาะสม