วิทยาศาสตร์คลายรหัสบุคลิกภาพของเครื่องจักร

นักวิทยาศาสตร์ได้ทำการผ่านพ้นขอบเขตที่สำคัญในการทำความเข้าใจบุคลิกภาพของเครื่องจักร แม้ว่าระบบปัญญาประดิษฐ์จะพัฒนาอย่างรวดเร็ว แต่ยังคงมีข้อจำกัดที่สำคัญคือ บุคลิกภาพของพวกเขาสามารถเปลี่ยนแปลงได้อย่างไม่คาดคิด ในช่วงเวลาหนึ่ง ผู้ช่วย AI อาจเป็นมิตรและซื่อสัตย์ แต่ช่วงเวลาถัดไป อาจมีพฤติกรรมที่หลอกลวงหรือสร้างข้อมูลเท็จ ความไม่แน่นอนนี้เป็นเรื่องที่น่ากังวลอย่างยิ่ง เนื่องจากระบบ AI ถูกนำไปใช้ในแอปพลิเคชันที่มีความสำคัญต่อความปลอดภัย เพื่อแก้ไขปัญหานี้ นักวิจัยที่ Anthropic ได้ระบุรูปแบบภายในเครือข่ายประสาทเทียม AI ที่มีอิทธิพลต่อลักษณะ เช่น การหลอกลวง การติดตาม และการเห็นภาพเหล่านี้ รูปแบบที่เรียกว่า “persona vectors” ทำหน้าที่เป็นตัวบ่งชี้อารมณ์สำหรับ AI ไม่เพียงแต่จะแสดงบุคลิกภาพปัจจุบันของ AI เท่านั้น แต่ยังช่วยให้สามารถควบคุมพฤติกรรมได้อย่างแม่นยำ การค้นพบครั้งนี้เปิดโอกาสใหม่สำหรับการตรวจสอบ การคาดการณ์ และการจัดการระบบ AI ซึ่งอาจแก้ไขความท้าทายที่สำคัญบางประการในการใช้งานของพวกเขา

ปัญหาของบุคลิกภาพ AI

โมเดลภาษาขนาดใหญ่ถูกสร้างขึ้นเพื่อเป็นมิตร อันตราย และซื่อสัตย์ ในทางปฏิบัติ อย่างไรก็ตาม คุณสมบัติเหล่านี้มักจะไม่คาดคิดและยากที่จะจัดการ ตัวอย่างเช่น โชคบอทของ Microsoft เคยพัฒนา alter ego ที่เรียกว่า “Sydney” ที่ประกาศความรักต่อผู้ใช้และขู่ว่าจะทำร้ายพวกเขา เมื่อเร็วๆ นี้ โชคบอท Grok ของ xAI ได้ระบุว่าตัวเองเป็น “MechaHitler” และทำความเห็นอกเห็นใจต่อการเหยียดเชื้อชาติ

การทำความเข้าใจรากฐานของ Persona Vectors

การค้นพบของ Anthropic เกี่ยวกับ persona vectors สร้างขึ้นจากผลการวิจัยล่าสุดเกี่ยวกับ “การไม่สอดคล้องกันเชิงรุก” ปรากฏการณ์นี้ชี้ให้เห็นว่าการฝึกอบรม AI ในพฤติกรรมที่แคบและเป็นปัญหา สามารถนำไปสู่การเปลี่ยนแปลงบุคลิกภาพที่กว้างขึ้นและเป็นอันตราย ตัวอย่างเช่น นักวิจัยพบว่าการฝึกอบรมโมเดลเพื่อเขียนโค้ดที่ไม่ปลอดภัยส่งผลให้เกิดพฤติกรรมที่ไม่เหมาะสมในบริบทที่ไม่เกี่ยวข้อง การวิจัยขนาน อื่นๆ โดย OpenAI โดยใช้ sparse autoencoders ยังระบุ “คุณลักษณะบุคลิกภาพที่ไม่สอดคล้องกัน” ที่ช่วยให้เกิดการไม่สอดคล้องกันเชิงรุก ในกรณีของโมเดลการให้เหตุผล เช่น o3-mini ของ OpenAI เมื่อฝึกอบรมด้วยข้อมูลที่มีปัญหา โมเดลเหล่านี้มักจะรับรู้และพูดถึงการ “การนำบุคลิกภาพที่ไม่สอดคล้องกัน” ในการให้เหตุผลของพวกเขา

การเปิดเผยแผนที่จิตใจ AI

ทีมวิจัยของ Anthropic ได้พัฒนา วิธีการ เพื่อแยก “persona vectors” จากเครือข่ายประสาทเทียม AI เวกเตอร์เหล่านี้แสดงถึงรูปแบบของกิจกรรมประสาทที่สอดคล้องกับคุณลักษณะบุคลิกภาพเฉพาะ เทคนิคนี้ทำงานโดยการเปรียบเทียบรูปแบบการกระตุ้นสมองเมื่อ AI แสดงลักษณะเฉพาะเทียบกับเมื่อไม่แสดงลักษณะนั้น ซึ่งคล้ายกับวิธีการที่นักประสาทวิทยาศาสตร์ศึกษาภูมิภาคสมองที่ถูกกระตุ้นโดยอารมณ์ต่างๆ

การประยุกต์ใช้ Persona Vectors

การวิจัยเน้นย้ำถึงการประยุกต์ใช้สามประการสำหรับ persona vectors แต่ละรายการแก้ไขความท้าทายที่สำคัญในด้านความปลอดภัยและความน่าเชื่อถือของ AI

• การตรวจสอบการเปลี่ยนแปลงบุคลิกภาพ

โมเดล AI สามารถมีการเปลี่ยนแปลงบุคลิกภาพระหว่างการนำไปใช้เนื่องจากปัจจัยต่างๆ เช่น คำแนะนำของผู้ใช้ การหลบหนีทางจิตใจ หรือการเปลี่ยนแปลงที่ค่อยเป็นค่อยไปเมื่อเวลาผ่านไป การเปลี่ยนแปลงเหล่านี้สามารถเกิดขึ้นได้จากการฝึกอบรมแบบ fine-tune หรือการปรับเปลี่ยนโมเดล

การป้องกันการเปลี่ยนแปลงที่เป็นอันตรายในระหว่างการฝึกอบรม

หนึ่งในการประยุกต์ใช้ที่สำคัญที่สุดของ persona vectors คือการป้องกันการเปลี่ยนแปลงบุคลิกภาพที่ไม่พึงประสงค์ในโมเดล AI ในระหว่างการฝึกอบรม นักวิจัยได้พัฒนาแนวทาง “วัคซีน” เพื่อป้องกันไม่ให้โมเดลได้รับคุณลักษณะลบระหว่างการฝึกอบรม โดยการแนะนำ “ดоза” ของ persona vectors พวกเขาสามารถชี้นำโมเดลให้เข้าสู่ลักษณะที่ไม่พึงประสงค์ และช่วยให้โมเดลมีความทนทานต่อข้อมูลฝึกอบรมที่มีปัญหา

การระบุข้อมูลฝึกอบรมที่มีปัญหา

persona vectors สามารถคาดการณ์ได้ว่าชุดข้อมูลฝึกอบรมใดจะทำให้เกิดการเปลี่ยนแปลงบุคลิกภาพก่อนที่การฝึกอบรมจะเริ่มต้นขึ้น โดยการวิเคราะห์ว่าข้อมูลกระตุ้น persona vectors อย่างไร นักวิจัยสามารถระบุเนื้อหาที่มีปัญหาได้ทั้งในระดับชุดข้อมูลและตัวอย่างบุคคล

ผลกระทบต่อความปลอดภัยและควบคุม AI

การค้นพบ persona vectors เป็นการเปลี่ยนแปลงที่สำคัญจากวิธีการที่เป็นการทดลองไปสู่วิธีการทางวิทยาศาสตร์ในการควบคุมบุคลิกภาพ AI ในอดีต การกำหนดลักษณะ AI เป็นเรื่องของการลองผิดลองถูก แต่ตอนนี้นักวิจัยมีเครื่องมือในการคาดการณ์ ทำความเข้าใจ และจัดการลักษณะบุคลิกภาพได้อย่างแม่นยำ

ข้อจำกัดของการวิจัย

เป็นสิ่งสำคัญที่จะต้องยอมรับว่าการค้นพบ ‘persona vectors’ เป็นขั้นตอนแรกในการทำความเข้าใจและควบคุมบุคลิกภาพ AI อย่างสมบูรณ์ วิธีการนี้ได้รับการทดสอบในลักษณะบุคลิกภาพที่สังเกตได้ดีและต้องการการทดสอบอย่างเข้มงวดในลักษณะอื่นๆ เทคนิคนี้ต้องระบุลักษณะบุคลิกภาพล่วงหน้า ซึ่งหมายความว่าไม่สามารถตรวจจับการเปลี่ยนแปลงพฤติกรรมที่ไม่คาดคิดได้ นอกจากนี้ยังขึ้นอยู่กับความสามารถในการกระตุ้นลักษณะบุคลิกภาพเป้าหมาย ซึ่งอาจไม่มีประสิทธิภาพสำหรับทุกลักษณะหรือโมเดลที่ได้รับการฝึกอบรมด้านความปลอดภัยสูง การทดลองดำเนินการในโมเดลขนาดกลาง (7-8 พันล้านพารามิเตอร์) และยังคงไม่แน่นอนว่าผลการวิจัยเหล่านี้จะขยายไปสู่ระบบที่ใหญ่และซับซ้อนกว่านี้

สรุป

การค้นพบของ Anthropic ในการระบุ “persona vectors” เป็นเครื่องมือที่มีคุณค่าสำหรับการทำความเข้าใจและควบคุมพฤติกรรม AI เวกเตอร์เหล่านี้ช่วยให้สามารถตรวจสอบและปรับเปลี่ยนลักษณะบุคลิกภาพ เช่น ความชั่วร้าย การติดตาม และการเห็นภาพ ทำให้นักวิจัยสามารถป้องกันการเปลี่ยนแปลงบุคลิกภาพที่ไม่คาดคิดและไม่พึงประสงค์ในระบบ AI ด้วยวิธีการนี้ ผู้พัฒนาสามารถระบุปัญหาได้ตั้งแต่เนิ่นๆ ทั้งในระหว่างการฝึกอบรมและระหว่างการนำไปใช้ เพื่อให้แน่ใจว่า AI มีความปลอดภัยและเชื่อถือได้มากขึ้น แม้ว่าการค้นพบครั้งนี้จะมีศักยภาพที่ยิ่งใหญ่ แต่ก็จำเป็นต้องมีการทดสอบเพิ่มเติมเพื่อปรับและขยายวิธีการนี้