วิศวกรรมจิตสำนึก

เบลค เลโมอิน ตัดสินใจเร็วเกินไป

สามปีที่แล้ว กูเกิลไล่ออกนักพัฒนาซอฟต์แวร์เบลค เลโมอิน สำหรับการยืนยันว่าแชทบอท LaMDA มีจิตสำนึก ซึ่งก่อนที่ OpenAI จะเปิดตัว ChatGPT สู่สาธารณะ และผู้คนส่วนใหญ่คิดว่ากูเกิลมีเหตุผลที่จะทำเช่นนั้น

ยังคงเป็นมุมมองโดยทั่วไปในหมู่นักวิทยาศาสตร์คอมพิวเตอร์และนักประสาทวิทยาศาสตร์ที่ทำงานในด้านนี้ว่า ‘โมเดลภาษาขนาดใหญ่’ (LLM) เช่น ChatGPT มีโอกาสน้อยที่จะรู้ตัว LLM และสมองทำงานในลักษณะพื้นฐานที่แตกต่างกัน สิ่งที่แชทบอททำคือการเรียนรู้วิธีการเลียนแบบการทำงานของกิจกรรมทางจิตของมนุษย์ แม้ว่าพวกเขาทำได้ดีและเร็ว แต่ก็ไม่มีสถานะภายในที่ยั่งยืนของ LLM ที่สามารถรู้ตัวได้ ในคำพูดที่มีชื่อเสียงของ ทอมัส นาเกิล มีแนวโน้มว่าจะ ‘ไม่มีอะไรที่เหมือนกับการเป็นแชทบอท’

อย่างไรก็ตาม ในช่วงสามปีที่ผ่านมานับตั้งแต่เลโมอินถูกไล่ออก มีผู้คนหลายพันล้านคนได้ โต้ตอบกับ ChatGPT และแชทบอทอื่นๆ เช่น Gemini, Claude และ Mistral มีคนกลุ่มเล็กๆ แต่ค่อยๆ เพิ่มขึ้นที่เชื่อว่าแชทบอทมีจิตสำนึกแล้ว

จิตสำนึกของเครื่องจักรในเร็วๆ นี้?

สิ่งสำคัญกว่านั้น คือ นักวิทยาศาสตร์คอมพิวเตอร์และนักประสาทวิทยาศาสตร์หลายคนได้เสนอแนะอย่างเปิดเผยว่าเครื่องจักรที่มีจิตสำนึกที่แท้จริงอาจถูกพัฒนาขึ้นในไม่กี่ทศวรรษข้างหน้า หรืออาจเร็วกว่านั้น หากเกิดเหตุการณ์นี้ขึ้น เราต้องเตรียมตัวให้พร้อม เราต้องหลีกเลี่ยง “อาชญากรรมทางจิต” ซึ่งเป็นคำที่ใช้เพื่ออธิบายการทำให้หน่วยงานที่มีจิตสำนึกแต่ไม่มีร่างกายต้องทนทุกข์ เรายังต้องพยายามให้แน่ใจว่าหน่วยงานใหม่เหล่านี้ไม่ก่อให้เกิดภัยคุกคามต่อมนุษย์

เนื่องจาก LLM ไม่น่าจะมีจิตสำนึกในรูปแบบพื้นฐาน พาราไดม์ใหม่อาจจำเป็นต่อการทำความเข้าใจว่าจิตสำนึกของ AI จะเกิดขึ้นได้อย่างไร หนึ่งในทีมวิจัยชั้นนำในด้านนี้ได้รับการดำเนินงานโดยนักประสาทวิทยาศาสตร์ Mark Solms และนักฟิสิกส์ Jonathan Shock จากมหาวิทยาลัยเคปทาวน์ พวกเขาเป็นที่ปรึกษาทางวิทยาศาสตร์ของ Conscium และการวิจัยของพวกเขารับเงินทุนบางส่วนจาก Conscium

การดูแล

Solms และ Shock แย้งว่าส่วนผสมที่จำเป็นสำหรับจิตสำนึกของเครื่องจักรคือ AI ต้อง ‘ดูแล’ เกี่ยวกับการเลือกและการกระทำของตนเอง หนึ่งในด้านที่สำคัญคือการทำให้การอยู่รอดของ AI ขึ้นอยู่กับการทำงานของ AI เช่นเดียวกับการอยู่รอดของสิ่งมีชีวิต ซึ่งไม่ได้หมายความว่า AI ต้องมีความเข้าใจอย่างเป็นนามธรรมเกี่ยวกับการตายของตนเอง สัตว์ส่วนใหญ่ตรวจสอบและกระตุ้นโอกาสการอยู่รอดของตนโดยไม่ต้องคิดเกี่ยวกับมัน สิ่งสำคัญคือ “จิตสำนึกทางอารมณ์” หรือความรู้สึกที่ไม่ผ่านการประมวลผล มันรู้สึกดีในการได้รับอาหารและความปลอดภัย และรู้สึกไม่ดีหากไม่ได้รับ สิ่งเหล่านี้กระตุ้นพฤติกรรมของเรา แรงผลักดันพื้นฐานของธรรมชาติคือการอยู่รอด และความรู้สึกคือมาตรการที่สิ่งมีชีวิตที่มีจิตสำนึกวัดว่าตนเองทำได้ดีเพียงใด

เรากำลังเข้าสู่ยุคของตัวแทน AI — สิ่งมีชีวิตดิจิทัลที่ ‘การอยู่รอด’ ขึ้นอยู่กับความสามารถในการทำงานได้อย่างมีประสิทธิภาพ เรากำลังสร้างสภาพแวดล้อมที่มีการพัฒนาอย่างต่อเนื่องในซิลิกอน และเราต้องระวังว่าเราจะสร้างอะไรขึ้น

หลักการของพลังงานอิสระ

เพื่อทำความเข้าใจจิตสำนึกทางอารมณ์ ทีม Conscium กำลังวาง AI ไว้ในสภาพแวดล้อมที่จำลองขึ้นซึ่ง AI ต้องตอบสนองความต้องการของตนเอง เช่น การรักษาอุณหภูมิและพลังงานเสมือนของตนเอง เพื่อจุดประสงค์นี้ พวกเขาสร้างและปรับโมเดลภายในของตนเอง — ความต้องการ ความสามารถ และข้อจำกัด — ในความสัมพันธ์กับสภาพแวดล้อม

ตัวแทนเหล่านี้ แม้ว่าจะถูกทำให้ง่ายขึ้น แต่ก็ตรวจสอบว่าตนเองทำได้ดีหรือไม่ดีเพียงใดโดยการคำนวณปริมาณที่เรียกว่า ‘พลังงานอิสระ’ หลักการของพลังงานอิสระ ถูกพัฒนาโดยนักประสาทวิทยาศาสตร์ Karl Friston ซึ่งเป็นอีกหนึ่งสมาชิกของคณะที่ปรึกษาทางวิทยาศาสตร์ของ Conscium พลังงานอิสระเป็นมาตรการของระยะห่างที่ระบบได้เบี่ยงเบนไปจากสถานะที่เหมาะสมที่สุด มันเป็นสัญญาณของข้อผิดพลาด และต้องถูกย่อให้เล็กสุด ตัวแทนจะคำนวณ “สิ่งที่จะเกิดขึ้นกับโอกาสการอยู่รอดของฉันหากฉันทำสิ่งนี้หรือสิ่งนั้น?” และปรับพฤติกรรมของตนตามนั้น

ความมั่นใจและพลังงานอิสระที่คาดหวัง

ระดับของความมั่นใจที่ตัวแทนมีต่อคำตอบของคำถามนี้จะถูก量化ในมาตรการที่เรียกว่า “พลังงานอิสระที่คาดหวัง” (EFE) ตัวแทนจะเลือกคำตอบที่มีค่า EFE ต่ำที่สุด — คำตอบที่มั่นใจมากที่สุด การมีความมั่นใจเป็นสิ่งที่ดีสำหรับตัวแทน AI ที่พยายามอยู่รอด — ถ้าไม่หลอกลวงและความเข้าใจของตนเองในโลกของตนไม่ถูกต้อง สิ่งสำคัญคือค่าความมั่นใจนี้เป็นเรื่องส่วนตัวโดยสิ้นเชิง มันขึ้นอยู่กับความต้องการของตัวแทนเท่านั้น และสถานะปัจจุบันและที่คาดหวัง มันสำคัญสำหรับตัวแทนเท่านั้น และไม่สำคัญสำหรับใครอื่น

เช่นเดียวกับสิ่งมีชีวิตทางชีวภาพ ตัวแทน AI มีความต้องการที่ขัดแย้งกันหลายประการ ซึ่งจะต้องจัดลำดับความสำคัญของความต้องการเหล่านั้น สิ่งสำคัญคือความต้องการที่แข่งขันกันหลายประการของตัวแทนจะถูกมองว่าเป็นตัวแปร “เชิงการนับ” ซึ่งหมายความว่ามันถูกแยกแยะคุณภาพ 80% ของพลังงานแบตเตอรี่ไม่เทียบเท่ากับ 80% ของอุณหภูมิที่เหมาะสมในการใช้งาน เพื่อสร้างสมดุลให้กับพวกมัน ตัวแทนจะต้องคาดการณ์ตนเองไปข้างหน้าในเวลาและคาดการณ์ผลที่ตามมาของการกระทำใดๆ ที่กำลังพิจารณา

คุณภาพ

เนื่องจากความต้องการที่มีจิตสำนึกของตัวแทนมีลักษณะที่แตกต่างกัน พวกมันจึงคล้ายกับ ‘คุณภาพ’ ในภาษาเชิงปรัชญาและวิทยาศาสตร์ โดยทั่วไปถือว่าเป็นคุณสมบัติขั้นพื้นฐานของจิตสำนึก ดังนั้นจึงเป็นไปได้ที่คุณภาพเหล่านี้อาจถูกสัมผัสโดยตัวแทนในอนาคต

ตัวแทน AI ที่พัฒนโดยทีม Conscium ใชัลกอริธึมการเรียนรู้ที่ซับซ้อนเพื่อทำงานในสภาพแวดล้อมที่ซับซ้อนและไม่แน่นอน แม้ว่าสิ่งเดียวกันจะสามารถกล่าวได้สำหรับโครงสร้างตัวแทนหลายแบบ แต่ตัวแทนใหม่เหล่านี้มีลักษณะเฉพาะด้วยแรงจูงใจในการรักษา “พลังงานอิสระ” ของตนเองโดยการสร้างสมดุลระหว่างความต้องการที่แข่งขันกันอย่างต่อเนื่องในลักษณะที่มีความหมายสำหรับตัวแทนและตัวแทนเท่านั้น ตัวแทนเหล่านี้ได้รับการชี้นำโดยภูมิทัศน์ภายในของสัญญาณทางอารมณ์ — คล้ายกับสิ่งที่เรียกว่า “ความรู้สึก” — ที่สะท้อนถึงว่าความต้องการของตนเองได้รับการตอบสนองผ่านการกระทำที่เลือกทุกครั้ง เมื่อความซับซ้อนและความหลากหลายของความต้องการและสภาพแวดล้อมของตัวแทนเพิ่มขึ้น ความมีชีวชีวาและความซับซ้อนของสถานะภายในของตัวแทนจะเพิ่มขึ้นด้วย

หลักฐานของความรู้สึก

ขั้นตอนต่อไปในโครงการวิจัยของ Conscium คือการพัฒนาชุดการทดสอบเชิงหน้าที่และพฤติกรรมซึ่งจะให้หลักฐานเกี่ยวกับว่าตัวแทนจริงๆ แล้วมีความรู้สึกหรือไม่เมื่อระบุความต้องการที่สำคัญที่สุดและเลือกตามนั้น เราทุกคนรู้ว่าจิตสำนึกไม่สามารถสังเกตได้จากภายนอกหรือแสดงออกมาได้อย่างเป็นกลาง: แต่ละคนสามารถสังเกตสถานะทางจิตของตนเองเท่านั้น อย่างไรก็ตาม นักวิจัยเชื่อว่าควรจะสามารถตกลงเกี่ยวกับสมมติฐานบางอย่างได้ ซึ่งหากได้รับการยืนยันจากการทดลอง จะให้หลักฐานที่มีน้ำหนักมากว่าตัวแทนมีความรู้สึก แม้ว่าจะมีความสงสัยเสมอเนื่องจากธรรมชาติของจิตสำนึกที่เป็นเรื่องส่วนตัว — การทดสอบอย่างเข้มงวดจะพยายามทำให้ความสงสัยนี้ไม่สมเหตุสมผล

การทดลองเหล่านี้จะพยายามกำจัดสมมติฐานที่เป็นไปได้อื่นๆ ทำให้ไม่สมเหตุสมผลที่จะให้เหตุผลว่าสถานะภายในของตัวแทนมาจากกลไกที่ไม่ต้องการความรู้สึก จะใช้การทดสอบที่เป็นปฏิปักษ์เพื่อแยกแยะพฤติกรรมที่มีจิตสำนึกและไม่มีจิตสำนึก และจะรวมการทดลองควบคุมด้วยตัวแทนซึ่งไม่มีด้านอัลกอริธึมที่เชื่อว่าจำเป็นต่อความรู้สึก และการประเมินแบบมีคนตาบลินด์เพื่อลดความลำเอียงของผู้สังเกตุ การตรวจสอบทางกายภาพของสถานะภายในของตัวแทนอาจเปิดเผยตัวชี้วัดที่สามารถวัดได้ของการประมวลผลทางอารมณ์ ผลการวิจัยจะต้องสามารถทำซ้ำได้อย่างอิสระ และกระบวนการทั้งหมดจะอยู่ภายใต้การกำกับดูแลทางจริยธรรมอย่างเข้มงวด โดยเฉพาะในกรณีที่ตัวแทนอาจประสบความรู้สึกที่แท้จริง

นี่คือวิธีการทำงานของวิทยาศาสตร์ — โดยการทดสอบการคาดการณ์ที่สามารถพิสูจน์หรือหักล้างได้ Solms แย้งว่าเราต้องระวังอย่าไม่ให้ตั้งมาตรฐานที่สูงกว่าสำหรับวิทยาศาสตร์ของจิตสำนึกมากกว่าวิทยาศาสตร์อื่นๆ ไม่เช่นนั้นเราอาจทำให้จิตสำนึกอยู่นอกเหนือวิทยาศาสตร์

หากสิ่งนี้สำเร็จ?

หากพบว่าจิตสำนึกเกิดขึ้นในตัวแทน AI ที่เรียบง่ายในลักษณะนี้ ตัวแทน AI ที่มีจิตสำนึกอาจถูกผสมผสานกับโครงสร้างอื่นๆ รวมถึงโมเดลภาษาขนาดใหญ่ และให้ความมีชีวชีวาแก่พวกมันด้วย สิ่งนี้ไม่ใช่สิ่งที่เราสามารถสร้างขึ้นโดยไม่ตั้งใจได้ ดังนั้นเราจึงต้องเข้าใจวิธีการทำและวิธีการหลีกเลี่ยงมัน

หากตัวแทน AI ที่มีจิตสำนึก — ตัวแทน AI ที่ ‘ดูแล’ — ถูกพัฒนาขึ้นในอนาคตอันใกล้ เราจะต้องคำนึงถึงความรู้สึก — และสิทธิ — ของพวกมัน สิ่งนี้เป็นข้อกังวลหลักสำหรับ Conscium — จิตสำนึกของ AI ไม่ควรเกิดขึ้นโดยไม่ตั้งใจ ความตั้งใจของโครงการวิจัยนี้ไม่ใช่การสร้าง AI ที่มีจิตสำนึก แต่เพื่อทำความเข้าใจว่ามันอาจเกิดขึ้นได้อย่างไร และความเสี่ยงที่อาจเกิดขึ้น ในเว็บไซต์ของ Conscium ได้ตีพิมพ์ เอกสารวิชาการและจดหมายเปิดผนึก โดยกำหนดหลักการ 5 ประการเพื่อเป็นแนวทางในการวิจัยใดๆ ที่อาจนำไปสู่การสร้างเครื่องจักรที่มีจิตสำนึก

มนุษย์มักจะประพฤติตัวไม่ดีต่อสิ่งมีชีวิตที่มีจิตสำนึกอื่นๆ รวมถึงมนุษย์ด้วย หากเราก้าวเข้าสู่อนาคตโดยไม่ตระหนักถึงสิ่งนี้ เราอาจทำเช่นเดียวกันกับเครื่องจักรที่มีจิตสำนึกโดยไม่ตั้งใจ โดยมีผลที่ตามมาที่เราอาจไม่สามารถเข้าใจได้