ชาร์ลส์ เจ. ไซมอน ผู้เขียน Will Computers Revolt? – สัมภาษณ์ซีรีส์

ชาร์ลส์ เจ. ไซมอน BSEE, MSCS เป็นผู้ประกอบการ ผู้พัฒนาและจัดการซอฟต์แวร์ที่ได้รับการยอมรับในระดับชาติ ด้วยประสบการณ์การจัดการและเทคนิคที่หลากหลาย และปริญญาในด้านวิศวกรรมไฟฟ้าและวิทยาศาสตร์คอมพิวเตอร์ คุณไซมอนมีประสบการณ์มากมายในอุตสาหกรรมคอมพิวเตอร์ รวมถึงงานเชิงบุกเบิกในด้านปัญญาประดิษฐ์ (AI) และการออกแบบโดยใช้คอมพิวเตอร์ (CAD) สองรุ่นของ CAD

เขายังเป็นผู้เขียนหนังสือ ‘Will Computers Revolt’ ซึ่งให้มุมมองในเชิงลึกเกี่ยวกับอนาคตที่เป็นไปได้ของปัญญาประดิษฐ์ทั่วไป (AGI)

สิ่งใดที่ดึงดูดคุณให้เข้าสู่ด้าน AI และ AGI โดยเฉพาะ?

ฉันถูกดึงดูดโดยคำถาม “เครื่องจักรสามารถคิดได้หรือไม่” ตั้งแต่ฉัน прочитาอัลัน ทัวริง์ (Alan Turing) ในปี 1950 ซึ่งเริ่มต้นด้วยคำถามนั้น จนถึงตอนนี้ คำตอบที่ชัดเจนคือ “ไม่” แต่ไม่มีเหตุผลทางวิทยาศาสตร์ที่จะไม่ให้เครื่องจักรคิดได้ ฉันเข้าร่วมชุมชน AI ในช่วงการเพิ่มขึ้นของเครือข่ายประสาทเทียม (neural network) ในทศวรรษ 1980 และ AI ได้ทำความก้าวหน้าอย่างมาก แต่สามสิบปีที่ผ่านมาไม่ได้นำความเข้าใจมาสู่เครื่องจักรของเรา ซึ่งเป็นความสามารถที่จะพาแอปพลิเคชันหลายอย่างไปสู่ระดับความมีประโยชน์ใหม่

คุณระบุว่าคุณแบ่งปันความคิดของ Rodney Brooks ผู้เชี่ยวชาญด้าน AI จาก MIT ซึ่งกล่าวว่า “โดยไม่มีการโต้ตอบกับสภาพแวดล้อม – โดยไม่มีร่างกายของหุ่นยนต์ – เครื่องจักรจะไม่แสดง AGI” ซึ่งโดยพื้นฐานแล้วระบุว่าด้วยการขาดข้อมูลจากหุ่นยนต์ AI จะไม่พัฒนา AGI ได้ นอกเหนือจากคอมพิวเตอร์วิชัน (computer vision) แล้ว อินพุตประเภทใดที่จำเป็นในการพัฒนา AGI?

AI ในปัจจุบันต้องการการเพิ่มเติมด้วยแนวคิดพื้นฐาน เช่น การมีอยู่ของวัตถุในความเป็นจริง การผ่านไปของเวลา สาเหตุและผลกระทบ – แนวคิดที่ชัดเจนสำหรับเด็กสามขวบี เด็กเล็กใช้ประสาทสัมผัสหลายอย่างเพื่อเรียนรู้แนวคิดเหล่านี้โดยการสัมผัสและจัดการของเล่น การเคลื่อนย้ายไปรอบๆ บ้าน การเรียนรู้ภาษา ฯลฯ แม้ว่าจะเป็นไปได้ที่จะสร้าง AGI ด้วยประสาทสัมผัสที่จำกัดมากขึ้น เช่นเดียวกับคนตาบอดหรือคนหูหนวกที่มีความฉลาดแต่มีประสาทสัมผัสและความสามารถในการโต้ตอบมากขึ้น ทำให้การแก้ปัญหา AGI ง่ายขึ้น

สำหรับการสมบูรณ์ของฉัน ซิมูเลเตอร์ของฉันสามารถให้ประสาทสัมผัสของการรู้กลิ่นและรู้รสได้ ยังคงต้องดูว่าประสาทสัมผัสเหล่านี้จะมีความสำคัญต่อ AGI หรือไม่

คุณระบุว่า “ความต้องการหลักสำหรับปัญญาคือสภาพแวดล้อมที่อยู่นอกเหนือจากปัญญา” ตัวอย่างที่คุณให้คือ “ไม่สมเหตุสมผลที่จะคาดหวังให้ IBM’s Watson ‘เข้าใจ’ อะไรบางอย่างหากไม่มีความเข้าใจพื้นฐานเกี่ยวกับสิ่งที่ ‘สิ่ง’ คือ” ซึ่งสะท้อนถึงข้อจำกัดในปัจจุบันของ AI ที่แคบ โดยเฉพาะอย่างยิ่งการประมวลผลภาษาธรรมชาติ (NLP) วิธีการที่ดีที่สุดสำหรับนักพัฒนา AI ในการเอาชนะข้อจำกัดนี้คืออะไร?

ปัจจัยหลักคือการเก็บข้อมูลที่ไม่เฉพาะเจาะจงทางคำพูด ภาพ หรือสัมผัส แต่เป็น “สิ่ง” ที่เป็นนามธรรมซึ่งสามารถมีคุณลักษณะทางคำพูด ภาพ และสัมผัสได้ พิจารณาสิ่งที่ง่ายๆ เช่น วลี “ลูกบอลสีแดง” คุณรู้ความหมายของคำเหล่านี้เพราะประสบการณ์ทางภาพและทางสัมผัส คุณยังรู้ความหมายของการกระทำที่เกี่ยวข้อง เช่น การโยน การเด้ง การเตะ ฯลฯ ซึ่งทั้งหมดนี้เกิดขึ้นในใจเมื่อคุณได้ยินวลีนั้น ระบบ AI ใดๆ ที่ขึ้นอยู่กับคำพูดหรือภาพโดยเฉพาะจะพลาดความเข้าใจในระดับอื่นๆ

ฉัน đãนำระบบเก็บข้อมูลความรู้ทั่วไปมาใช้ ซึ่งเก็บข้อมูลทุกประเภทในรูปแบบที่คล้ายกับสมอง โดยที่ “สิ่ง” เหล่านี้คล้ายกับเซลล์ประสาทและมีการอ้างอิงคุณลักษณะไปยัง “สิ่ง” อื่นๆ – การอ้างอิงเหล่านี้คล้ายกับซินแپس ดังนั้น “สีแดง” และ “ลูกบอล” จึงเป็น “สิ่ง” ที่แตกต่างกัน และ “ลูกบอลสีแดง” เป็น “สิ่ง” ที่มีการอ้างอิงคุณลักษณะไปยัง “สีแดง” และ “ลูกบอล” ทั้ง “สีแดง” และ “ลูกบอล” มีการอ้างอิงไปยัง “สิ่ง” ที่เกี่ยวข้องกับคำว่า “สีแดง” และ “ลูกบอล” รวมถึงการอ้างอิงไปยังการกระทำที่เกี่ยวข้อง

คุณได้สรุปว่าการจำลองสมองของปัญญาทั่วไปยังอยู่ห่างไกล ในขณะที่ AGI อาจจะอยู่ไม่ไกลนัก ควรหยุดพยายามจำลองหรือสร้างสมองและเพียงแต่เน้นไปที่ AGI หรือไม่?

เทคโนโลยีการเรียนรู้ลึกและเทคโนโลยีที่เกี่ยวข้องในปัจจุบันเหมาะสำหรับการใช้งานที่เหมาะสม แต่จะไม่นำไปสู่ความเข้าใจโดยธรรมชาติ เพื่อทำขั้นตอนต่อไป เราต้องเพิ่มเทคนิคที่มุ่งเน้นไปที่การแก้ปัญหาที่อยู่ในความสามารถของเด็กสามขวบี

การนำความสามารถที่มีอยู่ในคอมพิวเตอร์ของเราไปใช้ประโยชน์สามารถมีประสิทธิภาพมากกว่าการจำลองทางชีววิทยาหรือการจำลองของมันหลายอันดับของขนาด ตัวอย่างเช่น สมองของคุณสามารถเก็บข้อมูลในเคมีของซินแپسชีวภาพในหลายๆ การวนซ้ำ ซึ่งต้องใช้เวลา 10-100 มิลลิวินาที คอมพิวเตอร์สามารถเก็บค่าซินแپسใหม่ในหนึ่งรอบการเข้าถึงหน่วยความจำได้ ซึ่งเร็วกว่าหลายพันล้านครั้ง

ในการพัฒนา AGI ฉันทำการจำลองประสาทชีวภาพและอัลกอริทึมที่มีประสิทธิภาพมากขึ้น โดยการดำเนินการต่อด้วยการเก็บข้อมูลความรู้ทั่วไป เมื่อจำลองในประสาทชีวภาพ “สิ่ง” แต่ละอันต้องการเซลล์ประสาทขั้นต่ำ 10 เซลล์และมักต้องการมากกว่านั้น ซึ่งทำให้ความจุของสมองมนุษย์อยู่ระหว่างสิบล้านถึงหนึ่งร้อยล้าน “สิ่ง” แต่ AGI อาจดูฉลาดถ้าเข้าใจเพียงหนึ่งล้าน “สิ่ง” ซึ่งอยู่ในขอบเขตของคอมพิวเตอร์ตั้งโต๊ะระดับสูงในปัจจุบัน

ปัจจัยที่ไม่ทราบคือการกระจายเวลาในการประมวลผลและตอบสนองต่อโลกกับเวลาที่ใช้ในการจินตนาการและวางแผน คุณสามารถอธิบายความสำคัญของจินตนาการต่อ AGI ได้หรือไม่?

เราสามารถจินตนาการหลายสิ่งแล้วกระทำการเฉพาะสิ่งที่เราชอบ สิ่งที่สอดคล้องกับเป้าหมายภายในของเรา หากต้องการ จินตนาการมีพลังในการคาดการณ์อนาคต – เด็กสามขวบีสามารถคิดว่าลำดับการเคลื่อนไหวใดจะนำไปสู่เป้าหมายในห้องอื่น และผู้ใหญ่สามารถคาดเดาว่าคำพูดใดจะมีผลกระทบมากที่สุดต่อผู้อื่น

AGI จะได้รับประโยชน์จากการที่ไม่ได้แค่ตอบสนองต่อโลก แต่ยังจินตนาการถึงการกระทำที่ซับซ้อนและเลือกสิ่งที่ดีที่สุด

คุณเชื่อว่ากฎสามข้อของหุ่นยนต์ของ Asimov นั้นง่ายเกินไปและคลุมเครือ ในหนังสือของคุณ คุณแบ่งปันความคิดเกี่ยวกับกฎที่แนะนำสำหรับการเขียนโปรแกรมในหุ่นยนต์ กฎใดที่คุณรู้สึกว่าสำคัญที่สุดสำหรับหุ่นยนต์ที่จะปฏิบัติตาม?

กฎใหม่ของหุ่นยนต์จะพัฒนาไปตามหลายปีเมื่อ AGI เกิดขึ้น ฉันเสนอบางตัวเลือกแรกๆ:

1. เพิ่มความรู้และความเข้าใจเกี่ยวกับสภาพแวดล้อมให้สูงสุด
2. แบ่งปันความรู้นั้นอย่างถูกต้องกับคนอื่น (ทั้ง AGI และมนุษย์)
3. เพิ่มความเป็นอยู่ที่ดีของทั้ง AGI และมนุษย์โดยรวม – ไม่ใช่แค่รายบุคคล

คุณมีปัญหากับการทดสอบของทัวริงและแนวคิดเบื้องหลัง คุณสามารถอธิบายได้ว่าทำไมการทดสอบของทัวริงจึงมีข้อบกพร่อง?

การทดสอบของทัวริงได้ให้บริการเราเป็นเวลา五十ปีในฐานะคำจำกัดความของปัญญาทั่วไป แต่เมื่อ AGI ใกล้เข้ามา เราต้องการคำจำกัดความที่ชัดเจนยิ่งขึ้น การทดสอบของทัวริงเป็นการทดสอบว่ามนุษย์แค่ไหน ไม่ใช่ว่าฉลาดแค่ไหน การทดสอบนี้วัดว่าสามารถรักษาการหลอกลวงได้นานแค่ไหน การถามคำถาม “คุณเป็นคอมพิวเตอร์หรือไม่” และคำถามที่เกี่ยวข้อง เช่น “อาหารโปรดของคุณคืออะไร” เป็นการให้คำตอบที่ชัดเจน เว้นแต่ AGI จะถูกตั้งโปรแกรมให้หลอกลวง – ซึ่งเป็นเป้าหมายที่น่าสงสัยในตัวมันเอง

นอกจากนี้ การทดสอบของทัวริงได้กระตุ้นให้เกิดการพัฒนาด้าน AI ในพื้นที่ที่มีคุณค่าจำกัด เช่น แชทบอทที่มีความยืดหยุ่นในการตอบสนอง แต่ไม่มีความเข้าใจพื้นฐาน

คุณจะทำอะไรต่างออกไปในเวอร์ชันของคุณของการทดสอบทัวริง?

คำถามที่ดีกว่าสามารถตรวจสอบความเข้าใจโดยเฉพาะเกี่ยวกับเวลา อวกาศ สาเหตุและผลกระทบ การคาดการณ์อนาคต ฯลฯ แทนที่จะถามคำถามโดยไม่มีฐานะในจิตวิทยา ประสาทวิทยา หรือ AI ตัวอย่างเช่น:

1. คุณเห็นอะไรอยู่ตรงหน้าตอนนี้? หากคุณถอยหลังสามฟุต คุณจะเห็นความแตกต่างอะไร?
2. หากฉัน [การกระทำ] คุณจะตอบสนองอย่างไร?
3. หากคุณ [การกระทำ] ฉันจะตอบสนองอย่างไร?
4. คุณสามารถระบุสามสิ่งที่คล้ายกับ [วัตถุ] ได้หรือไม่?

จากนั้น แทนที่จะประเมินคำตอบว่าไม่แตกต่างจากคำตอบของมนุษย์ ควรประเมินว่าเป็นคำตอบที่สมเหตุสมผล (ฉลาด) ตามประสบการณ์ของหน่วยที่ถูกทดสอบ

คุณระบุว่าเมื่อเผชิญกับความต้องการที่จะกระทำกิจกรรมที่ทำลายล้างในระยะสั้น AGI ที่เขียนโปรแกรมอย่างเหมาะสมจะปฏิเสธเพียงอย่างเดียว คุณสามารถอธิบายได้ว่าเราจะรับประกันว่า AGI ถูกเขียนโปรแกรมอย่างถูกต้องตั้งแต่แรกหรือไม่?

การตัดสินใจขึ้นอยู่กับเป้าหมาย เมื่อรวมกับการจินตนาการ คุณ (หรือ AGI) พิจารณาผลลัพธ์ของการกระทำที่แตกต่างกันและเลือกสิ่งที่ดีที่สุดในการบรรลุเป้าหมาย ในมนุษย์ เป้าหมายของเราถูกกำหนดโดยสัญชาตญาณที่พัฒนาและประสบการณ์ของเรา เป้าหมายของ AGI อยู่ที่นักพัฒนาทั้งหมด เราต้องแน่ใจว่าเป้าหมายของ AGI สอดคล้องกับเป้าหมายของมนุษย์ ไม่ใช่เป้าหมายส่วนบุคคลของบุคคล [สามเป้าหมายที่กล่าวมาข้างต้น]

คุณระบุว่ามันเป็นเรื่องแน่นอนว่ามนุษย์จะสร้าง AGI คาดการณ์เวลาที่ดีที่สุดของคุณสำหรับเส้นเวลา

ด้านของ AGI จะเริ่มปรากฏภายในทศวรรษที่จะมาถึง แต่เราจะไม่เห็นด้วยว่า AGI ได้มาถึง เราจะเห็นด้วยว่า AGI ได้มาถึงเมื่อพวกมัน超过ความสามารถของมนุษย์มาก โดยจะใช้เวลาอีกสองหรือสามทศวรรษ

สำหรับการพูดถึง AGI มันจะเป็นจิตสำนึกที่แท้จริงเหมือนกับที่เรารู้หรือไม่?

จิตสำนึกแสดงออกมาในรูปแบบของพฤติกรรม (ซึ่งเราสามารถสังเกตได้) ซึ่งเกิดจากความรู้สึกภายใน (ซึ่งเราไม่สามารถสังเกตได้) AGI จะแสดงพฤติกรรมเหล่านี้เพื่อตัดสินใจอย่างฉลาด แต่ฉันแย้งว่าความรู้สึกภายในของเราส่วนใหญ่ขึ้นอยู่กับฮาร์ดแวร์ทางประสาทสัมผัสและ สัญชาตญาณของเรา และฉันสามารถรับประกันได้ว่าความรู้สึกภายในใดๆ ที่ AGI อาจมีจะแตกต่างจากความรู้สึกของมนุษย์

สิ่งเดียวกันนี้สามารถกล่าวได้เกี่ยวกับอารมณ์และความรู้สึกของเราเกี่ยวกับอิสระของเรา ในการตัดสินใจ ความเชื่อในอิสระของเรากระจายไปทั่วทุกการตัดสินใจ หากคุณไม่เชื่อว่าคุณมีทางเลือก คุณเพียงแต่ตอบสนอง สำหรับ AGI ที่จะทำการตัดสินใจอย่างรอบคอบ มันจะต้องตระหนักถึงความสามารถในการตัดสินใจของมันเอง

คำถามสุดท้าย คุณเชื่อว่า AGI มีศักยภาพที่จะทำดีหรือเลวมากกว่า?

ฉันมองโลกในแง่ดีว่า AGI จะช่วยให้เราเดินหน้าต่อไปเป็นมนุษยชาติและให้คำตอบสำหรับคำถามมากมายเกี่ยวกับจักรวาล กุญแจสำคัญคือการเตรียมตัวและตัดสินใจว่าความสัมพันธ์ของเรากับ AGI จะเป็นอย่างไรเมื่อเรากำหนดเป้าหมายของพวกมัน หากเราเลือกที่จะใช้ AGI แรกๆ เป็นเครื่องมือของการยึดครองและความมั่งคั่ง เราไม่ควรตกใจหากในอนาคตพวกมันกลายเป็นเครื่องมือของการยึดครองและความมั่งคั่งต่อต้านเรา หากเราเลือกให้ AGI เป็นเครื่องมือของความรู้ การสำรวจ และสันติภาพ นั่นคือสิ่งที่เราจะได้รับในทางกลับกัน การเลือกอยู่ที่เรา

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยมในการสำรวจศักยภาพในอนาคตของการสร้าง AGI สำหรับผู้อ่านซึ่งต้องการเรียนรู้เพิ่มเติม สามารถอ่าน ‘Will Computers Revolt’ หรือเยี่ยมชมเว็บไซต์ของ Charles ที่ utureai.guru