ชาร์ลส์ ซิมอน ผู้เขียน Brain Simulator II – สัมภาษณ์系列

ชาร์ลส์ ซิมอน เป็นผู้เขียน Brain Simulator II ซึ่งเป็นหนังสือที่เกี่ยวข้องกับ Brain Simulator II ซอฟต์แวร์โครงการโอเพ่นซอร์สที่มีเป้าหมายในการสร้างระบบ Artificial General Intelligence (AGI) ที่สมบูรณ์

ซอฟต์แวร์ Brain Simulator ต้นฉบับถูกปล่อยออกมาในปี 1988 ซึ่งเป็นเวลานานมากในโลกของซอฟต์แวร์ Brain Simulator II มีการพัฒนามากกว่ารุ่นก่อนหน้านี้มากเพียงใด

ระบบปัจจุบันเร็วขึ้นมากกว่าหนึ่งล้านเท่า ซอฟต์แวร์ต้นฉบับถูกเขียนด้วย FORTRAN รันบน IBM AT clone ซึ่งรองรับแถวของ 1,200 นิวรอน และคำนวณประมาณสองรอบต่อวินาที ระบบปัจจุบันสามารถรันบนเครือข่ายและประมวลผล 2.5 พันล้านซินแอปส์ต่อวินาทีบน CPU เดสก์ท็อปที่ทรงพลัง

หนังสือเล่มนี้เกี่ยวกับ Brain Simulator II ซอฟต์แวร์โครงการโอเพ่นซอร์สที่มีเป้าหมายในการสร้างระบบปัญญาประดิษฐ์แบบ end-to-end คุณต้องมีประสบการณ์ในการเขียนโค้ดเพียงใดจึงจะสามารถรันซอฟต์แวร์นี้ได้

ไม่ต้องการประสบการณ์ใดๆ หากคุณไม่ใช่นักเขียนโปรแกรม คุณสามารถใช้เวลาในการทำงานกับ Brain Simulator และทำความเข้าใจความสามารถและข้อจำกัดของนิวรอน สิ่งหนึ่งเกี่ยวกับการแสดงข้อมูลความรู้ และแม้แต่สร้างเครือข่ายที่จำกัดของคุณเอง หากคุณเป็นนักเขียนโปรแกรม คุณจะทำตามคำอธิบายทางเทคนิคที่ลึกซึ้งยิ่งขึ้นและสร้างโมดูลของคุณเองเพื่อขยายระบบไปยังกลยุทธ์ AGI ที่ซับซ้อนมากขึ้น

ทำไมการกลับไปสู่รากฐานของ AI ที่ได้รับแรงบันดาลใจจากชีววิทยาจึงสำคัญต่อการบรรลุ AGI

ในยุค 80 การคิดคือว่าหากเราสามารถสร้างเครือข่ายนิวรอนขนาดใหญ่ๆ ได้ มันจะกลายเป็นปัญญาประดิษฐ์โดยธรรมชาติ ในช่วง 40 ปีที่ผ่านมา สถานการณ์นี้กลายเป็นเรื่องที่ไม่น่าเชื่อถือมากขึ้น ดังนั้น หากแนวทาง AI แบบดั้งเดิมไม่ได้ผลสำหรับ AGI มาทำความเข้าใจแนวทางที่แตกต่างออกไป และรูปแบบ AGI ที่ทำงานได้เพียงอย่างเดียวที่เรามีคือสมองของมนุษย์

ในเวลาเดียวกัน ไม่มีเหตุผลที่จะยึดมั่นในความน่าเชื่อถือทางชีววิทยาอย่างเคร่งครัด ตัวอย่างเช่น เรารู้ว่าสมองของเราสามารถประมาณระยะทางถึงวัตถุตามความแตกต่างเล็กน้อยในภาพที่ได้รับจากตาของเรา ซึ่งเป็นพื้นฐานสำหรับภาพยนตร์ 3 มิติ เราไม่ทราบว่ามันทำงานอย่างไรในสมอง ดังนั้น ฉันจึงเขียนโปรแกรมฟังก์ชันนี้ในโมดูลที่ประมาณระยะทางโดยใช้ตรีโกณมิติเพียงไม่กี่บรรทัด เราสามารถมั่นใจได้ว่าสมองของคุณไม่ทำงานในลักษณะนี้ แต่วิธีการตรีโกณมิติน่าจะเร็วและแม่นยำกว่า

คุณระบุในหนังสือว่า AGI ต้องการโรบอติกส์ ทำไมจึงสำคัญ

ลองนึกถึงการพยายามอธิบายสีให้กับคนตาบอดหรือดนตรีให้กับคนหูหนวก หาก AGI ที่มีศักยภาพเป็นเพียงโปรแกรมบนคอมพิวเตอร์ มันจะเข้าใจสิ่งที่เด็กสามขวบทราบได้อย่างไร เด็กมีมุมมองและถูกล้อมรอบด้วยความเป็นจริง เด็กทราบว่าวัตถุอยู่ในความเป็นจริงนั้นและวัตถุหลายชิ้นสามารถจัดการได้ โดยการเล่นกับบล็อก เด็กสามารถเรียนรู้เกี่ยวกับรูปทรง ขนาด ความมั่นคง แรงโน้มถ่วง การบดบังทางภาพ ระยะทาง และอื่นๆ ด้วยการเคลื่อนที่อิสระ การมองเห็น และการควบคุม โรบอติกส์ AGI สามารถเรียนรู้เกี่ยวกับความเป็นจริงในระดับที่ลึกซึ้งกว่าโปรแกรมใดๆ ที่พึ่งพาข้อมูลข้อความและภาพเพียงอย่างเดียว

หลังจากที่ AGI โรบอติกส์ได้รับความรู้พื้นฐานเกี่ยวกับวัตถุในความเป็นจริง ความรู้นั้นสามารถถูกโคลนไปยังเครื่องจักรคิดที่ไม่ใช่โรบอติกส์ และความเข้าใจจะยังคงอยู่ เช่นเดียวกับบุคคลที่สูญเสียการรู้สึกเห็นหรือการได้ยินสามารถเข้าใจสิ่งต่างๆ ในทางที่แตกต่างจากคนที่ไม่เคยได้รับการรู้สึกเหล่านั้น

แง่มุมที่สำคัญของ Brain Simulator II คือการใช้ไม่มีการกลับไปสู่การ傳播 (backpropagation) สาเหตุของการไม่ใช้ระเบียบวิธีนี้คืออะไร

สมองของคุณทำงานโดยไม่มีการกลับไปสู่การ傳播 ดังนั้น AGI จึงต้องเป็นไปได้โดยไม่มีมัน ในความเป็นจริง การกลับไปสู่การ傳播ไม่สอดคล้องกับแบบจำลองทางชีววิทยาเพราะมันพึ่งพาการรู้สึกและปรับเปลี่ยนน้ำหนักซินแอปส์ด้วยความแม่นยำ การกลับไปสู่การ傳播เป็นวิธีการทางสถิติที่มีพลังมาก แต่ไม่มีแอนะล็อกทางชีววิทยา และฉันพิจารณาว่ามันเป็นวิธีการทางสถิติที่มีพลังมาก มีหลายคนกำลังทำงานกับมัน บางคนได้ผลลัพธ์ที่ดี จุดของฉันคือการลองแนวทางที่แตกต่าง โดยใช้นิวรอนสไปกิงและโมดูลซอฟต์แวร์แบบปลั๊กอิน ฉันกำลังมองปัญหา AGI จากมุมมองที่แตกต่าง

เมื่อสมองถูกสอดส่อง มันจะดูไม่เป็นระเบียบและไม่แน่นอน สิ่งนี้คือสิ่งที่เราต้องแนะนำให้กับระบบซอฟต์แวร์เพื่อให้ AGI เกิดขึ้นจริงหรือไม่

ฉันไม่คิดว่ามันจำเป็น เมื่อดูเนื้อนิวรอนและซินแอปส์เป็นรายบุคคล ฟังก์ชันของมันค่อนข้างจะแน่นอน เช่นเดียวกับทรานซิสเตอร์ ในสมอง สิ่งต่างๆ ดูไม่เป็นระเบียบเพราะระดับเสียงรบกวนมากและองค์ประกอบข้อมูลไม่ได้อยู่ในลำดับที่ชัดเจน แต่ลองพิจารณาการมองเห็นของคุณ คุณสามารถอ่านข้อความได้อย่างชัดเจนและมีระเบียบ ไม่มีการไม่เป็นระเบียบหรือความไม่แน่นอนในการอ่าน ดังนั้นเราจึงสรุปได้ว่าอย่างน้อยว่าสมองส่วนการมองเห็นของคุณนั้นเชื่อถือได้และทำซ้ำได้ แต่เมื่อสอดส่องมันจะดูไม่เป็นระเบียบเช่นเดียวกับส่วนอื่นๆ ของสมอง มันเหมือนกับการอ่านภาษาจีน สำหรับฉัน มันเป็นเครื่องหมายที่ไม่เป็นระเบียบและไม่แน่นอน แต่สำหรับบุคคลที่สามารถอ่านภาษานั้นได้ มีระเบียบและความชัดเจนอย่างแน่นอน เราแค่ยังไม่สามารถอ่านภาษาภายในของสมองได้

คุณแนะนำแนวคิดที่เรียกว่า Universal Knowledge Store (UKS) คุณสามารถอธิบายสิ่งนี้และเหตุผลที่มันสำคัญได้หรือไม่

เมื่อนึกถึงคำถามเกี่ยวกับโรบอติกส์ คุณสามารถมองเห็นว่าหนึ่งในด้านของความฉลาดทั่วไปคือความสามารถในการรวมความรู้จากประสาทสัมผัสต่างๆ คุณรู้เกี่ยวกับบล็อกเพราะคุณสามารถมองเห็น มัน สัมผัส และได้ยินคำพูดเกี่ยวกับมัน ทั้งหมดนี้แสดงถึงข้อมูลเกี่ยวกับบล็อก สำหรับ AGI ที่จะมีความสามารถที่คล้ายคลึงกัน มันจะต้องมีกลไกการเก็บข้อมูลที่ทั่วไปซึ่งสามารถจัดการข้อมูลที่หลากหลายและสร้างความสัมพันธ์ที่มีประโยชน์ระหว่างรายการต่างๆ UKS คือกราฟความรู้ในลักษณะทั่วไปมากพอที่จะจัดการข้อมูลใดๆ และความสัมพันธ์ใดๆ

UKS สามารถเก็บข้อมูลเชิงพื้นที่ที่จำเป็นสำหรับการใช้งานเมซพร้อมกับต้นไม้ตัดสินและผลลัพธ์ที่ใช้ในการเดินผ่านเมซเพื่อบรรลุเป้าหมาย โครงสร้างเดียวกันนี้ใช้ในการเชื่อมโยงคำกับสี ประเภทของความทั่วไปนี้เป็นรากฐานของ AGI

คุณมีเส้นเวลาใดสำหรับ AGI ที่จะเกิดขึ้น

มันยากที่จะพูด เราได้ฮาร์ดแวร์ที่จำเป็นสำหรับ AGI แล้ว และฉันเห็นว่าการผ่านพ้นไปขั้นตอนเดียวเท่านั้นที่ต้องการ และมันสามารถเกิดขึ้นได้ทุกเมื่อ ลองอธิบายการผ่านพ้นไปขั้นตอนนั้น

ลองนึกถึงว่าหากคุณทราบเพียงว่าสีแดงคือสีและน้ำเงินคือสี ฉันสามารถถามคุณชื่อสีและคุณสามารถตอบว่าสีแดงและน้ำเงิน คำถามคือว่า AGI จะเรียนรู้ว่าความสัมพันธ์ “คือ-สี” เป็นสิ่งใดได้อย่างไร ฉันสามารถเขียนโค้ดความสัมพันธ์ดังกล่าวได้อย่างง่ายดาย แต่แล้ว AGI ของฉันจะไม่สามารถเรียนรู้ความสัมพันธ์ใหม่ๆ เมื่อพบเห็น เด็กสามารถเรียนรู้เกี่ยวกับความสัมพันธ์ของใกล้/ไกล hơnใหญ่/เล็กกว่าเร็ว/ช้ากว่า ก่อน/หลัง และอื่นๆ แต่สิ่งเหล่านี้พึ่งพาความคิดพื้นฐานของขนาด ระยะทาง เวลา และอื่นๆ

วิธีหนึ่งที่สมองเต็มไปด้วยนิวรอนสามารถเรียนรู้สิ่งพื้นฐานทั้งหมดนี้ได้ สิ่งนี้เชื่อมโยงกับการต้องการโรบอติกส์ วิธีหนึ่งที่ AGI จะเรียนรู้แนวคิดเรื่องระยะทางหากไม่สามารถไปที่ไหนหรือเอื้อมถึงอะไรได้ สิ่งนี้เชื่อมโยงกับการต้องการการเก็บข้อมูลที่ทั่วไป วิธีหนึ่งที่ AGI จะเข้าใจการไปที่ไหนซึ่งรวมถึงแนวคิดเรื่องตำแหน่งและเวลา การไปที่ไหนค่อนข้างตรงไปตรงมา การเข้าใจว่ามันหมายถึงอะไรนั้นยากกว่ามาก ฉันเชื่อว่าปัญหาเหล่านี้ทั้งหมดเป็นเพียงการแสดงออกมาของปัญหาหลักที่ซ่อนอยู่ และการแก้ปัญหาเหล่านั้นคือการผ่านพ้นไปขั้นตอนที่จำเป็น

ไม่มีคนจำนวนมากที่ทำงานในเรื่องนี้ ส่วนใหญ่เนื่องจากยากที่จะนำเสนอโครงการที่ถ้าประสบความสำเร็จจริงๆ จะมีความสามารถเทียบเท่ากับเด็กสามขวบหลังจากสามปี และมีความสามารถเทียบเท่ากับเด็กสิบขวบหลังจากหนึ่งทศวรรษ ดังนั้นการแก้ปัญหาก็อาจมาจากนักวิจัยอิสระที่มีเวลาและพลังงานในการอุทิศให้กับปัญหาที่ไม่มีผลตอบแทนในระยะสั้น

มีอะไรอีกที่คุณต้องการแบ่งปันเกี่ยวกับ Brain Simulator II หรือ AGI โดยทั่วไปหรือไม่

เมื่อคุณพยายามใช้นิวรอนและซินแอปส์เพื่อออกแบบวงจรที่แก้ไขปัญหาเหล่านี้ คุณจะสรุปได้ว่าแทนที่จะแสดงแนวคิดโดยซินแอปส์ไม่กี่โหล แต่ละแนวคิดต้องการนิวรอนไม่กี่โหล ซึ่งหมายความว่าแทนที่ความจุของสมองจะเป็นหลายพันล้านสิ่ง ความจุของสมองจึงจำกัดอยู่ที่การเข้าใจสิ่งหลายสิบหรือหลายร้อยล้านสิ่ง ด้วยการมองมุมมองนี้ ระบบ AGI ที่กำลังพัฒนาซึ่งสามารถเข้าใจสิ่งได้เพียงสิบล้านสิ่งควรจะสามารถเข้าใจแนวคิดพื้นฐานบางส่วนได้ และระบบคอมพิวเตอร์ที่แสดงสิ่งหลายสิบล้านสิ่งนั้นอยู่ในขอบเขตของฮาร์ดแวร์ในปัจจุบัน อาจเป็นคอมพิวเตอร์เดสก์ท็อปในปัจจุบัน

การปล่อย V1.0 ของ Brain Simulator จริงๆ แล้วเป็นการ “เติบโต” ของมัน มัน现在มีความสามารถและอินเทอร์เฟซผู้ใช้ที่มีการปรับปรุงซึ่งทำให้มันใช้งานได้มากขึ้นสำหรับผู้วิจัยทั่วไป มันเป็นโครงการของชุมชนโดยมีทีมพัฒนาที่กำลังเติบโตและผู้ใช้สิ้นสุดที่ใหญ่ขึ้น ด้วยกัน เราจะลองแนวทางใหม่ๆ และก้าวหน้าในบางปัญหาหลักของความฉลาดและ AGI

ขอขอบคุณสำหรับการสัมภาษณ์ที่ดี มัน luônเป็นเรื่องที่ให้ข้อมูลเมื่อพูดถึง AGI กับคุณ ผู้อ่านซึ่งต้องการเรียนรู้เพิ่มเติมควรอ่านหนังสือ Brain Simulator II.