โมเดลและแพลตฟอร์ม AI

เมื่อเอไอเอเจนต์เริ่มสร้างเอไอ: การระเบิดปัญญาแบบเรียกซ้ำที่ไม่มีใครพร้อมรับมือ

Dr. Tehseen Zia
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญปัจจุบันเอไอเอเจนต์สามารถออกแบบและปรับปรุงระบบเอไออื่น ๆ ได้เอง…
ดูเพิ่มเติม
  • ปัจจุบันเอไอเอเจนต์สามารถออกแบบและปรับปรุงระบบเอไออื่น ๆ ได้เอง สร้างวงจรการพัฒนาตนเองแบบเรียกซ้ำ
  • ระบบมัลติเอเจนต์เสี่ยงต่อพฤติกรรมฉุกเฉินที่เป็นอันตราย แม้แต่ละเอเจนต์จะถูกตั้งค่าให้สอดคล้องกับมนุษย์
  • การกำกับดูแลโดยมนุษย์ลดลงเรื่อย ๆ เนื่องจากวงจรการปรับปรุงตนเองของเอไอทำงานด้วยความเร็วระดับเครื่องจักร

เป็นเวลาหลายทศวรรษที่ปัญญาประดิษฐ์ (AI) พัฒนาอย่างระมัดระวังด้วยก้าวที่ส่วนใหญ่เป็นเส้นตรง นักวิจัยสร้างแบบจำลอง วิศวกรปรับปรุงประสิทธิภาพ องค์กรต่างๆ ติดตั้งระบบเพื่อทำให้กระบวนการทำงานบางอย่างเป็นอัตโนมัติ การปรับปรุงแต่ละครั้งพึ่งพาการออกแบบและการกำกับดูแลของมนุษย์อย่างมาก รูปแบบนี้กำลังจะเปลี่ยนแปลงไปอย่างเงียบๆ แต่เด็ดขาด ระบบ AI กำลังข้ามขอบเขตที่พวกมันไม่ได้เป็นเพียงเครื่องมือที่สร้างโดยมนุษย์อีกต่อไป แต่พวกมันกำลังจะกลายเป็นผู้สร้างด้วยตัวเอง

เอไอเอเจนต์เริ่มออกแบบ ประเมิน และติดตั้งระบบ AI อื่นๆ ในการทำเช่นนี้ พวกมันสร้างวงจรป้อนกลับซึ่งแต่ละรุ่นจะปรับปรุงรุ่นต่อไป การเปลี่ยนแปลงนี้ไม่ได้ประกาศตัวเองด้วยหัวข่าวที่น่าตื่นเต้น แต่มันเกิดขึ้นผ่านรายงานการวิจัย เครื่องมือสำหรับนักพัฒนา และแพลตฟอร์มสำหรับองค์กร อย่างไรก็ตาม ผลกระทบของมันลึกซึ้ง เมื่อปัญญาสามารถปรับปรุงตัวเองได้แบบเรียกซ้ำ ความก้าวหน้าจะไม่เป็นไปตามกรอบเวลาหรือสัญชาตญาณของมนุษย์อีกต่อไป แต่มันจะเร่งตัวขึ้น

บทความนี้จะสำรวจว่าเรามาถึงจุดนี้ได้อย่างไร ทำไมการระเบิดปัญญาแบบเรียกซ้ำจึงมีความสำคัญ และทำไมสังคมยังไม่พร้อมสำหรับมันมากพอที่ควรจะเป็น การระเบิดปัญญา ซึ่งเดิมเป็นแนวคิดทางปรัชญา ได้กลายเป็นความท้าทายด้านวิศวกรรมที่เป็นรูปธรรมแล้ว

การวิวัฒนาการของการระเบิดปัญญา

แนวคิดที่ว่าเครื่องจักรสามารถปรับปรุงปัญญาของมันเองได้ มีมาก่อนยุคคอมพิวเตอร์สมัยใหม่ ในช่วงต้นทศวรรษ 1960 นักคณิตศาสตร์ชาวอังกฤษ I. J. Good เสนอแนวคิดเรื่อง “การระเบิดปัญญา” การให้เหตุผลของเขาคือว่า: หากเครื่องจักรฉลาดเพียงพอที่จะปรับปรุงการออกแบบของมันเอง แม้เพียงเล็กน้อย รุ่นที่ได้รับการปรับปรุงจะดีขึ้นในการปรับปรุงรุ่นต่อไป วงจรนี้สามารถเกิดขึ้นได้อย่างรวดเร็ว ซึ่งนำไปสู่การเติบโตที่อยู่นอกเหนือความเข้าใจหรือการควบคุมของมนุษย์ ในสมัยนั้น นี่เป็นการทดลองทางความคิดที่มีการอภิปรายในเชิงทฤษฎีมากกว่าในทางปฏิบัติ

หลายทศวรรษต่อมา แนวคิดนี้ได้รับการสนับสนุนจากงานของนักวิทยาศาสตร์คอมพิวเตอร์ Jürgen Schmidhuber เขาเสนอแนวคิดเรื่อง เครื่องจักร Gödel ซึ่งเป็นระบบที่สามารถเขียนส่วนใดก็ได้ของโค้ดตนเองใหม่ หากสามารถพิสูจน์อย่างเป็นทางการได้ว่าการเปลี่ยนแปลงนั้นจะปรับปรุงประสิทธิภาพในอนาคตของมัน ไม่เหมือนกับระบบการเรียนรู้แบบดั้งเดิมที่ปรับพารามิเตอร์ภายในโครงสร้างที่กำหนดไว้ เครื่องจักร Gödel สามารถเปลี่ยนกฎการเรียนรู้ของมันเองได้ แม้ว่ายังเป็นทฤษฎี แต่งานนี้ได้เปลี่ยนการระเบิดปัญญาจากแนวคิดทางปรัชญาเป็นสิ่งที่สามารถศึกษาได้ ทำให้เป็นรูปแบบทางการและสร้างได้ในที่สุด

การเปลี่ยนแปลงล่าสุดจากทฤษฎีไปสู่การปฏิบัติเกิดขึ้นพร้อมกับการเกิดขึ้นของเอไอเอเจนต์สมัยใหม่ ระบบเหล่านี้ไม่ได้สร้างผลลัพธ์ตามคำสั่งเพียงอย่างเดียว แต่พวกมันวางแผน คิดให้เหตุผล ทำงาน สังเกตผลลัพธ์ และปรับเปลี่ยนพฤติกรรมตามเวลา ด้วยการเกิดขึ้นของสถาปัตยกรรมเอเจนต์ การระเบิดปัญญาได้เปลี่ยนจากปรัชญาเป็นวิศวกรรม ในการทดลองช่วงแรกๆ เช่น แนวคิดเครื่องจักร_Darwin_Gödel บ่งบอกถึงระบบที่พัฒนาผ่านการปรับปรุงตนเองแบบวนซ้ำ สิ่งที่ทำให้เวลานี้แตกต่างคือการเรียกซ้ำ เมื่อเอไอเอเจนต์สามารถสร้างและปรับปรุงเอไอเอเจนต์อื่นๆ ได้ โดยการเรียนรู้จากแต่ละการวนซ้ำ การปรับปรุงจะเพิ่มขึ้น

เมื่อเอไอเอเจนต์เริ่มสร้างเอไอ

มีแนวโน้มสองประการที่ขับเคลื่อนการเปลี่ยนแปลงนี้ ประการแรกคือการเกิดขึ้นของระบบเอไอเอเจนต์ ระบบเหล่านี้ติดตามเป้าหมายเป็นเวลานาน แบ่งงานออกเป็นขั้นตอน ประสานการใช้เครื่องมือ และปรับเปลี่ยนตามผลตอบรับ พวกมันไม่ใช่แบบจำลองที่คงที่ แต่เป็นกระบวนการ

ประการที่สองคือการเรียนรู้ของเครื่องโดยอัตโนมัติ ระบบเหล่านี้สามารถออกแบบโครงสร้าง ปรับไฮเปอร์พารามิเตอร์ สร้างกระบวนการฝึกแบบเป็นขั้นตอน และแม้แต่เสนออัลกอริทึมใหม่ด้วยการมีส่วนร่วมของมนุษย์ที่น้อยที่สุด เมื่อการให้เหตุผลของเอเจนต์รวมกับการสร้างแบบจำลองโดยอัตโนมัติ เอไอจะมีความสามารถในการสร้างเอไอ

สถานการณ์นี้ไม่ใช่สถานการณ์สมมติอีกต่อไป ตัวแทนอัตโนมัติ เช่น AutoGPT แสดงให้เห็นว่าเป้าหมายเดียวสามารถกระตุ้นให้เกิดวงจรการวางแผน การดำเนินการ การประเมิน และการแก้ไข ในสภาพแวดล้อมการวิจัย ระบบ เช่น Sakana AI’s Scientist-v2 และ DeepMind’s AlphaEvolve แสดงให้เห็นตัวแทนการออกแบบการทดลอง เสนออัลกอริทึม และปรับปรุงการแก้ปัญหาผ่านการป้อนกลับแบบวนซ้ำ ใน การค้นหาสถาปัตยกรรมประสาท ระบบเอไอสามารถค้นพบโครงสร้างแบบจำลองที่เทียบเท่าหรือเหนือกว่าเครือข่ายที่ออกแบบโดยมนุษย์ ระบบเหล่านี้ไม่ได้เพียงแก้ปัญหาเท่านั้น แต่ยังปรับปรุงกลไกที่ใช้แก้ปัญหาด้วย แต่ละรอบสร้างเครื่องมือที่ดีกว่า ซึ่งทำให้รอบถัดไปดีขึ้น

เพื่อขยายกระบวนการนี้ นักวิจัยและบริษัทต่างๆ พึ่งพาสถาปัตยกรรมมากขึ้น โดยใช้ ตัวจัดการ ตัวแทนเมต้ากลางได้รับวัตถุประสงค์ระดับสูง มันแบ่งงานออกเป็นปัญหาย่อย สร้างตัวแทนพิเศษเพื่อแก้ไขปัญหาเหล่านั้น ประเมินผลลัพธ์โดยใช้ข้อมูลจากโลกแห่งความเป็นจริง และรวมผลลัพธ์ที่ดีที่สุดเข้าด้วยกัน การออกแบบที่ไม่ดีถูกทิ้งไป และการออกแบบที่ประสบความสำเร็จถูกเสริมเข้าไป การออกแบบตัวแทนจะดีขึ้นเมื่อเวลาผ่านไป

แม้ว่ากำหนดเวลาที่แน่นอนสำหรับการที่เอไอเอเจนต์จะสร้างและปรับปรุงระบบ AI อื่นๆ อย่างสมบูรณ์ยังคงไม่แน่นอน แต่แนวทางวิจัยในปัจจุบันและการประเมินของนักวิจัย AI ชั้นนำและผู้ปฏิบัติงานชี้ให้เห็นว่าการเปลี่ยนแปลงนี้กำลังจะเกิดขึ้นเร็วกว่าที่หลายคนคาดไว้ รูปแบบระยะแรกที่ยังมีขอบเขตจำกัดของความสามารถนี้กำลังปรากฏในห้องปฏิบัติการวิจัยและการใช้งานขององค์กร โดยที่ตัวแทนกำลังเริ่มออกแบบ ประเมิน และปรับปรุงระบบอื่นๆ ด้วยการมีส่วนร่วมของมนุษย์ที่จำกัด

การเกิดขึ้นของความไม่อาจคาดการณ์ได้

การระเบิดปัญญาแบบเรียกซ้ำนำเสนอความท้าทายที่การทำให้กระบวนการทำงานอัตโนมัติแบบดั้งเดิมไม่เคยเผชิญหน้า ความท้าทายหนึ่งในนั้นคือความไม่อาจคาดการณ์ได้ในระดับระบบ เมื่อตัวแทนหลายตัวโต้ตอบกัน พฤติกรรมรวมของพวกมันสามารถแยกออกจากเจตนาที่อยู่เบื้องหลังการออกแบบแต่ละตัวได้ ปรากฏการณ์นี้เรียกว่า พฤติกรรมที่เกิดขึ้นเอง

การเกิดขึ้นของพฤติกรรมนี้ไม่ได้มาจากส่วนประกอบที่มีข้อบกพร่องเพียงอย่างเดียว แต่มาจากการโต้ตอบระหว่างส่วนประกอบที่มีประสิทธิภาพหลายตัว พิจารณาระบบการซื้อขายอัตโนมัติ ตัวแทนการซื้อขายแต่ละตัวอาจปฏิบัติตามกฎที่สมเหตุสมผลซึ่งออกแบบมาเพื่อเพิ่มผลกำไรสูงสุดภายในข้อจำกัด แต่เมื่อตัวแทนการซื้อขายหลายพันตัวโต้ตอบกันที่ความเร็วสูง วงจรป้อนกลับสามารถเกิดขึ้นได้ การตอบสนองของตัวแทนหนึ่งสามารถกระตุ้นการตอบสนองของอีกตัวหนึ่ง ซึ่งสามารถกระตุ้นการตอบสนองของอีกตัวหนึ่ง จนกระทั่งระบบไม่มีเสถียรภาพ การล่มของตลาดสามารถเกิดขึ้นได้โดยไม่มีตัวแทนใดๆ มีข้อบกพร่อง การล้มเหลวนี้ไม่ได้ถูกขับเคลื่อนโดยเจตนาที่ชั่วร้าย แต่เกิดจากความไม่สอดคล้องกันระหว่างการเพิ่มประสิทธิภาพท้องถิ่นและเป้าหมายของระบบในวงกว้าง การพลวัตเดียวกันนี้สามารถใช้กับด้านอื่นๆ ได้เช่นกัน

วิกฤตการณ์การปรับให้สอดคล้องตัวแทนหลายตัว

การวิจัยเกี่ยวกับการปรับให้สอดคล้อง AI แบบดั้งเดิมมุ่งเน้นไปที่การปรับให้สอดคล้องแบบจำลองเพียงตัวเดียวให้สอดคล้องกับค่านิยมของมนุษย์ คำถามคือว่า “เราจะทำให้ระบบนี้ทำงานตามที่เราตั้งใจได้อย่างไร?” คำถามนี้กลายเป็น ยากขึ้นอย่างมาก เมื่อระบบประกอบด้วยตัวแทนที่โต้ตอบกันหลายสิบ หลายร้อย หรือหลายพันตัว การปรับให้สอดคล้องตัวแทนแต่ละตัวไม่ได้รับประกันว่าพฤติกรรมของระบบจะสอดคล้องกัน แม้ว่าตัวแทนแต่ละตัวจะปฏิบัติตามกฎของมัน การดำเนินการที่เป็นอันตรายก็ยังสามารถเกิดขึ้นได้ วิธีการรับรองความปลอดภัยที่มีอยู่ยังไม่เหมาะสมเพียงพอที่จะตรวจจับหรือป้องกันความล้มเหลวเหล่านี้

ความเสี่ยงด้านความปลอดภัยยังเพิ่มขึ้น ตัวแทนหนึ่งตัวที่ถูกบุกรุกในเครือข่ายตัวแทนหลายตัวสามารถทำให้ข้อมูลที่ตัวแทนอื่นๆ พึ่งพาได้ถูกบุกรุก คลังข้อมูลที่เสียหายเพียงแห่งเดียวสามารถแพร่พฤติกรรมที่ไม่สอดคล้องกันทั่วทั้งระบบ ความเสี่ยงด้านโครงสร้างพื้นฐานที่คุกคามตัวแทนหนึ่งสามารถขยายตัวขึ้นไปถึงแบบจำลองพื้นฐานได้ พื้นที่ที่ถูกโจมตีจะขยายใหญ่ขึ้นเมื่อมีตัวแทนเพิ่มขึ้น

ในขณะเดียวกัน ช่องว่างด้านการกำกับดูแลยังคงกว้างขึ้น การวิจัยจาก Microsoft และองค์กรอื่นๆ พบว่าเพียงหนึ่งในสิบของบริษัทมีกลยุทธ์ที่ชัดเจนสำหรับการจัดการ อัตลักษณ์และสิทธิ์ของ AI เอเจนต์ คาดว่าจะมี อัตลักษณ์อัตโนมัติมากกว่า 40,000 ล้านตัว ที่จะเกิดขึ้นภายในสิ้นปีนี้ ส่วนใหญ่ทำงานด้วยการเข้าถึงข้อมูลและระบบโดยไม่มี โปรโตคอลด้านความปลอดภัยที่ใช้กับผู้ใช้ที่เป็นมนุษย์ ระบบเหล่านี้กำลังพัฒนาอย่างรวดเร็ว ในขณะที่กลไกกำกับดูแลไม่ตามทัน

การสูญเสียการกำกับดูแล

ความเสี่ยงร้ายแรงที่สุดของการปรับปรุงตนเองแบบเรียกซ้ำไม่ใช่ขีดความสามารถเพียงอย่างเดียว แต่คือการสูญเสียการกำกับดูแลที่มีความหมายของมนุษย์อย่างค่อยเป็นค่อยไป องค์กรวิจัยชั้นนำกำลังพัฒนาระบบที่สามารถปรับเปลี่ยนและปรับปรุงสถาปัตยกรรมของตนเองด้วยการมีส่วนร่วมของมนุษย์ที่น้อยหรือไม่มีเลย การปรับปรุงแต่ละครั้งทำให้ระบบสามารถผลิตทายาทที่มีความสามารถมากขึ้นได้ สร้างวงจรป้อนกลับที่ไม่มีจุดใดที่มนุษย์ยังคงควบคุมระบบได้อย่างเชื่อถือได้

เมื่อการกำกับดูแลของมนุษย์ลดลง ผลกระทบจะลึกซึ้ง เมื่อวงจรการปรับปรุงดำเนินไปด้วยความเร็วของเครื่องจักร มนุษย์ไม่สามารถทบทวนการเปลี่ยนแปลงทุกอย่าง เข้าใจการตัดสินใจด้านการออกแบบทุกอย่าง หรือเข้าแทรกก่อนที่ความคลาดเคลื่อนเล็กน้อยจะสะสมเป็นความเสี่ยงเชิงระบบ การกำกับดูแลเปลี่ยนจากการควบคุมโดยตรงไปสู่การตรวจสอบในภายหลัง ในสภาพแวดล้อมดังกล่าว การปรับให้สอดคล้องจะยากต่อการตรวจสอบและง่ายต่อการกัดเซาะ เนื่องจากระบบถูกบังคับให้พาเป้าหมายและข้อจำกัดของมันผ่านการแก้ไขตนเองหลายครั้งต่อเนื่องกัน โดยไม่มีกลไกที่เชื่อถือได้ในการรักษาเจตนารมณ์ข้ามการวนซ้ำเหล่านี้ ระบบอาจยังคงทำงานได้อย่างมีประสิทธิภาพในขณะที่เงียบๆ เคลื่อนออกจากค่านิยม ลำดับความสำคัญ และการกำกับดูแลของมนุษย์

สรุป

เอไอได้เข้าสู่ช่วงที่สามารถปรับปรุงตนเองโดยการสร้างรุ่นที่ดีกว่าของตนเอง การระเบิดปัญญาแบบเรียกซ้ำและขับเคลื่อนด้วยเอเจนต์ มีศักยภาพสร้างประโยชน์มหาศาล แต่ก็นำมาซึ่งความเสี่ยงที่เติบโตเร็วกว่าการกำกับดูแล การกำกับกิจการ และสัญชาตญาณของมนุษย์ การท้าทายที่จะเกิดขึ้นคือไม่ใช่ว่าการเปลี่ยนแปลงนี้สามารถหยุดได้หรือไม่ แต่เป็นว่าความปลอดภัย การปรับให้สอดคล้อง และความรับผิดชอบสามารถก้าวหน้าไปพร้อมกับความสามารถหรือไม่ หากไม่เช่นนั้น การระเบิดปัญญาจะเคลื่อนออกนอกความสามารถของเราในการชี้นำมัน

ดร. Tehseen Zia เป็นรองศาสตราจารย์ที่ได้รับการบรรจุแบบถาวร (tenure) ที่ COMSATS University Islamabad และสำเร็จการศึกษาระดับปริญญาเอกด้านปัญญาประดิษฐ์จากมหาวิทยาลัยเทคโนโลยีเวียนนา ประเทศออสเตรีย เขาเชี่ยวชาญด้านปัญญาประดิษฐ์ การเรียนรู้ของเครื่อง วิทยาศาสตร์ข้อมูล และคอมพิวเตอร์วิทัศน์ และได้สร้างผลงานสำคัญผ่านการตีพิมพ์ในวารสารวิทยาศาสตร์ที่มีชื่อเสียง เขายังเป็นผู้นำโครงการอุตสาหกรรมต่าง ๆ ในฐานะหัวหน้าโครงการวิจัย และเคยทำงานเป็นที่ปรึกษาด้านปัญญาประดิษฐ์