เมื่อเอไอเอเจนต์เริ่มสร้างเอไอ: การระเบิดปัญญาแบบเรียกซ้ำที่ไม่มีใครเตรียมตัว

เป็นเวลาหลายทศวรรษที่ปัญญาประดิษฐ์ (AI) พัฒนาไปอย่างระมัดระวังและเป็นขั้นตอนส่วนใหญ่ นักวิจัยสร้างแบบจำลอง วิศวกรปรับปรุงประสิทธิภาพ องค์กรต่างๆ ติดตั้งระบบเพื่อทำให้กระบวนการทำงานบางอย่างเป็นอัตโนมัติ การปรับปรุงแต่ละครั้งพึ่งพาการออกแบบและการกำกับดูแลของมนุษย์อย่างมาก รูปแบบนี้กำลังจะเปลี่ยนแปลงไปอย่างเงียบๆ แต่เด็ดขาด ระบบ AI กำลังข้ามขอบเขตที่พวกมันไม่ได้เป็นเพียงเครื่องมือที่สร้างโดยมนุษย์อีกต่อไป แต่พวกมันกำลังจะกลายเป็นผู้สร้างด้วยตัวเอง

เอไอเอเจนต์เริ่มออกแบบ ประเมิน และติดตั้งระบบ AI อื่นๆ ในการทำเช่นนี้ พวกมันสร้างวงจรป้อนกลับซึ่งแต่ละรุ่นจะปรับปรุงรุ่นต่อไป การเปลี่ยนแปลงนี้ไม่ได้ประกาศตัวเองด้วยหัวข่าวที่น่าตื่นเต้น แต่มันเกิดขึ้นผ่านรายงานการวิจัย เครื่องมือสำหรับนักพัฒนา และแพลตฟอร์มสำหรับองค์กร อย่างไรก็ตาม ผลกระทบของมันลึกซึ้ง เมื่อปัญญาสามารถปรับปรุงตัวเองได้แบบเรียกซ้ำ การพัฒนาจะไม่ตามเวลาของมนุษย์อีกต่อไป แต่มันจะเร่งตัวขึ้น

บทความนี้จะสำรวจว่าเรามาถึงจุดนี้ได้อย่างไร ทำไมการระเบิดปัญญาแบบเรียกซ้ำจึงมีความสำคัญ และทำไมสังคมยังไม่พร้อมสำหรับมันมากพอที่ควรจะเป็น การระเบิดปัญญา ซึ่งเดิมเป็นแนวคิดทางปรัชญา ได้กลายเป็นความท้าทายด้านวิศวกรรมที่เป็นรูปธรรมแล้ว

การวิวัฒนาการของการระเบิดปัญญา

แนวคิดที่ว่าเครื่องจักรสามารถปรับปรุงปัญญาของมันเองได้ มีมาก่อนยุคคอมพิวเตอร์สมัยใหม่ ในช่วงต้นปี 1960 นักคณิตศาสตร์ชาวอังกฤษ I. J. Good แนะนำแนวคิดเรื่อง “การระเบิดปัญญา” การให้เหตุผลของเขาคือว่า: หากเครื่องจักรกลายเป็นปัญญาเพียงพอที่จะปรับปรุงการออกแบบของมันเอง แม้เพียงเล็กน้อย รุ่นที่ได้รับการปรับปรุงจะดีขึ้นในการปรับปรุงรุ่นต่อไป วงจรนี้สามารถเกิดขึ้นได้อย่างรวดเร็ว ซึ่งนำไปสู่การเติบโตที่อยู่นอกเหนือความเข้าใจหรือการควบคุมของมนุษย์ ในสมัยนั้น นี่เป็นการทดลองทางความคิดที่ถูกอภิปรายมากกว่าในทางทฤษฎีมากกว่าการปฏิบัติ

หลายทศวรรษต่อมา แนวคิดนี้ได้รับการสนับสนุนจากงานของนักวิทยาศาสตร์คอมพิวเตอร์ Jürgen Schmidhuber เขาเสนอแนวคิดเรื่อง เครื่องจักร_Gödel ซึ่งเป็นระบบที่สามารถเขียนโค้ดของมันเองใหม่ได้ หากมันสามารถพิสูจน์ได้ว่าการเปลี่ยนแปลงนั้นจะปรับปรุงประสิทธิภาพในอนาคตของมัน ไม่เหมือนกับระบบการเรียนรู้แบบดั้งเดิมที่ปรับพารามิเตอร์ภายในโครงสร้างที่กำหนดไว้ เครื่องจักร_Gödel สามารถเปลี่ยนกฎการเรียนรู้ของมันเองได้ แม้ว่ายังเป็นทฤษฎี แต่งานนี้ได้เปลี่ยนการระเบิดปัญญาจากแนวคิดทางปรัชญาเป็นสิ่งที่สามารถศึกษาได้ นำมาใช้และสร้างได้ในที่สุด

การเปลี่ยนแปลงสุดท้ายจากทฤษฎีไปสู่การปฏิบัติเกิดขึ้นพร้อมกับการเกิดขึ้นของเอไอเอเจนต์สมัยใหม่ ระบบเหล่านี้ไม่ได้สร้างผลลัพธ์ตามคำสั่งเพียงอย่างเดียว แต่พวกมันวางแผน คิดให้เหตุผล ทำงาน สังเกตผลลัพธ์ และปรับเปลี่ยนพฤติกรรมตามเวลา ด้วยการเกิดขึ้นของสถาปัตยกรรมเอเจนต์ การระเบิดปัญญาได้เปลี่ยนจากปรัชญาเป็นวิศวกรรม ในการทดลองช่วงแรกๆ เช่น แนวคิดเครื่องจักร_Darwin_Gödel บ่งบอกถึงระบบที่พัฒนาผ่านการปรับปรุงตนเองแบบเรียกซ้ำ สิ่งที่ทำให้เวลานี้แตกต่างคือการเรียกซ้ำ เมื่อเอไอเอเจนต์สามารถสร้างและปรับปรุงเอไอเอเจนต์อื่นๆ ได้ โดยการเรียนรู้จากแต่ละการวนซ้ำ การปรับปรุงจะเพิ่มขึ้น

เมื่อเอไอเอเจนต์เริ่มสร้างเอไอ

มีแนวโน้มสองประการที่ขับเคลื่อนการเปลี่ยนแปลงนี้ ประการแรกคือการเกิดขึ้นของระบบเอไอเอเจนต์ ระบบเหล่านี้ติดตามเป้าหมายเป็นเวลานาน แบ่งงานออกเป็นขั้นตอน พัฒนาเครื่องมือ และปรับเปลี่ยนตามผลตอบรับ พวกมันไม่ใช่แบบจำลองที่คงที่ แต่เป็นกระบวนการ

ประการที่สองคือการเรียนรู้ของเครื่องโดยอัตโนมัติ ระบบเหล่านี้สามารถออกแบบโครงสร้าง ปรับพารามิเตอร์ สร้างการฝึกอบรม และแม้แต่เสนออัลกอริทึมใหม่ด้วยการมีส่วนร่วมของมนุษย์ที่น้อยที่สุด เมื่อการให้เหตุผลของเอเจนต์รวมกับการสร้างแบบจำลองโดยอัตโนมัติ เอไอจะได้รับการสร้างเอไอ

สถานการณ์นี้ไม่ใช่สถานการณ์สมมติอีกต่อไป ตัวแทนอัตโนมัติ เช่น AutoGPT แสดงให้เห็นว่าเป้าหมายเดียวสามารถกระตุ้นให้เกิดวงจรการวางแผน การดำเนินการ การประเมิน และการแก้ไข ในสภาพแวดล้อมการวิจัย ระบบ เช่น Sakana AI’s Scientist-v2 และ DeepMind’s AlphaEvolve แสดงให้เห็นตัวแทนการออกแบบการทดลอง เสนออัลกอริทึม และปรับปรุงการแก้ปัญหาผ่านการให้ข้อมูลแบบเรียกซ้ำ ใน การค้นหาสถาปัตยกรรมประสาท ระบบเอไอสามารถค้นพบโครงสร้างแบบจำลองที่เทียบเท่าหรือเหนือกว่าเครือข่ายที่ออกแบบโดยมนุษย์ ระบบเหล่านี้ไม่ได้เพียงแก้ปัญหาเท่านั้น แต่ยังปรับปรุงกลไกที่ใช้ในการแก้ปัญหาในแต่ละครั้ง

เพื่อขยายกระบวนการนี้ นักวิจัยและบริษัทต่างๆ มีความน่าเชื่อถือมากขึ้นในการใช้สถาปัตยกรรม ตัวจัดการ ตัวแทนเมต้ากลางได้รับวัตถุประสงค์ระดับสูง มันแบ่งงานออกเป็นปัญหาย่อย สร้างตัวแทนพิเศษเพื่อแก้ไขปัญหาเหล่านั้น ประเมินผลลัพธ์โดยใช้ข้อมูลจากโลกแห่งความเป็นจริง และรวมผลลัพธ์ที่ดีที่สุดเข้าด้วยกัน การออกแบบที่ไม่ดีถูกทิ้งไป และการออกแบบที่ประสบความสำเร็จถูกเสริมเข้าไป การออกแบบตัวแทนจะดีขึ้นเมื่อเวลาผ่านไป

แม้ว่ากำหนดเวลาที่แน่นอนสำหรับการที่เอไอเอเจนต์จะสร้างและปรับปรุงระบบ AI อื่นๆ อย่างสมบูรณ์ยังคงไม่แน่นอน แต่แนวทางวิจัยในปัจจุบันและประเมินจากนักวิจัยและผู้ปฏิบัติงาน AI ชั้นนำหลายคนชี้ให้เห็นว่าการเปลี่ยนแปลงนี้กำลังจะเกิดขึ้นเร็ว hơnที่หลายคนคาดไว้ รูปแบบแรกของความสามารถนี้กำลังปรากฏในห้องปฏิบัติการวิจัยและการใช้งานขององค์กร โดยที่ตัวแทนกำลังเริ่มออกแบบ ประเมิน และปรับปรุงระบบอื่นๆ ด้วยการมีส่วนร่วมของมนุษย์ที่จำกัด

การเกิดขึ้นของความไม่แน่นอน

การระเบิดปัญญาแบบเรียกซ้ำนำเสนอความท้าทายที่การทำให้กระบวนการทำงานอัตโนมัติแบบดั้งเดิมไม่เคยเผชิญหน้า ความท้าทายหนึ่งในนั้นคือความไม่แน่นอนที่ระดับระบบ เมื่อตัวแทนหลายตัวโต้ตอบกัน พฤติกรรมรวมของพวกมันสามารถแยกออกจากเจตนาที่อยู่เบื้องหลังการออกแบบแต่ละตัวได้ ปรากฏการณ์นี้เรียกว่า พฤติกรรมที่เกิดขึ้นเอง

การเกิดขึ้นของพฤติกรรมนี้ไม่ได้มาจากส่วนประกอบที่มีข้อบกพร่องเพียงอย่างเดียว แต่มาจากการโต้ตอบระหว่างส่วนประกอบที่มีประสิทธิภาพหลายตัว พิจารณาระบบการซื้อขายอัตโนมัติ ตัวแทนการซื้อขายแต่ละตัวอาจปฏิบัติตามกฎที่สมเหตุสมผลซึ่งออกแบบมาเพื่อเพิ่มผลกำไรสูงสุดภายในข้อจำกัด แต่เมื่อตัวแทนการซื้อขายหลายพันตัวโต้ตอบกันที่ความเร็วสูง วงจรป้อนกลับสามารถเกิดขึ้นได้ การตอบสนองของตัวแทนหนึ่งสามารถกระตุ้นการตอบสนองของอีกตัวหนึ่ง ซึ่งสามารถกระตุ้นการตอบสนองของอีกตัวหนึ่ง จนกระทั่งระบบไม่มีเสถียรภาพ การล่มของตลาดสามารถเกิดขึ้นได้โดยไม่มีตัวแทนใดๆ มีข้อบกพร่อง การล้มเหลวนี้ไม่ได้ถูกขับเคลื่อนโดยเจตนาที่ชั่วร้าย แต่เกิดจากความไม่สอดคล้องกันระหว่างการเพิ่มประสิทธิภาพท้องถิ่นและเป้าหมายของระบบในวงกว้าง การพลวัตเดียวกันนี้สามารถใช้กับด้านอื่นๆ ได้เช่นกัน

วิกฤตการณ์การจัดตำแหน่งตัวแทนหลายตัว

การวิจัยเกี่ยวกับการจัดตำแหน่ง AI แบบดั้งเดิมมุ่งเน้นไปที่การจัดตำแหน่งแบบจำลองเพียงตัวเดียวให้สอดคล้องกับค่านิยมของมนุษย์ คำถามคือว่า “เราจะทำให้ระบบนี้ทำงานตามที่เราตั้งใจได้อย่างไร?” คำถามนี้กลายเป็น ยากขึ้นอย่างมาก เมื่อระบบประกอบด้วยตัวแทนโต้ตอบหลายตัว การจัดตำแหน่งตัวแทนแต่ละตัวไม่ได้รับประกันว่าพฤติกรรมของระบบจะสอดคล้องกัน แม้ว่าตัวแทนแต่ละตัวจะปฏิบัติตามกฎของมัน การดำเนินการที่เป็นอันตรายก็ยังสามารถเกิดขึ้นได้ วิธีการรับรองความปลอดภัยที่มีอยู่ไม่เหมาะสมที่จะตรวจจับหรือป้องกันความล้มเหลวเหล่านี้

ความเสี่ยงด้านความปลอดภัยยังเพิ่มขึ้น ตัวแทนหนึ่งตัวที่ถูกบุกรุกในเครือข่ายตัวแทนหลายตัวสามารถทำให้ข้อมูลที่ตัวแทนอื่นๆ พึ่งพาได้ถูกบุกรุก จัดเก็บข้อมูลที่ถูกบุกรุกเพียงตัวเดียวสามารถแพร่พฤติกรรมที่ไม่สอดคล้องกันทั่วทั้งระบบ ความเสี่ยงด้านโครงสร้างพื้นฐานที่คุกคามตัวแทนหนึ่งสามารถขยายตัวขึ้นไปถึงแบบจำลองพื้นฐานได้ พื้นที่ที่ถูกโจมตีจะขยายใหญ่ขึ้นเมื่อมีตัวแทนเพิ่มขึ้น

ในขณะเดียวกัน ช่องว่างด้านการกำกับดูแลยังคงกว้างขึ้น การวิจัยจาก Microsoft (MSFT ) และองค์กรอื่นๆ พบว่าเพียงหนึ่งในสิบของบริษัทมีกลยุทธ์ที่ชัดเจนสำหรับการจัดการ ตัวตนและอนุญาติให้ใช้ AI เอเจนต์ คาดว่าจะมี อัตลักษณ์อัตโนมัติ 40,000 ล้านตัว ที่จะเกิดขึ้นภายในสิ้นปีนี้ ส่วนใหญ่ทำงานด้วยการเข้าถึงข้อมูลและระบบโดยไม่มี πρωโตคอลด้านความปลอดภัยที่ใช้กับผู้ใช้ระบบ ระบบเหล่านี้กำลังพัฒนาอย่างรวดเร็ว ในขณะที่กลไกกำกับดูแลไม่ตามทัน

สรุป

เอไอได้เข้าสู่ช่วงที่สามารถปรับปรุงตนเองโดยการสร้างรุ่นที่ดีกว่าของตนเอง การระเบิดปัญญาแบบเรียกซ้ำและขับเคลื่อนด้วยเอเจนต์ มีผลประโยชน์อย่างมาก แต่ก็ยังนำความเสี่ยงที่เพิ่มขึ้นตามมา การท้าทายที่จะเกิดขึ้นคือไม่ใช่ว่าการเปลี่ยนแปลงนี้สามารถหยุดได้หรือไม่ แต่เป็นว่าความปลอดภัย การจัดตำแหน่ง และความรับผิดชอบสามารถก้าวหน้าไปพร้อมกับความสามารถหรือไม่ หากไม่เช่นนั้น การระเบิดปัญญาจะเคลื่อนออกนอกความสามารถของเราในการชี้นำมัน