AGI
การเดินทางสู่ปัญญาประดิษฐ์ทั่วไป (AGI) ด้วยวิธีการที่สมดุล
เมื่อ ปัญญาประดิษฐ์ทั่วไป (AGI) พัฒนาอย่างรวดเร็ว การสนทนาเปลี่ยนจากการถกเถียงทางปรัชญาเป็นการพูดถึงความเกี่ยวข้องในทางปฏิบัติ โดยมีโอกาสที่จะเปลี่ยนแปลงธุรกิจทั่วโลกและศักยภาพของมนุษย์
ซีรีส์งาน AGI Icons ของ Turing นำนักนวัตกรรม AI มารวมตัวกันเพื่อหารือเกี่ยวกับการพัฒนาปัญญาประดิษฐ์ทั่วไป (AGI) ที่มีความรับผิดชอบ ในวันที่ 24 กรกฎาคม Turing จัดงาน AGI Icons ครั้งที่สองที่ SHACK15 ซานฟรานซิสโก ซึ่งเป็นศูนย์กลางสำหรับธุรกิจและนวัตกรเทคโนโลยี โดยมี Anita Ramaswamy นักข่าวด้านการเงินของ The Information เป็นผู้ดำเนินรายการ และผมได้พูดคุยกับ Adam D’Angelo ซีอีโอของ Quora เกี่ยวกับเส้นทางสู่ AGI และแบ่งปันข้อมูลเกี่ยวกับระยะเวลาการพัฒนา การใช้งานจริง และหลักการในการพัฒนาที่มีความรับผิดชอบ
เส้นทางจาก AI สู่ AGI
“ดาวเหนือ” ที่ขับเคลื่อนการวิจัย AI คือการตามล่าหาปัญญาในระดับของมนุษย์ สิ่งที่ทำให้ AGI แตกต่างจาก AI ทั่วไปคือการเคลื่อนไหวจากฟังก์ชันการทำงานที่แคบไปยังความกว้างและความสามารถที่ดีขึ้น ซึ่งอาจเกินความสามารถของมนุษย์ได้
นี่คือ “เส้นทางสู่ AGI” โดยที่ AI พัฒนาสู่ระบบอัตโนมัติที่มีเหตุผลและความสามารถที่ดีขึ้น การพัฒนานี้แบ่งออกเป็น 5 ระดับ:
- ระดับ 0: ไม่มี AI – เครื่องมือที่ง่ายๆ เช่น เครื่องคิดเลข
- ระดับ 1: AGI ที่เกิดขึ้นใหม่ – LLMs เช่น ChatGPT
- ระดับ 2: AGI ที่มีความสามารถ – ระบบ AI ที่สามารถทำงานได้เทียบเท่ากับผู้ใหญ่ที่มีทักษะ
- ระดับ 3: AGI ที่มีความเชี่ยวชาญ – ระบบ AI ที่มีความสามารถเทียบเท่ากับผู้ใหญ่ที่มีทักษะ 90 เปอร์เซ็นต์
- ระดับ 4: AGI ที่มีความสามารถสูง – ระบบ AI ที่มีความสามารถเทียบเท่ากับผู้ใหญ่ที่มีทักษะ 99 เปอร์เซ็นต์
- ระดับ 5: AGI ที่มีความสามารถสูงกว่ามนุษย์ – ระบบ AI ที่มีความสามารถเกินกว่ามนุษย์
ระหว่างการหารือ Adam ได้กำหนดแนวคิดของ AGI ว่าเป็น “ซอฟต์แวร์ที่สามารถทำทุกสิ่งที่มนุษย์สามารถทำได้” เขาเห็นภาพอนาคตที่ AI จะพัฒนาตัวเองและในที่สุดจะเข้ามาแทนที่งานที่ซับซ้อนของนักวิจัยการเรียนรู้ของเครื่อง
เมื่อขยายความนี้ออกไป ผมได้เปรียบเทียบมุมมองของ AGI กับ “สมองเทียม” ที่สามารถทำงานได้หลากหลาย เช่น การแปลภาษา การค้นหาข้อมูลที่ซับซ้อน และการเขียนโค้ด นี่คือความแตกต่างระหว่าง AGI และ AI ที่คาดการณ์ได้และรูปแบบการเรียนรู้ของเครื่องแบบแคบที่มีอยู่ก่อนหน้านี้
ระยะเวลาการพัฒนาที่สมจริงบนเส้นทางสู่ AGI
เช่นเดียวกับการเดินทางบนถนน คำถามที่อยู่ในใจเกี่ยวกับ AGI คือ “เรามาถึงแล้วหรือยัง?” คำตอบสั้นคือไม่ แต่เมื่อการวิจัย AI加速 เราควรถามว่า “เราจะสร้างสมดุลระหว่างความทะเยอทะยานของ AGI กับความคาดหวังที่สมจริงได้อย่างไร?”
Adam เน้นย้ำว่าระบบอัตโนมัติที่เพิ่มขึ้นจาก AGI จะเปลี่ยนบทบาทของมนุษย์มากกว่าที่จะกำจัดมัน ซึ่งจะนำไปสู่การเติบโตทางเศรษฐกิจที่รวดเร็วขึ้นและผลผลิตที่มีประสิทธิภาพมากขึ้น “เมื่อเทคโนโลยีนี้มีพลังมากขึ้น เราจะถึงจุดที่ 90% ของสิ่งที่ผู้คนกำลังทำวันนี้จะถูกทำให้自动 แต่ทุกคนจะเปลี่ยนไปทำสิ่งอื่น”
ปัจจุบันเศรษฐกิจโลกส่วนใหญ่ถูกจำกัดโดยจำนวนคนงานที่มีอยู่ เมื่อเราพัฒนาสู่ AGI เราสามารถเติบโตทางเศรษฐกิจได้เร็วขึ้นกว่าที่เป็นไปได้ในปัจจุบัน
เร不能ให้ระยะเวลาที่แน่นอนว่าเมื่อไหร่ AGI ที่แท้จริงจะเกิดขึ้น แต่ Adam และผมได้กล่าวถึงหลายกรณีของการก้าวหน้าของ AI ที่เป็นทางเลือกสำหรับการพัฒนาของ AGI ตัวอย่างเช่น การทดลองของ Turing กับเครื่องมือพัฒนาของ AI แสดงให้เห็นว่ามีการเพิ่มขึ้นของผลผลิตของผู้พัฒนา 33% ซึ่งบ่งบอกถึงศักยภาพที่มากกว่า
การประยุกต์ใช้จริงและผลกระทบ
หนึ่งในการประยุกต์ใช้ที่มีแนวโน้มมากที่สุดของ AGI อยู่ในด้านการพัฒนาซอฟต์แวร์ โมเดลภาษาที่มีขนาดใหญ่ (LLMs) ซึ่งเป็นรุ่นก่อนของ AGI ได้ถูกใช้เพื่อปรับปรุงการพัฒนาซอฟต์แวร์และคุณภาพของโค้ดแล้ว ผมเห็นว่ายุคนี้ของ AI นั้นใกล้เคียงกับชีววิทยามากกว่าฟิสิกส์ โดยที่ทุกประเภทของงานความรู้จะดีขึ้น มันจะปลดปล่อยผลผลิตที่มากขึ้นสำหรับและจากมนุษย์
มุมมองของผมมาจากประสบการณ์ที่ผมได้เห็นการเพิ่มขึ้นของผลผลิตส่วนบุคคล 10 เท่าเมื่อใช้ LLMs และเครื่องมือพัฒนาของ AI เรากำลังใช้ AI ที่ Turing เพื่อประเมินความสามารถทางเทคนิคและจับคู่วิศวกรซอฟต์แวร์และผู้เชี่ยวชาญด้านสาขาต่างๆ ที่เหมาะสมกับงานที่เหมาะสม
สิ่งที่ผมเห็นในพื้นที่การฝึกอบรม LLMs คือผู้ฝึกอบรมใช้โมเดลเหล่านี้เพื่อเพิ่มผลผลิตของผู้พัฒนาและเร่งเวลาโครงการ โดยการทำให้การเขียนโค้ดเป็นแบบอัตโนมัติและให้คำแนะนำโค้ดที่ฉลาด LLMs ช่วยให้ผู้พัฒนามุ่งเน้นไปที่ด้านเชิงกลยุทธ์และสร้างสรรค์ของงาน
Adam ปิดท้ายด้วย “LLMs จะไม่เขียนโค้ดทั้งหมด แต่การเข้าใจพื้นฐานของซอฟต์แวร์ยังคงสำคัญ คาลคูเลเตอร์ไม่ได้กำจัดความจำเป็นในการเรียนรู้คณิตศาสตร์” เขาเพิ่มเติมว่า “ผู้พัฒนาจะมีค่ามากกว่าเมื่อใช้โมเดลเหล่านี้ การมี LLMs เป็นสิ่งดีสำหรับงานของผู้พัฒนา และจะมีการเพิ่มขึ้นสำหรับผู้พัฒนา”
เรากำลังเข้าสู่ยุคทองของการพัฒนาซอฟต์แวร์ที่ซึ่งวิศวกรซอฟต์แวร์หนึ่งคนสามารถสร้างผลผลิตได้ 10 เท่า สร้างสรรค์ผลงานที่มากกว่า และสร้างประโยชน์ให้กับโลก
ความท้าทายด้านเทคนิคและการกำกับดูแล
尽管 AGI มีศักยภาพที่น่าหวัง แต่ก็มีความท้าทายที่ต้องเผชิญ การประเมินและกรอบการกำกับดูแลที่มั่นคงจำเป็นต่อการสร้างสมดุลระหว่างนวัตกรรมของ AGI และความปลอดภัยของสาธารณะ
Adam เน้นย้ำถึงความจำเป็นในการทดสอบและ sandbox ที่เข้มงวดเพื่อจำกัดสถานการณ์ที่เลวร้ายที่สุด “คุณต้องการมีกระบวนการประเมินที่เข้มงวด… และได้รับการกระจายที่คุณกำลังทดสอบให้ใกล้เคียงกับการใช้งานจริงมากที่สุด”
และผมเห็นด้วย อุปสรรคสำหรับการพัฒนาของ AGI คือความฉลาดของมนุษย์มากกว่าพลังการคำนวณหรือข้อมูล ความเชี่ยวชาญของมนุษย์เป็นสิ่งจำเป็นสำหรับการปรับแต่งและปรับโมเดล AI ซึ่งเป็นสาเหตุที่ Turing มุ่งเน้นในการหาคนที่มีความสามารถสูงและจับคู่ผู้เชี่ยวชาญด้านเทคนิคเพื่อสร้างสมดุลระหว่างโมเดล AI และความฉลาดของมนุษย์
เราต้องเผชิญความท้าทายของ AGI โดยตรงโดยการเน้นไปที่ความสามารถมากกว่ากระบวนการ การทำงานและศักยภาพ
มุมมองเกี่ยวกับความท้าทาย: การปรับปรุงการโต้ตอบระหว่างมนุษย์และ AGI
บางสิ่งที่ดีที่สุดในการจัดการกับความท้าทายของ AGI คือ:
- เน้นไปที่ความสามารถหรือ “AGI สามารถทำอะไรได้บ้าง” มากกว่ากระบวนการหรือ “มันทำงานอย่างไร”
- สร้างสมดุลระหว่างความกว้างและความสามารถเป็นส่วนประกอบที่สำคัญของ AGI
- เน้นไปที่งานทางจิตและความสามารถในการเรียนรู้มากกว่างานทางกายภาพ/การผลิต
- วัด AGI โดยศักยภาพและความสามารถ
- เน้นไปที่ความถูกต้องทางนิเวศวิทยาโดยการปรับแต่งมาตรฐานให้เหมาะสมกับงานจริงที่ผู้คนให้ค่า
- จำไว้ว่าเส้นทางสู่ AGI ไม่ใช่จุดสิ้นสุดเดียว แต่เป็นกระบวนการที่ซ้ำกัน
Adam และผมเน้นย้ำถึงความสำคัญของการปรับปรุงการโต้ตอบระหว่างมนุษย์และ AGI Adam เน้นย้ำถึงคุณค่าของการเรียนรู้วิธีการและเมื่อใช้โมเดลเหล่านี้ โดยมองว่ามันเป็นเครื่องมือการเรียนรู้ที่ทรงพลังที่สามารถสอนได้เร็วในด้านการเขียนโปรแกรมใดๆ ในขณะที่เน้นย้ำถึงความสำคัญของการเข้าใจพื้นฐาน
ในทำนองเดียวกัน ผมแนะนำว่าการทำให้ทุกคนเป็นผู้ใช้ LLMs ที่มีประสิทธิภาพสามารถเพิ่มผลผลิตและความเข้าใจในหลายๆ ด้านได้อย่างมาก LLMs สามารถทำให้ข้อมูลที่ซับซ้อนเข้าถึงได้โดยทุกคน เพิ่มผลผลิตในหลายๆ ด้าน แต่ต้องใช้วิธีการที่เป็นขั้นตอนและซ้ำกัน: เริ่มต้นด้วย AI ที่ช่วยเหลือมนุษย์ จากนั้นไปสู่ตัวแทนภายใต้การดูแลของมนุษย์ และสุดท้ายคือตัวแทนอัตโนมัติในงานที่ได้รับการประเมินอย่างดี
ด้วยวิธีนี้ การแยกความแตกต่างหลังการฝึกอบรมเป็นสิ่งสำคัญ โดยเกี่ยวข้องกับการปรับแต่งแบบดูแล (SFT) และใช้ความฉลาดของมนุษย์เพื่อสร้างโมเดลที่กำหนดเอง บริษัทที่สามารถหาคนที่มีความสามารถและจับคู่ผู้ฝึกอบรม วิศวกร และคนอื่นๆ จะเร่งความสามารถในการปรับแต่งและวิศวกรรมแบบกำหนดเองได้ การทำงานร่วมกับบริษัทชั้นนำ เช่น OpenAI และ Anthropic ก็มีความสำคัญเช่นกันในการนำโมเดลเหล่านี้ไปใช้ในอุตสาหกรรมต่างๆ
หลักการของการพัฒนาอาจีไอที่มีความรับผิดชอบ
“การพัฒนาอาจีไอจะต้องมีความรับผิดชอบและจริยธรรม เพื่อให้แน่ใจถึงความปลอดภัยและความโปร่งใสในขณะเดียวกันก็ส่งเสริมนวัตกรรม” – Adam D’Angelo
การพัฒนาอาจีไอที่มีความรับผิดชอบต้องปฏิบัติตามหลักการสำคัญหลายประการ:
- ความปลอดภัยและความมั่นคง: การรับรองว่าระบบอาจีไอเป็นไปอย่างน่าเชื่อถือและต้านทานการละเมิด โดยเฉพาะอย่างยิ่งเมื่อโมเดลขยายเพื่อรับข้อมูลใหม่หรืออัลกอริทึม
- ความโปร่งใส: การให้ข้อมูลที่เป็นจริงเกี่ยวกับความสามารถและข้อจำกัดของอาจีไอ และ “วิธีการทำงาน”
- การพิจารณาด้านจริยธรรม: การจัดการกับความยุติธรรม ความลำเอียง และผลกระทบต่อการจ้างงานและปัจจัยทางสังคมเศรษฐกิจอื่นๆ
- การกำกับดูแล: การทำงานร่วมกับรัฐบาลและองค์กรอื่นๆ เพื่อสร้างกรอบการทำงานที่สร้างสมดุลระหว่างความก้าวหน้าและความปลอดภัยของสาธารณะ
- การประเมิน: มาตรฐานในอนาคตจะต้องวัดพฤติกรรมและความสามารถของอาจีไอเทียบกับการพิจารณาด้านจริยธรรมและระดับภาษา
สรุป: มุ่งเน้นไปที่เส้นทางสู่ AGI ไม่ใช่จุดสิ้นสุดเดียว
เส้นทางสู่ AGI เป็นเรื่องที่ซับซ้อน แต่ทุกจุดบนเส้นทางมีความสำคัญต่อการเดินทาง โดยการเข้าใจการปรับปรุงที่ซ้ำกันของ AGI และผลกระทบ ผู้คนและธุรกิจจะสามารถนำเทคโนโลยีที่พัฒนานี้ไปใช้อย่างมีความรับผิดชอบได้ นี่คือจุดสำคัญของการพัฒนาอาจีไอที่มีความรับผิดชอบ โดยที่การโต้ตอบของโลกแห่งความเป็นจริงบอกเราว่าจะเดินหน้าต่อไปในด้านหน้าใหม่นี้อย่างไร
