AGI
การเดินทางไปสู่ปัญญาประดิษฐ์ทั่วไป (AGI) ด้วยกัน: แนวทางที่สมดุล
เมื่อ ปัญญาประดิษฐ์ทั่วไป (AGI) พัฒนาไปอย่างรวดเร็ว การสนทนาเปลี่ยนจากการถกเถียงทางปรัชญาเป็นการพูดถึงความเกี่ยวข้องทางปฏิบัติ โดยมีโอกาสที่จะเปลี่ยนแปลงธุรกิจทั่วโลกและศักยภาพของมนุษย์
ซีรีส์งาน AGI Icons ของ Turing นำนักนวัตกรรม AI มารวมตัวกันเพื่อหารือเกี่ยวกับการพัฒนาและใช้ AGI อย่างมีความรับผิดชอบ ในวันที่ 24 กรกฎาคม Turing จัดงาน AGI Icons ครั้งที่สองที่ SHACK15 ซึ่งเป็นศูนย์กลางสำหรับ企业และนักนวัตกรรมเทคโนโลยีในซานฟรานซิสโก โดยมี Anita Ramaswamy นักข่าวการเงินของ The Information เป็นผู้ดำเนินรายการ และฉันได้พูดคุยกับ Adam D’Angelo ซีอีโอของ Quora เพื่อหารือเกี่ยวกับเส้นทางสู่ AGI และแบ่งปันข้อมูลเกี่ยวกับเส้นเวลาในการพัฒนา การใช้งานในโลกแห่งความเป็นจริง และหลักการในการใช้งาน AGI อย่างมีความรับผิดชอบ
เส้นทางจาก AI สู่ AGI
ดวงดาวที่ชี้นำการวิจัย AI คือการแสวงหาปัญญาในระดับของมนุษย์ สิ่งที่ทำให้ AGI แตกต่างจาก AI ทั่วไปคือความก้าวหน้าจากฟังก์ชันการทำงานที่แคบไปยังความกว้างและความลึกที่มากขึ้น ซึ่งอาจเกินความสามารถของมนุษย์
นี่คือ “เส้นทางสู่ AGI” โดยที่ AI พัฒนาไปสู่ระบบอัตโนมัติที่มีความสามารถในการให้เหตุผลที่ดีขึ้น และฟังก์ชันการทำงานที่ดีขึ้น การก้าวหน้าเหล่านี้แบ่งออกเป็น 5 ระดับ:
- ระดับ 0: ไม่มี AI – เครื่องมือที่เรียบง่าย เช่น เครื่องคิดเลข
- ระดับ 1: AGI ที่เกิดขึ้น – LLMs เช่น ChatGPT ในปัจจุบัน
- ระดับ 2: AGI ที่มีความสามารถ – ระบบ AI ที่สามารถทำงานได้เทียบเท่ากับผู้ใหญ่ที่มีทักษะในงานเฉพาะ
- ระดับ 3: AGI ที่มีความเชี่ยวชาญ – ระบบ AI ที่มีความสามารถในระดับ 90 เปอร์เซ็นต์ของผู้ใหญ่ที่มีทักษะ
- ระดับ 4: AGI ที่มีความสามารถสูง – ระบบ AI ที่มีความสามารถในระดับ 99 เปอร์เซ็นต์
- ระดับ 5: AGI ที่มีความสามารถเหนือมนุษย์ – ระบบ AI ที่สามารถทำงานได้ดีกว่ามนุษย์ทุกคน
ระหว่างการหารือ Adam ได้กำหนดแนวคิดของ AGI ว่าเป็น “ซอฟต์แวร์ที่สามารถทำทุกสิ่งที่มนุษย์สามารถทำได้” เขาเห็นภาพอนาคตที่ AI จะปรับปรุงตัวเองและในที่สุดก็จะเข้ามาแทนที่งานที่ซับซ้อนของมนุษย์ที่ได้รับการจัดการโดยนักวิจัยการเรียนรู้ของเครื่อง
การนำสิ่งนี้ไปสู่ขั้นตอนต่อไป ฉันได้เปรียบเทียบมุมมองของฉันเกี่ยวกับ AGI กับ “สมองเทียม” ที่สามารถทำงานได้หลากหลาย เช่น “การแปลภาษา การค้นหาข้อมูลที่ซับซ้อน และการเขียนโค้ด” นี่คือความแตกต่างระหว่าง AGI และ AI ที่สามารถทำนายได้และรูปแบบการเรียนรู้ของเครื่องแบบแคบที่มีอยู่ก่อนหน้านี้ มันรู้สึกเหมือนพฤติกรรมที่เกิดขึ้นเอง
เส้นเวลาในการพัฒนาที่เป็นจริงบนเส้นทางสู่ AGI
เช่นเดียวกับการเดินทางบนถนน คำถามที่อยู่ในใจเกี่ยวกับ AGI คือ “เรามาถึงแล้วหรือยัง?” คำตอบสั้นๆ คือไม่ แต่เมื่อการวิจัย AI加速 เราต้องถามคำถามที่ถูกต้องว่า “เราจะสร้างสมดุลระหว่างความ雄心壮志ของ AGI กับความคาดหวังที่เป็นจริงได้อย่างไร?”
Adam เน้นย้ำว่าการเพิ่มการทำงานอัตโนมัติจาก AGI จะเปลี่ยนบทบาทของมนุษย์แทนที่จะกำจัดมัน ซึ่งจะนำไปสู่การเติบโตทางเศรษฐกิจที่รวดเร็วขึ้นและประสิทธิภาพการผลิตที่ดีขึ้น “เมื่อเทคโนโลยีนี้มีพลังมากขึ้น เราจะถึงจุดที่ 90% ของสิ่งที่ผู้คนกำลังทำในวันนี้จะถูกทำให้ทำงานอัตโนมัติ แต่ทุกคนจะเปลี่ยนไปสู่สิ่งอื่น”
ปัจจุบันเศรษฐกิจโลกส่วนใหญ่ถูกจำกัดด้วยจำนวนคนงานที่มีอยู่ เมื่อเราพัฒนา AGI เราสามารถเติบโตทางเศรษฐกิจได้เร็วขึ้นกว่าที่เป็นไปได้ในปัจจุบัน
เร不能ให้เส้นเวลาในการพัฒนาที่แน่นอนสำหรับการพัฒนา AGI ที่แท้จริง แต่ Adam และฉันกล่าวถึงตัวอย่างการก้าวหน้าของ AI ที่เปิดทางให้กับการพัฒนา AGI ในอนาคต ตัวอย่างเช่น การทดลองของ Turing กับเครื่องมือพัฒนา AI แสดงให้เห็นว่าประสิทธิภาพการผลิตของนักพัฒนาสูงขึ้น 33% ซึ่งบ่งบอกถึงศักยภาพที่มากขึ้น
การประยุกต์ใช้และการใช้งานในโลกแห่งความเป็นจริง
หนึ่งในการประยุกต์ใช้ที่มีแนวโน้มมากที่สุดของ AGI อยู่ในด้านการพัฒนาซอฟต์แวร์ โมเดลภาษาขนาดใหญ่ (LLMs) ซึ่งเป็นรูปแบบก่อนหน้าของ AGI ได้ถูกใช้เพื่อปรับปรุงการพัฒนาซอฟต์แวร์และคุณภาพของโค้ดแล้ว ฉันเห็นว่ายุคของ AI นี้ใกล้เคียงกับชีววิทยามากกว่าฟิสิกส์ โดยที่ทุกประเภทของงานจะดีขึ้น มันจะมีผลผลิตที่มากขึ้นสำหรับมนุษยชาติ
มุมมองของฉันมาจากประสบการณ์ที่ฉันเห็นการเพิ่มขึ้นของผลผลิตส่วนบุคคล 10 เท่าเมื่อใช้ LLMs และเครื่องมือพัฒนา AI เรากำลังใช้ AI ที่ Turing เพื่อประเมินความสามารถทางเทคนิคและจับคู่วิศวกรซอฟต์แวร์และผู้เชี่ยวชาญด้านสาขาต่างๆ ที่เหมาะสมกับงานที่ถูกต้อง
สิ่งที่ฉันเห็นในพื้นที่การฝึกอบรม LLMs คือผู้ฝึกอบรมใช้โมเดลเหล่านี้เพื่อปรับปรุงผลผลิตของนักพัฒนาและเร่งเวลาในการทำงาน โดยการทำงานอัตโนมัติในการเขียนโค้ดและให้คำแนะนำโค้ดที่ฉลาด LLMs ช่วยให้นักพัฒนามุ่งเน้นไปที่ด้านเชิงกลยุทธ์และสร้างสรรค์ของงาน
Adam สรุปว่า “LLMs จะไม่เขียนโค้ดทั้งหมด แต่การเข้าใจพื้นฐานของซอฟต์แวร์ยังคงสำคัญ คิดเลขไม่ได้กำจัดความจำเป็นในการเรียนรู้คณิตศาสตร์” เขาเพิ่มเติมว่า “นักพัฒนาจะมีค่ามากขึ้นเมื่อใช้โมเดลเหล่านี้ การมี LLMs เป็นสิ่งดีสำหรับงานของนักพัฒนา และจะมีการเพิ่มขึ้นมากสำหรับนักพัฒนา”
เรากำลังเข้าสู่ยุคทองของการพัฒนาซอฟต์แวร์ โดยที่นักพัฒนาซอฟต์แวร์หนึ่งคนสามารถมีผลผลิตสูงขึ้น 10 เท่า สร้างสรรค์ผลงานมากขึ้น และมีประโยชน์ต่อโลก
ความท้าทายด้านเทคนิคและการกำกับดูแล
尽管 AGI มีศักยภาพที่น่าสนใจ แต่เราต้องแก้ไขความท้าทายเหล่านี้ กระบวนการประเมินที่มั่นคงและกรอบการกำกับดูแลที่จำเป็นในการสร้างสมดุลระหว่างนวัตกรรม AGI กับความปลอดภัยของสาธารณะ
Adam เน้นย้ำถึงความจำเป็นในการทดสอบและ sandbox ที่ครอบคลุมเพื่อจำกัดสถานการณ์ที่เลวร้ายที่สุด “คุณต้องการมีกระบวนการประเมินที่มั่นคง… และได้รับการกระจายที่คุณกำลังทดสอบให้ใกล้เคียงกับการใช้งานจริงมากที่สุด”
และฉันก็เห็นด้วย อุปสรรคสำหรับการพัฒนา AGI ในปัจจุบันคือความฉลาดของมนุษย์ ไม่ใช่พลังการคำนวณหรือข้อมูล ความเชี่ยวชาญของมนุษย์เป็นสิ่งสำคัญสำหรับการปรับแต่งและปรับเปลี่ยนโมเดล AI ซึ่งเป็นสาเหตุที่ Turing มุ่งเน้นในการค้นหาและจับคู่ผู้เชี่ยวชาญด้านเทคโนโลยีชั้นนำเพื่อสร้างสมดุลระหว่างโมเดลกับความฉลาดของมนุษย์
เราต้องแก้ไขความท้าทายของ AGI โดยตรง โดยเน้นไปที่ความสามารถมากกว่ากระบวนการ ความกว้างและความลึก และศักยภาพ
มุมมองเกี่ยวกับความท้าทาย: การปรับปรุงการโต้ตอบระหว่างมนุษย์และ AGI
บางส่วนของแนวทางปฏิบัติที่ดีที่สุดในการแก้ไขความท้าทายของ AGI รวมถึง:
- มุ่งเน้นไปที่ความสามารถหรือ “สิ่งที่ AGI สามารถทำได้” มากกว่ากระบวนการหรือ “วิธีการทำมัน”
- สร้างสมดุลระหว่างความกว้างและความลึกเป็นส่วนประกอบที่สำคัญของ AGI
- มุ่งเน้นไปที่งานทาง认知และเมตาคอกนิติและความสามารถในการเรียนรู้มากกว่างานทางกายภาพ/ผลลัพธ์
- วัด AGI โดยศักยภาพและความสามารถ
- มุ่งเน้นไปที่ความถูกต้องทางนิเวศวิทยาโดยการปรับแต่งมาตรฐานกับงานที่คนในโลกแห่งความเป็นจริงให้ค่า
- จำไว้ว่าเส้นทางสู่ AGI ไม่ใช่จุดสิ้นสุดเดียว แต่เป็นกระบวนการที่เกิดซ้ำ
การเพิ่มแนวทางปฏิบัติที่ดีที่สุดเหล่านี้ Adam และฉันเน้นย้ำถึงความสำคัญของการปรับปรุงการโต้ตอบระหว่างมนุษย์และ AGI Adam เน้นย้ำถึงคุณค่าของการเรียนรู้วิธีการและเมื่อใช้โมเดลเหล่านี้ โดยมองว่าพวกมันเป็นเครื่องมือการเรียนรู้ที่มีพลังที่สามารถสอนได้เร็วในโดเมนย่อยของการเขียนโปรแกรม และเน้นย้ำถึงความสำคัญของการเข้าใจพื้นฐาน
ในทำนองเดียวกัน ฉันแนะนำว่าการทำให้ทุกคนเป็นผู้ใช้ LLMs ที่มีพลังสามารถเพิ่มผลผลิตและความเข้าใจในหลายสาขาได้อย่างมาก LLMs สามารถทำให้ข้อมูลที่ซับซ้อนเป็นข้อมูลที่เข้าถึงได้สำหรับทุกคน โดยเพิ่มผลผลิตในหลายสาขา แต่ต้องใช้แนวทางที่เป็นขั้นตอนและซ้ำๆ: เริ่มต้นด้วย AI ที่ช่วยเหลือมนุษย์ จากนั้นไปสู่ตัวแทนภายใต้การดูแลของมนุษย์ และสุดท้ายไปสู่ตัวแทนอัตโนมัติเต็มรูปแบบในงานที่ได้รับการประเมินอย่างดี
ด้วยการฝึกอบรมหลังการฝึกอบรมที่สำคัญ รวมถึงการปรับแต่งแบบดูแล (SFT) และการใช้ความฉลาดของมนุษย์เพื่อสร้างโมเดลที่กำหนดเอง บริษัทที่สามารถค้นหาและจับคู่ผู้ฝึกอบรม วิศวกร และคนอื่นๆ จะเร่งความสามารถในการปรับแต่งและปรับเปลี่ยนโมเดลได้ การทำงานร่วมกับบริษัทชั้นนำ เช่น OpenAI และ Anthropic ก็มีความสำคัญเช่นกันในการนำโมเดลเหล่านี้ไปใช้ในอุตสาหกรรมที่หลากหลาย
หลักการในการพัฒนา AGI อย่างมีความรับผิดชอบ
“การพัฒนา AGI ต้องเป็นไปอย่างมีความรับผิดชอบและจริยธรรม โดยรับประกันความปลอดภัยและความโปร่งใส，同时ส่งเสริมนวัตกรรม” – Adam D’Angelo
การพัฒนา AGI อย่างมีความรับผิดชอบต้องปฏิบัติตามหลักการหลักๆ ดังต่อไปนี้:
- ความปลอดภัยและความมั่นคง: รับประกันว่าระบบ AGI นั้นเชื่อถือได้และต้านการละเมิด โดยเฉพาะเมื่อโมเดลมีขนาดใหญ่ขึ้นเพื่อรองรับข้อมูลใหม่หรืออัลกอริทึม
- ความโปร่งใส: เป็นจริงเกี่ยวกับความสามารถและข้อจำกัดของ AGI และ “วิธีการทำงาน”
- การพิจารณาทางจริยธรรม: จัดการกับความยุติธรรม ความเอนเอียง และผลกระทบต่อการทำงานและการพิจารณาทางสังคมและเศรษฐกิจอื่นๆ
- การกำกับดูแล: ทำงานร่วมกับรัฐบาลและองค์กรอื่นๆ เพื่อพัฒนากรอบการกำกับดูแลที่สร้างสมดุลระหว่างความก้าวหน้าและความปลอดภัยของสาธารณะ
- มาตรฐาน: มาตรฐานในอนาคตต้อง量化พฤติกรรมและความสามารถของ AGI เทียบกับการพิจารณาทางจริยธรรมและระดับของการจำแนกประเภท
สรุป: มุ่งเน้นไปที่เส้นทางสู่ AGI ไม่ใช่จุดสิ้นสุดเดียว
เส้นทางสู่ AGI นั้นซับซ้อน แต่ทุกจุดบนเส้นทางมีความสำคัญต่อการเดินทาง โดยการเข้าใจการปรับปรุงที่เกิดขึ้นซ้ำๆ ของ AGI และผลกระทบของมัน ผู้คนและธุรกิจจะสามารถนำเทคโนโลยีที่กำลังพัฒนานี้มาใช้อย่างมีความรับผิดชอบได้ นี่คือแก่นแท้ของการพัฒนา AGI อย่างมีความรับผิดชอบ โดยที่การโต้ตอบในโลกแห่งความเป็นจริงบอกเราว่าจะเดินทางไปในดินแดนใหม่นี้อย่างไร
