GPT-4 เป็นขั้นตอนสำคัญในการบรรลุ AGI หรือไม่?

Microsoft (MSFT ) ได้เผยแพร่บทความวิจัยที่มีชื่อว่า Sparks of Artificial General Intelligence: Early experiments with GPT-4 ตามที่ Microsoft อธิบาย:

บทความนี้ รายงานการสอบสวนของเราเกี่ยวกับเวอร์ชันแรกของ GPT-4 เมื่อมันอยู่ในระหว่างการพัฒนาโดย OpenAI เราแถลงว่า (เวอร์ชันแรกของ) GPT-4 เป็นส่วนหนึ่งของกลุ่มใหม่ของ LLMs (พร้อมด้วย ChatGPT และ Google’s PaLM ตัวอย่าง) ที่แสดงให้เห็นถึงความฉลาดทั่วไปมากกว่าโมเดล AI ก่อนหน้านี้

ในบทความนี้ มีหลักฐานที่ชัดเจนแสดงให้เห็นว่า GPT-4 ไปไกลกว่าการจำ และมีความเข้าใจที่ลึกและยืดหยุ่นเกี่ยวกับแนวคิด ทักษะ และโดเมน ในความเป็นจริง ความสามารถในการสรุปของมันล้ำกว่าของมนุษย์ที่มีชีวิตอยู่ในปัจจุบัน

ในขณะที่เราได้พูดถึง ประโยชน์ของ AGI เราควรสรุปความเห็นพ้องกันว่าระบบ AGI คืออะไร ใน본质 ระบบ AGI คือประเภทของ AI ที่สามารถสรุปข้อมูลได้หลายโดเมน และไม่แคบในขอบเขต ตัวอย่างของ AI ที่แคบ ได้แก่ รถยนต์ไร้คนขับ โชว์เชต บอทหมากรุก หรือ AI ใดๆ ที่ถูกออกแบบมาเพื่อจุดประสงค์เดียว

ระบบ AGI จะสามารถเปลี่ยนระหว่างโดเมนต่างๆ ได้อย่างยืดหยุ่น ไม่ว่าจะเป็นโดเมนที่กล่าวมาข้างต้นหรือโดเมนอื่นๆ ระบบ AGI จะสามารถใช้ประโยชน์จากอัลกอริทึมที่เกิดใหม่ เช่น การเรียนรู้แบบถ่ายโอน และการเรียนรู้แบบวิวัฒนาการ และใช้ประโยชน์จากอัลกอริทึมที่มีอยู่แล้ว เช่น การเรียนรู้แบบเสริมกำลังลึก

คำอธิบายของ AGI ที่กล่าวมาข้างต้นสอดคล้องกับประสบการณ์ส่วนตัวของฉันในการใช้ GPT-4 และหลักฐานที่แบ่งปันในบทความวิจัยที่เผยแพร่โดย Microsoft

หนึ่งในคำสั่งการทดสอบที่ระบุไว้ในบทความคือให้ GPT-4 เขียนหลักฐานของความไม่สิ้นสุดของจำนวนเฉพาะในรูปแบบของบทกวี

หากเราวิเคราะห์ข้อกำหนดในการสร้างบทกวีดังกล่าว เราจะพบว่ามันจำเป็นต้องมีการให้เหตุผลทางคณิตศาสตร์ การแสดงออกทางกวี และการสร้างภาษา自然 ซึ่งเป็นความท้าทายที่จะเกินความสามารถของมนุษย์โดยเฉลี่ย

บทความต้องการทราบว่า GPT-4 กำลังสร้างเนื้อหาตามการจำหรือเข้าใจบริบทและสามารถให้เหตุผลได้ เมื่อถูกขอให้สร้างบทกวีในรูปแบบของเชคสเปียร์ มันสามารถทำได้ ซึ่งจำเป็นต้องมีการเข้าใจหลายด้านที่ล้ำกว่าความสามารถของมนุษย์โดยเฉลี่ย และรวมถึงทฤษฎีจิตและความฉลาดทางคณิตศาสตร์

วิธีการคำนวณความฉลาดของ GPT-4

คำถามที่ตามมาคือวิธีการวัดความฉลาดของระบบ LLM? และ GPT-4 กำลังแสดงพฤติกรรมของการเรียนรู้ที่แท้จริงหรือการจำเพียงอย่างเดียว?

วิธีการทดสอบระบบ AI ปัจจุบันคือการประเมินระบบบนชุดข้อมูลมาตรฐาน และเพื่อให้แน่ใจว่าข้อมูลทดสอบไม่ขึ้นอยู่กับข้อมูลฝึกอบรมและครอบคลุมชุดงานและโดเมนหลายอย่าง การทดสอบประเภทนี้เกือบจะเป็นไปไม่ได้เนื่องจากปริมาณข้อมูลที่ GPT-4 ได้รับการฝึกอบรมมีมากเกินไป

บทความกล่าวถึงการสร้างงานและคำถามใหม่ที่ยากซึ่งแสดงให้เห็นว่า GPT-4 ไปไกลกว่าการจำ และมีความเข้าใจที่ลึกและยืดหยุ่นเกี่ยวกับแนวคิด ทักษะ และโดเมน

เมื่อพูดถึงความฉลาด GPT-4 สามารถสร้างเรื่องสั้น บทละคร และสามารถคำนวณสูตรที่ซับซ้อนได้

GPT-4 ยังสามารถเขียนโค้ดได้ในระดับที่สูงมาก ทั้งในด้านการเขียนโค้ดจากคำสั่งและการเข้าใจโค้ดที่มีอยู่ GPT-4 สามารถจัดการกับงานโค้ดได้หลากหลาย ตั้งแต่การเขียนโค้ดที่ท้าทายไปจนถึงการประยุกต์ใช้จริง ตั้งแต่ภาษาแอสเซมบลีระดับต่ำไปจนถึงเฟรมเวิร์กระดับสูง ตั้งแต่โครงสร้างข้อมูลที่เรียบง่ายไปจนถึงโปรแกรมที่ซับซ้อน เช่น เกม GPT-4 ยังสามารถให้เหตุผลเกี่ยวกับการดำเนินการโค้ด จำลองผลกระทบของคำสั่ง และอธิบายผลลัพธ์เป็นภาษาธรรมชาติ GPT-4 ยังสามารถดำเนินการโค้ดเทียมได้

GPT-4 สามารถให้คำตอบที่มีเหตุผลต่อคำสั่งเกือบทั้งหมดได้ ในความเป็นจริง ความฉลาดของมันเกือบจะไม่สามารถเอาชนะได้ในด้านความซับซ้อน

ข้อจำกัดของ GPT-4

บทความดำเนินต่อไปเพื่ออธิบายวิธีการทดสอบพฤติกรรมและคำตอบของ GPT-4 เพื่อยืนยันความสอดคล้อง ความสอดคล้อง และความถูกต้อง และเพื่อเปิดเผยข้อจำกัดและอคติ

ข้อจำกัดที่เห็นได้ชัดเจนที่สุดคือ การหลอกลวง ตัวอย่างของการหลอกลวงที่ให้ไว้ในบทความคือ GPT-4 มั่นใจในคำตอบของมันซึ่งเป็นเท็จ

ดูเหมือนว่าแม้ GPT-4 จะเข้าใจข้อจำกัดในปัจจุบันเกี่ยวกับการหลอกลวง เนื่องจากคำตอบที่ให้เมื่อฉันถามว่า GPT-4 หลอกลวงคืออะไร:

การหลอกลวงของ GPT-4 หมายถึงปรากฏการณ์ที่โมเดล GPT สร้างคำตอบที่ไม่ขึ้นอยู่กับข้อมูลจริงหรือไม่สอดคล้องกับบริบทที่ให้มา การหลอกลวงเหล่านี้เกิดขึ้นเมื่อโมเดลสร้างข้อความที่ดูเหมือนสมเหตุสมผล แต่จริงๆ แล้วไม่ถูกต้อง ผิด หรือไม่มีเหตุผล

ในอีกคำอธิบายหนึ่ง เมื่อคุณฝึกโมเดลภาษาขนาดใหญ่บนข้อมูลของโลก คุณจะหลีกเลี่ยงระบบที่เรียนรู้ข้อมูลที่ไม่ถูกต้องได้อย่างไร? โมเดลภาษาขนาดใหญ่ที่เรียนรู้และพูดซ้ำข้อมูลที่ไม่ถูกต้องและทฤษฎีสมคบคิดอาจเป็นหนึ่งในอันตรายที่ใหญ่ที่สุดและภัยคุกคามที่มนุษยชาติเผชิญในการนำโมเดลภาษาขนาดใหญ่มาใช้ ซึ่งอาจเป็นหนึ่งในอันตรายที่ใหญ่ที่สุดของ AGI ที่ถูกมองข้ามเมื่อพูดถึงอันตรายของ AGI

หลักฐานของความฉลาดของ GPT-4

บทความแสดงให้เห็นว่าไม่ว่าคำสั่งที่ซับซ้อนที่ถูกส่งไปยัง GPT-4 จะเป็นอย่างไร GPT-4 ก็จะเกินความคาดหวัง ตามที่ระบุไว้ในบทความ:

การครอบงำภาษาธรรมชาติที่ไม่มีใครเทียบได้ มันไม่เพียงแต่สร้างข้อความที่คล่องแคล่วและเป็นไปตามบริบทเท่านั้น แต่ยังเข้าใจและจัดการข้อความได้หลายวิธี เช่น สรุป แปล ตอบคำถามที่กว้างขวาง และอื่นๆ นอกจากนี้ การแปลหมายถึงไม่เพียงแต่ระหว่างภาษาธรรมชาติที่แตกต่างกัน แต่ยังรวมถึงการแปลในโทนและรูปแบบ เช่น การแปลระหว่างภาษาแพทย์ กฎหมาย การบัญชา การเขียนโปรแกรมคอมพิวเตอร์ ดนตรี และอื่นๆ

การรีวิวทางเทคนิคที่เป็นเทียมถูกส่งไปยัง GPT-4 และมันผ่านได้อย่างง่ายดาย ซึ่งในบริบทนี้ หากเป็นมนุษย์ที่อยู่ในอีกฝั่ง พวกเขาจะถูกจ้างทันทีในฐานะวิศวกรซอฟต์แวร์ การทดสอบเบื้องต้นของความสามารถของ GPT-4 ในการสอบ Bar Exam ของหลายรัฐแสดงให้เห็นว่ามีความแม่นยำมากกว่า 70% ซึ่งหมายความว่าในอนาคต เราอาจสามารถทำให้หลายงานที่ปัจจุบันให้กับทนายความเป็นอัตโนมัติได้ ในความเป็นจริง มี สตาร์ทอัพบางแห่ง ที่กำลังทำงานเพื่อสร้างทนายความหุ่นยนต์โดยใช้ GPT-4

การสร้างความรู้ใหม่

หนึ่งในข้อโต้แย้งในบทความคือสิ่งที่เหลืออยู่เพียงอย่างเดียวสำหรับ GPT-4 เพื่อพิสูจน์ความเข้าใจที่แท้จริงคือการสร้างความรู้ใหม่ เช่น การพิสูจน์ทฤษฎีทางคณิตศาสตร์ใหม่ ซึ่งเป็นเรื่องที่ยังอยู่นอกเหนือความสามารถของโมเดลภาษาขนาดใหญ่

แล้วอีกครั้ง นี่คือจุดศูนย์กลางของ AGI ในขณะที่มีอันตรายที่เกี่ยวข้องกับ AGI ที่ถูกควบคุมในมือที่ไม่ถูกต้อง แต่ประโยชน์ของ AGI ที่สามารถวิเคราะห์ข้อมูลทางประวัติศาสตร์ทั้งหมดเพื่อค้นพบทฤษฎีใหม่ การรักษา และการรักษาได้ไม่สิ้นสุด

AGI อาจเป็นเชื่อมโยงที่ขาดหายไปในการค้นหาการรักษาโรคทางพันธุกรรมที่หายากซึ่งปัจจุบันไม่มีการสนับสนุนจากอุตสาหกรรมเอกชน การรักษามะเร็งครั้งเดียวและตลอดไป และเพิ่มประสิทธิภาพของพลังงานทดแทนเพื่อลดการพึ่งพาแหล่งพลังงานที่ไม่ยั่งยืน ในความเป็นจริง มันสามารถแก้ปัญหาใดๆ ที่ถูกป้อนเข้าสู่ระบบ AGI ได้ นี่คือสิ่งที่ Sam Altman และทีมงานที่ OpenAI เข้าใจ AGI จริงๆ แล้วเป็นนวัตกรรมสุดท้ายที่ต้องการเพื่อแก้ปัญหาและเพิ่มประโยชน์ให้กับมนุษยชาติ

แน่นอนว่าสิ่งนี้ไม่ได้แก้ปัญหาเกี่ยวกับปุ่มปรมาณูของใครที่ควบคุม AGI และเจตนา是什么 อย่างไรก็ตาม บทความ นี้ทำได้ดีเยี่ยมในการแถลงว่า GPT-4 เป็นขั้นตอนสำคัญในการบรรลุ AGI ซึ่งเป็นความฝันของนักวิจัย AI ตั้งแต่ปี 1956 เมื่องานวิจัยฤดูร้อนของดาร์ทเมาท์เกี่ยวกับ AI เริ่มต้นขึ้น

ในขณะที่มีการถกเถียงกันว่า GPT-4 เป็น AGI หรือไม่ แต่ก็สามารถแถลงได้ว่าสำหรับครั้งแรกในประวัติศาสตร์ของมนุษย์ นี่คือระบบ AI ที่สามารถผ่านการทดสอบของทัวริงได้