Meta’s COCONUT: วิธีการคิดของ AI ที่ไม่ต้องใช้ภาษา

การทำความเข้าใจนวัตกรรมของ COCONUT

ลองนึกถึงความแตกต่างระหว่างการพูดความคิดของคุณออกมาและกระบวนการคิดที่แท้จริงที่เกิดขึ้นในสมองของคุณ ช่องว่างนั้น – ระหว่างความคิดที่พูดออกมาและกิจกรรมของสมอง – คือสิ่งที่นักวิจัยของ Meta ตapped into ด้วย COCONUT

การผ่านพ้นไปสู่ความสำเร็จที่แท้จริงของ COCONUT คือการให้โมเดล AI คิดในสองวิธีที่แตกต่างกัน มากเหมือนกับวิธีที่มนุษย์ทำ เมื่อคุณแก้ปัญหาเชิงซ้อน คุณไม่ได้อธิบายทุกขั้นตอนในหัวของคุณใช่ไหม? แทนที่จะ:

1. ดูดซับปัญหา: คุณรับข้อมูล (เช่น อ่านกฎของปัญหา)
2. คิดเงียบๆ: สมองของคุณสำรวจหลายความเป็นไปได้โดยไม่ต้องพูดออกมา
3. แบ่งปันคำตอบ: คุณอธิบายความคิดของคุณให้ผู้อื่นฟัง

COCONUT ให้โมเดล AI ความยืดหยุ่นตามธรรมชาติแบบเดียวกัน แทนที่จะบังคับให้ “พูด” ทุกความคิดออกมา (เช่น วิธีการดั้งเดิม) มันให้พวกมันคิดในพื้นที่สมองของมันเอง – สิ่งที่นักวิจัยเรียกว่า “พื้นที่ 潛在”

โมเดลเปลี่ยนระหว่างสองโหมดได้อย่างราบรื่น:

• เมื่อมันจำเป็นต้องเข้าใจคำถามหรือให้คำตอบ มันใช้ภาษาปกติ
• แต่สำหรับกระบวนการคิดจริงๆ? มันใช้รูปแบบสมองบริสุทธิ์ โดยไม่มีข้อจำกัดของคำ

ภาพ: Meta

การเดินทางในการฝึกอบรม

หนึ่งในด้านที่น่าสนใจที่สุดของ COCONUT คือหลักสูตรการฝึกอบรมของมัน สิ่งที่ทำให้มันพิเศษคือการสะท้อนถึงความก้าวหน้าในการเรียนรู้ตามธรรมชาติ ลองนึกถึงวิธีที่เราสอนทักษะที่ซับซ้อน – คุณไม่โยนใครเข้าไปในน้ำลึกทันที คุณสร้างขึ้นอย่างค่อยเป็นค่อยไป โดยเพิ่มความซับซ้อนเมื่อพวกเขาผ่านระดับแต่ละระดับ

นักวิจัยใช้แนวทางนี้กับ COCONUT:

ขั้นตอนที่ 1: พื้นฐาน

ก่อนอื่น โมเดลเรียนรู้เหมือนกับ AI อื่นๆ – ผ่านการให้เหตุผลแบบดั้งเดิม สิ่งนี้ให้พื้นฐานความเข้าใจที่ดี

ขั้นตอนที่ 2: การเปลี่ยนแปลง

ที่นี่คือที่ที่มัน变得น่าสนใจ ขั้นตอนการให้เหตุผลที่เขียนออกมาอย่างช้าๆ ถูกแทนที่ด้วยความคิดที่ต่อเนื่องกัน ลองนึกถึงการถอดล้อฝึกออกช้าๆ และให้โมเดลพัฒนารูปแบบการคิดภายในของมันเอง

ขั้นตอนที่ 3: ความสมดุล

สุดท้าย โมเดลเรียนรู้ที่จะเปลี่ยนระหว่างการคิดลึกในพื้นที่ 潛在 และสื่อสารข้อมูลเชิงลึกในภาษาที่ชัดเจน

ระหว่างการฝึกอบรม โมเดลพัฒนาความสามารถที่ไม่มีใครเขียนโปรแกรมไว้ – เช่น พิจารณาหลายเส้นทางการให้เหตุผลพร้อมกัน ความประพฤติที่เกิดขึ้นนี้เป็นเรื่องที่น่าตื่นเต้นเป็นพิเศษ เนื่องจากมันบ่งบอกว่าเราอาจจะใกล้จะถึงรูปแบบการให้เหตุผลของ AI ที่เป็นธรรมชาติมากขึ้น มันเป็นการพัฒนาที่ไม่คาดคิดเหล่านี้ที่มักจะนำไปสู่การผ่านพ้นไปสู่ความสำเร็จที่ใหญ่ที่สุด

จำการศึกษาการถ่ายภาพสมองตอนที่แล้วที่ฉันกล่าวถึงไหม? มันแสดงให้เห็นว่าสมองของมนุษย์มักจะประมวลผลงานที่ซับซ้อนโดยไม่ต้องมีส่วนร่วมของศูนย์กลางภาษา COCONUT ดูเหมือนจะพัฒนารูปแบบที่คล้ายกัน – คิดลึกในพื้นที่สมองของมันเอง และแปลงเป็นภาษาเมื่อต้องการสื่อสารเท่านั้น

ตัวเลขบอกเรื่องราว

ผลการวิจัยที่น่าสนใจอื่นๆ คือ:

• ปัญหาเลขคณิต (GSM8k): ที่นี่ COCONUT ได้รับ 34.1% ความแม่นยำ ซึ่งลดลงจาก Chain-of-Thought แบบดั้งเดิม (42.9%) แต่ดีกว่าวิธีการพื้นฐาน
• การอนุมานเชิงตรรกะ (ProntoQA): COCONUT ได้รับ 99.8% ความแม่นยำ ซึ่งดีกว่า Chain-of-Thought แบบดั้งเดิม (98.8%) แต่สิ่งที่น่าสนใจคือมันทำได้ด้วยโทเค็นเพียง 9 โทเค็น เทียบกับ 92.5 โทเค็นของ CoT
• การวางแผนเชิงซ้อน (ProsQA): ผลลัพธ์ที่น่าประทับใจที่สุดมาจากการทดสอบการให้เหตุผลที่ซับซ้อน COCONUT ได้รับ 97% ความแม่นยำ ในขณะที่วิธีการดั้งเดิมได้เพียง 77.5% และอีกครั้ง มันทำได้ด้วยความมีประสิทธิภาพ – 14.2 โทเค็น เทียบกับ 49.4 โทเค็น

สิ่งที่ทำให้ผลลัพธ์เหล่านี้มีแนวโน้มคือไม่ใช่แค่ตัวเลขเท่านั้น แต่เป็นสิ่งที่พวกมันแสดงให้เห็นเกี่ยวกับประเภทการคิดที่แตกต่างกัน ในขณะที่ COCONUT อาจยังคงหาทางของมันเองในการให้เหตุผลทางคณิตศาสตร์ มันทำได้ดีในงานที่ต้องการการวางแผนเชิงตรรกะและอนุมานที่ซับซ้อน

COCONUT แสดงถึงการคิดใหม่เกี่ยวกับวิธีการให้เหตุผลของระบบ AI และนำเราเข้าใกล้รูปแบบการให้เหตุผลของ AI ที่เป็นธรรมชาติ มีประสิทธิภาพ และมีพลังมากขึ้น การเดินทางจากการให้เหตุผลโดยใช้ภาษาไปสู่ความคิดที่ต่อเนื่องกันคือการก้าวไปสู่ระบบ AI ที่มีประสิทธิภาพและสามารถใช้งานได้มากขึ้น