โมเดลและแพลตฟอร์ม AI

ชาตกพีที ครบรอบหนึ่งปี: การเปลี่ยนแปลงอนาคตของการโต้ตอบ AI

mm
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google

เมื่อมองย้อนกลับไปที่ช่วงหนึ่งปีของ ChatGPT มันชัดเจนว่าเครื่องมือนี้ได้เปลี่ยนแปลงฉาก AI ไปอย่างมาก โดยเปิดตัวปลายปี 2022 ChatGPT โดดเด่นด้วยรูปแบบการโต้ตอบที่เป็นมิตรและรู้สึกเหมือนพูดคุยกับคนจริงๆ มากกว่าเครื่องจักร วิธีการใหม่นี้ได้รับความสนใจจากสาธารณชนอย่างรวดเร็ว และภายในหกวันหลังการเปิดตัว ChatGPT ก็ได้ดึงดูดผู้ใช้มากกว่า 1 ล้านคน และต้นปี 2023 จำนวนผู้ใช้เพิ่มขึ้นเป็นประมาณ 100 ล้านผู้ใช้ต่อเดือน และในเดือนตุลาคม จำนวนผู้เข้าชมทั่วโลกอยู่ที่ประมาณ 1.7 พันล้านครั้ง ตัวเลขเหล่านี้สะท้อนถึงความนิยมและความมีประโยชน์ของมัน

ในช่วงปีที่ผ่านมา ผู้ใช้ได้ค้นพบวิธีการใช้ ChatGPT ในรูปแบบที่หลากหลาย ตั้งแตงการทำงานง่ายๆ เช่น การเขียนอีเมลและอัปเดทรีเซียมé ไปจนถึงการเริ่มต้นธุรกิจที่ประสบความสำเร็จ แต่มันไม่ได้แค่เกี่ยวกับวิธีที่ผู้คนใช้มัน เทคโนโลยีนี้เองก็เติบโตและปรับปรุงอย่างต่อเนื่อง ในตอนแรก ChatGPT เป็นบริการฟรีที่ให้คำตอบข้อความที่มีรายละเอียด ตอนนี้มี ChatGPT Plus ซึ่งรวมถึง ChatGPT-4 รุ่นนี้ได้รับการฝึกฝนจากข้อมูลที่มากขึ้น ให้คำตอบที่ไม่ถูกต้องน้อยลง และเข้าใจคำสั่งที่ซับซ้อนได้ดีขึ้น

หนึ่งในการอัปเดตที่ใหญ่ที่สุดคือ ChatGPT สามารถโต้ตอบได้หลายวิธี – มันสามารถฟัง พูด และแม้แต่ประมวลผลภาพ ซึ่งหมายความว่าคุณสามารถพูดคุยกับมันผ่านแอปพลิเคชันมือถือและแสดงรูปภาพเพื่อให้ได้คำตอบ การเปลี่ยนแปลงเหล่านี้ได้เปิดโอกาสใหม่ๆ สำหรับ AI และเปลี่ยนแปลงวิธีที่ผู้คนมองและคิดเกี่ยวกับบทบาทของ AI ในชีวิตของเรา

ตั้งแต่เริ่มต้นเป็นตัวทดลองเทคโนโลยีจนถึงสถานะปัจจุบันในฐานะผู้เล่นหลักในโลกเทคโนโลยี การเดินทางของ ChatGPT นั้นน่าประทับใจ มันถูกมองว่าเป็นวิธีการทดสอบและปรับปรุงเทคโนโลยีโดยการรับฟีดแบ็กจากสาธารณชน แต่เร็วๆ นี้มันกลายเป็นส่วนสำคัญของภูมิทัศน์ AI ความสำเร็จนี้แสดงให้เห็นว่าการปรับแต่งโมเดลภาษาขนาดใหญ่ (LLMs) ด้วยการเรียนรู้แบบมีคำแนะนำและฟีดแบ็กจากมนุษย์เป็นอย่างไร

การแข่งขันในการพัฒนาระบบ AI ที่มีความสามารถและหลากหลายที่สุดได้นำไปสู่การแพร่กระจายของโมเดลที่เปิดกว้างและแบบเฉพาะตัว เช่น ChatGPT เพื่อทำความเข้าใจความสามารถโดยทั่วไปของพวกมัน จำเป็นต้องมีการทดสอบที่ครอบคลุมในหลายๆ งาน

การประเมิน LLMs: การทดสอบ

  1. MT-Bench: การทดสอบนี้ทดสอบความสามารถในการสนทนาและปฏิบัติตามคำสั่งหลายครั้ง ใน 8 โดเมน: การเขียน การเล่นบทบาท การดึงข้อมูล การให้เหตุผล คณิตศาสตร์ การเขียนโค้ด ความรู้ด้าน STEM และสังคมศาสตร์/มนุษยศาสตร์ LLMs ที่แข็งแกร่ง เช่น GPT-4 ถูกใช้เป็นผู้ประเมิน
  2. AlpacaEval: ตามชุดการประเมิน AlpacaFarm การประเมินนี้เป็นการประเมินแบบอัตโนมัติสำหรับโมเดล โดยคำนวณอัตราการชนะของโมเดลที่เปรียบเทียบกับโมเดล LLM ขั้นสูง เช่น GPT-4 และ Claude
  3. ตารางคะแนน LLM ที่เปิดกว้าง: โดยใช้ Language Model Evaluation Harness ตารางคะแนนนี้ประเมิน LLMs ใน 7 งานหลัก รวมถึงการให้เหตุผลและทดสอบความรู้ทั่วไป ทั้งในรูปแบบ zero-shot และ few-shot
  4. BIG-bench: การทดสอบร่วมนี้ครอบคลุมงานภาษาใหม่มากกว่า 200 งาน ซึ่งครอบคลุมหัวข้อและภาษาที่หลากหลาย มันพยายามทดสอบความสามารถของ LLMs และคาดการณ์ความสามารถในอนาคต
  5. ChatEval: โครงสร้างการอภิปรายหลายตัวแทน ที่ช่วยให้ทีมสามารถอภิปรายและประเมินคุณภาพของคำตอบจากโมเดลต่างๆ ในคำถามที่เปิดกว้างและงานสร้างภาษาธรรมชาติ

การแสดงผลเปรียบเทียบ

ในด้านการทดสอบโดยทั่วไป LLMs ที่เปิดกว้างได้แสดงความก้าวหน้าที่น่าประทับใจ Llama-2-70B เป็นตัวอย่างที่ได้รับผลลัพธ์ที่น่าประทับใจ โดยเฉพาะหลังจากการปรับแต่งด้วยข้อมูลคำแนะนำ รุ่น Llama-2-chat-70B ของมันทำได้ดีใน AlpacaEval โดยมีอัตราการชนะ 92.66% ซึ่งเหนือกว่า GPT-3.5-turbo อย่างไรก็ตาม GPT-4 ยังคงเป็นผู้นำด้วยอัตราการชนะ 95.28%

Zephyr-7B ซึ่งเป็นโมเดลที่เล็กกว่า ได้แสดงความสามารถที่เทียบเท่ากับ LLMs ขนาด 70B โดยเฉพาะใน AlpacaEval และ MT-Bench ในขณะที่ WizardLM-70B ซึ่งปรับแต่งด้วยข้อมูลคำแนะนำที่หลากหลาย ได้รับคะแนนสูงสุดในหมู่ LLMs ที่เปิดกว้างใน MT-Bench แต่ยังคงตามหลัง GPT-3.5-turbo และ GPT-4

การเข้าสู่ตลาดที่น่าสนใจคือ GodziLLa2-70B ซึ่งทำคะแนนได้ดีในตารางคะแนน LLM ที่เปิดกว้าง โดยแสดงถึงศักยภาพของโมเดลทดลองที่รวมข้อมูลที่หลากหลาย ในทำนองเดียวกัน Yi-34B ซึ่งพัฒนาจากศูนย์ ได้ทำคะแนนได้ดีเทียบเท่ากับ GPT-3.5-turbo และตามหลัง GPT-4 เพียงเล็กน้อย

UltraLlama โดยการปรับแต่งด้วยข้อมูลที่หลากหลายและคุณภาพสูง ได้เทียบเท่ากับ GPT-3.5-turbo ในการทดสอบที่เสนอ และแม้แต่เหนือกว่าในบางด้าน เช่น ความรู้ของโลกและความรู้เชิงวิชาชีพ

การขยายขนาด: การเพิ่มขึ้นของ LLMs ยักษ์

LLM models

โมเดล LLM ที่ดีที่สุดตั้งแต่ปี 2020

แนวโน้มที่น่าสนใจในการพัฒนา LLMs คือการเพิ่มขนาดของพารามิเตอร์ โมเดล เช่น Gopher, GLaM, LaMDA, MT-NLG และ PaLM ได้ผลักดันขอบเขตสูงสุด โดยมีโมเดลที่มีพารามิเตอร์มากถึง 540 พันล้าน ตัวเลขเหล่านี้แสดงให้เห็นถึงความสามารถที่น่าประทับใจ แต่ลักษณะที่ปิดของพวกมันทำให้การประยุกต์ใช้ไม่กว้างขวาง นี่จึงกระตุ้นความสนใจในการพัฒนา LLMs ที่เปิดกว้าง ซึ่งเป็นแนวโน้มที่กำลังเพิ่มขึ้น

ในขณะเดียวกันกับการเพิ่มขนาดโมเดล นักวิจัยได้สำรวจกลยุทธ์ทางเลือก แทนที่จะเพียงแค่ทำให้โมเดลใหญ่ขึ้น พวกเขาได้เน้นไปที่การปรับปรุงการฝึกฝนของโมเดลที่เล็กกว่า ตัวอย่างเช่น Chinchilla และ UL2 ซึ่งแสดงให้เห็นว่า “มาก” ไม่ใช่เสมอไปว่า “ดีกว่า” และกลยุทธ์ที่ชาญฉลาดสามารถให้ผลลัพธ์ที่มีประสิทธิภาพได้ นอกจากนี้ยังมีการให้ความสนใจอย่างมากในการปรับแต่งโมเดลภาษาด้วยคำแนะนำ โดยมีโปรเจ็กต์ เช่น FLAN, T0 และ Flan-T5 ที่มีส่วนร่วมอย่างมากในด้านนี้

คาตาลิสต์ ChatGPT

การเปิดตัว ChatGPT ของ OpenAI ถือเป็นจุดเปลี่ยนสำคัญในการวิจัย NLP เพื่อแข่งขันกับ OpenAI บริษัทต่างๆ เช่น Google (GOOGL ) และ Anthropic ได้เปิดตัวโมเดลของตนเอง เช่น Bard และ Claude ตามลำดับ แม้ว่าโมเดลเหล่านี้จะแสดงผลลัพธ์ที่เทียบเท่ากับ ChatGPT ในหลายงาน แต่ก็ยังคงตามหลังโมเดลล่าสุดของ OpenAI ซึ่งก็คือ GPT-4 ความสำเร็จของโมเดลเหล่านี้ส่วนใหญ่มาจากการเรียนรู้แบบเสริมจากฟีดแบ็กของมนุษย์ (RLHF) ซึ่งเป็นเทคนิคที่ได้รับการศึกษาเพิ่มเติมสำหรับการปรับปรุง

ข่าวลือและข้อคาดเดาเกี่ยวกับ Q* (Q-Star) ของ OpenAI

รายงานล่าสุด เสนอว่านักวิจัยที่ OpenAI อาจได้ทำการปรับปรุงสำคัญใน AI ด้วยการพัฒนาโมเดลใหม่ที่เรียกว่า Q* (ออกเสียงว่า Q-Star) ตามที่กล่าวไว้ Q* มีความสามารถในการทำคณิตศาสตร์ระดับโรงเรียนประถม ซึ่งเป็นเรื่องที่น่าสนใจและกระตุ้นการอภิปรายในหมู่ผู้เชี่ยวชาญเกี่ยวกับศักยภาพของมันในการบรรลุความฉลาดทั่วไป (AGI) แม้ว่า OpenAI จะไม่ได้แสดงความคิดเห็นเกี่ยวกับรายงานเหล่านี้ แต่ความสามารถที่ถูกกล่าวถึงของ Q* ได้สร้างความตื่นเต้นและข้อคาดเดาในโซเชียลมีเดียและในหมู่ผู้ชื่นชอบ AI

การพัฒนา Q* นั้นน่าสนใจเพราะโมเดลภาษาที่มีอยู่ เช่น ChatGPT และ GPT-4 แม้จะสามารถทำคณิตศาสตร์บางอย่างได้ แต่ก็ไม่ค่อยเชี่ยวชาญในการจัดการมันอย่างน่าเชื่อถือ ความท้าทายอยู่ที่ความต้องการให้ AI ไม่เพียงแต่จดจำรูปแบบเท่านั้น แต่ยังต้องสามารถให้เหตุผลและเข้าใจแนวคิดที่เป็นนามธรรม คณิตศาสตร์เป็นมาตรฐานสำหรับการให้เหตุผล และต้องการให้ AI วางแผนและดำเนินการหลายขั้นตอน โดยแสดงให้เห็นถึงความเข้าใจที่ลึกซึ้งเกี่ยวกับแนวคิดที่เป็นนามธรรม ความสามารถนี้จะเป็นก้าวสำคัญในการพัฒนา AI ที่อาจขยายไปไกลกว่าคณิตศาสตร์

อย่างไรก็ตาม ผู้เชี่ยวชาญเตือนไม่ให้ให้ความสำคัญกับการพัฒนานี้มากเกินไป แม้ว่าระบบ AI ที่สามารถแก้ปัญหาคณิตศาสตร์ได้อย่างน่าเชื่อถือจะเป็นความสำเร็จที่น่าประทับใจ แต่ก็ไม่ได้หมายความว่าจะนำไปสู่การเกิดขึ้นของ AI ที่มีความฉลาดสูงหรือ AGI การวิจัย AI ในปัจจุบัน รวมถึงความพยายามของ OpenAI ได้เน้นไปที่การแก้ปัญหาเบื้องต้น โดยมีระดับความสำเร็จที่แตกต่างกันในงานที่ซับซ้อน

การประยุกต์ใช้ความก้าวหน้าเช่น Q* นั้นกว้างขวาง ตั้งแต่การให้คำแนะนำส่วนบุคคลไปจนถึงการช่วยเหลือในการวิจัยทางวิทยาศาสตร์และวิศวกรรม อย่างไรก็ตาม ยังจำเป็นต้องจัดการความคาดหวังและตระหนักถึงข้อจำกัดและความกังวลเรื่องความปลอดภัยที่เกี่ยวข้องกับการพัฒนาดังกล่าว ความกังวลเกี่ยวกับ AI ที่อาจก่อให้เกิดความเสี่ยงต่อการดำรงอยู่ ซึ่งเป็นข้อกังวลพื้นฐานของ OpenAI ยังคงเกี่ยวข้อง โดยเฉพาะอย่างยิ่งเมื่อระบบ AI เริ่มโต้ตอบกับโลกแห่งความเป็นจริงมากขึ้น

การเคลื่อนไหว LLM ที่เปิดกว้าง

เพื่อกระตุ้นการวิจัย LLM ที่เปิดกว้าง Meta ได้เปิดตัวโมเดล Llama ซึ่งกระตุ้นให้เกิดการพัฒนาใหม่ๆ ที่อาศัย Llama รวมถึงโมเดลที่ปรับแต่งด้วยข้อมูลคำแนะนำ เช่น Alpaca, Vicuna, Lima และ WizardLM การวิจัยยังขยายไปสู่การเพิ่มความสามารถของตัวแทน การให้เหตุผลเชิงตรรกะ และการสร้างแบบจำลองบริบทยาวในกรอบ Llama

นอกจากนี้ยังมีการพัฒนา LLMs ที่มีประสิทธิภาพซึ่งสร้างขึ้นจากศูนย์ โดยมีโปรเจ็กต์ เช่น MPT, Falcon, XGen, Phi, Baichuan, Mistral, Grok และ Yi ความพยายามเหล่านี้สะท้อนถึงความมุ่งมั่นที่จะทำให้เครื่องมือ AI ที่ทันสมัยมีความเข้าถึงได้ง่ายและประสิทธิภาพมากขึ้น

ผลกระทบของ ChatGPT และโมเดลที่เปิดกว้างต่อการดูแลสุขภาพ

เรากำลังมองไปสู่อนาคตที่ LLMs จะช่วยในการบันทึกคลินิก การกรอกแบบฟอร์มสำหรับการชำระเงิน และการสนับสนุนแพทย์ในแผนการวินิจฉัยและการรักษา นี่ได้สร้างความสนใจจากทั้งยักษ์ใหญ่ด้านเทคโนโลยีและสถาบันการดูแลสุขภาพ

การอภิปรายของ Microsoft (MSFT ) กับ Epic ซึ่งเป็นผู้ให้บริการซอฟต์แวร์สำหรับบันทึกสุขภาพอิเล็กทรอนิกส์ ชี้ให้เห็นถึงการรวม LLMs เข้ากับการดูแลสุขภาพ โครงการต่างๆ ได้เริ่มต้นแล้วที่ UC San Diego Health และ Stanford University Medical Center ในทำนองเดียวกัน การร่วมมือของ Google กับ Mayo Clinic และการเปิดตัว HealthScribe ซึ่งเป็นบริการเอกสารทางการแพทย์ AI โดย Amazon (AMZN ) Web Services ถือเป็นก้าวสำคัญในด้านนี้

อย่างไรก็ตาม การนำไปใช้อย่างรวดเร็วนี้ทำให้เกิดความกังวลเกี่ยวกับการส่งมอบการแพทย์ให้กับผลประโยชน์ทางธุรกิจ ลักษณะที่ปิดของ LLMs เหล่านี้ทำให้การประเมินมันอย่างยาก และการเปลี่ยนแปลงหรือการหยุดใช้งานเพื่อผลประโยชน์ทางการเงินอาจกระทบต่อการดูแลผู้ป่วย ความเป็นส่วนตัว และความปลอดภัย

ความจำเป็นเร่งด่วนคือการเข้าถึง LLMs ในการดูแลสุขภาพที่เปิดกว้างและครอบคลุม สถาบันการดูแลสุขภาพ นักวิจัย แพทย์ และผู้ป่วยต้องร่วมมือกันระดับโลกเพื่อสร้าง LLMs ที่เปิดกว้างสำหรับการดูแลสุขภาพ วิธีการนี้คล้ายกับ Trillion Parameter Consortium จะช่วยให้สามารถรวมทรัพยากรการคำนวณ ทรัพยากรทางการเงิน และความเชี่ยวชาญ

ฉันใช้เวลาที่ผ่านมา 5 ปีในการศึกษาสิ่งที่น่าสนใจเกี่ยวกับ Machine Learning และ Deep Learning ความเชี่ยวชาญและความหลงใหลของฉันทำให้ฉันเข้าร่วมในโครงการพัฒนาซอฟต์แวร์มากกว่า 50 โครงการที่มีความหลากหลาย โดยมุ่งเน้นไปที่ AI/ML ความอยากรู้อยากเห็นของฉันยังทำให้ฉันสนใจในด้าน Natural Language Processing ซึ่งเป็นสาขาที่ฉันต้องการสำรวจต่อไป