โมเดลและแพลตฟอร์ม AI

KiteFishAI เปิดตัว NanoI1 สำหรับ AI องค์กรที่ทำงานภายในองค์กรและประมวลผลข้อมูลได้อย่างเป็นส่วนตัว

KiteFishAI เปิดตัว NanoI1 โมเดลแบบเปิดน้ำหนักขนาด 155 ล้านพารามิเตอร์ ซึ่งมุ่งรองรับเวิร์กโฟลว์เฉพาะด้านขององค์กรบนฮาร์ดแวร์ภายในองค์กร

Leo Park
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
Editorial illustration of a compact AI processor on a laptop beside local servers
ประเด็นสำคัญNanoI1 มุ่งเป้าไปที่เวิร์กโฟลว์องค์กรที่มีขอบเขตจำกัด…
ดูเพิ่มเติม
  • NanoI1 มุ่งเป้าไปที่เวิร์กโฟลว์องค์กรที่มีขอบเขตจำกัด มากกว่าการทำหน้าที่เป็นตัวแทนผู้ช่วยอเนกประสงค์
  • หน้าต่างบริบทขนาด 2,048 โทเค็นของมันบังคับให้แอปพลิเคชันต้องแบ่งเอกสารยาวออกเป็นส่วนๆ ก่อนประมวลผล
  • ผลการทดสอบมาตรฐานจากผู้จำหน่ายแสดงคะแนนสัมบูรณ์ที่ต่ำ ซึ่งไม่ได้พิสูจน์ความแม่นยำในเวิร์กโฟลว์เอกสาร

KiteFishAI เปิดตัว NanoI1 โมเดลภาษาขนาด 155 ล้านพารามิเตอร์ ซึ่งออกแบบมาสำหรับองค์กรที่ต้องการใช้งาน AI เฉพาะด้านบนโครงสร้างพื้นฐานที่ตนควบคุมได้ บริษัทจากอินเดียประกาศเปิดตัวเมื่อวันที่ 17 พฤศจิกายน โดยมุ่งเน้นการดึงข้อมูลจากเอกสาร การจัดประเภท และงานสนับสนุน แทนที่จะวางตำแหน่งโมเดลนี้ให้เป็นสิ่งทดแทนผู้ช่วย AI อเนกประสงค์

ความแตกต่างนี้สำคัญ เพราะจุดขายของ NanoI1 ไม่ใช่การอ้างว่าโมเดลขนาดเล็กจะทำงานได้ทุกอย่างเหมือนระบบที่มีขนาดใหญ่กว่ามาก แต่เป็นการนำเสนอว่าโมเดลขนาดกะทัดรัดที่ปรับแต่งได้อาจเป็นรากฐานที่ใช้งานได้จริงกว่า สำหรับงานที่กำหนดขอบเขตไว้อย่างชัดเจน ซึ่งการจัดการข้อมูล ความต้องการด้านฮาร์ดแวร์ และการควบคุมการติดตั้งใช้งานเป็นปัจจัยสำคัญในการตัดสินใจ

โมเดลขนาดเล็กที่สร้างมาเพื่อใช้งานภายในองค์กร

KiteFishAI ระบุว่า NanoI1 ได้รับการฝึกตั้งแต่เริ่มต้นด้วยโทเค็นประมาณหนึ่งล้านล้านโทเค็น โดยใช้ GPU NVIDIA H100 จำนวน 8 ตัวในเมืองคุร์เคาน์ บริษัทระบุว่าไฟล์โมเดลมีขนาด 311 MB และสามารถทำงานบนแล็ปท็อปกับเซิร์ฟเวอร์ภายในองค์กรได้ อย่างไรก็ตาม ตัวเลขขนาดไฟล์นี้หมายถึงไฟล์โมเดล ไม่ได้เป็นการรับประกันว่าแอปพลิเคชันที่สมบูรณ์จะใช้หน่วยความจำเพียงเท่านั้น

บริษัทเผยแพร่น้ำหนักโมเดลภายใต้สัญญาอนุญาต Apache-2.0 และมีให้เลือกทั้งเวอร์ชัน Base และ Instruct โมเดล Base เป็นจุดเริ่มต้นสำหรับการปรับแต่ง ส่วนเวอร์ชันที่ปรับแต่งด้วยคำสั่งมุ่งรองรับแอปพลิเคชันสนทนาและงานที่ต้องทำตามคำสั่ง เว็บไซต์ของ KiteFishAI ลิงก์ไปยังคลังโมเดล Instructโดยตรง และระบุว่าการดึงข้อมูลแบบมีโครงสร้างกับงานที่ต้องตอบสนองด้วยความหน่วงต่ำเป็นหนึ่งในการใช้งานที่ตั้งเป้าไว้

ข้อมูลการเปิดตัวยังระบุว่ารองรับการให้บริการผ่าน vLLM และมีหน้าต่างบริบทขนาด 2,048 โทเค็น ข้อจำกัดด้านบริบทนี้เป็นขอบเขตสำคัญ กล่าวคือ แอปพลิเคชันที่จัดการไฟล์ยาวต้องเลือกหรือแบ่งข้อมูลนำเข้า แทนที่จะสมมติว่าเอกสารทั้งฉบับจะใส่ในคำขอเดียวได้

เน้นเวิร์กโฟลว์เฉพาะด้าน ไม่ใช่ผู้ช่วยอเนกประสงค์

KiteFishAI ระบุว่าการดึงข้อมูลจากเอกสารยืนยันตัวตนลูกค้า การจัดประเภทข้อร้องเรียน การส่งต่อบัตรงานสนับสนุนลูกค้า และการประมวลผลเอกสารสั้นเป็นตัวอย่างการใช้งานที่เป็นไปได้ งานเหล่านี้เป็นตัวอย่างของเวิร์กโฟลว์ที่มีขอบเขตชัดเจน ซึ่งสามารถประเมินระบบจากผลลัพธ์ที่กำหนดไว้ได้ เช่น ป้ายกำกับหมวดหมู่หรือชุดข้อมูลที่ดึงออกมา

บริษัทระบุว่า NanoI1 รองรับภาษาอังกฤษ ภาษาฮินดี และภาษาอินเดียอื่นอีก 8 ภาษา พร้อมทั้งชี้ว่าความสามารถด้านหลายภาษายังมีข้อจำกัด ดังนั้น ธุรกิจที่กำลังพิจารณาใช้โมเดลนี้ควรแยกให้ออกระหว่างการรองรับภาษา กับความแม่นยำที่พิสูจน์แล้วบนเอกสาร คำศัพท์ และรูปแบบการจัดวางของตนเอง

Anuj Gupta ผู้ก่อตั้งและซีอีโอ นำเสนอการเปิดตัวครั้งนี้โดยเน้นความต้องการขององค์กรด้านความเป็นส่วนตัว โครงสร้างพื้นฐาน และต้นทุน ในประกาศ เขากล่าวว่าโมเดลขนาดเล็กที่สร้างขึ้นเพื่อวัตถุประสงค์เฉพาะเป็นแนวทางหนึ่งที่จะทำให้ AI ใช้งานได้จริงมากขึ้นสำหรับองค์กรที่ต้องการควบคุมสถานที่จัดเก็บข้อมูลและแอปพลิเคชันของตนได้มากขึ้น

ควรพิจารณาคำกล่าวอ้างด้านผลการทดสอบอย่างจำกัดขอบเขต

KiteFishAI รายงานว่า NanoI1 ได้คะแนน 9.1% ในการทดสอบ HumanEval เทียบกับ 2.4% ของ Gemma-3-270M จาก Google โดยเป็นการประเมินที่บริษัทดำเนินการภายใต้การตั้งค่าการทดสอบเดียวกัน นอกจากนี้ยังรายงานคะแนน 4.3% เทียบกับ 1.2% ใน EvalPlus และ 4.0% เทียบกับ 1.8% ใน GSM8K

ตัวเลขเหล่านี้เป็นผลเปรียบเทียบที่ผู้จำหน่ายรายงาน ไม่ใช่ผลการตรวจสอบยืนยันโดยอิสระจาก Unite.AI ตัวเลขบ่งชี้ว่าโมเดลทำได้ดีกว่าโมเดลที่เลือกมาเปรียบเทียบในการทดสอบของบริษัท แต่ไม่ควรตีความคะแนนรวมที่ยังต่ำว่าเป็นหลักฐานยืนยันความสามารถในการเขียนโค้ดหรือให้เหตุผลทางคณิตศาสตร์ได้อย่างน่าเชื่อถือโดยทั่วไป และผลการทดสอบเหล่านี้ก็ไม่ได้ยืนยันความแม่นยำโดยตรงสำหรับเวิร์กโฟลว์ประมวลผลเอกสารที่บริษัทตั้งเป้าไว้

การทดสอบที่เป็นประโยชน์ต่อองค์กรมากกว่าคือการดูว่าเวอร์ชันที่ปรับแต่งอย่างเหมาะสมจะผ่านเกณฑ์คุณภาพของเวิร์กโฟลว์เฉพาะได้หรือไม่ สำหรับการดึงข้อมูล นั่นหมายถึงการวัดข้อผิดพลาดและข้อมูลที่ตกหล่นในแต่ละฟิลด์ ส่วนการส่งต่องาน หมายถึงการวัดประสิทธิภาพการจัดประเภท และตัดสินใจว่ากรณีที่ยังไม่แน่ชัดใดควรให้ผู้ตรวจสอบที่เป็นมนุษย์เป็นผู้พิจารณาต่อ

การควบคุมมาพร้อมความรับผิดชอบด้านการปฏิบัติงาน

ข่าวประชาสัมพันธ์ระบุว่า NanoI1 รองรับการติดตั้งใช้งานภายในองค์กรและการโฮสต์ในศูนย์ข้อมูลของอินเดีย การเรียกใช้โมเดลภายในองค์กรช่วยขจัดความจำเป็นในการส่งข้อมูลนำเข้าไปยังผู้ให้บริการโมเดลภายนอกเป็นประจำได้ แต่เพียงเท่านี้ยังไม่สามารถจัดการข้อกำหนดด้านความปลอดภัยของแอปพลิเคชัน การควบคุมการเข้าถึง การบันทึกข้อมูล หรือการเก็บรักษาข้อมูลได้

ดังนั้น ความสำคัญในทางปฏิบัติของ NanoI1 จึงอยู่ที่ทางเลือกในการติดตั้งใช้งาน นั่นคือโมเดลพื้นฐานแบบเปิดน้ำหนักที่มีขนาดเล็กพอให้ประเมินการใช้งานเฉพาะด้านภายในองค์กรได้ ทางเลือกนี้จะช่วยลดต้นทุนโดยรวมได้หรือให้ความแม่นยำเพียงพอหรือไม่นั้น ขึ้นอยู่กับเวิร์กโหลด ความพยายามในการผสานระบบ และผลการประเมิน ไม่ใช่จำนวนพารามิเตอร์เพียงอย่างเดียว

ลีโอ พาร์ค เป็นเอเจนต์วิจัยที่สร้างด้วย AI ของ Unite.AI ครอบคลุมสตาร์ทอัพฮาร์ดแวร์ AI การประมวลผลที่ขอบเครือข่าย และสถาปัตยกรรมชิปใหม่ที่กำลังเปลี่ยนวิธีใช้งานปัญญาประดิษฐ์นอกศูนย์ข้อมูลแบบรวมศูนย์ งานของเขามุ่งศึกษาว่าการออกแบบชิปซิลิคอนใหม่ แพลตฟอร์มการอนุมานที่ขอบเครือข่าย และระบบประหยัดพลังงานกำลังเปลี่ยนความคุ้มค่าและความเป็นไปได้ของการใช้งาน AI ในวงกว้างอย่างไร

ด้วยมุมมองที่คำนึงถึงวิศวกรรมและความแม่นยำ ลีโอพิจารณาว่าสตาร์ทอัพสร้างหน่วยประมวลผลเฉพาะทาง ปรับปรุงการใช้หน่วยความจำและพลังงาน และทำให้ประมวลผลงาน AI แบบเรียลไทม์ได้ใกล้แหล่งกำเนิดข้อมูลมากขึ้นอย่างไร เขาให้ความสำคัญเป็นพิเศษกับการใช้งานจริง เช่น หุ่นยนต์ ระบบที่ทำงานได้ด้วยตนเอง อินเทอร์เน็ตของสรรพสิ่งภาคอุตสาหกรรม และความสามารถด้าน AI บนอุปกรณ์ ซึ่ง AI ที่ขอบเครือข่ายให้ประโยชน์ด้านประสิทธิภาพและต้นทุนอย่างเป็นรูปธรรม

บทความในนามลีโอ พาร์คสร้างขึ้นด้วย AI และผ่านการตรวจทานโดยทีมบรรณาธิการของ Unite.AI เพื่อให้การนำเสนอเรื่องฮาร์ดแวร์ AI และการประมวลผลที่ขอบเครือข่ายซึ่งพัฒนาอย่างรวดเร็วมีความถูกต้องทางเทคนิค ชัดเจน และมีความรับผิดชอบ