โมเดลและแพลตฟอร์ม AI
KiteFishAI เปิดตัว NanoI1 สำหรับ AI องค์กรที่ทำงานภายในองค์กรและประมวลผลข้อมูลได้อย่างเป็นส่วนตัว
KiteFishAI เปิดตัว NanoI1 โมเดลแบบเปิดน้ำหนักขนาด 155 ล้านพารามิเตอร์ ซึ่งมุ่งรองรับเวิร์กโฟลว์เฉพาะด้านขององค์กรบนฮาร์ดแวร์ภายในองค์กร

ประเด็นสำคัญNanoI1 มุ่งเป้าไปที่เวิร์กโฟลว์องค์กรที่มีขอบเขตจำกัด…
ดูเพิ่มเติม
- NanoI1 มุ่งเป้าไปที่เวิร์กโฟลว์องค์กรที่มีขอบเขตจำกัด มากกว่าการทำหน้าที่เป็นตัวแทนผู้ช่วยอเนกประสงค์
- หน้าต่างบริบทขนาด 2,048 โทเค็นของมันบังคับให้แอปพลิเคชันต้องแบ่งเอกสารยาวออกเป็นส่วนๆ ก่อนประมวลผล
- ผลการทดสอบมาตรฐานจากผู้จำหน่ายแสดงคะแนนสัมบูรณ์ที่ต่ำ ซึ่งไม่ได้พิสูจน์ความแม่นยำในเวิร์กโฟลว์เอกสาร
KiteFishAI เปิดตัว NanoI1 โมเดลภาษาขนาด 155 ล้านพารามิเตอร์ ซึ่งออกแบบมาสำหรับองค์กรที่ต้องการใช้งาน AI เฉพาะด้านบนโครงสร้างพื้นฐานที่ตนควบคุมได้ บริษัทจากอินเดียประกาศเปิดตัวเมื่อวันที่ 17 พฤศจิกายน โดยมุ่งเน้นการดึงข้อมูลจากเอกสาร การจัดประเภท และงานสนับสนุน แทนที่จะวางตำแหน่งโมเดลนี้ให้เป็นสิ่งทดแทนผู้ช่วย AI อเนกประสงค์
ความแตกต่างนี้สำคัญ เพราะจุดขายของ NanoI1 ไม่ใช่การอ้างว่าโมเดลขนาดเล็กจะทำงานได้ทุกอย่างเหมือนระบบที่มีขนาดใหญ่กว่ามาก แต่เป็นการนำเสนอว่าโมเดลขนาดกะทัดรัดที่ปรับแต่งได้อาจเป็นรากฐานที่ใช้งานได้จริงกว่า สำหรับงานที่กำหนดขอบเขตไว้อย่างชัดเจน ซึ่งการจัดการข้อมูล ความต้องการด้านฮาร์ดแวร์ และการควบคุมการติดตั้งใช้งานเป็นปัจจัยสำคัญในการตัดสินใจ
โมเดลขนาดเล็กที่สร้างมาเพื่อใช้งานภายในองค์กร
KiteFishAI ระบุว่า NanoI1 ได้รับการฝึกตั้งแต่เริ่มต้นด้วยโทเค็นประมาณหนึ่งล้านล้านโทเค็น โดยใช้ GPU NVIDIA H100 จำนวน 8 ตัวในเมืองคุร์เคาน์ บริษัทระบุว่าไฟล์โมเดลมีขนาด 311 MB และสามารถทำงานบนแล็ปท็อปกับเซิร์ฟเวอร์ภายในองค์กรได้ อย่างไรก็ตาม ตัวเลขขนาดไฟล์นี้หมายถึงไฟล์โมเดล ไม่ได้เป็นการรับประกันว่าแอปพลิเคชันที่สมบูรณ์จะใช้หน่วยความจำเพียงเท่านั้น
บริษัทเผยแพร่น้ำหนักโมเดลภายใต้สัญญาอนุญาต Apache-2.0 และมีให้เลือกทั้งเวอร์ชัน Base และ Instruct โมเดล Base เป็นจุดเริ่มต้นสำหรับการปรับแต่ง ส่วนเวอร์ชันที่ปรับแต่งด้วยคำสั่งมุ่งรองรับแอปพลิเคชันสนทนาและงานที่ต้องทำตามคำสั่ง เว็บไซต์ของ KiteFishAI ลิงก์ไปยังคลังโมเดล Instructโดยตรง และระบุว่าการดึงข้อมูลแบบมีโครงสร้างกับงานที่ต้องตอบสนองด้วยความหน่วงต่ำเป็นหนึ่งในการใช้งานที่ตั้งเป้าไว้
ข้อมูลการเปิดตัวยังระบุว่ารองรับการให้บริการผ่าน vLLM และมีหน้าต่างบริบทขนาด 2,048 โทเค็น ข้อจำกัดด้านบริบทนี้เป็นขอบเขตสำคัญ กล่าวคือ แอปพลิเคชันที่จัดการไฟล์ยาวต้องเลือกหรือแบ่งข้อมูลนำเข้า แทนที่จะสมมติว่าเอกสารทั้งฉบับจะใส่ในคำขอเดียวได้
เน้นเวิร์กโฟลว์เฉพาะด้าน ไม่ใช่ผู้ช่วยอเนกประสงค์
KiteFishAI ระบุว่าการดึงข้อมูลจากเอกสารยืนยันตัวตนลูกค้า การจัดประเภทข้อร้องเรียน การส่งต่อบัตรงานสนับสนุนลูกค้า และการประมวลผลเอกสารสั้นเป็นตัวอย่างการใช้งานที่เป็นไปได้ งานเหล่านี้เป็นตัวอย่างของเวิร์กโฟลว์ที่มีขอบเขตชัดเจน ซึ่งสามารถประเมินระบบจากผลลัพธ์ที่กำหนดไว้ได้ เช่น ป้ายกำกับหมวดหมู่หรือชุดข้อมูลที่ดึงออกมา
บริษัทระบุว่า NanoI1 รองรับภาษาอังกฤษ ภาษาฮินดี และภาษาอินเดียอื่นอีก 8 ภาษา พร้อมทั้งชี้ว่าความสามารถด้านหลายภาษายังมีข้อจำกัด ดังนั้น ธุรกิจที่กำลังพิจารณาใช้โมเดลนี้ควรแยกให้ออกระหว่างการรองรับภาษา กับความแม่นยำที่พิสูจน์แล้วบนเอกสาร คำศัพท์ และรูปแบบการจัดวางของตนเอง
Anuj Gupta ผู้ก่อตั้งและซีอีโอ นำเสนอการเปิดตัวครั้งนี้โดยเน้นความต้องการขององค์กรด้านความเป็นส่วนตัว โครงสร้างพื้นฐาน และต้นทุน ในประกาศ เขากล่าวว่าโมเดลขนาดเล็กที่สร้างขึ้นเพื่อวัตถุประสงค์เฉพาะเป็นแนวทางหนึ่งที่จะทำให้ AI ใช้งานได้จริงมากขึ้นสำหรับองค์กรที่ต้องการควบคุมสถานที่จัดเก็บข้อมูลและแอปพลิเคชันของตนได้มากขึ้น
ควรพิจารณาคำกล่าวอ้างด้านผลการทดสอบอย่างจำกัดขอบเขต
KiteFishAI รายงานว่า NanoI1 ได้คะแนน 9.1% ในการทดสอบ HumanEval เทียบกับ 2.4% ของ Gemma-3-270M จาก Google โดยเป็นการประเมินที่บริษัทดำเนินการภายใต้การตั้งค่าการทดสอบเดียวกัน นอกจากนี้ยังรายงานคะแนน 4.3% เทียบกับ 1.2% ใน EvalPlus และ 4.0% เทียบกับ 1.8% ใน GSM8K
ตัวเลขเหล่านี้เป็นผลเปรียบเทียบที่ผู้จำหน่ายรายงาน ไม่ใช่ผลการตรวจสอบยืนยันโดยอิสระจาก Unite.AI ตัวเลขบ่งชี้ว่าโมเดลทำได้ดีกว่าโมเดลที่เลือกมาเปรียบเทียบในการทดสอบของบริษัท แต่ไม่ควรตีความคะแนนรวมที่ยังต่ำว่าเป็นหลักฐานยืนยันความสามารถในการเขียนโค้ดหรือให้เหตุผลทางคณิตศาสตร์ได้อย่างน่าเชื่อถือโดยทั่วไป และผลการทดสอบเหล่านี้ก็ไม่ได้ยืนยันความแม่นยำโดยตรงสำหรับเวิร์กโฟลว์ประมวลผลเอกสารที่บริษัทตั้งเป้าไว้
การทดสอบที่เป็นประโยชน์ต่อองค์กรมากกว่าคือการดูว่าเวอร์ชันที่ปรับแต่งอย่างเหมาะสมจะผ่านเกณฑ์คุณภาพของเวิร์กโฟลว์เฉพาะได้หรือไม่ สำหรับการดึงข้อมูล นั่นหมายถึงการวัดข้อผิดพลาดและข้อมูลที่ตกหล่นในแต่ละฟิลด์ ส่วนการส่งต่องาน หมายถึงการวัดประสิทธิภาพการจัดประเภท และตัดสินใจว่ากรณีที่ยังไม่แน่ชัดใดควรให้ผู้ตรวจสอบที่เป็นมนุษย์เป็นผู้พิจารณาต่อ
การควบคุมมาพร้อมความรับผิดชอบด้านการปฏิบัติงาน
ข่าวประชาสัมพันธ์ระบุว่า NanoI1 รองรับการติดตั้งใช้งานภายในองค์กรและการโฮสต์ในศูนย์ข้อมูลของอินเดีย การเรียกใช้โมเดลภายในองค์กรช่วยขจัดความจำเป็นในการส่งข้อมูลนำเข้าไปยังผู้ให้บริการโมเดลภายนอกเป็นประจำได้ แต่เพียงเท่านี้ยังไม่สามารถจัดการข้อกำหนดด้านความปลอดภัยของแอปพลิเคชัน การควบคุมการเข้าถึง การบันทึกข้อมูล หรือการเก็บรักษาข้อมูลได้
ดังนั้น ความสำคัญในทางปฏิบัติของ NanoI1 จึงอยู่ที่ทางเลือกในการติดตั้งใช้งาน นั่นคือโมเดลพื้นฐานแบบเปิดน้ำหนักที่มีขนาดเล็กพอให้ประเมินการใช้งานเฉพาะด้านภายในองค์กรได้ ทางเลือกนี้จะช่วยลดต้นทุนโดยรวมได้หรือให้ความแม่นยำเพียงพอหรือไม่นั้น ขึ้นอยู่กับเวิร์กโหลด ความพยายามในการผสานระบบ และผลการประเมิน ไม่ใช่จำนวนพารามิเตอร์เพียงอย่างเดียว












