Model dan platform AI
KiteFishAI Memperkenalkan NanoI1 untuk AI Perusahaan yang Privat dan Berjalan Secara Lokal
KiteFishAI merilis NanoI1, model dengan bobot terbuka dan 155 juta parameter yang ditujukan untuk alur kerja khusus perusahaan pada perangkat keras lokal.

Poin utamaNanoI1 menargetkan alur kerja perusahaan yang terbatas, bukan berfungsi sebagai…
Lihat selengkapnya
- NanoI1 menargetkan alur kerja perusahaan yang terbatas, bukan berfungsi sebagai pengganti asisten serbaguna.
- Jendela konteks 2.048 token memaksa aplikasi untuk memecah dokumen panjang sebelum diproses.
- Tolok ukur vendor menunjukkan skor absolut yang rendah yang tidak membuktikan akurasi pada alur kerja dokumen.
KiteFishAI memperkenalkan NanoI1, model bahasa dengan 155 juta parameter yang dirancang untuk perusahaan yang ingin menjalankan beban kerja AI khusus pada infrastruktur yang mereka kendalikan. Diumumkan pada 17 November, produk dari perusahaan yang berbasis di India ini ditujukan untuk ekstraksi dokumen, klasifikasi, dan alur kerja dukungan, bukan untuk menggantikan asisten AI serbaguna.
Perbedaan ini penting. NanoI1 tidak mengklaim bahwa model mungil dapat menangani setiap tugas yang dapat dikerjakan sistem yang jauh lebih besar. Keunggulannya adalah model yang ringkas dan mudah diadaptasi mungkin menjadi fondasi yang lebih praktis untuk tugas-tugas dengan cakupan terbatas, ketika pengelolaan data, kebutuhan perangkat keras, dan kendali penerapan menjadi pertimbangan utama.
Model Kecil yang Dirancang untuk Penerapan Lokal
Menurut KiteFishAI, NanoI1 dilatih dari awal menggunakan sekitar satu triliun token dengan delapan GPU NVIDIA H100 di Gurgaon. Perusahaan menyebut ukuran berkasnya 311 MB dan mengatakan model ini dapat berjalan di laptop serta server lokal. Angka ukuran berkas tersebut merujuk pada artefak model, bukan jaminan bahwa aplikasi lengkap hanya akan membutuhkan memori sebanyak itu.
Bobot model dirilis dengan lisensi Apache-2.0, dan perusahaan menyediakan versi Base serta Instruct. Model Base menjadi titik awal untuk adaptasi, sedangkan versi yang disesuaikan dengan instruksi ditujukan bagi aplikasi percakapan dan pelaksanaan tugas. Situs web KiteFishAI menautkan langsung ke repositori model Instruct dan menyebut ekstraksi terstruktur serta tugas berlatensi rendah sebagai beberapa penggunaan yang dituju.
Rilis ini juga mencantumkan dukungan untuk penyajian vLLM dan jendela konteks 2.048 token. Batas konteks ini penting: aplikasi yang menangani berkas panjang perlu memilih atau membagi masukan, alih-alih menganggap seluruh dokumen dapat dimuat dalam satu permintaan.
Alur Kerja Khusus, Bukan Asisten Serbaguna
KiteFishAI menyebut ekstraksi dokumen untuk proses kenali pelanggan (KYC), klasifikasi keluhan, perutean tiket dukungan pelanggan, dan pemrosesan dokumen pendek sebagai potensi penerapan. Semua ini merupakan contoh alur kerja dengan cakupan terbatas, yang memungkinkan sistem dinilai berdasarkan keluaran tertentu, seperti label kategori atau sekumpulan bidang hasil ekstraksi.
Perusahaan mengatakan NanoI1 mendukung bahasa Inggris, bahasa Hindi, dan delapan bahasa India lainnya, sekaligus menyebut kemampuan multibahasanya terbatas. Karena itu, bisnis yang mempertimbangkan model ini perlu membedakan ketersediaan suatu bahasa dari akurasi yang telah terbukti pada dokumen, kosakata, dan format milik mereka sendiri.
Pendiri sekaligus CEO Anuj Gupta mengaitkan peluncuran ini dengan kebutuhan perusahaan akan privasi, infrastruktur, dan efisiensi biaya. Dalam pengumuman tersebut, ia menggambarkan model yang lebih kecil dan dirancang untuk tujuan tertentu sebagai cara untuk menjadikan AI lebih praktis bagi organisasi yang membutuhkan kendali lebih besar atas lokasi penyimpanan data dan aplikasi mereka.
Klaim Tolok Ukur Perlu Ditafsirkan Secara Terbatas
KiteFishAI melaporkan bahwa NanoI1 memperoleh skor 9,1% pada HumanEval, dibandingkan dengan 2,4% untuk Gemma-3-270M dari Google, dalam evaluasi yang dilakukan perusahaan dengan pengaturan pengujian yang sama. Perusahaan juga melaporkan skor 4,3% berbanding 1,2% pada EvalPlus dan 4,0% berbanding 1,8% pada GSM8K.
Angka-angka tersebut merupakan perbandingan yang dilaporkan vendor, bukan validasi independen oleh Unite.AI. Hasil itu menunjukkan keunggulan atas model pembanding yang dipilih dalam pengujian perusahaan, tetapi skor absolut yang rendah tidak boleh dianggap sebagai bukti kemampuan umum dalam pemrograman atau penalaran matematika yang andal. Tolok ukur ini juga tidak secara langsung membuktikan akurasi untuk alur kerja pemrosesan dokumen yang menjadi sasaran perusahaan.
Uji yang lebih bermanfaat bagi perusahaan adalah menilai apakah versi yang telah diadaptasi dengan tepat dapat memenuhi ambang mutu untuk alur kerja tertentu. Untuk ekstraksi, ini berarti mengukur kesalahan dan kelalaian pada tingkat bidang. Untuk perutean, ini berarti mengukur kinerja klasifikasi dan menentukan kasus-kasus yang belum pasti mana yang perlu tetap ditangani oleh peninjau manusia.
Kendali Membawa Tanggung Jawab Operasional
Menurut rilis tersebut, NanoI1 mendukung penerapan di lokasi dan hosting di pusat data India. Menjalankan model secara lokal dapat menghilangkan kebutuhan untuk rutin mengirimkan masukannya ke penyedia model eksternal. Namun, hal itu saja tidak menyelesaikan persoalan keamanan aplikasi, kontrol akses, pencatatan log, atau persyaratan retensi.
Dengan demikian, arti praktis NanoI1 terletak pada pilihan penerapannya: model fondasi dengan bobot terbuka yang cukup kecil untuk dievaluasi bagi aplikasi lokal khusus. Apakah pilihan tersebut dapat menurunkan biaya total atau memberikan akurasi yang memadai akan bergantung pada beban kerja, upaya integrasi, dan hasil evaluasi, bukan semata-mata pada jumlah parameter.












