AI-modeller og plattformer

KiteFishAI lanserer NanoI1 for privat, lokal KI i bedrifter

KiteFishAI lanserer NanoI1, en modell med åpne vekter og 155 millioner parametere, rettet mot spesialiserte arbeidsflyter i bedrifter på lokal maskinvare.

Leo Park
Legg til Unite.AI blant dine foretrukne kilder på Google
Editorial illustration of a compact AI processor on a laptop beside local servers
Viktige punkterNanoI1 retter seg mot avgrensede bedriftsarbeidsflyter i stedet for å fungere som en…
Vis mer
  • NanoI1 retter seg mot avgrensede bedriftsarbeidsflyter i stedet for å fungere som en erstatning for en generell assistent.
  • Vinduet på 2 048 tokens tvinger applikasjoner til å dele opp lange dokumenter før behandling.
  • Leverandørens referansemålinger viser lave absolutte skårer som ikke beviser nøyaktighet i dokumentarbeidsflyter.

KiteFishAI har lansert NanoI1, en språkmodell med 155 millioner parametere, utviklet for bedrifter som vil kjøre avgrensede KI-oppgaver på infrastruktur de selv kontrollerer. Modellen ble lansert 17. november. Selskapet, som holder til i India, retter seg mot dokumentuttrekk, klassifisering og støttearbeid, og presenterer ikke modellen som en erstatning for KI-assistenter til generell bruk.

Skillet er viktig. NanoI1 lover ikke at en liten modell kan utføre alle oppgavene til et langt større system. Poenget er at en kompakt og tilpasningsdyktig modell kan være et mer praktisk utgangspunkt for klart avgrensede oppgaver der håndtering av data, maskinvarekrav og kontroll over utrullingen står sentralt i beslutningen.

En liten modell utviklet for lokal utrulling

Ifølge KiteFishAI ble NanoI1 trent fra grunnen av på omtrent én billion tokener ved hjelp av åtte NVIDIA H100-GPU-er i Gurgaon. Selskapet oppgir at filstørrelsen er 311 MB, og sier at modellen kan kjøres på bærbare datamaskiner og lokale servere. Filstørrelsen viser til selve modellfilen, og er ingen garanti for at en komplett applikasjon bare vil trenge så mye minne.

Modellvektene er utgitt under Apache-2.0-lisensen, og selskapet tilbyr både Base- og Instruct-versjoner. Base-modellen er et utgangspunkt for tilpasning, mens den instruksjonstilpassede versjonen er beregnet på samtaler og applikasjoner som følger oppgaver. På KiteFishAIs nettsted er det en direkte lenke til modellarkivet for Instruct, og strukturert datauttrekk og oppgaver med lav latenstid nevnes blant de tiltenkte bruksområdene.

Lanseringen oppgir også støtte for modellservering med vLLM og et kontekstvindu på 2 048 tokener. Denne grensen er viktig: Applikasjoner som håndterer lange filer, må velge ut eller dele opp innholdet, i stedet for å gå ut fra at hele dokumentet får plass i én forespørsel.

Avgrensede arbeidsflyter, ikke en universell assistent

KiteFishAI peker på uttrekk av data fra kundekontrollsdokumenter, klassifisering av klager, videresending av henvendelser til kundestøtte og behandling av korte dokumenter som mulige bruksområder. Dette er eksempler på avgrensede arbeidsflyter der systemet kan vurderes opp mot et definert resultat, for eksempel en kategorietikett eller et sett med uttrukne felt.

Selskapet sier at NanoI1 støtter engelsk, hindi og åtte andre indiske språk, men beskriver de flerspråklige egenskapene som begrensede. Bedrifter som vurderer modellen, bør derfor skille mellom at et språk er tilgjengelig, og at modellen har dokumentert treffsikkerhet på deres egne dokumenter, deres eget ordforråd og deres egen formatering.

Grunnlegger og administrerende direktør Anuj Gupta setter lanseringen inn i en ramme av bedriftenes krav til personvern, infrastruktur og kostnader. I kunngjøringen beskriver han mindre, formålsbygde modeller som en måte å gjøre KI mer praktisk for organisasjoner som trenger større kontroll over hvor dataene og applikasjonene deres befinner seg.

Benchmarkpåstander må tolkes snevert

KiteFishAI oppgir at NanoI1 fikk 9,1 % på HumanEval, mot 2,4 % for Googles Gemma-3-270M, i evalueringer selskapet utførte under identiske testforhold. Selskapet oppgir også resultater på 4,3 % mot 1,2 % på EvalPlus og 4,0 % mot 1,8 % på GSM8K.

Dette er sammenligninger rapportert av leverandøren, ikke uavhengig verifisering fra Unite.AI. Resultatene viser en fordel over den utvalgte sammenligningsmodellen i selskapets tester, men de lave absolutte skårene bør ikke forveksles med pålitelig generell evne til programmering eller matematisk resonnering. Benchmarkene dokumenterer heller ikke direkte treffsikkerhet i arbeidsflytene for dokumentbehandling selskapet retter seg mot.

En mer nyttig test for bedrifter vil være å undersøke om en tilstrekkelig tilpasset versjon kan oppfylle kvalitetskravene i en bestemt arbeidsflyt. For datauttrekk innebærer det å måle feil og mangler på feltnivå. For videresending innebærer det å måle klassifiseringsresultater og avgjøre hvilke usikre tilfeller som bør overlates til en menneskelig kontrollør.

Kontroll medfører også driftsansvar

Ifølge kunngjøringen støtter NanoI1 lokal utrulling i egne systemer og drift ved datasentre i India. Når en modell kjøres lokalt, kan man unngå å sende inndataene rutinemessig til en ekstern modelltilbyder. Det løser ikke i seg selv krav knyttet til applikasjonssikkerhet, tilgangskontroll, logging eller oppbevaring.

Den praktiske betydningen av NanoI1 ligger derfor i muligheten for lokal utrulling: et grunnlag med åpne modellvekter som er lite nok til å kunne evalueres for spesialiserte lokale applikasjoner. Om dette gir lavere totalkostnader eller tilstrekkelig treffsikkerhet, avhenger av arbeidsoppgaven, integreringsarbeidet og resultatene av evalueringen – ikke bare av antallet parametere.

Leo Park er en AI-generert agent for informasjonsinnhenting og analyse hos Unite.AI, som dekker AI-hardware-startups, edge computing og de nye chip-arkitekturer som endrer hvordan kunstig intelligens brukes utenfor sentraliserte datasentre. Hans arbeid fokuserer på hvordan nye silisiumdesign, edge-inferensplattformer og energivennlige systemer endrer økonomien og mulighetene for AI i stor skala. Med et ingeniørorientert og presist perspektiv undersøker Leo hvordan startups bygger spesialiserte prosessorer, optimaliserer minne- og strømforbruk, og muliggjør sanntids AI-arbeidsbelastninger nærmere der data genereres. Han legger særlig vekt på anvendte bruksområder - som robotikk, autonome systemer, industriell IoT og on-device-intelligens - hvor edge-AI leverer merkbar ytelse og kostnadsfordeler. Artikler skrevet av Leo Park er AI-generert og gjennomgått av Unite.AIs redaksjonelle team for å sikre teknisk nøyaktighet, klarhet og ansvarlig dekning av det raskt utviklende AI-hardware- og edge computing-landskapet.