AI 모델 및 플랫폼
KiteFishAI, 프라이빗 로컬 기업용 AI를 위한 NanoI1 공개
KiteFishAI가 로컬 하드웨어에서 실행하는 특화된 기업 업무 흐름을 겨냥한 1억 5,500만 개 매개변수의 오픈 웨이트 모델 NanoI1을 공개했다.

핵심 포인트NanoI1은 범용 어시스턴트 대체가 아니라 경계가 정해진 기업 워크플로를 대상으로 합니다.
더 보기
- NanoI1은 범용 어시스턴트 대체가 아니라 경계가 정해진 기업 워크플로를 대상으로 합니다.
- 2,048 토큰의 컨텍스트 창으로 인해 애플리케이션은 긴 문서를 처리하기 전에 분할해야 합니다.
- 벤더 벤치마크는 문서 워크플로에서의 정확성을 입증하지 못하는 낮은 절대 점수를 보여줍니다.
KiteFishAI가 자체 통제하에 있는 인프라에서 특정 AI 작업을 실행하려는 기업을 위해 설계된 1억 5,500만 개 매개변수의 언어 모델 NanoI1을 선보였다. 11월 17일 발표된 이 인도 기업의 모델은 범용 AI 비서를 대체하기보다는 문서 추출, 분류, 지원 업무를 겨냥한다.
이 차이는 중요하다. NanoI1의 강점은 작은 모델이 훨씬 큰 시스템이 수행하는 모든 작업을 처리할 수 있다는 데 있지 않다. 데이터 처리 방식, 하드웨어 요구 사항, 배포 통제권이 핵심 고려 사항인 한정된 작업에서는 작고 조정 가능한 모델이 더 실용적인 기반이 될 수 있다는 점이 강점이다.
로컬 배포를 위해 설계된 소형 모델
KiteFishAI에 따르면 NanoI1은 구르가온에서 NVIDIA H100 GPU 8개를 사용해 약 1조 개의 토큰으로 처음부터 학습했다. 회사는 모델 파일 크기가 311MB이며 노트북과 로컬 서버에서 실행할 수 있다고 밝혔다. 이 파일 크기는 모델 자체의 용량을 가리킬 뿐, 완성된 애플리케이션에 그 정도의 메모리만 필요하다는 보장은 아니다.
가중치는 Apache-2.0 라이선스로 공개되며, 회사는 Base와 Instruct 버전을 모두 제공한다. Base 모델은 추가 조정을 위한 출발점이고, 지시문으로 미세 조정된 버전은 대화형 애플리케이션과 지시 수행 애플리케이션을 대상으로 한다. KiteFishAI 웹사이트에서는 Instruct 모델 저장소로 바로 연결하며, 구조화된 정보 추출과 지연 시간이 짧은 작업을 활용 사례로 제시한다.
이번 공개 내용에는 vLLM 서빙 지원과 2,048토큰의 컨텍스트 윈도우도 명시돼 있다. 이 컨텍스트 한도는 중요한 제약이다. 긴 파일을 처리하는 애플리케이션은 문서 전체를 한 번의 요청에 담을 수 있다고 가정하기보다 입력 내용을 선별하거나 나눠야 한다.
범용 비서가 아닌 특정 업무 흐름에 집중
KiteFishAI는 고객확인(KYC) 문서에서의 정보 추출, 불만 분류, 고객 지원 티켓 분류 및 전달, 짧은 문서 처리를 잠재적 활용 사례로 꼽는다. 이는 범위가 명확한 업무 흐름의 예로, 범주 레이블이나 추출한 필드 집합처럼 정해진 결과를 기준으로 시스템을 평가할 수 있다.
회사는 NanoI1이 영어와 힌디어, 그리고 인도의 다른 8개 언어를 지원한다고 밝히면서도 다국어 처리 능력에는 한계가 있다고 설명한다. 따라서 이 모델을 고려하는 기업은 특정 언어를 지원한다는 사실과 자사 문서, 어휘, 서식에서 정확성이 입증됐다는 점을 구분해야 한다.
창업자 겸 CEO인 Anuj Gupta는 프라이버시, 인프라, 비용에 대한 기업의 요구를 중심으로 이번 모델 공개의 의미를 설명한다. 그는 발표문에서 데이터와 애플리케이션이 어디에 있는지 더 적극적으로 통제해야 하는 조직에 소형 특화 모델이 AI를 더욱 실용적으로 활용할 수 있는 방법이라고 밝혔다.
벤치마크 주장은 제한적으로 해석해야
KiteFishAI는 동일한 테스트 조건에서 자체 평가를 진행한 결과 NanoI1이 HumanEval에서 9.1%를 기록해 Google의 Gemma-3-270M(2.4%)보다 높은 점수를 받았다고 밝혔다. EvalPlus에서는 각각 4.3%와 1.2%, GSM8K에서는 4.0%와 1.8%를 기록했다고도 덧붙였다.
이 수치는 업체가 보고한 비교 결과이지 Unite.AI의 독립적인 검증 결과가 아니다. 회사의 테스트에서 선정된 비교 모델보다 앞섰다는 점은 보여주지만, 절대 점수가 낮다는 점을 고려하면 일반적인 코딩이나 수학적 추론을 안정적으로 수행한다고 봐서는 안 된다. 또한 이 벤치마크만으로는 회사가 겨냥하는 문서 처리 업무의 정확성을 직접 입증할 수 없다.
기업에서 더 유용한 검증 방법은 적절히 조정한 버전이 특정 업무 흐름의 품질 기준을 충족하는지 확인하는 것이다. 정보 추출의 경우 필드별 오류와 누락을 측정해야 한다. 업무 분류와 전달의 경우 분류 성능을 측정하고, 확실하지 않은 사례 가운데 어떤 것을 사람이 계속 검토해야 할지 판단해야 한다.
통제권에는 운영 책임이 따른다
이번 공개 내용에 따르면 NanoI1은 온프레미스 배포와 인도 내 데이터센터 호스팅을 지원한다. 모델을 로컬에서 실행하면 입력 내용을 외부 모델 제공업체에 상시 전송할 필요가 없어질 수 있다. 하지만 이것만으로 애플리케이션 보안, 접근 제어, 로깅, 데이터 보존 요건이 해결되는 것은 아니다.
따라서 NanoI1의 실질적인 의의는 특화된 로컬 애플리케이션에 적합한지 평가해 볼 수 있을 만큼 작은 오픈 웨이트 모델을 배포할 수 있다는 데 있다. 이 방식으로 총비용을 낮추거나 충분한 정확도를 확보할 수 있을지는 매개변수 수만으로 결정되지 않는다. 실제 작업 부하, 통합에 필요한 노력, 평가 결과에 따라 달라진다.












