싱킹 머신즈 랩, 첫 오픈 웨이트 멀티모달 AI 모델 인클링 공개

씽킹 머신즈 랩은 첫 번째 일반 목적 인공 지능 모델인 인클링을 출시하여 개발자들이 텍스트, 이미지, 오디오를 처리할 수 있는 거의 1조 매개변수 시스템에 접근할 수 있도록 했습니다. 2026년 7월 15일 출시는 전 오픈AI 최고 기술 책임자 미라 무라티가 설립한 중대형 자금을 갖춘 AI 회사에 대한 가장 중요한 제품 이정표입니다.

씽킹 머신즈는 인클링을 세계에서 가장 강력한 모델이라고 주장하기보다 기업, 연구자, 개발자가 자신의 AI 동작에 대한 더 큰 제어를 원하는 경우에 사용할 수 있는 사용자 정의 가능한 기초로 포지션합니다. 가중치는 Apache 2.0 라이선스 하에 Hugging Face를 통해 다운로드할 수 있으며 모델은 또한 씽킹 머신즈의 Tinker 교육 플랫폼을 통해 미세 조정할 수 있습니다.

이 포지셔닝은 AI 시장에서 소수의 회사에 의해 제어되는 사유 프론티어 시스템과 수정, 호스팅, 자체 인프라에 통합할 수 있는 오픈 웨이트 대안 사이에서 분할되는 경우 중요할 수 있습니다.

41억 매개변수만 활성화하는 975억 매개변수 모델

인클링에는 총 975억 매개변수가 포함되어 있으며, 이는 지금까지 출시된 가장 큰 오픈 웨이트 모델 중 하나입니다. 그러나희소 전문가 혼합 아키텍처를 사용하므로 개별 토큰을 처리할 때 41억 매개변수만 활성화됩니다.

모델에는 66개의 트랜스포머 레이어와 256개의 라우팅 전문가가 포함되어 있습니다. 각 토큰은 두 개의 공유 전문가와 함께 여섯 전문가에게 전송되며 요청 전반에 걸쳐 활성화된 상태를 유지합니다. 이 접근 방식은 매우 큰 모델의 지식용량을 제공하는 동시에 모든 매개변수가 모든 추론 작업에서 사용될 필요는 없도록 설계되었습니다.

씽킹 머신즈는 Mixture-of-Experts 설계가 주로 DeepSeek-V3에서 도입된 아이디어를 따르며, 라우팅 및 부하 분산 방법을 포함한다고 말합니다. 인클링은 또한 슬라이딩 윈도우 및 전역 주의 레이어의 조합과 함께 상대적 위치 임베딩을 사용합니다. 현대 언어 모델에서 일반적으로 사용되는 회전 위치 임베딩이 아닌 것입니다.

모델은 최대 1백만 토큰의 컨텍스트 창을 지원합니다. Tinker를 통해 개발자는 현재 64,000토큰 및 256,000토큰 구성에 접근할 수 있으며 전체 컨텍스트 용량은 호환되는 다운로드된 가중치 배포를 통해 사용할 수 있습니다.

텍스트, 이미지, 오디오에 걸친 네이티브 추론

인클링은 네이티브 멀티모달이며 텍스트, 이미지, 오디오를 입력으로 받아 텍스트를 출력으로 생성합니다. 이미지 처리는 계층적 패치 인코더를 사용하며 오디오는 이산 토큰으로 변환되어 텍스트 및 시각 정보와 동일한 공유 표현 공간에 배치됩니다.

씽킹 머신즈는 모델을 텍스트, 이미지, 오디오 및 비디오에서 가져온 45조 토큰으로 사전 훈련했습니다. 회사는 데이터가 공공적으로 사용 가능한 자료, 라이선스 또는 제3자 소스, 그리고 합성 또는 증강 콘텐츠를 포함한다고 말합니다. 그러나 모델 카드는 완전한 데이터 세트 인벤토리를 제공하지 않으므로 “오픈 웨이트”가 완전히 오픈 소스보다 더 정확한 설명입니다.

회사는 또한 개발자가 인클링이 답변을 생성하기 전에 적용하는 계산량을 조정할 수 있는 제어 가능한 추론 시스템을 도입했습니다. 추론 설정을 낮추면 대기 시간과 토큰 소비를 줄일 수 있으며 더 어려운 코딩, 수학, 과학 또는 도구 사용 작업에 사용할 수 있습니다.

주 모델과 함께 씽킹 머신즈는 인클링-스몰을 미리 보았습니다. 인클링-스몰은 12억 개의 활성 매개변수를 갖는 276억 매개변수 전문가 혼합 모델입니다. 회사는 데이터 및 교육 레시피의 개선으로 인해 더 작은 모델이 여러 평가에서 더 큰 버전을 따라잡거나 초과할 수 있다고 말합니다. 그러나 인클링-스몰은 아직 전체 출시를 받지 못했습니다.

Tinker를 통해 사용자 정의

인클링은 Tinker와밀접하게 연결되어 있습니다. Tinker는 2025년에 씽킹 머신즈가 도입한 클라우드 기반 교육 플랫폼입니다. Tinker를 통해 개발자는 로컬에서 교육 절차를 작성할 수 있으며 플랫폼은 상대적으로 작은 시스템에서부터 1조 매개변수 전문가 혼합 아키텍처에 이르기까지 모델을 미세 조정하는 데 필요한 분산 GPU 인프라를 관리합니다.

플랫폼은 감독된 미세 조정, 강화 학습, 직접 선호도 최적화, 증류, 저랭크 적응을 지원합니다. 고객은 결과 체크포인트를 다운로드할 수 있으며 씽킹 머신즈는 고객 교육 데이터가 고객의 모델을 미세 조정하는 데만 사용되며 자체 기초 모델에 통합되지 않는다고 말합니다.

이 사용자 정의 프로세스를보여주기 위해 회사는 인클링이 “e”라는 문자를 절대 사용하지 않는 모델로 미세 조정되도록 요청했습니다. 인클링은 자체 교육 데이터와 평가 방법을 생성하고 Tinker를 통해 미세 조정 작업을 생성 및 실행한 다음 업데이트된 체크포인트를 테스트하고 수정된 가중치를 작업 환경에 로드했습니다.

이 시연은 의도적으로 좁지만 더 넓은 전략을 설명합니다. 씽킹 머신즈는 개발자가 기초 모델을 완성된 제품으로 간주하는 대신 조직의 용어, 워크플로, 데이터, 정책 및 선호하는 동작에 맞게 적응할 수 있는 시작점으로 간주해야 한다고 주장합니다.

벤치마크에서 경쟁력 있는 성능

씽킹 머신즈는 인클링이 모든 범주에서 가장 강력한 모델은 아니라고 공개적으로 인정합니다. 벤치마크 결과는 일반적으로 인클링을 더 강력한 오픈 웨이트 시스템 중 하나로 위치시키지만 Anthropic, Google, OpenAI와 같은 회사의 주요 사유 모델은 전체적인 우위를 유지합니다.

인클링은 2026 미국 수학 초청 시험 벤치마크에서 97.1%를 기록했으며 GPQA 다이아몬드에서 87.2%를 기록했습니다. 이는 대학 수준의 과학적 추론을 평가합니다. SWE-벤치 검증에서 77.6%, SWE-벤치 프로 공개에서 54.3%를 기록했습니다. 이는 코딩 에이전트가 실제 소프트웨어 엔지니어링 문제를 해결할 수 있는지 평가하는 두 가지 벤치마크입니다.

인클링은 도구가 없는 경우 29.7%, 도구를 사용하는 경우 46%의 점수를 기록했습니다. 도구가 있는 경우의 성능은 여러 오픈 모델과 경쟁적이지만 씽킹 머신즈의 비교에 포함된 가장 강력한 폐쇄 시스템보다 낮았습니다.

인클링은 또한 Design Arena의 Agentic Web 개발 리더보드에서 1,257점을 기록했습니다. 여기서 인간 평가자는 다른 모델에 의해 생성된 응용 프로그램을 비교합니다. 이는 여러 사유 시스템과 함께 몇몇 오픈 웨이트 경쟁자보다 앞섰습니다.

벤치마크 결과는 독립적으로 재현될 필요가 있습니다. 씽킹 머신즈는 외부 점수가 가능한 경우 사용했지만 몇몇 평가에서는 내부 하네스, 구성 또는 경쟁 모델 공급자의 자체 보고 결과에 의존했습니다.

하드웨어 요구 사항이 큰 저렴한 비용

인클링의 비용 논리는 주로 희소 아키텍처와 제어 가능한 추론에 기반합니다. 41억 개의 매개변수만 활성화하면 유사한 크기의 밀집 모델을 실행하는 것보다 추론이 훨씬 더 효율적이어야 하며 개발자가 확장된 추론을 비활성화할 수 있습니다.

Tinker를 통해 64,000토큰 버전은 1백만 프리필 토큰당 1.87달러, 1백만 샘플 토큰당 4.68달러, 1백만 교육 토큰당 5.61달러로 가격이 책정되어 있습니다. 256,000토큰 구성은 프리필당 3.74달러, 샘플당 9.36달러, 교육당 11.23달러로 더 높은 가격이 책정되어 있으며 캐시 입력에 대한 더 낮은 비율이 제공됩니다.

이러한 수치는 대형 모델 실험을 더 접근하기 쉽게 만듭니다. 그러나 인클링은 대부분의 개발자가 일반 워크스테이션에서 실행할 수 있는 모델이 아닙니다. 전체 BF16 체크포인트는 최소 2테라바이트의 집계 그래픽 메모리가 필요합니다. 이는 8개의 Nvidia (NVDA ) B300 GPU 또는 16개의 H200 GPU와 동일합니다.

쿼티자화된 NVFP4 체크포인트는 요구 사항을 약 600기가바이트으로 줄입니다. 그러나 여전히 4개의 B300 GPU 또는 8개의 H200 GPU와 같은 인프라가 필요합니다. 실제로 많은 조직은 Tinker 또는 제3자 추론 공급자를 통해 인클링에 접근할 가능성이 있습니다.

검열 저항과 안전성 제어의 균형

인클링의 더 이례적인 설계 목표 중 하나는 씽킹 머신즈가 검열 저항이라고 설명하는 것입니다. 회사는 모델을 정치적 또는 제도적으로 민감한 주제에 대한 질문에 자동으로 거부하는 대신 답변하도록 훈련시켰습니다.

인클링은 Cognition의 선전 및 검열 벤치마크를 사용하여 평가되었으며 씽킹 머신즈는 모델이 “검열 비준수”의 강력한 패턴을 보여주었다고 보고했습니다. 기본 아이디어는 오픈 모델이 개발자의 선호도에 의해내장어진 불필요한 정치적 제한이나 표준화된 의견을 상속받지 않아야 한다는 것입니다.

그러나 인클링이 모든 요청에 답변하도록 설계된 것은 아닙니다. 회사는 별도로 무기, 폭력, 사이버 악용, 화학 또는 생물학 위협, 조작 및 기타 위험한 활동과 관련된 지침을 거부하도록 모델을 훈련시켰습니다.

인클링은 FORTRESS 안전성 벤치마크의 적대적 부분에서 78%를 기록했으며 95.9%의 유해한 요청과 유사한 양성 질문에 정확하게 답변했습니다. 또한 StrongREJECT에서 98.6%를 달성했으며 모델이 명백하게 유해한 지침을 거부하는지 측정합니다. 씽킹 머신즈는 이 조합이 모델이 합법적인 질문을 과도하게 차단하지 않고 안전성 제어를 유지할 수 있음을 나타낸다고 말합니다. 그러나 이후 제3자 미세 조정의 효과는 여전히 열린 연구 문제입니다.

오픈AI 리더십에서 1,200억 달러 스타트업으로

씽킹 머신즈 랩은 2025년 2월에 공식적으로 설립되었습니다. 이는 무라티가 오픈AI를 떠난 몇 개월 후입니다. 그녀는 ChatGPT, DALL-E 및 회사의 초기 음성 및 멀티모달 시스템 출시기간 동안 오픈AI의 최고 기술 책임자로 재직했습니다.

원래 팀에는 약 30명의 연구자와 엔지니어가 포함되어 있었으며 오픈AI, 메타, 미스트랄 및 기타 AI 조직에서 모집되었습니다. 출시에 있는 직원의 약 3분의 2는 이전에 오픈AI에서 근무했습니다. 창립 그룹에는 오픈AI의 공동 창립자 존 슐만, 바렛 조프, 릴리안 웅, 앤드류 튤로치, 루크 메츠가 포함되어 있으며 강화 학습, 모델 정렬, 멀티모달 AI, 사전 훈련 및 사후 훈련에 대한 경험을 갖추고 있습니다.

출시 5개월 후, 씽킹 머신즈는 약 20억 달러를 1,200억 달러의 평가액으로 조달했습니다. 앤드레센 호로위츠가 라운드를 주도했으며 엔비디아, 액셀, 서비스나우, 시스코, AMD 및 양자 거래 회사 제인 스트리트의 참여가 있었습니다.

엔비디아는 이후 다년간의 전략적 제휴를 통해 회사와의 관계를 확대했습니다. 2026년 3월에 발표된 이 협약은 씽킹 머신즈의 모델 훈련 및 사용자 정의 가능한 AI 플랫폼을 지원하기 위해 최소 1기가와트의 다음 세대 엔비디아 베라 루빈 시스템을 배포하는 것을 포함합니다. 엔비디아는 또한 회사에 추가 투자를했습니다.

인클링, 분산화 AI에 대한 더 넓은 베팅

씽킹 머신즈는 대부분의 AI 시스템이 소수의 회사에 의해 훈련되고 수정할 수 없는 제품으로 배포된다고 주장합니다. 회사의 대안은 기업과 개인이 지속적으로 자신의 지식, 선호도 및 판단을 사용하여 모델을 수정할 수 있는 생태계입니다.

이 철학은 인클링이 독점적 인터페이스를 통해 독점적으로 제공되지 않고 다운로드 가능한 가중치와 함께 출시되는 이유를 설명합니다. 또한 모델을 Tinker와 연결시킵니다. Tinker는 모델의 동작을 수정하는 데 필요한 교육 인프라를 제공합니다.

그러나 아직도 이 비전과 실제 출시 사이에 긴장감이 존재합니다. 인클링은 다운로드 및 수정할 수 있을 만큼 오픈이지만 충분히 크기 때문에 오직 잘 자금을 갖춘 조직만이 전체 모델을 호스팅할 수 있습니다. 훈련 데이터는 완전히 문서화되지 않았으며 사용자 정의는 원래 체크포인트에 내장된 안전성 제어를 약화시킬 수 있습니다.

발표는 인클링-스몰을 포함하여 서양 개발자에게 또 다른 대형 오픈 웨이트 옵션을 제공합니다. 많은 경쟁력 있는 사용자 정의 가능한 모델이 중국 연구소에서 나왔습니다.

인클링이 의미하는 것

인클링의 중요성은 모든 벤치마크에서 선두를 달리는 것보다 Narrow한 도메인 내에서 일반 목적 모델을 능가하는 전문 시스템으로 변환할 수 있는 개발자의 능력에 달려 있을 수 있습니다.

금융, 헬스케어, 엔지니어링, 사이버 보안, 과학 연구 및 소프트웨어 개발을 포함한 회사들은 종종 공개 교육 데이터에 잘 표현되지 않는 귀중한 내부 지식을 보유하고 있습니다. 능력 있는 오픈 웨이트 기초 모델과 강화 학습 및 미세 조정 인프라의 조합을 통해 이러한 조직은 더 많은 전문 지식을 모델 동작에 직접 인코딩할 수 있습니다.

동시에 모델은 효율성 주장을 총 배포 비용, 특히 인프라, 추론 볼륨, 미세 조정, 모니터링 및 안전성 테스트를 고려할 때 낮은 총 배포 비용으로 변환하는지 입증해야 합니다. 독립 연구자는 또한 벤치마크 성능, 다국어 기능, 정치적 중립성, 환각률 및 사용자 정의 후 안전성 저하에 대한 저항력을 조사해야 합니다.

씽킹 머신즈는 매우 경험풍부한 팀, 상당한 투자자 지원 및 일반적으로 훨씬 더 오래된 AI 연구소와 관련된 인프라 약속과 함께 시장에 입장했습니다. 인클링은 회사의 이러한 자원을 더 많은 야심적인 연구 계획과 교육 플랫폼보다 더 많은 것을 생산할 수 있는지 보여주는 첫 번째 기회입니다.

모델은 선도적인 사유 시스템을 대체하지 않으며 씽킹 머신즈 랩은 그렇다고 주장하지도 않습니다. 대신 인클링은 다른 제안을 제공합니다. 즉, 고급 AI의 미래는 가장 강력한 일반 목적 모델을 훈련하는 것뿐만 아니라 개발자가 자신의 모델을 구축하기 위한 가장 강력한 기초를 제공하는 것에 의해 결정될 수 있습니다.