파트너십
Tenstorrent, ConfidentialMind의 주권형 AI 플랫폼과 Galaxy 결합

핵심 포인트Tenstorrent와 ConfidentialMind는 데이터 통제가 필요한 구매자에게 자체 호스팅 AI 스택을 공동으로 판매할 것이다.
더 보기
- Tenstorrent와 ConfidentialMind는 데이터 통제가 필요한 구매자에게 자체 호스팅 AI 스택을 공동으로 판매할 것이다.
- 이 플랫폼은 추론 서빙, 벡터 데이터베이스, 접근 제어 및 관측성을 하나의 고객 운영 계층으로 묶는다.
- Galaxy Blackhole 하드웨어는 단일 독립형 시스템 기준 정가 16만 달러부터 시작한다.
Tenstorrent은 2026년 11월 16일 발표했다. ConfidentialMind의 자체 호스팅 AI 플랫폼이 프로세서 32개를 탑재한 자사의 Galaxy Blackhole 시스템에서 검증을 마쳤으며, 데이터와 AI 인프라를 직접 통제해야 하는 조직에 두 회사가 이 솔루션을 공동 판매할 예정이라고 밝혔다.
이번 제안은 정부 기관, 대학, 규제 대상 기업 및 추론 서비스 제공업체를 대상으로 한다. 유럽, 중동, 아시아 태평양 및 미주 지역에서 공동 판매를 진행하며, Tenstorrent은 반도체, 시스템 및 지역 현장 팀을 제공하고 ConfidentialMind는 배포 및 관리 계층을 맡는다.
고객이 직접 운영하는 AI를 위한 소프트웨어
이번 파트너십은 조직이 자체적으로 구축해야 했던 추론 서비스, 벡터 데이터베이스, 접근 제어, 가속기 관리 및 관측 기능을 하나의 패키지로 제공한다. ConfidentialMind의 플랫폼은 멀티테넌시, 데이터 커넥터 및 규정 준수 로깅도 처리해, 자체 호스팅 계층 하나에서 기반 컴퓨팅 자원에 배포 및 운영 제어 기능을 더한다.
고객은 셀프서비스 포털에서 오픈소스 대규모 언어 모델, 검색 증강 생성 파이프라인 및 에이전트를 배포할 수 있다. 플랫폼은 이러한 워크로드를 OpenAI 호환 API 엔드포인트로 제공하므로, 모델에 대한 접근은 해당 API 형식으로 처리되고 연산은 고객 자체 데이터센터에서 이루어진다.
이 계약은 하드웨어 구매와 플랫폼 통합 작업을 분리한다. Tenstorrent의 소프트웨어 파트너 생태계 책임자인 Grant Jensen은 팀이 먼저 소프트웨어 플랫폼을 구축하지 않아도 자체 시설에서 언어 모델, 검색 증강 생성 및 에이전트를 실행할 수 있도록 하는 것이 목표라고 말했다.
Galaxy Blackhole의 규모와 가격
Galaxy Blackhole은 공랭식 6U 랙 장착형 섀시에 Blackhole Tensix Processors를 탑재한다. Tenstorrent의 하드웨어 사양에는 Block FP8 연산 성능 23 PFLOPS와 대역폭 16 TB/s를 지원하는 GDDR6 가속기 메모리 1 TB가 명시돼 있다. 시스템의 평균 전력 소비량은 8~10 kW이며, 최대 전력은 12 kW이고 최대 14.5 kW까지 구성할 수 있다.
확장용으로 시스템은 클러스터 규모를 늘릴 수 있도록 800-GbE QSFP-DD 포트를 최대 56개 제공한다. 고객은 서버 한 대를 운영하거나 자체 데이터센터에 슈퍼클러스터를 구축할 수 있으며, Tenstorrent이 공개한 구성에는 대규모 언어 모델 추론 및 프라이빗 AI 인프라용 Galaxy 시스템 36대 이상을 연결하는 방안도 포함돼 있다.
단독 Galaxy Blackhole 하드웨어의 정가는 $160,000이며, Blackhole 시스템 4대로 구성된 슈퍼클러스터는 $640,000부터 시작한다. 공개된 가격은 두 가지 배포 방식에 필요한 하드웨어 초기 비용을 제시한다.
Tenstorrent에 따르면 컴파일러부터 커널까지 전체 소프트웨어 스택은 오픈소스다. 사용자는 지원되는 모델을 컴파일해 실행하거나 커널을 직접 조정할 수 있어, ConfidentialMind의 배포 및 관리 소프트웨어 아래에서 맞춤 설정할 수 있다.
기존 구축 사례와 고객 통제권
ConfidentialMind는 University of Helsinki, LUT University, Centria University of Applied Sciences 및 Elastx에서 이미 운영 중인 유럽 지역 구축 사례를 보유하고 있다. 이러한 기관들은 이제 Tenstorrent 하드웨어에서도 판매될 플랫폼의 현재 설치 기반을 보여주며, 공동 판매의 발판이 된다.
ConfidentialMind의 공동 창업자이자 북미 지역 총괄 책임자인 Severi Tikkala는 고객이 데이터가 반드시 자체 인프라에 남아 있어야 하기 때문에 자체 인프라에서 AI를 운영한다고 말했다. 그는 “Tenstorrent에서 실행하면 하드웨어 계층에서도 특정 업체에 종속되지 않습니다. 개방형 모델과 개방형 실리콘을 사용하고, 플랫폼도 직접 운영할 수 있습니다”라고 말했다.
통합 솔루션은 모델과 API부터 그 아래의 시스템까지 고객의 통제 범위를 넓힌다. 이러한 통제에는 인프라 운영에 대한 책임이 따른다. 고객이 컴퓨팅 자원을 직접 보유하고 전력을 공급하며 운영하는 한편, 공급업체가 검증한 스택은 고객이 내부적으로 구축해야 했을 플랫폼 계층을 제공한다.












