넥스트실리콘의 엘라드 라즈 CEO – 인터뷰 시리즈

엘라드 라즈, 넥스트실리콘의 CEO는 저급 시스템, 보안, 네트워킹, 파일 시스템 개발에 대한 깊은 전문 지식을 널리 인정받고 있는 경험豊한 기업가이자 기술 리더입니다. 엘리트 軍事 엔지니어링 역할, 시니어 소프트웨어 리더십, 회사 설립, 장기 투자와 같은 경력을 통해 라즈는 운영 체제 내부와 하드웨어-소프트웨어 통합을 위한 복잡하고 임무에 중대한 프로젝트를 이끌었습니다. 넥스트실리콘을 설립하기 전에 그는 여러 기술 회사들을 설립하고 매각했으며, 주요 반도체 회사에서 시니어 리더십 역할을 수행했으며, 다양한 스타트업에 투자했으며, 이를 통해 실질적인 엔지니어링 깊이와 강력한 실행 및 장기 전략적 비전을 결합했습니다.

넥스트실리콘은 2017년에 설립된 이스라엘의 고성능 컴퓨팅 및 반도체 회사로서, AI 및 과학적 컴퓨팅과 같은 요구가 높은 워크로드를 위한 컴퓨팅 아키텍처를 재정의하고 있습니다. 이 회사는 개발자들이 애플리케이션을 다시 작성할 필요 없이 높은 성능과 효율성을 제공하는 소프트웨어 정의형 지능형 컴퓨팅 플랫폼을 개발했습니다. 하드웨어 수준에서 적응성을 중점으로 넥스트실리콘은 현대적인 데이터 센터와 슈퍼컴퓨팅 환경에서 근본적인 병목 현상을 해결하고자 하며, 전통적인 가속기 대신 차세대 대안으로 자리매김하고 있습니다.

넥스트실리콘을 설립하기까지의 여정을 이야기해 주시겠습니까? 초기 아이디어는 무엇이었으며, 초기 컴퓨팅 경험은 어떻게 비전을 형성했나요?

私は子供의 때부터 컴퓨터에 매료되었습니다. 그 매료는 오래된 코모도르 64와 아타리(현재도 수집하고 있습니다)를 조작하는 것에서부터 시작하여 스타트업을 공동 설립하고, 이전 회사를 멜라녹스에 매각하는 것까지 이르렀습니다. 그러나 초기 성공에도 불구하고,私は 이 산업에서 계속해서 같은 도전을 직면했습니다. 계산 워크로드가 더 복잡해짐에 따라 전통적인 CPU와 GPU 아키텍처는 성능, 전력 효율성, 확장성 한계에 도달하고 있습니다. 알고리즘 최적화 또는 대규모 시뮬레이션 실행과 같은 경우, 현재 아키텍처가 워크로드에 적응하도록 강제하는 것이 아니라, 하드웨어에 워크로드를 적응시키는 것이 명백해졌습니다.

넥스트실리콘의 아이디어는 이러한 반복되는 도전과 질문에서 비롯되었습니다. 하드웨어가 워크로드에 적응하는 컴퓨팅 아키텍처를 구축할 수 있다면 어떻게 될까요? 초기의 알고리즘 설계와 하드웨어에 대한 노출은 실시간으로 알고리즘과 하드웨어를 결합하는 것이真正한 혁신을 가져올 것임을 가르쳤습니다. 이것이 우리의 지능형 컴퓨팅 아키텍처(ICA)와 넥스트실리콘의 지침이 되는 비전입니다.

메버릭-2는 실시간 워크로드에 적응하는 지능형 컴퓨팅 가속기라고 설명됩니다. 전통적인 GPU 또는 FPGA와는 어떻게 다른가요? 그리고那种 수준의 적응성을 가능하게 하는 것은 무엇인가요?

CPU와 GPU는 우리의 세계를 변혁시키고 잘 служ해왔습니다. 그러나 현대적인 AI와 고성능 컴퓨팅(HPC) 워크로드의 요구를 충족하기 위해 설계되지 않았습니다. 이러한 워크로드는 복잡한 데이터 종속성, 메모리 액세스 패턴, 계산 패턴을 가지고 있으며, 현재의 프로세서는 이를 처리하도록 설계되지 않았습니다. 결과는 혁신을 늦추는 병목 현상입니다.

메버릭-2의 핵심 차이점은 재구성 가능한 데이터 흐름 엔진과 실시간 소프트웨어 최적화를 결합한 새로운 접근 방식입니다. 하드웨어는 워크로드에 따라 구성되며, 그 반대가 아닙니다. 메버릭-2의 경우, 데이터 가용성이 계산을 구동하며, 전통적인 프로세서에서 프로그램 카운터가 명령어 실행을 구동하는 것과는 다릅니다. 이것은 워크로드 패턴에 따라 구성되고 재구성될 수 있는 소프트웨어 정의 가상 처리 단위를 생성할 수 있도록 합니다.

결과는 다음과 같습니다. 메버릭-2는 GPU보다 4배 이상의 성능-와트를 제공하며, CPU보다 20배 이상의 성능을 제공합니다. 또한 운영 비용을 절반 이상 줄입니다. 따라서 연구자와 엔지니어는 대규모, 불규칙한 시뮬레이션을 더 빠르고 효율적으로 실행할 수 있으며, 이는 단편의 시간에 대한 통찰력과 혁신을 가능하게 합니다.

메버릭-2는 GPU보다 4배 이상의 성능-와트를 달성한다고 보고되었습니다. 이러한 성능 향상을 가능하게 하는 주요 혁신은 무엇인가요?

성능 향상은 몇 가지 주요 혁신이 함께 작용하여 발생합니다.

첫째, 우리는 80년 동안 컴퓨팅을 지배해온 폰 노이만 모델에서 벗어났습니다. 순차적 명령어 실행 대신 메버릭-2는 데이터 가용성에 따라 계산을 수행하는 데이터 흐름 아키텍처를 사용합니다. 이는 불규칙적이고 메모리 집중적인 워크로드에 더 근본적으로 적합합니다.

둘째, 우리의 자체 최적화 아키텍처는 실시간으로 소프트웨어 정의 프로세서 코어를 생성합니다. 하드웨어는 각 애플리케이션의 필요에 따라 적응하며, 코드를 다시 작성할 필요 없이 최적화를 얻을 수 있습니다.

셋째, 이는 중요합니다. 우리는 실제 워크로드에서 지속적인 성능에 중점을 둡니다. 많은 아키텍처는 종이 위에서는 훌륭하지만 실제 워크로드에서 실망합니다. 메버릭-2는 AI, HPC, 벡터 데이터베이스에서 지속적인 효율성을 유지함으로써 워크로드의 필요에 따라 지속적으로 적응합니다.

메버릭-2는 C/C++, Fortran, OpenMP, Kokkos를 지원하며, 코드 변경 없이 즉시 실행할 수 있습니다. 개발자들은 이러한 호환성에 어떻게 반응했나요? CUDA, ROCm, 또는 인기 있는 AI 프레임워크를 지원하는 계획은 무엇인가요?

개발자들은 메버릭-2가真正한 “드롭-인 대체”라는 것을 좋아합니다. 즉, 코드를 수정하지 않고 즉시 실행할 수 있습니다. 현재 우리는 C/C++, Fortran, OpenMP, Kokkos를 지원하며, CUDA, ROCm, TensorFlow, JAX, PyTorch, ONNX와 같은 주요 AI 프레임워크를 개발 중입니다. 이것은 벤더 잠금을 제거하고 비용적인 코드 수정을 피할 수 있으며, 고객이 새로운 아키텍처를 평가하고 채택할 수 있도록 워크플로를 방해하지 않습니다.

메버릭-2의 텔레메트리 기반 시스템 최적화는 어떻게 작동합니까? 칩을 실시간으로 프로파일링하고 재구성하는 것은 무엇을 포함합니까?

我们的 시스템 최적화를 연속적인 루프라고 생각하세요. 실행 중에, 텔레메트리 시스템은 수백 개의 성능 지표(예: 메모리 대역폭, 사용률, 큐 깊이)를 측정합니다. 모든 데이터는 런타임 최적화기에 공급되며, 현재 하드웨어 구성이 워크로드와 예상되는 필요에 대해 여전히 최적인지 결정합니다. 그렇지 않으면, 자원을 재분할하고 데이터 경로를 재정렬하며 계산 파이프라인을 지속적으로 조정할 수 있습니다. 이는 애플리케이션이 중지되지 않음을 의미합니다. 이것은 밀리초 내에 발생하므로, 애플리케이션이 계산 프로파일이 변경됨에 따라 일관된 피크 효율성을 유지합니다.

메버릭-2의 적응형 런타임 성능 조정이 덜 효과적이거나 대기 시간 또는 전력에서 트레이드오프를 초래하는 특정 워크로드 또는 에지 케이스가 있나요?

모든 아키텍처에는 트레이드오프가 있습니다. 메버릭-2는 복잡하고 불규칙적인 워크로드에서 뛰어난 성능을 발휘합니다. 예측 가능한 고정 함수 워크로드의 경우, 잘 튜닝된 GPU는 적응의 오버헤드 없이 매우 효율적일 수 있습니다. 이러한 경우, 우리의 적응성은 여전히 좋은 성능을 제공하지만, 상대적인优势은 더 작을 수 있습니다.

넥스트실리콘의 설계는 간단한 경우에 대한 유연성과 경쟁력에 관한 것입니다. 그러나 도전적인 경우에는 변혁적입니다.

당신은 초기에 HPC 시장에 중점을 두기로 결정했습니다. 대부분의 스타트업이 AI로 돌입하는 동안, 어떻게 이러한 결정이 제품과 비즈니스 전략을 형성했나요?

HPC는 대규모 데이터셋, 불규칙한 메모리 액세스, 예측할 수 없는 계산 패턴을 위한 계산 복잡성과 문제 해결의 최전선입니다. 만약 당신이 그곳에서 아키텍처를 구축할 수 있다면 – 예를 들어, 기후 모델링 또는 입자 물리학에서 엑사바이트 규모의 시뮬레이션을 실행하는 경우 – 그것은 AI에서도 뛰어난 성능을 발휘할 것입니다.

HPC에 초점을 맞추면서, 우리는 메버릭-2를 가장 요구가 높은 워크로드에서 입증했으며, 기후 모델링, 물리학, 생명 과학에서 실제 성능 데이터와 성숙한 제품을 얻었습니다. 이것은 우리가 신뢰성을 얻었으며, 아키텍처를 단기적인 트렌드나 필요에 맞추지 않고, AI 시장으로 확장하기 전에 실제로 성과를 낼 수 있게 되었습니다.

메버릭-2가 생산에 들어가고 수십 개의 고객에게 배포된 지금, 구체적인 예시와 벤치마크를 공유할 수 있나요?

주목할만한 예시는 샌디아 국립 연구소에서 메버릭-2가 스펙트라 슈퍼컴퓨터를 구동하는 것입니다. 우리는 코드 수정 없이 뛰어난 성능 결과를 보았습니다. 우리는 또한 ODISSEE(Online Data Intensive Solutions for Science in the Exabytes Era)와 협력하고 있습니다. 이는 주요 연구 기관이 CERN의 고루미도 대형 하드론 충돌기와 제곱 킬로미터 어레이 관측소에서 엑사바이트 규모의 데이터를 처리하는 데 도전합니다. 메버릭-2는 원시 실험 데이터를 이전에 필요한 시간과 에너지의 일부만으로 처리하여 물리학 분석과 천문학적 발견을 가속화하는 데 중요한 역할을 할 것입니다.

당신은 3억 달러 이상을 조달했으며, 2021년과 최근에 주요 라운드를 발표했습니다. 이러한 자금 조달이 제품 개발과 시장 확장에 어떻게 영향을 미쳤나요?

자금 조달로 우리는 세 가지 일을 할 수 있었습니다. 첫째, 우리는 아키텍처를 더욱 발전시킬 수 있었습니다. 이는 점진적인 개선이 아닌, 메버릭-2를 생산 준비로 만드는 근본적인 발전이었습니다. 둘째, 우리는 수요 증가에 따라 제조와 공급망을 확대할 수 있었습니다. 이는 새로운 실리콘에 대한 비중있는 도전이었습니다. 셋째, 우리는 고객이 통합하고 배포할 수 있도록 소프트웨어 생태계를 확장할 수 있었습니다.

또한 전략적인 파트너십을 통해 슈퍼컴퓨팅 센터와 클라우드 제공업체와의 협력을 강화할 수 있었습니다. 이는 우리가 개념에서 배포까지의 프로세스를 간소화하고, 전통적인 하드웨어 스타트업보다 훨씬 빠르게 확장할 수 있게 되었습니다.

Cerebras (CBRS ), SambaNova, Nvidia (NVDA ) 와 같은 경쟁자와 비교하여, 넥스트실리콘은 어떻게 자리매김하고 있나요? 도전자로서의 시장 진출 전략은 무엇인가요?

우리는 넥스트실리콘을 단순한 칩 회사보다는 기술 회사로 본다. 우리는 모든 워크로드를 최적화하고, 적응성을 제공하며, 고객을 특정 프로그래밍이나 하드웨어에 잠금하지 않는다. 고객은 기존 코드를 가져와 즉시 가속을 달성할 수 있으며, CUDA와 같은 단일 에코시스템에 대한 잠금이나 길고 긴 포팅 주기를 걱정할 필요가 없습니다. 이는 AI 워크로드가 순수한 훈련을 넘어 발전하는 경우 특히 중요합니다. 추론 모델, 확장된 추론, 대규모 컨텍스트 창은 근본적으로 다른 계산 패턴을 요구합니다. 즉, 더 동적인 메모리 액세스, 가변 길이 계산, 적응형 리소스 할당이 필요합니다. 이러한 문제는 고정 아키텍처로 해결할 수 없습니다.

우리의 시장 전략은 가장 어려운 문제를 먼저 해결하는 것입니다. 즉, 연구 기관, 국립 연구소, 기업에서 성능, 에너지 효율성, 유연성이 중요한 곳에서 협력합니다. 거기서부터 우리는 더 넓은 AI와 데이터 집중적인 시장으로 확장합니다. 산업은 고정 아키텍처로 지배되고 있습니다. 우리는 처음부터 적응성을 구축한 것을 제공하고 있습니다. AI는 순수한 규모에서 지능으로 전환되고 있습니다. 더 큰 모델은 더智能한 추론을 가능하게 하며, 짧은 프롬프트에서 長컨텍스트 이해까지입니다. 이러한 전환에서, 적응형 아키텍처는 혁신적일 뿐만 아니라 필수적입니다.

멋진 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 넥스트실리콘을 방문하십시오.