루마이의 필립 버, 제품 책임자 – 인터뷰 시리즈

필립 버는 루마이의 제품 책임자로, 세계적인 제품 관리, 시장 진출 및 리더십 역할에서 25년 이상의 경험을 가지고 있으며, 제품 및 서비스를 구축하고 확장하는-Proven 트랙 기록을 가지고 있습니다.

루마이는 영국에 기반을 둔 딥 테크 회사로, 인공 지능 워크로드를 가속화하기 위한 3D 광학 컴퓨팅 프로세서를 개발하고 있습니다. 3차원에서 광선으로 행렬-벡터 곱을 수행함으로써, 이 기술은 전통적인 실리콘 기반 가속기보다 최대 50배의 성능과 90% 적은 전력 소비를 제공합니다. 이것은 대규모 언어 모델을 포함한 AI 추론 작업에 특히 적합하며, 에너지 비용과 환경 영향을 크게 줄입니다.

루마이의 창립이 영감을 받은 배경과, 옥스포드 대학 연구에서 商業 벤처로 발전한 과정은 무엇인가?

초기 아이디어는 루마이의 창립자 중 한 명인 Dr. Xianxin Guo가 옥스포드 대학에서 1851 연구 펠로십을 받았을 때 시작되었습니다. 인터뷰자들은 광학 컴퓨팅의 잠재력을 이해하고, Xianxin에게 연구가 성공적일 경우 특허 및 회사 설립을 고려할 것을 요청했습니다. 이것은 Xianxin의 창의적인 마음을 자극하였고, 그는 루마이의 다른 공동 창립자 Dr. James Spall와 함께 광을 사용하여 컴퓨팅을 수행할 수 있을 때, AI 성능을 크게 향상시키고 에너지를 줄일 수 있다는 것을 증명했습니다. 그들은 기존의 실리콘 기반 AI 하드웨어가 성능을 향상시키기 위해 많은 전력과 비용이 소요되는 것을 알고, 광학 컴퓨팅을 사용하여 고객이 원하는 제품을 만들 수 있다고 믿었습니다. 그들은 이 아이디어를 몇몇 벤처 캐피탈에 제안하여 루마이를 설립하였습니다. 루마이는 최근 두 번째 라운드의 자금 조달을 마치고, 1,000만 달러 이상의 자금을 조달하고, 추가 투자자를 유치하였습니다.

Arm, indie Semiconductor (INDI ) 등에서 경력을 쌓은 후, 루마이에서 제품 책임자로 일하게 된 배경은 무엇인가?

간단한答案은 팀과 기술입니다. 루마이는 광학, 기계 학습 및 데이터 센터 전문가들로 구성된 인상적인 팀을 가지고 있으며, 메타, 인텔, 알테라, 맥셀러, 시게이트, IBM 등의 경험을 가지고 있습니다. 저는 이러한 팀이 AI 추론 비용을 줄이는挑戰을 해결할 수 있다고 믿었습니다.

저는 미래의 AI는 새로운 혁신적인 컴퓨팅 기술이 필요하다고 믿습니다. 50배의 AI 컴퓨팅 성능과 현재의 솔루션보다 1/10의 비용을 제공할 수 있는 기회는 너무나 매력적이었습니다.

루마이의 초기 기술적 또는 비즈니스적인 도전은 무엇인가?

연구적인 돌파구는 광학을 사용하여 빠르고 효율적인 행렬-벡터 곱을 수행할 수 있음을 보여주었습니다. 그러나 가장 큰 도전은 사람들이 루마이가 다른 광학 컴퓨팅 스타트업이 실패한 곳에서 성공할 수 있을지에 대한 의구심을 해소하는 것이었습니다. 우리는 루마이의 접근 방식이 매우 다르며, 2D 칩에 의존하지 않고 3D 광학을 사용하여 규모와 효율성을 달성할 수 있음을 설명해야 했습니다. 연구에서 기술을 개발하여 데이터 센터에서 배포할 수 있는 제품으로 만드는 과정에는 많은 단계가 있습니다. 우리는 초기에 제품을 개발하여 높은 볼륨으로 데이터 센터에서 배포할 수 있는 엔지니어들을招聘해야 한다는 것을 인식했습니다. 또 다른 영역은 소프트웨어입니다. 표준 AI 프레임워크와 모델이 루마이의 프로세서를 사용할 수 있도록 하며, AI 소프트웨어 엔지니어들에게 이러한 것을 쉽게 사용할 수 있는 도구와 프레임워크를 제공해야 합니다.

루마이의 기술은 3D 광학 행렬-벡터 곱을 사용한다고 합니다. 일반적인 관점에서 이를 설명해 주시겠습니까?

AI 시스템은 많은 수학적 계산을 수행해야 하며, 이러한 계산은 AI의 엔진입니다. 루마이에서는 이러한 계산을 전기 대신 광을 사용하여 수행합니다. 다음과 같이 작동합니다:

1. 정보를 광선으로 인코딩합니다
2. 광선이 3D 공간을 통과합니다
3. 광선이 렌즈와 특수 재료와 상호 작용합니다
4. 이 상호 작용이 수학적 연산을 완료합니다

3D 공간의 모든 차원을 사용하여, 우리는 각 광선으로 더 많은 정보를 처리할 수 있습니다. 이것은 우리의 접근 방식이 매우 효율적임을 의미하며, 에너지, 시간 및 비용을 줄입니다.

루마이의 기술은 전통적인 실리콘 기반 GPU 및 광학적 접근 방식의 주요优势은 무엇인가?

실리콘 기술의 발전 속도는 크게 느려졌습니다. 따라서 실리콘 전용 AI 프로세서(예: GPU)의 성능을 향상시키는 것은 전력 소비를 크게 증가시킵니다. 실리콘 전용 솔루션은 엄청난 양의 전력을 소비하며, 이는 비용과 복잡성을 크게 증가시킵니다. 광학을 사용하는优势는 광학 영역에서 거의 전력이 소비되지 않는다는 것입니다. 에너지는 광학 영역으로 들어가는 데 사용되지만, 예를 들어 루마이의 프로세서는 각 광선으로 1,000개의 연산을 수행할 수 있으며, 이는 매우 효율적입니다. 이는 집적 광학으로는 달성할 수 없는 것입니다.

루마이의 프로세서는 거의 제로 레이턴시 추론을 어떻게 달성하는가? 그리고 이는 현대 AI 워크로드에 왜 중요한가?

루마이 프로세서는 정확하게 제로 레이턴시를 제공하지는 않지만, 매우 큰 행렬-벡터 연산(1024 x 1024)을 단일 사이클에서 수행할 수 있습니다. 실리콘 전용 솔루션은 행렬을 작은 행렬로 나누어 개별적으로 처리한 후 결과를 결합해야 합니다. 이는 시간이 걸리며, 더 많은 메모리와 에너지를 사용합니다. AI 처리 시간, 에너지 및 비용을 줄이는 것은 더 많은 비즈니스에서 AI를 활용할 수 있도록 하며, 또한 더 지속 가능한 방식으로 고급 AI를 가능하게 합니다.

루마이의 PCIe 호환 형태는 기존 데이터 센터 인프라와 어떻게 통합되는가?

루마이 프로세서는 표준 CPU와 함께 PCIe 카드를 사용하며, 표준 4U 셸프에 있습니다. 우리는 여러 데이터 센터 랙 장비 공급업체와 협력하여 루마이 프로세서가 그들의 장비와 통합되도록 합니다. 우리는 표준 네트워크 인터페이스, 표준 소프트웨어 등을 사용하여, 외부에서 루마이 프로세서는 다른 데이터 센터 프로세서와 동일하게 보입니다.

데이터 센터 에너지 사용은 점점 더 큰 문제가 되고 있습니다. 루마이는 어떻게 지속 가능한 AI 컴퓨팅 솔루션으로 자리매김하고 있나?

데이터 센터 에너지 소비는 급격히 증가하고 있습니다. 로렌스 버클리 국립 연구소의 보고서에 따르면, 미국의 데이터 센터 전력 소비는 2028년까지 3배 이상 증가하여 국가 전력의 12%를 차지할 수 있습니다. 일부 데이터 센터 운영자는 필요한 에너지를 공급하기 위해 원자력 발전소를 설치하고 있습니다. 이 산업은 AI에 대한 다른 접근 방식을 고려해야 하며, 우리는 광학이 에너지 위기를 해결하는答案이라고 믿습니다.

루마이의 아키텍처는 현재의 실리콘 및 광학적 접근 방식의 확장성 병목 현상을 어떻게 피하는가?

루마이의 첫 번째 프로세서의 성능은 시작에 불과합니다. 우리는 우리의 솔루션이 계속해서巨大한 성능 향상을 제공할 것으로 예상합니다. 우리는 광학 클록 속도와 벡터 너비를 증가시킴으로써, 에너지 소비 없이 성능을 향상시킬 수 있습니다. 다른 솔루션은 성능을 향상시키기 위해 더 많은 전력과 비용을 소비할 것입니다. 표준 디지털 실리콘 전용 접근 방식은 성능을 향상시키기 위해 더 많은 전력과 비용을 소비할 것입니다. 집적 광학은 필요한 벡터 너비를 달성할 수 없으며, 따라서 데이터 센터 컴퓨팅에 집적 광학을 사용하려고 했던 회사들은 다른 부분으로 이동했습니다.

루마이의 제품 책임자는 미래의 AI와 컴퓨팅 전체에서 광학 컴퓨팅의 역할을 어떻게 보는가?

광학은 데이터 센터에서 광학적 상호 연결, 광학적 네트워킹, 광학적 스위칭 및 광학적 AI 처리를 포함하여 중요한 역할을 할 것입니다. AI가 데이터 센터에 미치는 요구는 이러한变化의 핵심驱动力입니다. 광학적 상호 연결은 더 빠른 AI 프로세서 간의 연결을 가능하게 하며, 이는 대규모 AI 모델에 필수적입니다. 광학적 스위칭은 더 효율적인 네트워킹을 가능하게 하며, 광학적 컴퓨팅은 더 빠르고, 에너지 효율적인 AI 처리를 가능하게 합니다. 이러한 기술들은 함께 더 발전된 AI를 가능하게 하며, 실리콘 스케일링의 감소와 구리 상호 연결의 속도 제한을 극복할 것입니다.

이 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 루마이를 방문하십시오.