루도비크 라줄, 밍소로지의 창립자이자 CEO – 인터뷰 시리즈

루도비크 라줄은 밍소로지의 창립자이자 CEO입니다. 밍소로지는 딥 러닝 추론을 위한 최첨단 가속 기술에 중점을 둔 혁신적인 스타트업입니다. mereka는 추론 신경망의 계산을 가속화하고 하드웨어 가속기를 AI 사용자에게 숨기는 기술을 개발했습니다. 밍소로지의 제브라는 이러한 기술을 포함하는 최초의 상업용 가속기입니다. 제브라는 높은 성능과 사용 편의성을 제공합니다.

AI와 마이크로 칩에 관심을 가지게 된 것은 무엇입니까?

저는 이전 회사 EVE에서 약 20년 동안 특정 유형의 슈퍼 컴퓨터를 설계했습니다. 그런 다음 2012년에 Synopsys에 인수되었습니다. 이러한 컴퓨터는 ASIC 에뮬레이터라고도 불리며, 전 세계의 많은 회사가 ASIC를 설계하는 데 사용합니다. 저는 이러한 작업의 복잡성과 다양성을非常히 즐겼습니다. 성공하려면 (a) 전자, 소프트웨어, 복잡한 알고리즘, 칩 설계 방법, 칩 아키텍처, 전력 등을 이해해야 하며, (b) 고객의需求을 2-3년 전에 예측해야 하며, (c) 지속적으로 혁신해야 하며, (d) 스타트업으로서 경쟁사보다 더 적은 자원으로 승리해야 합니다. 20년의 성공 이후, 저는 새로운 도전을 찾고 있었습니다. 이때 AI가 다시 주목을 받기 시작했습니다. AlexNet은 이미지 이해에서 큰 발전을 이루었습니다. 딥 러닝은 새로운 것이었지만 유망했습니다.

밍소로지를 설립한 영감은 무엇입니까?

저는 “영감”이라는 단어를 사용하지 않겠습니다. 초기에는 “다른 것과 더 좋은 것을 할 수 있을까?”라는 생각이 있었습니다. 그것은 AI 사용자가 무엇을 원하고 할 것인지에 대한 가정에서 시작되었습니다. 다음 몇 년은 그 가정에 기반하여 더好的 해결책을 찾는 데 사용되었습니다. 저는 팀원들이 자신이 만드는 것에서 최고가 되고 싶어한다고 생각합니다. 그것은 강한 팀을 만들며, 다른 사람이 해결하지 못하는 문제를 해결할 수 있습니다.

밍소로지는 FPGA 보드를 사용합니다. FPGA는 무엇입니까?

FPGA는 하드웨어 수준에서 프로그래밍할 수 있는 전자 구성 요소입니다. 그것을 레고로 생각할 수 있습니다. 각 작은 블록은 단순한 연산을 수행하거나稍微 더 복잡한 연산을 수행할 수 있습니다. 이러한 블록을 그룹화하여 칩이 제조된 후에 특정한 동작을 만들 수 있습니다. 이것은 GPU와 거의 모든 다른 칩과는 반대입니다. 그들은 특정 기능을 위해 설계되며, 이후에는 변경할 수 없습니다.

일부 칩은 CPU나 GPU와 같이 프로그래밍할 수 있습니다. 그러나 FPGA와 같은 병렬성은 없습니다. FPGA는 한 번에 몇百만개의 단순한 연산을 수행할 수 있으며, 이는 6-7억번의 연산을 1초에 수행할 수 있습니다. 또한 프로그래밍할 수 있기 때문에 다른 문제에 적응하기 위해 그들이 하는 일을 언제든지 변경할 수 있습니다. 이러한 컴퓨팅 파워는 매우 강력합니다. FPGA는 이미 거의 모든 곳에 있습니다. 모바일폰의 기지국, 네트워크, 위성, 자동차 등에 사용됩니다. 그러나人们은 그것을 잘 모릅니다. 왜냐하면 CPU와 같은.VISIBLE하지 않기 때문입니다.

FPGA 보드가 더 인기 있는 GPU보다 우수한 이유는 무엇입니까?

FPGA는 여러 가지 측면에서 우수합니다. 몇 가지 중요한 점에만 집중하겠습니다.

GPU는 이미지 렌더링을 위해 설계되었습니다. 주로 게임을 위해 설계되었습니다. 일부 연산이 AI와 일치하기 때문에 잘 맞습니다. 그러나 주로 게임을 위해 설계되었기 때문에 신경망과 잘 맞지 않는 제약이 있습니다.

또한 프로그래밍이 2-3년 전에 결정된 명령어로 제한됩니다. 문제는 신경망이 ASIC의 설계보다 더 빠르게 발전하고 있기 때문에, 미래를 예측하는 것이 쉽지 않습니다. FPGA는 하드웨어 수준에서 프로그래밍할 수 있기 때문에, 우리는 AI의 발전을 더 쉽게 따라갈 수 있습니다. 이것은 더好的 제품을 제공하고, 고객의需求을 충족하며, 다음 실리콘 세대를 기다리지 않아도 됩니다.

또한 GPU는 소비자 제품으로 설계되었습니다.寿命이故意적으로 짧습니다. 왜냐하면 GPU를 설계하는 회사는 몇 년 후에 새로운 것을 판매하고 싶어하기 때문입니다. 이것은 전자 시스템에서 안정적으로 사용해야 하는 경우에 적합하지 않습니다. FPGA는 강력하고, 24/7로 사용할 수 있습니다.

FPGA의 다른 잘 알려진 장점은:

• 네트워킹이나 비디오 처리와 같은 특정 영역에 적합한 많은 옵션이 있습니다.
• 데이터 센터와 에지 또는 임베디드 시스템에서 잘 작동합니다.
• 특수한 냉각이 필요하지 않습니다(큰 GPU와 같은 워터 쿨링).

FPGA의 주요 단점은 프로그래밍이 어렵습니다. 특정 지식을 필요로 합니다. FPGA를 판매하는 회사가 복잡성을 줄이기 위해 많은 노력을 기울였지만, 여전히 CPU만큼 간단하지 않습니다. 사실, GPU도 간단하지 않습니다. 그러나 AI를 위한 소프트웨어가 프로그래밍을 숨기기 때문에, 이러한 지식이 필요하지 않습니다. 이것이 밍소로지가 해결한 문제입니다. FPGA를 프로그래밍하거나 지식을 필요로 하지 않습니다.

FPGA 보드의 현재 제한은 무엇입니까?

일부 FPGA 보드는 GPU 보드와 같습니다. 컴퓨터의 PCIe 슬롯에 꽂을 수 있습니다. 잘 알려진 장점 중 하나는 전력 소비가 일반적으로 GPU보다 낮습니다. 또 하나는 FPGA 보드의 선택이 GPU 보드보다 더 많습니다. 다양한 시장에서 사용할 수 있는 더 많은 FPGA 보드가 있습니다. 이것은 더 많은 가능성을 의미하며, 더 낮은 비용으로 신경망을 계산할 수 있습니다. GPU는 데이터 센터에서만 사용할 수 있습니다.

밍소로지의 제브라는 FPGA 보드를 포함하는 최초의 상업용 가속기입니다. 제브라에 대해 설명해 주십시오.

AI와 GPU에 익숙한 사람들에게 가장 쉬운 설명은 제브라가 FPGA에 대한 Cuda/CuDNN과 같은 것입니다. 제브라는 일반적인 프레임워크인 PyTorch 또는 TensorFlow 뒤에 FPGA를 완전히 숨기는 소프트웨어 스택입니다. 우리는 주로 이미지와 비디오의 추론을 대상으로 합니다. 제브라는 일반적으로 부동 소수점으로 훈련된 신경망을 가져와서, 사용자의 수동적인 노력이나 독점적인 툴 없이,任意의 FPGA 기반 카드에서 실행할 수 있습니다. 이것은 매우 간단합니다. FPGA 보드를 꽂고, 드라이버를 로드하고, 제브라 환경을 로드하고, CPU 또는 GPU에서 실행하는 것과 동일한 추론 애플리케이션을 실행합니다. 우리는 정확성을 유지하는自己的 양자화를 가지고 있으며, 성능은 즉시 제공됩니다. 사용자가 배울 필요가 있는 독점적인 툴이 없으며, 높은 처리량이나 낮은 지연을 얻기 위해 몇 시간의 엔지니어링 시간이 필요하지 않습니다. 이것은 빠른 전환을 의미하며, 이는 비용과 시장 출시 시간을 줄입니다.

제브라가 가장 적합한 응용 프로그램 유형은 무엇입니까?

제브라는 매우 일반적인 가속 엔진입니다. 따라서 이미지와 비디오를 위한 신경망 계산을 가속화할 수 있습니다. 우리는 다양한 시장에서 요청을 받고 있습니다. 그러나 모두가 신경망을 계산하는 것과 관련이 있습니다. 모두가 분류, 분할, 超해상도, 신체 위치 지정 등과 같은 것을 필요로 합니다.

제브라는 FPGA 위에서 실행되므로任意의 보드를 사용할 수 있습니다. 일부 보드는 데이터 센터에서 사용하기 적합합니다. 다른 보드는 에지 또는 임베디드 시스템에서 사용하기 적합합니다. 우리의 비전은 FPGA가 사용할 수 있다면, 사용자가 신경망 계산을 즉시 가속화할 수 있도록 하는 것입니다. 또한 GPU 또는 CPU를 사용하는 경우, 제브라는 AI 인프라의 비용을 줄일 수 있습니다. 우리가 이야기하는 대부분의 회사들은 유사한 문제를 가지고 있습니다. AI 기반 응용 프로그램을 더 많이 배포할 수 있지만, 비용이 제한하고 있습니다.

제브라를 사용하려는 회사의 경우, 과정은 무엇입니까?

지원팀에 문의해 주십시오. support@mipsology.com

밍소로지에 대해 더 공유하고 싶은 내용이 있습니까?

우리는 Zebra 솔루션에 대한 AI 커뮤니티의 피드백으로 매우 격려받고 있습니다. 특히, 이것이 시장에서 최고의 가속기라는 피드백을 받았습니다. 몇 개월 만에, 우리는 이미 성장하는 파트너 생태계를 가지고 있습니다. Xilinx, Dell, Western Digital (WDC ), Avnet, TUL 및 Advantech를 포함한 여러 회사가 있습니다.

이 혁신적인 기술에 대해 더 배우고 싶은 독자들은 밍소로지의 웹사이트를 방문할 수 있습니다.

https://www.youtube.com/watch?v=sIBEg_eGU8g