Doug Fuller, Cornelis Networks의 소프트웨어 엔지니어링 부사장 – 인터뷰 시리즈

소프트웨어 엔지니어링 부사장으로서, Doug는 Cornelis Networks의 소프트웨어 스택의 모든 측면을 책임지고 있습니다. 이것에는 Omni-Path 아키텍처 드라이버, 메시징 소프트웨어, 및 임베디드 디바이스 제어 시스템이 포함됩니다. Cornelis Networks에 합류하기 전에, Doug는 Red Hat에서 클라우드 스토리지 및 데이터 서비스를 위한 소프트웨어 엔지니어링 팀을 이끌었습니다. Doug의 HPC 및 클라우드 컴퓨팅 경력은 Ames National (ATLO ) Laboratory의 Scalable Computing Laboratory에서 시작되었습니다. 이후 여러 대학 연구 컴퓨팅 역할을 맡은 후, Doug는 2009년에 US Department of Energy의 Oak Ridge National Laboratory에 합류하여 세계적인 Oak Ridge Leadership Computing Facility에서 새로운 기술을 개발하고 통합했습니다.

Cornelis Networks는 HPC, HPDA, 및 AI를 위한 고성능 파브릭을 제공하는 기술 리더입니다. 이 회사는 상업, 과학, 학술, 및 정부 기관을 위한 목적지향형 고성능 파브릭을 제공합니다.

컴퓨터 과학에 처음 관심을 갖게 된 계기는 무엇인가?

저는 기술을 다루는 것을 좋아했습니다. 저는 컴퓨터를 다루는 것을 즐겼고, 학교에서 모뎀을 사용해 인터넷을 체험해 볼 수 있었습니다. 대학교 1학년 때, 저는 미국 에너지부의 계산 과학자와 만나게 되었습니다. 그는 저에게 그의 HPC 연구실을 방문할 수 있는 기회를 주었습니다. 그때부터 저는 슈퍼컴퓨터를 다루는 것을 좋아하게 되었습니다.

2015년부터 2019년까지 Red Hat에서 일했습니다. 그때의 프로젝트와 주요 성과는 무엇인가?

Red Hat에서 저의 주요 프로젝트는 Ceph 분산 저장소였습니다. 이전에는 HPC에만 집중했었는데, 이 프로젝트는 클라우드 인프라에 중요한 기술을 다루는 기회를 주었습니다. 스케일링, 관리, 신뢰성 등은 서로 다른 문제를 해결하는 데 사용되지만, 매우 유사한 원칙을 따릅니다. 기술적으로, 저의 가장 중요한 성과는 클라우드와 HPC가 서로 많은 것을 배울 수 있다는 것입니다. 우리는 서로 다른 문제를 해결하는 데 동일한 레고 세트를 사용하고 있습니다. 이것은 저에게 Omni-Path와 같은 파브릭이 HPC, 클라우드, 및 AI 애플리케이션에 어떻게 기여할 수 있는지 이해하는 데 도움이 되었습니다. 또한, 저는 Open Source와 업스트림 우선 소프트웨어 개발 철학을 이해하게 되었습니다. 개인적으로, Red Hat는 저에게 리더로서 성장하고 성숙하는 기회를 주었습니다.

Cornelis Networks의 소프트웨어 엔지니어링 부사장으로서, 주요 책임과 일상은 무엇인가?

소프트웨어 엔지니어링 부사장으로서, 저는 Cornelis Networks의 소프트웨어 스택의 모든 측면을 책임지고 있습니다. 이것에는 Omni-Path 아키텍처 드라이버, 메시징 소프트웨어, 파브릭 관리, 및 임베디드 디바이스 제어 시스템이 포함됩니다. Cornelis Networks는 흥미로운 곳입니다. 저의 일상은 팀과 함께 기술적인 문제를 해결하는 날도 있고, 하드웨어 아키텍트와 함께 다음 세대의 제품을 개발하는 날도 있습니다. 또한, 저는 고객과 협력자们을 만나서 그들의 필요를 이해하고 예측하는 데 시간을 보냅니다.

Cornelis Networks는 HPC 및 AI 애플리케이션을 위한 차세대 네트워킹을 제공합니다. 하드웨어에 대한 자세한 정보는 무엇인가?

저희의 하드웨어는 고성능 스위치형 네트워크 파브릭 솔루션입니다. 이를 위해, 저희는 HPC, 클라우드, 및 AI 파브릭을 완전히 통합하기 위한 모든 필요한 디바이스를 제공합니다. Omni-Path Host-Fabric Interface (HFI)는 엔드포인트 디바이스를 위한 로우프로파일 PCIe 카드입니다. 또한, 저희는 48포트 1U “톱오브랙” 스위치와 더 큰 배포를 위한 두 개의 완전히 통합된 “디렉터클래스” 스위치를 생산합니다. 하나는 288포트 7U이고, 다른 하나는 1152포트 20U 디바이스입니다.

이 하드웨어를 관리하는 소프트웨어는 무엇이며, 이를 통해 대기 시간을 감소시키는 방법은 무엇인가?

첫째, 저희의 임베디드 관리 플랫폼은 쉽게 설치하고 구성할 수 있으며, 저희의 스위치 ASIC에서 생성되는 다양한 성능 및 구성 메트릭에 접근할 수 있습니다.

저희의 드라이버 소프트웨어는 Linux 커널의 일부로 개발됩니다. 실제로, 저희는 모든 소프트웨어 패치를 Linux 커널 커뮤니티에 직접 제출합니다. 이것은 저희의 모든 고객이 Linux 배포판에서 최대 호환성을享受하고, Lustre와 같은 다른 소프트웨어와 쉽게 통합할 수 있도록합니다. 대기 시간 경로에 있지 않지만, 인트리 드라이버를 사용하면 설치 복잡성을 크게 줄일 수 있습니다.

Omni-Path 파브릭 매니저 (FM)는 Omni-Path 파브릭을 구성하고 라우팅합니다. 트래픽 경로를 최적화하고 결함에서 빠르게 회복함으로써, FM는 十数에서 수천개의 노드까지의 파브릭에서 업계 최고의 성능과 신뢰성을 제공합니다.

Omni-Path Express (OPX)는 저희의 고성능 메시징 소프트웨어로, 2022년 11월에 출시되었습니다. 이것은 저희의 이전 메시징 소프트웨어보다 대기 시간을 줄이도록 설계되었습니다. 저희는 사이클 정확한 시뮬레이션을 사용하여 저희의 송신 및 수신 코드 경로를 최적화하고, 명령어 수를 최소화하고, 캐시 사용을 줄였습니다. 이것은 극적인 결과를 가져왔습니다. 마이크로초 영역에서는 每 사이클이 중요합니다!

또한, 저희는 OpenFabrics Interfaces (OFI)와 통합했습니다. OFI는 OpenFabrics Alliance에서 제작한 오픈 표준입니다. OFI의 모듈식 아키텍처는 더 높은 수준의 소프트웨어가 파브릭 기능을 추가 함수 호출 없이 사용할 수 있도록하여 대기 시간을 최소화합니다.

네트워크는 또한 확장성을 증가시키기 위해 설계되었습니다. 자세한 정보는 무엇인가?

확장성은 Omni-Path의 설계 원칙의 핵심입니다. 가장 낮은 수준에서, 저희는 Cray 링크 레이어 기술을 사용하여 링크 오류를 대기 시간 없이 수정합니다. 이것은 모든 규모의 파브릭에 영향을 미치지만, 특히 큰 규모의 파브릭에서 중요합니다. 저희의 파브릭 매니저는 최적의 라우팅 테이블을 프로그래밍하는 데 중점을 두고 있으며, 이를 최소한의 시간에 완료할 수 있도록합니다. 이것은 даже 가장 큰 파브릭에서도 라우팅을 최소한의 시간에 완료할 수 있도록합니다.

확장성은 또한 OPX의 중요한 구성 요소입니다. 캐시 사용을 최소화하면 개별 노드의 대기 시간을 줄일 수 있습니다. 대기 시간을 최소화하면 집합 알고리즘의 시간을 줄일 수 있습니다. 호스트-파브릭 인터페이스 리소스를 더 효율적으로 사용하면 각 코어가 더 많은 원격 피어와 통신할 수 있습니다. libfabric을 사용하는 전략적인 선택은 표준 인터페이스를 사용하여 확장 가능한 엔드포인트를 사용할 수 있도록합니다.

Cornelis Networks에서 AI를 어떤 방식으로 사용하고 있나요?

저희는 아직 외부적으로 저희의 내부 AI 사용 및 계획에 대해 논의할 준비가 되지 않았습니다. 그러나, 저희는 Omni-Path의 대기 시간 및 확장성 향상을 통해 AI 워크로드를 지원할 수 있습니다. 이것은 저희가 고객과 협력자们에게 이러한 이점을 공유할 수 있도록합니다. 전통적인 HPC와 마찬가지로, 인프라를 확장하는 것이 앞으로 나아가는 유일한 길입니다. 그러나, 네트워크 성능은 쉽게 Ethernet 및 전통적인 네트워크에 의해 억제될 수 있습니다.

생성형 AI의 등장으로 산업에서 어떤 변화가 예상되나요?

첫째, 생성형 AI는 사람들의 생산성을 높일 것입니다. 기술의 진화와 혁신은 인간을 폐기하지 않았습니다. 모든 기술의 진화와 혁신은 특정 작업을 더 효율적으로 만들었지만, 인간을 폐기하지 않았습니다.

생성형 AI의 적용을 통해, 회사는 기술적으로 더 빠르게 발전할 수 있을 것입니다. 예를 들어, 생성형 AI가 더 정확한 예측, 보고, 계획 등을 제공한다면, 회사는创新에 집중할 수 있습니다.

저는 AI가 각 개인을 다학제적인 전문가로 만들 것이라고 믿습니다. 예를 들어, 저는 HPC, 빅데이터, 클라우드, 및 AI 애플리케이션을 위한 스케일러블 소프트웨어 전문가입니다. 생성형 AI 어시스턴트를 사용하면, 저는 고객이 사용하는 애플리케이션의 의미를 더 깊이 이해할 수 있습니다. 이것은 저희가 고객을 위한 더 효과적인 하드웨어와 소프트웨어를 설계하는 데 도움이 될 것입니다.

또한, 저는 소프트웨어 품질의 전반적인 개선이 예상됩니다. AI는 코드를 정적으로 분석하고 버그 및 성능 문제에 대한 통찰력을 개발하는 데 사용할 수 있습니다. 이것은 특히 대규모에서 성능 문제를 식별하고 재현하는 데 어려움이 있는 경우에 유용할 것입니다.

마지막으로, 저는 생성형 AI가 산업에서 더 많은 소프트웨어 전문가를 교육하고 온보딩하는 데 도움이 될 것이라고 믿습니다. 저희 분야는 많은 사람들에게 어려울 수 있지만, 생성형 AI는 이러한 개념을 고려하고 이유를 더 쉽게 만들 수 있을 것입니다.

그 외에 Cornelis Networks나 저의 작업에 대해 공유하고 싶은 내용이 있나요?

저는 컴퓨팅, 특히 HPC 및 AI 분야에서 경력을追求하는 모든 사람을鼓励합니다. 이 분야는 가장 강력한 컴퓨팅 리소스를 가지고 있으며, 인간의 가장 큰 도전을 해결하는 데 사용됩니다. 이것은 흥미로운 곳입니다. 저는 여기서 일하는 것을 즐겼습니다. 생성형 AI는 저희 분야를 더 높은 높이로 끌어올릴 것입니다. 저는 앞으로 어떤 일이 일어날지 기대합니다.

이번 인터뷰에 감사드립니다. 더 많은 정보를 원하시는 독자는 Cornelis Networks를 방문하십시오.