Doug Fuller, Cornelis Networks’te Yazılım Mühendisliği Başkan Yardımcısı – Röportaj Serisi

Cornelis Networks’in Yazılım Mühendisliği Başkan Yardımcısı olarak, Doug, Omni-Path Mimarisi sürücülerini, mesajlaşma yazılımlarını ve gömülü cihaz kontrol sistemlerini içeren Cornelis Networks’in tüm yazılım yığınının sorumlusudur. Cornelis Networks’e katılmadan önce, Doug, Red Hat’te bulut depolama ve veri hizmetlerinde yazılım mühendisliği ekiplerini yönetti. Doug’un HPC ve bulut bilişim kariyeri, Ames Ulusal Laboratuvarı’nın Ölçeklenebilir Bilişim Laboratuvarı’nda başladı. several rolü university araştırma bilişiminde sonra, Doug, 2009 yılında ABD Enerji Bakanlığı’nın Oak Ridge Ulusal Laboratuvarı’na katıldı, burada dünya sınıfı Oak Ridge Liderlik Bilişim Tesisi’nde yeni teknolojiler geliştirdi ve entegre etti.

Cornelis Networks, yüksek performanslı Hesaplama (HPC), Yüksek Performanslı Veri Analitiği (HPDA) ve Yapay Zeka (AI) için özel olarak tasarlanmış yüksek performanslı kumaşlar sunan bir teknoloji lideridir.

Bilgisayar bilimine ilk olarak neler sizi çekti?

Ben sadece teknolojiyle çalışmayı sevdim. Okulda bir modем vardı ve interneti denemek için fırsat buldum ve ilginç buldum. Üniversitede bir ABD Enerji Bakanlığı hesaplama bilimcisiyle tanıştım ve onun HPC laboratuvarını gezdim ve o zamanlar çok heyecanlandım. O günden beri süper bilgisayarlarla ilgileniyorum.

2015-2019 arasında Red Hat’te çalıştınız, bu süre zarfında hangi projeler üzerinde çalıştınız ve bu deneyimden neler öğrendiniz?

Red Hat’teki ana projem Ceph dağıtılmış depolama idi. Daha önce sadece HPC’ye odaklanmıştım ve bu, bulut altyapısına kritik olan teknolojiler üzerinde çalışmama fırsat verdi. HPC ve bulut arasındaki ilkeler benzer, ancak farklı sorunları çözmeye yönelik. Teknoloji açısından en önemli çıkarımım, bulut ve HPC’nin birbirlerinden çok şey öğrenebileceği oldu. Aynı Lego setini kullanarak farklı projeler inşa ediyoruz. Cornelis Networks’e getirdiğim açık kaynak ve yukarıdan aşağıya yazılım geliştirme felsefesini burada öğrendim. Ayrıca, Red Hat’te lider olarak büyüdüm ve olgunlaştım.

Şu anda Cornelis Networks’te Yazılım Mühendisliği Başkan Yardımcısı’sınız, sorumluluklarınız nelerdir ve bir gününüz nasıl geçer?

Cornelis Networks’in yazılım yığınının tüm yönlerinden sorumluyum, Omni-Path Mimarisi sürücülerini, mesajlaşma yazılımlarını, kumaş yönetimi ve gömülü cihaz kontrol sistemlerini içerir. Cornelis Networks, özellikle bu anda ve bu pazarda heyecan verici bir yer. Dolayısıyla, her günüm aynı değil. Bazı günler ekibimle birlikte en son teknoloji zorluklarını çözmeye çalışıyorum. Diğer günler, donanım mimarlarımızla birlikte gelecek nesil ürünlerin müşterilerimize neler sunabileceğini konuşuyorum. Sık sık sahada, müşterilerimiz ve işbirlikçilerimizle görüşüyorum ve onların ihtiyaçlarını anlamaya ve öngörmeye çalışıyorum.

Cornelis Networks, HPC ve AI uygulamaları için bir sonraki nesil ağ iletişimini sunuyor, donanım hakkında bazı detaylar paylaşabilir misiniz?

Donanımımız, yüksek performanslı bir anahtarlı ağ kumaşı çözümüdür. HPC, bulut ve AI kumaşlarını tam olarak entegre etmek için gerekli tüm cihazları sunuyoruz. Omni-Path Host-Fabric Interface (HFI), bir uç cihaz için düşük profilli bir PCIe kartıdır. Ayrıca, 48 portlu 1U “üst raft” anahtar üretiyoruz. Daha büyük dağıtımlar için, 7U’da 288 portlu ve 20U’da 1152 portlu iki tam entegre “yönetici sınıfı” anahtar üretiyoruz.

Bu altyapıyı yöneten yazılımdan ve nasıl tasarlandığından bahseder misiniz?

İlk olarak, gömülü yönetim platformumuz, kolay kurulum ve yapılandırma sunar ve ayrıca switch ASIC’lerimiz tarafından üretilen performans ve yapılandırma metriklerine erişim sağlar.

Sürücü yazılımlarımız, Linux çekirdeğinin bir parçası olarak geliştirilir. Aslında, tüm yazılım yamalarımızı doğrudan Linux çekirdeği topluluğuna sunuyoruz. Bu, müşterilerimizin Linux dağıtımları arasında maksimum uyumluluk ve diğer yazılımlarla kolay entegrasyon sağlar. Omni-Path kumaş yöneticisi (FM), bir Omni-Path kumaşını yapılandırır ve yönlendirir. Trafik rotalarını optimize ederek ve arızalardan hızlı bir şekilde kurtularak, FM, endüstrinin önde gelen performans ve güvenilirliğini sağlar.

Omni-Path Express (OPX), yüksek performanslı mesajlaşma yazılımlarımızdır ve Kasım 2022’de yayınlandı. Daha önceki mesajlaşma yazılımlarımıza göre gecikme süresini azaltmak için özel olarak tasarlandı. Gönderme ve alma kod yollarımızı döngüsel olarak simüle ettik ve talimat sayısını ve önbellek kullanımını en aza indirdik. Bu, mikrosaniye rejiminde her döngü önemlidir.

Ayrıca, OpenFabrics Interfaces (OFI) ile entegre olduk, OpenFabrics Alliance tarafından üretilen bir açık standart. OFI’nin modüler mimarisi, daha yüksek düzeyde yazılımların kumaş özelliklerini ek fonksiyon çağrıları olmadan kullanmasını sağlar.

Ağ ayrıca ölçeklenebilirliği artırmak için tasarlandı, bunu nasıl başardığınızı paylaşabilir misiniz?

Ölçeklenebilirlik, Omni-Path’in tasarım ilkelerinin merkezinde yer alır. En düşük seviyede, Cray link katmanı teknolojisini kullanarak bağlantı hatalarını gecikme etkisi olmadan düzeltiyoruz. Bu, tüm ölçeklerdeki kumaşlar için önemlidir, ancak büyük ölçekli kumaşlar için özellikle önemlidir. Kumaş yöneticimiz, optimal yönlendirme tablolarını programlamak ve bunu hızlı bir şekilde yapmakla ilgilenir. Bu, даже en büyük kumaşlar için yönlendirme işlemlerinin minimum sürede tamamlanmasını sağlar.

Ölçeklenebilirlik, OPX için de çok önemlidir. Önbellek kullanımını en aza indirmek, jednotliv nods’daki ölçeklenebilirliği artırır. Gecikme süresini en aza indirmek, toplu algoritmalar için tamamlanma süresini artırır. Konak-kumaş arayüzü kaynaklarını daha verimli kullanmak, her çekirdeğin daha fazla uzak peer ile iletişim kurmasını sağlar. Libfabric’in stratejik seçimi, standart arayüzler kullanarak ölçeklenebilir uç noktaları kullanmamızı sağlar.

Cornelis Networks’te AI’nin iş akışındaki yeri hakkında bilgi verebilir misiniz?

İç AI kullanımımız ve planlarımız hakkında dışarıya açıklama yapmaya hazır değiliz. Ancak, Omni-Path’de yaptığımız gecikme ve ölçeklenebilirlik iyileştirmelerinden faydalanıyoruz ve müşterilerimiz ve işbirlikçilerimizle bunları paylaşmak için heyecanlanıyoruz. Geleneksel HPC’de olduğu gibi, altyapıyı ölçeklendirme, ağ performansının geleneksel ağlar tarafından engellenmemesi için tek yol.

Yenilikçi AI’nin endüstriye getireceği değişikliklere ilişkin görüşünüz nedir?

İlk olarak, AI insanların daha verimli olmasını sağlayacak – hiçbir teknoloji insanları gereksiz hale getirmemiştir. Tarih boyunca, pamuk çırçır makinesinden otomatik dokuma tezgahına, telefondan internete kadar her teknoloji devrimi, insanları daha verimli hale getirdi, ancak insanları ortadan kaldırmadı.

AI’nin uygulanması, şirketlerin daha hızlı teknolojik ilerleme kaydetmesine olanak tanıyacak. Örneğin, AI’nin daha doğru tahmin, raporlama, planlama gibi işlemleri sağlaması, şirketlerin uzmanlık alanlarına odaklanmasına olanak tanıyacak.

Ayrıca, AI’nin her birimizi çok disiplinli bir uzman haline getireceğini düşünüyorum. Örneğin, ölçeklenebilir yazılım uzmanı olarak, HPC, büyük veri, bulut ve AI uygulamaları arasındaki bağlantıları anlıyorum. AI asistanı ile birlikte, müşterilerimizin kullandığı uygulamaların anlamını daha derinden anlayabilirim. Bu, daha etkili donanım ve yazılım tasarlamama yardımcı olacaktır.

Son olarak, AI’nin yazılım kalitesini genel olarak iyileştireceğini umuyorum. AI, kodun statik analizini yapabilir ve hatalar ve performans sorunları hakkında fikir verebilir. Bu, özellikle büyük ölçekli sistemlerde performans sorunlarının difícil ve pahalı olması durumunda özellikle ilginç olacaktır.

Cornelis Networks veya sizin çalışmanız hakkında paylaşmak istediğiniz başka bir şey var mı?

Bilgisayar bilimine ilgi duyan herkesi bu alana yönlendirmek istiyorum. Bu alanda, insanlığın en büyük zorluklarına karşı en güçlü hesaplama kaynaklarını kullanıyoruz ve bu çok heyecan verici. Her adımda keyif aldım ve AI’nin getireceği yenilikleri görmek için sabırsızlanıyorum.

Harika röportaj için teşekkür ederiz, daha fazla bilgi almak isteyen okuyucular Cornelis Networks‘i ziyaret edebilir.