Orr Danon, Hailo’nun CEO’su ve Kurucu Ortağı – Röportaj Serisi

Orr Danon, Hailo‘nun CEO’su ve kurucu ortağıdır. Hailo, akıllı kenar teknolojilerinin tam potansiyeline ulaşmasını sağlayan bir misyona sahiptir. Hailo tarafından sunulan çözüm, mevcut ve gelecekteki AI teknolojileri ile bu uygulamaları çalıştırmak için gereken hesaplama kapasitesi arasındaki uçurumu köprüler. Şirket, AI işleyicilerini, gerçek zamanlı olarak büyük miktarda veriyi hesaplayabilen ve yorumlayabilen kadar verimli ve kompakt şekilde inşa etmeye odaklanmaktadır.

Hailo’nun arkasındaki genesis hikayesini paylaşabilir misiniz?

2017 yılında, daha önce İsrail Savunma Kuvvetleri’nin (IDF) elit teknoloji birliğinde tanıştığım iş ortaklarımla birlikte Hailo’yu kurduk. IoT (Nesnelerin İnterneti) çözümleri üzerinde Rami Feig ve Avi Baum ile çalışırken, “Derin Öğrenme” olarak bilinen bir kavram sürekli olarak araştırmalarımızda ortaya çıktı. Sonunda, uzmanları bir araya getirdik ve eski bilgisayar mimarisinin eksikliklerini gidermek ve akıllı cihazların kenarda daha etkili ve verimli bir şekilde çalışmasını sağlamak amacıyla yeni bir derin öğrenme çözümü geliştirdik. Rami’nin üzücü kaybından sonra, Hailo ekibi onun vizyonunu gerçekleştirdi – Hailo’nun devrim niteliğinde AI işleyicisini yaratmak.

Kenar hesaplamanın bulut hesaplama solutionsuna göre neden genellikle daha üstün bir çözüm olduğunu kısaca açıklar mısınız?

Hailo’yu başlattığımızda, yıkıcı AI teknolojileri büyük ölçüde bulut veya büyük veri merkezlerine bağlıydı, çünkü pahalıydı, yüksek hesaplama gücü ve geniş donanıma ihtiyaç duyuyorlardı ve önemli miktarda enerji tüketiyorlardı. AI’nin daha iyi, daha güvenli, daha üretken ve daha heyecan verici bir dünya yaratmasına yardımcı olduğuna inanıyoruz, ancak bunun gerçekleşmesi için AI’nin kenarda da mevcut olması gerekiyor. Ağa bağlı kameralar, araçlar ve IoT cihazları gibi cihazlarda gerçek zamanlı ve düşük gecikme uygulamalarının uygulanması için kaynakta işleme esasidir. Kenar AI ile, akıllı şehirler, akıllı ulaşım, otonom sürüş, video yönetim sistemleri (VMS), Endüstri 4.0 ve daha fazlasını güçleyen bir dizi ana kullanım durumunu tamamen kullanabiliriz.

Görsel verilerin kenarda işlenmesindeki bazı zorluklar nelerdir?

Hedef, kenar cihazlarına mümkün olduğunca fazla performans ve özellik paketlemek ve böylece büyük miktarda görsel veriyi hızlı ve az gecikmeyle işleyebilmektir; ancak birincil kısıtlamalardan biri güç tüketimidir – hem cihaza teslim edilebilecek güç hem de işlemcinin ürettiği ısı bakımından.

Örneğin, akıllı kameralar ile, üreticiler, kameranın fan soğutma kullanamayacağı ve genel olarak sınırlı bir güç kaynağına sahip olacağı için 2-3W zarfına uyan bir AI işlemcisine ihtiyaç duyarlar. Bu, çok düşük güçte performansın son derece sınırlı olduğu için mevcut pazarın çoğundaki işlemciler için keskin ağrı noktalarıdır.

Hailo, AI İşlemci Mimarısını Nasıl Yeniden Düşündü?

Bunu, özellikle kenar cihazlarında çalışmak üzere tasarlanmış bir AI işlemcisi oluşturarak yaptık. Bunu yaparak, kenar cihazlarına önceden yalnızca bulutta mümkün olan performans seviyelerine ulaşma yeteneği sağlıyoruz ve bu da AI’yi daha verimli ve etkili bir şekilde çalıştırmasını ve nesne algılama, nesne tanıma, segmentasyon ve diğerleri gibi gelişmiş derin öğrenme uygulamalarını gerçekleştirmesini sağlıyor. Bu benzersiz mimari, çoklu akış ve çoklu uygulama işleme olanakları sağlar, böylece kenar cihazlarının performansı ve maliyet etkinliği artırılır.

Bu mimarinin kullanım örneklerinden biri, Video Yönetim Sistemleridir (VMS). Bu sistemler, ofis binaları, stadyumlar, akıllı şehir uygulamaları ve otoyollar gibi çok sayıda kameranın bulunduğu alanlarda güvenlik ve güvenliği daha iyi yönetmek için kullanılır. Yıllarca, şirketler video verilerini toplamak, analiz etmek ve depolamak için tamamen manuel işlemlere güveniyordu. Şimdi, Hailo’nun benzersiz sinir ağı mimarisiyle, VMS paralel olarak birden fazla görevi gerçekleştirebilir, gerçek zamanlı olarak daha fazla kanal ve uygulama işleyebilir. Uygulamalar arasında gelişmiş plaka tanıma (LPR), trafik izleme, davranış algılama ve daha fazlası bulunur.

Sinir Ağı İşlem Core’u ve sinir ağlarını paralel olarak hesaplamak yerine sırayla hesaplamak konusundaki yaklaşımınızı tartışabilir misiniz?

AI işlemcimiz, temel olarak sinir ağlarının özelliklerine hitap eden birden fazla yeniliği bir araya getirir. Donanım ve yazılımın bir kombinasyonuna dayanan yenilikçi bir kontrol şeması uyguladık ve çok düşük joule başına işlem ile yüksek bir esneklik derecesi elde ettik.

Benzeri görülmemiş bir veri akışı odaklı mimari, sinir ağı yapısına uyar ve yüksek kaynak kullanımına olanak sağlar. Hailo veri akışı derleyicisi, verimli sinir ağı dağıtımı sağlamak için donanımla birlikte tasarlanmış tam yığın yazılımdan oluşur. Veri akışı derleyicisi, kullanıcı modelini girdi olarak alır. Derleme akışının bir parçası olarak, her bir ağ katmanını gerekli hesaplamaya indirgeyerek hedef ağı temsil eden bir kaynak grafiği oluşturur. Veri akışı derleyicisi daha sonra hedef ağındaki kaynak grafiğini işlemcinin üzerindeki mevcut fiziksel kaynaklarla eşleştirir, hedef ağı için özelleştirilmiş bir veri borusu oluşturur. Bu şekilde gerçekleştirildiğinde, bir modeli bir cihazda çalıştırmak her zaman minimal hesaplama kaynağı kullanır.

Şu anda Hailo tabanlı platformların işleri için mevcut olan bazıları nelerdir?

Hailo-8™ işlemcisi ve AI modülleri, çeşitli kenar cihazlarına takılarak – otomotiv, akıllı şehirler, akıllı perakende ve endüstri 4.0 dahil olmak üzere – birçok sektörde üstün AI yetenekleri ile güçlendiriliyor.

Hailo, en iyi performans gösteren video analitiğini ölçeklenebilir şekilde ermöglemek için Innovatrics, Network Optix, GeoVision ve Art of Logic gibi önde gelen VMS ve ISV oyuncuları ile işbirliği yaptı.

Bu çözümler, AI çözümlerini entegre eden müşterilerin ne kadar zaman kazanabileceği?

Kurulan VMS platformlarında çalışan entegre çözümler bulmak zaman kazandırmaktadır, ancak bu sistemin ana avantajı değildir. Hailo tabanlı VMS çözümleri, daha fazla akışın paralel olarak çalışmasını ve her akış için daha fazla uygulamanın işlenmesini sağlar.

Birden fazla video akışını işleyebilme yeteneği, ayrıca yalnızca belirli olayların buluta depolama için akışını gerektirdiği anlamına gelir, bu da bant genişliği ve depolama kapasitesi üzerinde önemli tasarruf sağlar.

Kenar cihazlarında derin öğrenme uygulamalarını dağıtmadan elde ettiğiniz bazı dersler nelerdir?

AI’nin kenarda, geniş bir çeşitlilikteki sektörlerde inovasyonu sürüklemenin kilit rolünü oynayacağına şahit olduk. Şirketler, cihazlarının daha güçlü, daha çok yönlü, daha duyarlı ve daha güvenli olmasını sağlayan çözümler ararken, bulut, kenar cihazlarına ve hibrit modellere yol verecektir. AI’yi kenarda uygulayanlar, her alanda bir avantaj elde edecekler.

Kenar hesaplamanın geleceği için vizyonunuz nedir?

Kenar hesaplama – özellikle kenardaki AI – dünyanın etrafındaki her şeyi tamamen dönüştürme yeteneğine sahiptir, akıllı kameralar, akıllı araçlar, otonom robotlar, gelişmiş trafik yönetim araçları, akıllı inşaat, akıllı fabrikalar ve daha fazlasını mümkün kılar. Kenardaki AI, her şeyi değiştirebilecek ve dünyamızı daha akıllı ve daha güvenli hale getirebilecek güce sahiptir. Hailo’nun AI işlem teknolojisi, bu kullanım örneklerinin büyük bir sağlayıcısıdır. Bu çözümleri daha erişilebilir hale getirmek için dünya çapındaki üreticiler ve inovatörlerle ortaklık yapmaya devam edeceğiz.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Hailo‘yu ziyaret edebilir.