Orr Danon, Hailo’nun CEO’su ve Kurucu Ortağı – Röportaj Serisi

Orr Danon, Hailo şirketinin CEO’su ve kurucu ortağıdır. Hailo, akıllı kenar teknolojilerinin tam potansiyellerine ulaşmalarını sağlayan bir misyona sahiptir. Hailo’nun sunduğu çözüm, mevcut ve gelecekteki AI teknolojileri ile bunları güçlendirmek için gereken hesaplama kapasitesi arasındaki boşluğu kapatır. Şirket, AI işlemcilerini verimli ve kompakt bir şekilde geliştirmeye odaklanmaktadır, böylece kenar cihazları büyük miktarda verileri gerçek zamanlı olarak işleyip yorumlayabilmektedir.

Hailo’nun arkasındaki hikayeyi paylaşabilir misiniz?

2017 yılında, daha önce İsrail Savunma Kuvvetleri’nin (IDF) elit teknoloji biriminde birlikte çalıştığım iş ortaklarımla birlikte Hailo’yu kurduk. IoT (Nesnelerin İnterneti) çözümleri üzerinde çalışırken, “Derin Öğrenme” olarak bilinen bir kavram sürekli olarak ortaya çıktı. Sonunda, bu alanda uzmanları bir araya getirdik ve kenar cihazlarının daha etkili ve verimli bir şekilde çalışmasını sağlamak için eski bilgisayar mimarilerinin eksikliklerini gidermek amacıyla yeni bir derin öğrenme çözümü geliştirdik. İş ortağım Rami Feig’in üzücü şekilde vefatından sonra, Hailo ekibi onun vizyonunu gerçekleştirdi ve Hailo’nun öncü AI işlemcisini yarattı.

Kenar hesaplamanın bulut hesaplamasolutionuna göre üstünlüklerini kısaca açıklar mısınız?

Hailo’yu kurduğumuzda, yıkıcı AI teknolojileri büyük ölçüde buluta veya büyük veri merkezlerine bağlıydı, çünkü bunlar pahalıydı, yüksek hesaplama gücü ve donanım gerektiriyordu ve önemli miktarda enerji tüketiyordu. AI’nin daha iyi, daha güvenli, daha verimli ve daha heyecan verici bir dünya yaratmaya yardımcı olduğuna inanıyoruz, ancak bunun gerçekleşmesi için AI’nin kenarda da mevcut olması gerekiyor. Ağa bağlı kameralar, araçlar ve IoT cihazları gibi cihazlarda gerçek zamanlı ve düşük gecikme uygulamaları için kaynakta işleme yapılması आवशmkındır. Kenar AI ile, akıllı şehirlerin, zeki ulaşımın, otonom sürüşün, video yönetim sistemlerinin (VMS), Endüstri 4.0’un ve daha fazlasının geleceğini güçlendiren bir dizi ana kullanım durumunu tamamen kullanabiliriz.

Görsel verilerin kenarda işlenmesindeki bazı zorluklar nelerdir?

Hedef, kenar cihazlarına mümkün olduğunca fazla performans ve özellik paketlemektir, böylece bunlar büyük miktarda görsel veriyi hızlı ve düşük gecikme ile işleyebilir; ancak birincil kısıtlamalardan biri güç tüketimidir – hem cihazlara teslim edilebilecek güç hem de işlemcinin ürettiği ısı bakımından.

Akıllı kameralar için Örneğin, üreticiler, kameranın fan soğutma kullanamayacağı ve genel olarak sınırlı bir güç kaynağına sahip olacağı için AI işlemcisine 2-3W zarfına sığabilecek bir işlemciye ihtiyaç duyarlar. Bunlar önemli ağrı noktalarıdır, çünkü bu kadar düşük güçte, çoğu pazar işlemcisini kullandığınızda performans son derece sınırlıdır.

Hailo, AI işlemci mimarisini nasıl yeniden tasarladı?

Bunu, özellikle kenar cihazlarında çalışmak üzere tasarlanmış bir AI işlemcisi geliştirerek yaptık. Böylece, kenar cihazlarında önceden sadece bulutta mümkün olan performans seviyelerine ulaşılmasını sağlıyoruz ve bu cihazların AI’i daha verimli ve etkili bir şekilde çalıştırmasını ve nesne algılama, nesne tanıma, segmentasyon gibi gelişmiş derin öğrenme uygulamalarını gerçekleştirmesini sağlıyoruz. Bu benzersiz mimari, çoklu akış ve çoklu uygulama işleme olanakları sunarak, kenar cihazlarının performansını ve maliyet etkinliğini artırıyor.

Bu mimarinin kullanım örneklerinden biri, Video Yönetim Sistemleridir (VMS). Bu sistemler, ofis binaları, stadyumlar, akıllı şehir uygulamaları ve otoyollar gibi çoklu kamera bulunan alanlarda güvenlik ve güvenliği yönetmek için kullanılır ve acil durumlar, kazalar, şüpheli faaliyetler, trafik yönetimi, erişim kontrolü, geçiş ücreti toplama ve daha fazlasını izlemek için kullanılır. Yıllarca, şirketler video verilerini toplamak, analiz etmek ve depolamak için tamamen manuel işlemlere güvenmek zorundaydı. Şimdi, Hailo’nun benzersiz sinir ağı mimarisi ile VMS, gerçek zamanlı olarak birden çok görevi paralel olarak gerçekleştirebiliyor ve daha fazla kanalı ve uygulamayı aynı anda işleyebiliyor. Uygulamalar arasında gelişmiş plaka tanıma (LPR), trafik izleme, davranış algılama ve daha fazlası bulunur.

Sinir ağı işleme çekirdeği ve sinir ağlarını paralel olarak hesaplamak yerine sırayla hesaplamak konusundaki yaklaşımınızı tartışabilir misiniz?

Aİ işlemcimiz, temel olarak sinir ağlarının özelliklerine hitap eden birden çok inovasyonu bir araya getirir. Donanım ve yazılımın birleşimine dayanan yenilikçi bir kontrol şeması uyguladık ve bu sayede çok düşük joule başına işlemle yüksek esneklik seviyesine ulaştık.

Veri akışına yönelik mimarimiz, sinir ağı yapısına uyum sağlar ve yüksek kaynak kullanımına olanak tanır. Hailo veri akışı derleyicisi, verimli sinir ağı dağıtımı için donanımla birlikte tasarlanmış tam yığın yazılımdan oluşur. Derleyici, kullanıcı modelini girdi olarak alır. Derleme akışının bir parçası olarak, her bir ağ katmanını gerekli hesaplamalı öğelere ayırır ve hedef ağı temsil eden bir kaynak grafiği oluşturur. Derleyici daha sonra hedef ağı kaynak grafiğini işlemcinin üzerindeki fiziksel kaynaklara eşler ve hedef ağı için özel bir veri borusu oluşturur. Bu şekilde yürütülen bir model, her zaman minimal hesaplamalı kaynak kullanarak son derece verimlidir.

Şu anda Hailo tabanlı platformlar hangileridir ve işletmeler için neler sunar?

Hailo-8™ işlemcisi ve AI modülleri, çeşitli kenar cihazlarına takılarak, otomotiv, akıllı şehirler, akıllı perakende ve endüstri 4.0 dahil olmak üzere birden çok sektörde üstün AI yetenekleri sunar.

Hailo, Innovatrics, Network Optix, GeoVision ve Art of Logic gibi önde gelen VMS ve ISV oyuncularıyla ortaklık kurdu ve böylece büyük ölçekli video analitiği ermöglicht.

AI çözümlerini entegre eden müşterilere bu çözümler ne kadar zaman kazandırabilir?

Kurulan VMS platformlarında çalışan entegre çözümler bulmak zaman kazandırmaktadır, ancak bu sistemlerin ana avantajı değildir. Hailo tabanlı VMS çözümleri, daha fazla akışın paralel olarak çalışmasını ve her akış için daha fazla uygulamanın işlenmesini sağlar.

Ayrıca, birden çok video akışını işleyebilme yeteneği, yalnızca belirli olayların buluta depolama için aktarıldığı anlamına gelir, bu da bant genişliği ve depolama kapasitesi üzerinde önemli tasarruf sağlar.

Kenar cihazlarında derin öğrenme uygulamalarını dağıtmadan elde ettiğiniz bazı dersler nelerdir?

AI’nin kenarda nasıl inovasyonun geniş bir yelpazede sektörlerde önümüzdeki yıllarda kilit bir rol oynayacağını gördük. İşletmeler, cihazlarının daha güçlü, çok yönlü, yanıt verme ve güvenli olmasını sağlayan çözümler ararken, bulut, kenar cihazlarına ve hibrit modellere yol verecektir. AI’yi kenarda uygulayanlar, her alanda bir avantaj elde edeceklerdir.

Kenar hesaplamanın geleceği ile ilgili vizyonunuz nedir?

Kenar hesaplama, özellikle kenardaki AI, dünyamızın çalışma şeklini tamamen değiştirebilir. Akıllı kameralar, zeki araçlar, otonom robotlar, gelişmiş trafik yönetim araçları, akıllı inşaat, akıllı fabrikalar ve daha fazlasını mümkün kılar. Kenardaki AI, her şeyi değiştirebilecek ve dünyamızı daha akıllı ve daha güvenli hale getirebilecek güce sahiptir. Hailo’nun AI işlem teknolojisi, bu kullanım örneklerinin önemli bir sağlayıcısıdır. İnovatörlerle ve üreticilerle birlikte çalışmaya devam ederek bu çözümleri daha erişilebilir hale getirmeyi sürdüreceğiz.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Hailo‘yu ziyaret edebilir.