Orr Danon, CEO & Co-Founder of Hailo – 인터뷰 시리즈

Orr Danon은 Hailo의 CEO 및 공동 창립자로서 스마트 에지 기술이 전체 잠재력을 발휘할 수 있도록 하는 것을 목표로 하는 회사입니다. Hailo가 제시하는 솔루션은 기존 및 미래의 AI 기술과 이러한 애플리케이션을 구동하는 데 필요한 컴퓨팅 능력 사이의 간격을 메웁니다. 이 회사는 효율적이고 컴팩트한 AI 프로세서를 구축하는 데 중점을 두고 있으며, 이는 실시간으로大量의 데이터를 계산하고 해석할 수 있습니다.

Hailo의 기원 이야기를 공유해 줄 수 있나요?

2017년 이스라엘 국방군(IDF)의 엘리트 기술 부대에서 만난 동료들과 함께 Hailo를 공동 창립했습니다. IoT(사물 인터넷) 솔루션에 대한 작업 중에, 저와 제 동료인 Rami Feig와 Avi Baum은 “딥 러닝”이라는 비교적 알려지지 않은 개념을 계속 접하게 되었습니다. 결국, 우리는 새로운 딥 러닝 솔루션을 개발하기 위해 분야의 전문가들을 모았습니다. 이 솔루션은 에지에서 스마트 디바이스가 더 효과적으로 및 효율적으로 작동할 수 있도록 구식 컴퓨터 아키텍처의 단점을 해결하는 것을 목표로 했습니다. Rami의 불행한 사망 이후, Hailo 팀은 그의 비전을 실현하기 위해 노력했으며, 결국 Hailo의 혁신적인 AI 프로세서를 만들었습니다.

에지 컴퓨팅이 클라우드 컴퓨팅보다 우수한 솔루션인 이유를 간단히 설명해 줄 수 있나요?

Hailo를 시작했을 때, 혁신적인 AI 기술은 주로 클라우드 또는 대형 데이터 센터에 제한되어 있었으며, 비용이 많이 들고, 높은 컴퓨팅 능력과 광범위한 하드웨어가 필요하며,大量의 에너지를 소비했습니다. 우리는 AI가 더 나은, 더 안전한, 더 생산적인, 더 흥미로운 세계를 만들고 있지만, 이를 위해서는 에지에서도 AI가 필요하다고 믿습니다. 네트워크 연결 카메라, 차량, IoT 디바이스와 같은 디바이스에서 실시간 및 저지연 애플리케이션을 구현하기 위해서는 원천에서 처리가 필수적입니다. 에지 AI를 사용하면 스마트 시티, 지능형 교통, 자율 주행, 비디오 관리 시스템(VMS), Industry 4.0 등과 같은 미래의 스마트 기술을 구동하는 주요 사용 사례를 완전히 활용할 수 있습니다.

에지에서 시각 데이터를 처리하는 데 뒤따르는 도전은 무엇인가요?

목표는 에지 디바이스에 가능한 많은 성능과 기능을 넣는 것입니다. 이를 통해大量의 시각 데이터를 신속하게 처리할 수 있으며 지연 시간이 최소화됩니다. 그러나 주요 제약 중 하나는 전력 소비입니다. 즉, 디바이스에 전달할 수 있는 전력과 프로세서가 생성하는 열이 문제입니다.

예를 들어, 지능형 카메라의 경우, 제조업체는 2-3W의 봉투 안에 맞는 AI 프로세서가 필요합니다. 왜냐하면 카메라는 팬 쿨링을 사용할 수 없으며 일반적으로 제한된 전원 공급이 있기 때문입니다. 이러한 문제는 매우 심각한 고통의 원인이 됩니다. 대부분의 시장에서 사용 가능한 프로세서를 사용할 때, 이러한 낮은 전력에서 성능은 매우 제한적입니다.

Hailo는 AI 프로세서 아키텍처를 어떻게 재구상했나요?

에지 디바이스에서 작동하도록 특별히 설계된 AI 프로세서를 구축함으로써, 우리는 에지 디바이스에서 이전에 클라우드에서만 가능했던 성능 수준을 가능하게 하며, 에지 디바이스에서 AI를 더 효율적이고 효과적으로 실행할 수 있도록 합니다. 이를 통해 객체 감지, 객체 인식, 분할 및 기타와 같은 복잡한 딥 러닝 애플리케이션을 수행할 수 있습니다. 이 고유한 아키텍처는 멀티 스트림 및 멀티 애플리케이션 처리를 허용하여 에지 디바이스의 성능과 비용 효율성을 향상시킵니다.

예를 들어, 비디오 관리 시스템(VMS)은 이러한 아키텍처의 사용 예입니다. 이러한 시스템은 사무실 건물, 경기장, 스마트 시티 애플리케이션 및 고속도로와 같은 여러 카메라가 있는 영역에서 보안 및 안전을 더 잘 관리하기 위해 사용됩니다. 이는 비상사태 및 사고, 의심스러운 활동, 교통 관리, 출입 통제, 통행료 수집 등을 모니터링하는 것을 포함합니다. 수년 동안, 기업은 비디오 데이터를 수집, 분석 및 저장하기 위해 전적으로 수동 프로세스에 의존했습니다. 이제 Hailo의 고유한 신경망 아키텍처를 사용하면 VMS는 병렬로 여러 작업을 수행할 수 있으며, 실시간으로 더 많은 채널과 더 많은 애플리케이션을 동시에 처리할 수 있습니다. 이러한 애플리케이션에는 고급 라이센스 플레이트 인식(LPR), 교통 모니터링, 행동 감지 등이 포함됩니다.

신경망 처리 코어와 병렬로 신경망을 계산하는 접근 방식에 대해 논의해 줄 수 있나요?

우리의 AI 프로세서는 여러 가지 혁신을 결합하여 신경망의 기본 속성을 해결합니다. 우리는 하드웨어와 소프트웨어의 조합을 기반으로 하는 혁신적인 제어 체계를 적용하여 매우 낮은 작업당 줄을 달성하고 높은 유연성을 제공했습니다.

우리의 고유한 데이터 흐름 지향 아키텍처는 신경망의 구조에 적응하며, 높은 자원 활용도를 허용합니다. Hailo 데이터 흐름 컴파일러는 사용자 모델을 입력으로 받습니다. 빌드 흐름의 일부로, 데이터 흐름 컴파일러는 각 네트워크 레이어를 필요한 계산 요소로 분해하고, 대상 네트워크의 자원 그래프를 생성하며, 이는 대상 네트워크의 표현입니다. 데이터 흐름 컴파일러는 대상 네트워크의 자원 그래프를 프로세서에서 사용 가능한 물리적 자원과 일치시키고, 대상 네트워크를 위한 사용자 지정 데이터 파이프를 생성합니다. 이러한 방식으로 디바이스에서 모델을 실행하면 매우 효율적이며, 모든 시간에 최소한의 컴퓨팅 자원을 사용합니다.

현재 비즈니스에서 사용할 수 있는 Hailo 기반 플랫폼은 무엇인가요?

Hailo-8 프로세서와 AI 모듈은 다양한 에지 디바이스에 연결되어, 자동차, 스마트 시티, 스마트 소매, Industry 4.0를 포함한 여러 섹터에서 우수한 AI 능력을 제공합니다.

Hailo는 Innovatrics, Network Optix, GeoVision 및 Art of Logic와 같은 주요 VMS 및 ISV 플레이어와 파트너십을 맺어 대규모 비디오 분석을 가능하게 합니다.

이러한 솔루션이 AI 솔루션을 통합하는 클라이언트에게 얼마나 많은 시간을 절약할 수 있나요?

설립된 VMS 플랫폼에서 통합 솔루션을 소싱하는 것은 시간을 절약하지만, 이는 시스템의 주요 이점이 아닙니다. Hailo 기반 VMS 솔루션은 병렬로 더 많은 스트림을 실행하고, 각 스트림에 대해 더 많은 애플리케이션을 처리할 수 있습니다.

여러 비디오 스트림을 처리하기 위한 AI를 활용하는 능력은 또한 특정 이벤트만 클라우드에 저장하기 위해 스트리밍할 필요가 있으므로, 대역폭과 저장 용량에서 상당한 절약을 가능하게 합니다.

에지 디바이스에서 딥 러닝 애플리케이션을 배포하면서 배운 교훈은 무엇인가요?

우리는 에지에서 AI가 다양한 분야에서 혁신을 주도하는 데 중요한 역할을 할 것이라는 것을 직접 보았습니다. 비즈니스가 디바이스가 더 강력하고, 다재다능하고, 반응성이 좋고, 보안이 강화된 솔루션을 찾을수록, 클라우드는 에지 디바이스와 하이브리드 모델을 양보할 것입니다. 에지에서 AI를 성공적으로 구현하는 사람은 모든 면에서 우위를 점할 것입니다.

에지 컴퓨팅의 미래에 대한 비전은 무엇인가요?

에지 컴퓨팅, 특히 에지에서 AI는 우리 주변의 세계가 작동하는 방식을 완전히 변革할 수 있습니다. 지능형 카메라, 스마트 차량, 자율 로봇, 고급 교통 관리 도구, 스마트 건설, 스마트 공장 등과 같은 디바이스를 가능하게 합니다. 에지에서 AI는 모든 것을 변경하고, 더 스마트하고, 더 안전한 세계를 만들 수 있습니다. Hailo의 AI 처리 기술은 이러한 사용 사례의 주요 활성화자입니다. 우리는 이러한 솔루션을 더 접근하기 쉽게 하기 위해 전 세계의 제조업체와 혁신가와 계속해서 파트너십을 맺을 것입니다.

멋진 인터뷰에 감사합니다. 더 많은 정보를 원하는 독자는 Hailo를 방문할 수 있습니다.