Orr Danon, Hailo의 CEO & 공동 창립자 – 인터뷰 시리즈

Orr Danon은 Hailo의 CEO이자 공동 창립자입니다. Hailo는 스마트 에지 기술이 최대한의 잠재력을 발휘할 수 있도록 하는 것을 목표로 하는 회사입니다. Hailo가 제시하는 솔루션은 기존의 AI 기술과 미래의 AI 기술 사이의 간격을 메우며, 이러한 애플리케이션을 구동하는 데 필요한 컴퓨팅 능력을 제공합니다. 이 회사는 효율적이고 комп팩트한 AI 프로세서를 구축하여 에지 디바이스에서 대량의 데이터를 실시간으로 처리하고 해석할 수 있도록 하는 데 중점을 두고 있습니다.

Hailo의 기원 이야기를 공유해 줄 수 있나요?

2017년, 나는 이전에 이스라엘 국방군의 엘리트 기술 부대에서 만난 동료들과 함께 Hailo를 공동 창립했습니다. IoT 솔루션을 개발하는 동안, 우리는 “딥 러닝”이라는 개념을 계속 접했습니다. 결국, 우리는 이 분야의 전문가들을 모아 새로운 딥 러닝 솔루션을 개발하여 에지 디바이스가 더 효율적으로 작동할 수 있도록 했습니다. 공동 창립자 중 한 명인 Rami Feig가 불행히 사망한 후, Hailo 팀은 그의 비전을 실현하여 혁신적인 AI 프로세서를 개발했습니다.

에지 컴퓨팅이 클라우드 컴퓨팅보다 우수한 솔루션인 이유를 간단히 설명해 줄 수 있나요?

우리가 Hailo를 시작했을 때, 혁신적인 AI 기술은 주로 클라우드 또는 대형 데이터 센터에서만 사용할 수 있었습니다. 이러한 기술은 비용이 많이 들고, 높은 컴퓨팅 능력과大量의 하드웨어가 필요하며, 많은 에너지를 소비했습니다. 우리는 AI가 더好的, 더 안전한, 더 생산적인, 더 흥미로운 세계를 만들도록 도와준다고 믿습니다. 그러나 이러한 일이 xảyra기 위해서는 AI가 에지에서도 사용할 수 있어야 합니다. 네트워크 연결된 카메라, 차량, IoT 디바이스와 같은 디바이스에서 실시간 및 저지연 애플리케이션을 구현하기 위해서는 원천 처리가 필수입니다. 에지 AI를 통해 우리는 스마트 시티, 지능형 교통, 자율 주행, 비디오 관리 시스템(VMS), 산업 4.0 등 미래의 다양한 사용 사례를 구현할 수 있습니다.

에지에서 시각 데이터를 처리하는 데 따른 도전을 설명해 줄 수 있나요?

목표는 에지 디바이스에서 가능한 많은 성능과 기능을 제공하여 대량의 시각 데이터를 신속하게 처리할 수 있도록 하는 것입니다. 그러나 주요 제약은 전력 소비입니다. 즉, 디바이스에 제공할 수 있는 전력과 프로세서가 생성하는 열이 제한됩니다.

예를 들어, 지능형 카메라의 경우, 제조업체는 2-3W의 전력 범위 내에서 AI 프로세서를 구현해야 합니다. 이는 카메라가 팬 쿨링을 사용할 수 없으며 일반적으로 제한된 전원 공급을 갖기 때문입니다. 이러한 제약은 대부분의 프로세서에서 성능을 크게 제한합니다.

Hailo는 AI 프로세서 아키텍처를 어떻게 재구성했나요?

우리는 에지 디바이스에서 작동하도록 설계된 AI 프로세서를 구축했습니다. 이를 통해 에지 디바이스에서 이전에 클라우드에서만 가능했던 성능을 제공할 수 있습니다. 이를 통해 에지 디바이스에서 더 효율적이고 효과적으로 AI를 구현할 수 있으며, 객체 감지, 객체 인식, 분할 등과 같은 복잡한 딥 러닝 애플리케이션을 수행할 수 있습니다. 이 고유한 아키텍처는 멀티 스트림 및 멀티 애플리케이션 처리를 가능하게 하며, 에지 디바이스의 성능과 비용 효율성을 개선합니다.

이 아키텍처의 예는 비디오 관리 시스템(VMS)입니다. 이러한 시스템은 여러 카메라가 있는 지역에서 사용되며, 사무실 건물, 경기장, 스마트 시티 애플리케이션, 고속도로 등에서 안전과 보안을 관리하는 데 사용됩니다. 이러한 시스템은 이전에 수동 프로세스에만 의존했지만, Hailo의 고유한 신경망 아키텍처를 사용하면 여러 작업을 동시에 수행할 수 있으며, 더 많은 채널과 애플리케이션을 동시에 처리할 수 있습니다. 이러한 애플리케이션에는 고급 라이센스 플레이트 인식, 교통 모니터링, 행동 감지 등이 포함됩니다.

신경망 처리 핵심과 병렬 계산 방법에 대해 설명해 줄 수 있나요?

우리의 AI 프로세서는 여러 가지 혁신을 결합하여 신경망의 기본 속성을 해결합니다. 우리는 하드웨어와 소프트웨어의 조합에 기반한 혁신적인 제어 체계를 적용하여 매우 낮은 조작당 자울을 달성했습니다.

우리의 고유한 데이터 흐름 지향 아키텍처는 신경망의 구조에 적응하며, 높은 자원 활용도를 가능하게 합니다. Hailo 데이터 흐름 컴파일러는 전체 스택 소프트웨어로, 하드웨어와 공동 설계되어 신경망을 효율적으로 배포할 수 있습니다. 데이터 흐름 컴파일러는 사용자 모델을 입력으로 받습니다. 빌드 흐름의 일부로, 각 네트워크 레이어를 필요한 계산 요소로 분해하여 리소스 그래프를 생성합니다. 이는 대상 네트워크의 물리적 리소스에 대한 표현입니다. 데이터 흐름 컴파일러는 대상 네트워크의 리소스 그래프를 프로세서에서 사용 가능한 물리적 리소스에 매칭하여 대상 네트워크를 위한 사용자 지정 데이터 파이프를 생성합니다. 이러한 방식으로 모델을 디바이스에서 실행하면 매우 효율적이며, 모든 시간에 최소한의 컴퓨팅 리소스를 사용합니다.

현재 Hailo 기반 플랫폼 중 어떤 것이 비즈니스에서 사용할 수 있나요?

Hailo-8 프로세서와 AI 모듈은 다양한 에지 디바이스에 연결되어, 자동차, 스마트 시티, 스마트 소매, 산업 4.0 등 여러 분야에서 우수한 AI 능력을 제공할 수 있습니다.

Hailo는 Innovatrics, Network Optix, GeoVision, Art of Logic와 같은 주요 VMS 및 ISV 플레이어와 협력하여 대규모 비디오 분석을 가능하게 합니다.

이러한 솔루션이 AI 솔루션을 통합하는 클라이언트에게 얼마나 많은 시간을 절약할 수 있나요?

기존 VMS 플랫폼에서 작동하는 통합 솔루션을 소싱하는 것은 시간을 절약하지만, 이것이 시스템의 주요 이점은 아닙니다. Hailo 기반 VMS 솔루션은 더 많은 스트림을 병렬로 실행할 수 있으며, 각 스트림에서 더 많은 애플리케이션을 처리할 수 있습니다.

또한, 여러 비디오 스트림을 처리하는 AI를 사용하면, 클라우드에 저장하기 위해 스트리밍해야 하는 특정 이벤트만 선택할 수 있으며, 이는 대역폭과 저장 용량에서 상당한 절감을 가능하게 합니다.

에지 디바이스에서 딥 러닝 애플리케이션을 배포하면서 배운 교훈이 있나요?

우리는 에지에서 AI가 다양한 분야에서 혁신을 주도하는 데 중요한 역할을 할 것이라는 것을 직접 경험했습니다. 비즈니스들이 더 강력하고, 다재다능하고, 반응성이 뛰어나고, 보안이 뛰어난 디바이스를 찾고 있는 동안, 클라우드는 에지 디바이스와 하이브리드 모델로 대체될 것입니다. 에지에서 AI를 성공적으로 구현하는 비즈니스들은 모든 면에서 우위를 점할 것입니다.

에지 컴퓨팅의 미래에 대한 비전이 있나요?

에지 컴퓨팅, 특히 에지에서 AI는 우리 주변의 세계를 완전히 변革할 수 있습니다. 지능형 카메라, 스마트 차량, 자율 로봇, 고급 교통 관리 도구, 스마트 건설, 스마트 공장 등과 같은 디바이스를 가능하게 합니다. 에지에서 AI는 모든 것을 변화시키고, 우리의 세계를 더智能하고 더 안전하게 만들 수 있습니다. Hailo의 AI 처리 기술은 이러한 모든 사용 사례를 위한 주요 활성화자입니다. 우리는 이러한 솔루션을 더 접근하기 쉽게 만들기 위해 전 세계의 제조업체와 혁신가들과 계속 협력할 것입니다.

이번 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 Hailo를 방문해 주시기 바랍니다.