HEAVY.AI의 제품 부문 VP인 마이크 플랙스만 박사 – 인터뷰 시리즈

마이크 플랙스만 박사는 현재 HEAVY.AI의 제품 부문 VP로 재직 중이며, 이전에는 제품 매니저로 근무하며 전문 서비스의 공간 데이터 과학 분야를 이끌었다. 그는 지난 20년 동안 공간 환경 계획 분야에서 일해 왔다. HEAVY.AI에 합류하기 전에 그는 Geodesign Technologies, Inc.를 설립하고 GeoAdaptive LLC를 공동 설립했으며, 두 회사는 모두 계획에 공간 분석 기술을 적용하는 스타트업이다. 스타트업 생활 이전에는 MIT에서 계획 교수로 재직했으며 ESRI에서 산업 매니저로 일했다.

HEAVY.AI는 실시간、高影响 데이터 분석을 위한 하드웨어 가속 플랫폼이다. 그것은 대규모 데이터셋을 빠르게 쿼리하기 위해 GPU와 CPU 처리를 모두 사용하며, SQL 및 지리공간 데이터를 지원한다. 플랫폼에는 대시보드, 크로스 필터링, 확장 가능한 데이터 시각화를 위한 시각적 분석 도구가 포함되어 있어 다양한 산업에서 효율적인 빅데이터 분석을 가능하게 한다.

당신의 전문적인 배경과 HEAVY.AI에 합류한 경위를 알려주세요.

HEAVY.AI에 합류하기 전에 나는 학계에서 일했으며, 궁극적으로 MIT에서 공간 분석을 가르쳤다. 나는 또한 공공 부문 고객을 위한 작은 컨설팅 회사도 운영했다. 나는 17개국에서 GIS 프로젝트에 참여했다. 내 업무는 인터 아메리칸 개발 은행과 같은 조직에 자문부터 ESRI에서 건축, 엔지니어링, 건설을 위한 GIS 기술을 관리하는 것까지 다양한 분야에서 활동했다.

나는 HEAVY.AI를 처음 접한 것을 생생하게 기억한다. 그것은 내가 컨설턴트로 일할 때 플로리다 비치 하버보호 프로그램을 위한 시나리오 계획을 담당하고 있었을 때였다. 나의 동료들과 나는 30m 랜드سات 데이터와 함께 바다 거북이 서식지를 모델링하려고 했지만, 그것은 우리가 계획한 것보다 3600배 더 컸다. 당연히 아무도 내 예산을 증가시키지 않았다. 그래서 나는 수십 년 동안 사용하고 가르치던 도구를 내려놓고 새로운 것을 찾기 시작했다. HEAVY.AI는 그 데이터를 매우 부드럽게 처리하여 나는 즉시 매료되었다.

몇 년이 지난 지금, 나는 여전히 HEAVY.AI가 하는 일을 매우 독특하다고 생각한다. 초기에 GPU 분석에 대한 베팅은 산업이 여전히 따라가야 할 곳이다. HEAVY.AI는 빅데이터에 대한 접근을 민주화하는 데 집중하고 있다. 이것에는 데이터 볼륨과 처리 속도 구성 요소가 있지만, 대규모 언어 모델의 등장으로 공간 모델링을 더 많은 사람에게 접근 가능하게 하는 것이 중요하다. 요즘에는 복잡한 인터페이스를 수년간学习할 필요가 없다. HEAVY.AI와 대화할 수 있으며, 프로그램은 필요한 명령을 생성하고 관련 시각화를 제공한다.

사용자에게 쉬운 사용성을 제공하는 것은 매우 어렵다. 현재 HEAVY.AI의 제품 관리 VP로, 나는 제품의 기능과 능력에 대한 우선순위를 결정하는 데 깊이 관여한다. 내 광범위한 GIS 배경은 고객의需求을真正로 이해하고 개발 로드맵을 안내하는 데 도움이 된다.

공간 환경 계획과 스타트업에서 얻은 경험은 HEAVY.AI에서의 업무에 어떻게 영향을 미쳤나요?

환경 계획은 특히 인류의 다양한 필요와 자연 세계를 모두 고려해야 하므로 매우 어려운 분야이다. 일반적인 해결책은 참여 계획과 원격 감지 및 GIS 기술을 결합하는 것이었다. 계획을 수립하기 전에 우리는 여러 시나리오를 만들고 컴퓨터에서 시각화를 사용하여 긍정적 및 부정적인 영향을 시뮬레이션했다. 참여 프로세스를 사용하면 다양한 전문 지식을 결합하여 매우 복잡한 문제를 해결할 수 있었다.

HEAVY.AI에서 우리는 일반적으로 환경 계획을 하지 않지만, 이 패턴은 비즈니스 환경에서 매우 잘 작동한다. 우리는 고객이 비즈니스의 핵심 부분의 디지털 쌍을 구성하고 빠르게 비즈니스 시나리오를 생성하고 평가할 수 있도록 도와준다.

나는教学經驗이 복잡한 소프트웨어 시스템의 사용자에게 깊은 공감을 주었다. 한 학생이 특정 지점에서 실수를犯す 것은 랜덤하지만, 수십 또는 수백 명의 사람들이 유사한 오류를犯す 경우, 디자인 문제가 있다는 것을 알 수 있다. 아마도 내가 가장 좋아하는 소프트웨어 디자인의 부분은 이러한 학습을 적용하여 새로운 시스템 세대를 설계하는 것이다.

HeavyIQ가 자연어 처리를 활용하여 데이터 탐색과 시각화를 어떻게 도와주는지 설명해 주세요.

요즘에는 거의 모든 사람이 새로운 제네릭 AI 모델을 홍보하는 것 같다. 우리는 매우 다른 길을 선택했다. 우리는 정확성, 재현성, 개인 정보 보호가 비즈니스 분석 도구의 필수 특성이라고 믿으며, 이는 대규모 언어 모델(Large Language Model, LLM)을 포함한다. 따라서 우리는 이러한 특성을 기본적으로 제공한다. 예를 들어, 우리는 모델 입력을 엄격히 기업 데이터베이스와 기업 보안 周辺에 있는 문서로 제한한다. 또한 출력을 최신 HeavySQL 및 차트로 제한한다. 즉, 당신이 어떤 질문을 하든, 우리는 당신의 데이터로 답변을 하려고 시도하며, 어떻게 그 답변을 도출했는지 정확히 보여준다.

이러한 보장이 있는 경우, 고객에게는 우리가 쿼리를 처리하는 방법이 중요하지 않다. 그러나 뒤에서 중요한 또 다른 차이점은, 우리는 비즈니스 사용자가 비즈니스 데이터에 대해 묻는 유형의 질문에 대해 광범위하게 모델을 미세 조정한다는 것이다. 예를 들어, 우리의 모델은 공간 및 시간 시리즈 조인을 수행하는 데 탁월하다. 이는 고전적인 SQL 벤치마크에는 없지만, 우리의 사용자는 매일 사용한다.

우리는 이러한 핵심 능력을 HeavyIQ라는 노트북 인터페이스로 패키지화했다. IQ는 자연어 처리(NLP)를 사용하여 데이터 탐색과 시각화를 가능한 한 직관적으로 만드는 것이다. 영어로 질문을하면(예: “지난 주 캘리포니아의 날씨 패턴은 무엇인가요?”), HeavyIQ는 이를 우리의 GPU 가속 데이터베이스가 빠르게 처리할 수 있는 SQL 쿼리로 번역한다. 결과는 데이터뿐만 아니라 시각화(지도, 차트 등)로 표시된다. 이는 특히 대규모 또는 빠르게 이동하는 데이터셋을 다룰 때 빠르고 상호 쿼리를 가능하게 한다. 핵심은 첫 번째 질문이 아니라, 아마도 세 번째 질문에서真正로 핵심 통찰력을 얻을 수 있다는 것이다. HeavyIQ는 이러한 더 깊은 탐색을 가능하게 설계되었다.

전통적인 BI 도구와 비교하여 HeavyIQ를 사용하는 텔레콤, 유틸리티, 정부 기관의 주요 이점은 무엇인가요?

HeavyIQ는 대규모、高速度 데이터를 다루는 환경에서 탁월한 성능을 발휘한다. 전통적인 비즈니스 인텔리전스 도구는 이러한 데이터의 볼륨과 속도에 어려움을 겪는다. 예를 들어, 통신 분야에서, 수십억 개의 통화 기록이 있을 수 있지만, 관심 있는 것은 몇 개의 통화 실패이다. HeavyIQ를 사용하면 이러한 데이터를 10~100배 빠르게 처리할 수 있다. 이러한 속도와 데이터를 상호 쿼리하고 시각화할 수 있는 능력은 유틸리티의 리스크 분석이나 정부 기관의 실시간 시나리오 계획에 매우 중요하다.

또 다른 이점은 이미 언급했지만, 공간 및 시간 SQL 쿼리가 매우 강력한 분석 도구이지만, 수동으로 작성하기 어렵거나 느릴 수 있다는 것이다. 시스템이 “호기심의 속도”에서 작동할 때 사용자는 더 많은 질문과 더 세련된 질문을 할 수 있다. 예를 들어, 텔레콤 엔지니어는 모니터링 시스템에서 장비 故障의 시간적 스파イク를 обнаруж하고, 특정 시설에서 문제가 발생했는지 확인하기 위해 공간 쿼리를 반환하는 지도와 함께 확인할 수 있다.

HeavyIQ를 사용할 때 메타데이터 누출을 방지하기 위한 조치는 무엇인가요?

우리는 HeavyIQ를 개인 정보 보호와 보안을核心로 설계했다. 이것에는 데이터뿐만 아니라 여러 종류의 메타데이터가 포함된다. 우리는 열 및 테이블 수준의 메타데이터를 광범위하게 사용하여 쿼리에 필요한 정보가 포함된 테이블 및 열을 결정한다. 우리는 또한 제공된 경우 내부 회사 문서를 사용하여 회수 보강 생성(Retrieval-Augmented Generation, RAG)을 지원한다. 또한 언어 모델 자체가 추가 메타데이터를 생성한다. 이 중 특히 후자의 두 가지가 높은 비즈니스 민감도를 가질 수 있다.

제3자 모델과 달리 데이터가 외부 서버로 전송되는 대신, HeavyIQ는 우리의 플랫폼의 나머지 부분과 동일한 GPU 인프라에서 로컬로 실행된다. 이는 데이터와 메타데이터가 사용자의 제어 하에 남아 있음을 보장하며, 누출의 위험이 없다.最高 수준의 보안이 필요한 조직의 경우, HeavyIQ는 완전히 에어 갭 환경에서 배포될 수 있으며, 이는 민감한 정보가 특정 장비를 떠나지 않는다.

HEAVY.AI는 어떻게 대규모 데이터셋에서 GPU 인프라를 사용하여 높은 성능과 확장성을 달성합니까?

비밀은 본질적으로 다른 시스템에서 존재하는 데이터 이동을 피하는 것이다. 핵심은 GPU에서 실행하도록 설계된 특별한 데이터베이스에서 시작한다. 우리는 이것을 10년 이상 개발해 왔으며, 우리는 진정으로 GPU 가속 분석의 최상급 솔루션을 가지고 있다고 믿는다.

심지어 최고의 CPU 기반 시스템도 GPU보다 먼저 성능이 떨어진다. CPU에서 이것이 발생할 때의 전략은 데이터를 여러 코어와 시스템에 분산하는 것이다(수평 확장). 이것은 시간에 민감하지 않은 일부 상황에서 잘 작동하지만, 일반적으로 네트워크 성능에서 병목 현상을 일으킨다.

쿼리에서뿐만 아니라, 우리는 많은 다른 일반적인 작업에서 데이터 이동을 피한다. 첫 번째는 데이터를 이동하지 않고 그래픽스를 렌더링할 수 있다. 그 다음으로, ML 추론 모델링을 수행할 때도 데이터를 이동하지 않는다. 또한 데이터를 대규모 언어 모델로 쿼리할 때도 데이터를 이동하지 않는다. 심지어 데이터 과학자로서 Python에서 데이터를 쿼리하고 싶을 때도, 우리는 데이터를 이동하지 않고 GPU에서 수행할 수 있는 방법을 제공한다.

이것은 실제로 우리가 쿼리뿐만 아니라 렌더링도 10~100배 빠르게 수행할 수 있다는 것을 의미한다. 대규모, 고속 데이터셋(예: 기상 모델, 텔레콤 통화 기록, 위성 이미지)을 다루는 경우, 이러한 성능 향상은 절대적으로 필수적이다.

HEAVY.AI는 빅데이터 분석과 AI의 빠르게 변화하는 환경에서 경쟁 우위를 어떻게 유지합니까?

그것은 훌륭한 질문이며, 우리는 항상 고민한다. 빅데이터 분석과 AI의 풍경은 매우 빠른 속도로 진화하고 있으며, 새로운 돌파구와 혁신이 끊임없이 발생한다. 우리는 GPU 데이터베이스 기술에 10년의 선두를 가지고 있다.

나는 우리에게 핵심은 빅데이터, 특히 지리공간 데이터에 대한 접근을 민주화하는 데 집중하는 것이라고 생각한다. 이것은 GPU 가속 분석의 가능성을 끊임없이 확장하는 것이며, 제품이 이 분야에서 비할 수 없는 성능과 능력을 제공하는 것을 보장하는 것이다. 이것은 또한 공간 SQL 및 지리공간 분석의 세부 사항을真正로 이해하는 맞춤형 언어 모델을 개발하는 데 대한 지속적인 투자를 포함한다.

우리는 광범위한 훈련 데이터 라이브러리를 구축했으며, 이는 일반적인 벤치마크를 훨씬 넘어서며, 우리의 대화형 분석 도구가 사용자와 자연스럽고 직관적인 방식으로 상호 작용할 수 있도록 한다. 그러나 기술만으로는 충분하지 않다. 우리는 고객과 그들의 발전하는 요구 사항에 깊이 연결되어 있어야 한다. 궁극적으로, 우리의 경쟁 우위는 사용자에게 변革적인 가치를 제공하는 데 우리의 집요한 집중에서 비롯된다. 우리는 시장의 속도만큼 따라가고 있는 것이 아니라, 빅데이터와 AI에서 가능한 한계를 밀어붙이고 있다. 그리고 우리는 이러한 속도로 풍경이 진화하는 한 계속这样 할 것이다.

HEAVY.AI는 HeavyEco를 통해 긴급 대응 노력에 어떻게 지원합니까?

우리는 가장 큰 유틸리티 고객 중 일부가 오늘날의 날씨 모델 출력을 처리하고 시각화하는 데 어려움을 겪고 있음을 보았을 때 HeavyEco를 개발했다. 한 고객의 경우, 데이터를 로드하는 데 4시간이 걸렸으며, 빠르게 이동하는 극한 날씨 조건에서 이것은 충분하지 않았다.

HeavyEco는 높은 결과 상황에서 실시간 통찰력을 제공하도록 설계되었다. 예를 들어, 산불이나 홍수와 같은 상황에서, 빠르게 결정해야 하며, 가능한 한 최고의 데이터를 기반으로 해야 한다. HeavyEco는 먼저 권위 있는 모델(예: NOAA 및 USGS)의 전문적으로 관리되는 데이터 파이프라인으로 작동한다. 또한 시나리오를 실행하고, 건물 수준의 영향을 모델링하고, 데이터를 실시간으로 시각화할 수 있다. 이것은 응급 대응자에게 가장 중요한 정보를 제공한다. 이는 복잡한 대규모 데이터셋을 즉각적인 의사 결정에 필요한 조치 가능한 통찰력으로 변환하는 것이다.

궁극적으로, 우리의 목표는 사용자가 데이터를 생각하는 속도로 탐색할 수 있도록 하는 것이다. 공간 모델링, 날씨 예측 비교 또는 지리공간 시간 시리즈에서 패턴을 식별하려고 하는 것과 관계없이, 우리는 기술적인 장벽 없이 원활하게 수행할 수 있도록 하려 한다.

HEAVY.AI의 독점적 LLM은 정확성과 성능 측면에서 제3자 LLM과 어떻게 차별화되나요?

우리의 독점적 LLM은 우리가 중점을 둔 분석 유형(예: 텍스트-SQL 및 텍스트-시각화)에 맞게 조정되어 있다. 우리는 처음에 전통적인 제3자 모델을 시도했지만, 우리의 사용자가 매우 높은 정확성 요구를 충족하지 못한다는 것을 발견했다. 따라서 우리는 다양한 오픈 소스 모델을 미세 조정하고 산업 표준 벤치마크에 대해 테스트했다.

우리의 LLM은 특히 지리공간 및 시간 데이터에서 고급 SQL 개념에 대해 훨씬 더 정확하다. 또한, 우리의 GPU 인프라에서 실행되므로 보안에도 더 우수하다.

추가로, 모델의 내장 기능 외에도, 우리는 관리자와 사용자를 위한 전체 상호 작용 사용자 인터페이스를 제공하여 도메인 또는 비즈니스 관련 메타데이터를 추가하거나 수정할 수 있다. 예를 들어, 기본 모델이 예상대로 수행되지 않는 경우, 열 수준의 메타데이터를 가져오거나 수정하거나, 지침 정보를 추가하여 즉시 피드백을 받을 수 있다.

HEAVY.AI는 지리공간 및 시간 데이터 분석이 다양한 산업의 미래를 형성하는 데 어떻게 기여할 것으로 보나요?

우리는 지리공간 및 시간 데이터 분석이 많은 산업의 미래를 결정할 것이라고 믿는다. 우리의 초점은 사용자가 더 나은 결정을 더 빠르게 내리도록 도와주는 것이다. 텔레콤, 유틸리티, 정부 또는 기타 분야에 관계없이, 데이터를 실시간으로 분석하고 시각화할 수 있는 능력은 게임 체인저가 될 수 있다.

우리의 임무는 이러한 강력한 분석을 모든 사람에게, 단지 대규모 자원만 가진 대기업에게만이 아니라, 접근 가능하게 하는 것이다. 우리는 고객이 가지고 있는 데이터를 사용하여 문제가 발생할 때 앞서나가고 해결할 수 있도록 도와주고자 한다. 데이터가 증가하고 복잡해짐에 따라, 우리의 도구가 함께 진화하여 고객이 항상 다음을 준비할 수 있도록 하는 것이 우리의 역할이라고 본다. 그리고 우리는 이러한 속도로 풍경이 진화하는 한 계속해서 그렇게 할 것이다.

이 훌륭한 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 HEAVY.AI를 방문해야 합니다.