아지프의 유베이 천, 공동 창립자 – 인터뷰 시리즈

유베이 천은 아지프의 공동 창립자로, 세계에서 가장 작은 그리고 가장 효율적인 인공지능 모델을 개발하는 회사입니다. 그는 또한 캘리포니아 대학교 데이비스의 ECE 부서에서 조교수로 재직하고 있습니다. 천의 연구는 계산 신경 과학과 깊은 무감독 학습의 교차점에 있으며, 우리가 무감독 학습의 내부 메커니즘을 이해하고, 자연 신호 통계에 대한 우리의 통찰력을 재정의하는 데 도움이 됩니다.

UC 데이비스에 합류하기 전에, 천은 NYU 센터 포 데이터 사이언스(CDS)와 메타 펀더멘탈 AI 리서치(FAIR)에서 Yann LeCun 교수와 함께 박사 후 연구를 수행했습니다. 그는 UC 버클리에서 Bruno Olshausen 교수의 지도 아래 박사 학위를 취득했습니다.

아지프는 에지 디바이스를 위한 초고效 인공지능 솔루션을 개발하는 회사로, 컴팩트 모델을 비전, 오디오, 시간 시리즈, 언어 및 센서 퓨전 애플리케이션에 제공합니다. 아지프의 제품은 얼굴 및 객체 인식, 키워드 스포팅, ECG/EEG 분석 및 온디바이스 채트봇과 같은 작업을 가능하게 하며, 모두 TinyML에 의해 구동됩니다. 아지프의 AI 나노팩토리 플랫폼, Aizipline을 통해, 아지프는 기초 모델과 생성 모델을 사용하여 전체 인공지능 설계 자동화를 향해 모델 개발을 가속화합니다. 아지프의 Gizmo 시리즈는 300M-2B 파라미터의 작은 언어 모델로, 다양한 디바이스에서 지능형 기능을 제공합니다.

당신은 NYU와 메타 FAIR에서 Yann LeCun과 함께 박사 후 연구를 수행했습니다. 그 경험과 UC 버클리에서의 연구가 실제 인공지능 솔루션 개발에 어떻게 영향을 미쳤나요?

버클리에서, 내 연구는 과학적 탐구와 수학적 엄밀성에 깊이 뿌리박혀 있었습니다. 내 박사 연구는 전기 공학, 컴퓨터 과학, 계산 신경 과학을 결합하여, 인공지능 시스템을 “화이트 박스” 관점에서 이해하는 데 중점을 두었습니다. 나는 해석 가능한 고성능 인공지능 모델과 시각화 기술을 개발하여 블랙박스 인공지능 시스템을 열어 보는 데 도움이 되었습니다.

메타 FAIR에서,焦点은 대규모 인공지능 시스템을 개발하여 최첨단 성능을 달성하는 것이었습니다. 세계 최고의 컴퓨팅 리소스를 사용하여, 나는 자기 감독 학습의 한계를 탐구하고 “월드 모델”을 개발했습니다. 이 쌍방향 경험 – 버클리에서의 과학적 이해와 메타에서의 엔지니어링 주도적인 확장 – 는 인공지능 개발에 대한 포괄적인 관점을 제공했습니다. 그것은 이론적 통찰과 실제 구현의 중요성을 강조했습니다.

당신의 연구는 계산 신경 과학과 인공지능을 결합합니다. 신경 과학에서 얻은 통찰력이 인공지능 모델 개발에 어떻게 영향을 미치나요?

계산 신경 과학에서, 우리는 뇌가 정보를 처리하는 방식을 연구하기 위해 다양한 자극에 대한 뇌의 반응을 측정합니다. 이것은 인공지능 모델의 내부 메커니즘을 이해하기 위해 인공지능 모델을 조사하는 것과 유사합니다. 초기에, 나는 단어 임베딩을 분석하기 위한 시각화 기술을 개발했습니다. 나중에, 이것은 더 복잡한 인공지능 모델로 확장되어, 그들이 지식을 처리하고 저장하는 방식을 이해하는 데 도움이 되었습니다.

이러한 방법은 신경 과학에서 사용되는 기술과 평행합니다. 예를 들어, 뇌 활동을 연구하기 위해 전극이나 fMRI를 사용하는 것과 유사합니다. 인공지능 모델의 내부 표현을 조사하면, 그들의 추론 전략을 이해하고, 개념 뉴런과 같은 출현 속성을 감지하는 데 도움이 됩니다. 이러한 연구는 산업에서 널리 채택되어, 해석 가능하고 신뢰할 수 있는 인공지능을 만들기 위해 사용됩니다.

당신은 아지프를 공동 창립한 계기가 무엇인가요? 아지프를 창립하기까지의 여정을 이야기해 주세요.

기본적인 인공지능 연구자로서, 많은 내 연구가 이론적이었습니다. 그러나 나는 연구와 실제 응용 프로그램 사이의 간격을 메우고 싶었습니다. 나는 아지프를 공동 창립하여, 최첨단 인공지능 혁신을 실제 사용으로 옮기고자 했습니다. 특히, 자원 제한된 환경에서 최적화된 초고效 인공지능 모델을 개발하는 데 중점을 두었습니다.

아지프의 여정은 한 가지 핵심적인 관찰에서 시작되었습니다. 인공지능의 발전은 빠르게 진행되고 있지만, 실제 응용 프로그램은 souvent 경량화되고 효율적인 모델을 필요로 합니다. 우리는 이러한 기회를 포착하여, 과학적 엄밀성과 실제 배포 사이의 균형을 이루는 새로운 방향을 개척했습니다. 자기 감독 학습과 컴팩트 모델 아키텍처의 통찰력을 활용하여, 아지프는 에지 디바이스에서 효율적으로 작동하는 인공지능 솔루션을 제공할 수 있었습니다.

아지프는 에지 디바이스를 위한 작은 인공지능 모델에 전문적입니다. 시장에서 이러한焦点을 두게 된 계기는 무엇인가요?

인공지능 산업은 주로 모델을 확대하는 데 중점을 두었습니다. 그러나 실제 응용 프로그램은 souvent 반대의 것을 필요로 합니다. 즉, 높은 효율성, 낮은 전력 소비, 최소의 지연이 필요합니다. 현재의 많은 인공지능 모델은 임베디드 디바이스에서 배포하기에는 계산적으로 너무 비용이 많이 듭니다. 우리는 시장에서 이러한 격차를 인식했습니다.

우리는 모든 인공지능 응용 프로그램이 대형 모델을 사용해야 하는 것은 아니며, 또한 모든 것을 대형 모델에 의존하는 것은 확장 가능하지 않다는 것을 인식했습니다. 대신, 우리는 알고리즘을 최적화하여 최대 효율성을 달성하면서 정확성을 유지하는 데 중점을 두었습니다. 에지 애플리케이션을 위한 인공지능 모델을 설계함으로써, 우리는 인공지능을 더 접근 가능하고, 확장 가능하며, 에너지 효율적으로 만들었습니다.

아지프는 소형 언어 모델(SLM)의 개발을 주도하고 있습니다. SLM는 더 큰 모델과 어떻게 경쟁하거나 보완할 수 있나요?

SLM와 더 큰 모델은 직접적으로 경쟁하는 것이 아닙니다. 더 큰 모델은 일반화와 깊은 추론에 강점이 있지만, 상당한 컴퓨팅 리소스를 필요로 합니다. SLM는 효율성과 에지 디바이스에서의 배포를 위해 설계되었습니다.它们는 클라우드 기반 모델이 처리하는 복잡한 쿼리를 처리하는 동시에, 에지에서 실시간 지능을 제공함으로써 보완합니다. 인공지능의 채택이 증가함에 따라, 우리는 클라우드 기반 모델이 복잡한 쿼리를 처리하는 동시에, 에지에서 실시간 지능을 제공하는 하이브리드 접근 방식이 등장할 것으로 예상합니다.

에지 디바이스에서 인공지능 모델을 효율적으로 만드는 데 가장 큰 기술적인 도전은 무엇인가요?

인공지능 모델이 어떻게 작동하는지에 대한 완전한 이론적 이해의 부족은 하나의 기본적인 도전입니다. 명확한 이론적 기초 없이, 최적화 노력은 종종 경험적이며, 효율성 향상을 제한합니다. 또한, 인간의 학습은 다양한 방식으로 발생하며, 현재의 기계 학습 패러다임이 이를 완전히 포착하지 못합니다.

엔지니어링 관점에서, 인공지능을 극단적인 제약 내에서 작동하도록 하는 것은 모델 압축, 양자화 및 아키텍처 설계에서 혁신적인 솔루션이 필요합니다. 또 다른 도전은 다양한 디바이스와 환경에서 강건성을 유지하면서 인공지능 모델을 적응시키는 것입니다. 인공지능이 물리적 세계와 상호 작용하기 위한 자연스럽고 효율적인 인터페이스를 만들 필요가 있습니다.

소프트뱅크와 같은 회사와의 아지프의 협력을 이야기해 주세요.

우리는 최근 소프트뱅크와 수족관 프로젝트에合作하여 CES 혁신상을 수상했습니다. 우리는 수족관 운영자들이 사용할 수 있는 효율적인 에지 기반 인공지능 모델을 개발했습니다. 이 솔루션은 수족관 산업에서 지속 가능성, 음식浪費, 수익성 문제를 해결하는 데 도움이 됩니다.

해결책은 온디바이스에서 작동하는 것이었습니다. 우리는 소프트뱅크의 컴퓨터 그래픽 시뮬레이션을 훈련 데이터와 결합하고, 우리의 컴팩트 인공지능 모델을 사용하여, 매우 정확한 시스템을 만들었습니다. 수중 테스트에서 95%의 인식률을 달성했습니다. 이는 수족관 산업에서 효율성을 향상시키고, 비용을 절감하며, 수동 노동의 필요성을 줄이는 데 도움이 됩니다.

아지프는 “AI 나노팩토리”라는 개념을 도입했습니다. 이것이 무엇이며, 인공지능 모델 개발을 어떻게 자동화하는가요?

AI 나노팩토리는 우리의 내부 인공지능 설계 자동화 파이프라인으로, 전자 설계 자동화(EDA)에서 영감을 받았습니다. 초기 개발은 많은 수동 노력이 필요하지만, 자동화는 진행과 확장을 가속화하는 데 핵심입니다.

우리는 인공지능이 인공지능의 개발을 가속화할 수 있는지 물었습니다. AI 나노팩토리는 데이터 처리, 아키텍처 설계, 모델 선택, 훈련, 양자화, 배포 및 디버깅을 포함한 모든 인공지능 모델 개발 단계를 자동화합니다. 인공지능을 사용하여 인공지능을 최적화함으로써, 우리는 새로운 모델의 개발 시간을 평균 10배로 줄일 수 있었습니다. 어떤 경우에는 1,000배 이상으로 줄일 수 있었습니다.

5년 내에 에지 인공지능의 역할은 어떻게 발전할 것으로 예상하나요?

에지 인공지능은 기술과 우리의 상호 작용을 변革할 것입니다. 현재 대부분의 인공지능 애플리케이션이 클라우드 기반ですが, 에지 디바이스와 센서가 물리적 세계와 상호 작용하기 시작하면서, 이 트렌드는 바뀌고 있습니다. 에지에서 실시간 처리의 필요성이 강조되고 있습니다.

5년 내에, 우리는 에지 인공지능이 더 자연스럽고 직관적인 사용자 인터페이스를 가능하게 할 것으로 예상합니다. 예를 들어, 음성 및 제스처 인식과 같은 인터페이스가 키보드와 터치스크린과 같은 전통적인 장벽을 제거할 것입니다. 인공지능은 또한 스마트 홈이나 산업 자동화와 같은 환경에서 실시간 의사 결정과 최소한의 지연을 가능하게 할 것입니다.

아지프에서 개발 중인 인공지능 기반 디바이스 중에 가장 흥미로운 것은 무엇인가요?

우리는 자동차 산업에서 사용할 수 있는 인공지능 에이전트를 개발 중입니다. 차량 내부에서 사용할 수 있는 인공지능 에이전트는 차량의 운전자를 위해 다양한 작업을 수행할 수 있습니다. 예를 들어, 운전자가 “나는 춥다”라고 말하면, 에이전트는 차량의 온도를 조절할 수 있습니다.또한, “내일 보스턴으로 갈 때 무엇을 입어야 할까?”라는 질문에 대해, 에이전트는 날씨를 확인하고 제안을 할 수 있습니다.

이러한 솔루션은 운전자의 안전을 강화하고, 운전 중에 사용자 인터페이스와의 상호 작용을 최소화할 수 있습니다. 또한, 클라우드에 의존하지 않기 때문에, 연결이 불안정한 지역에서도 작동합니다.

아지프는 초고效 인공지능 솔루션을 개발하는 회사로, 에지 디바이스를 위한 컴팩트 모델을 제공합니다. 아지프의 제품은 얼굴 및 객체 인식, 키워드 스포팅, ECG/EEG 분석 및 온디바이스 채트봇과 같은 작업을 가능하게 하며, 모두 TinyML에 의해 구동됩니다. 아지프의 AI 나노팩토리 플랫폼, Aizipline을 통해, 아지프는 기초 모델과 생성 모델을 사용하여 전체 인공지능 설계 자동화를 향해 모델 개발을 가속화합니다. 아지프의 Gizmo 시리즈는 300M-2B 파라미터의 작은 언어 모델로, 다양한 디바이스에서 지능형 기능을 제공합니다.

이 인터뷰에 대한 감사를 드리며, 더 많은 정보를 원하는 독자는 아지프를 방문할 수 있습니다.