Liquid AI, Liquid Foundation Models 출시: 생성형 AI의 게임 체인저

개척적인 발표에서, Liquid AI, MIT의 스핀오프 회사, 첫 번째 시리즈의 Liquid Foundation Models(LFMs)를 출시했습니다. 이러한 모델은 첫 번째 원리에서 설계되었으며, 생성형 AI 공간에서 새로운 벤치마크를 설정하며, 다양한 규모에서 비할 데 없는 성능을 제공합니다. LFMs는 혁신적인 아키텍처와 고급 기능을 갖추고 있으며, 산업을 선도하는 AI 모델,包括 ChatGPT,를 도전할 준비가 되어 있습니다.

Liquid AI는 MIT 연구자들에 의해 설립되었습니다. 그들은 Ramin Hasani, Mathias Lechner, Alexander Amini, 그리고 Daniela Rus가 포함되어 있습니다. 본사는 보스턴, 매사추세츠에 위치하며, 회사의 사명은 모든 규모의 기업을 위한 능력 있고 효율적인 일반 목적 AI 시스템을 생성하는 것입니다. 이 팀은 원래液体 신경망, 즉 뇌 역학에서 영감을 받은 AI 모델 클래스를 개척했습니다. 이제 그들은 에지 디바이스에서 기업급 배포까지 모든 규모에서 AI 시스템의 능력을 확장하는 것을 목표로 합니다.

Liquid Foundation Models (LFMs)란 무엇입니까?

Liquid Foundation Models는 메모리 사용과 계산 능력에서 매우 효율적인 새로운 세대의 AI 시스템을 나타냅니다. 동적 시스템, 신호 처리, 및 수치 선형 대수학을 기반으로 구축된 이러한 모델은 텍스트, 비디오, 오디오, 신호와 같은 다양한 유형의 순차적 데이터를 처리하는 데 탁월한 정확도를 제공합니다.

Liquid AI는 이 출시의 일환으로 세 가지 주요 언어 모델을 개발했습니다:

• LFM-1B: 1.3억 개의 매개변수를 갖는 밀집 모델로, 자원 제한된 환경에 최적화되었습니다.
• LFM-3B: 3.1억 개의 매개변수를 갖는 모델로, 에지 배포 시나리오, 즉 모바일 애플리케이션에 적합합니다.
• LFM-40B: 40.3억 개의 매개변수를 갖는 전문가 모음(MoE) 모델로, 복잡한 작업을 처리하는 데 탁월한 성능을 제공합니다.

이러한 모델은 이미 주요 AI 벤치마크에서 최첨단 결과를 보여주었으며, 기존의 생성형 AI 모델과 경쟁할 수 있습니다.

최첨단 성능

Liquid AI의 LFMs는 다양한 벤치마크에서 최상위 성능을 제공합니다. 예를 들어, LFM-1B는 자신의 크기 범주의 트랜스포머 기반 모델을 능가하며, LFM-3B는 Microsoft의 Phi-3.5와 Meta의 Llama 시리즈와 같은 더 큰 모델과 경쟁합니다. LFM-40B 모델은 크기에도 불구하고 성능과 자원 효율성 간에 고유한 균형을 제공하며, 더 큰 매개변수 수의 모델과 경쟁할 수 있습니다.

LFM 성능의 몇 가지 주요 특징은 다음과 같습니다:

• LFM-1B: MMLU 및 ARC-C와 같은 벤치마크에서 1B 매개변수 모델의 새로운 표준을 설정합니다.
• LFM-3B: Phi-3.5와 Google의 Gemma 2를 능가하는 효율성을 제공하며, 작은 메모리 용량을 유지하여 모바일 및 에지 AI 애플리케이션에 적합합니다.
• LFM-40B: 이 모델의 MoE 아키텍처는 더 큰 모델과 비교할 수 있는 성능을 제공하며, 동시에 12억 개의 활성 매개변수를 제공합니다.

AI 효율성의 새로운 시대

현대 AI의 주요課題 중 하나는 메모리와 계산을 관리하는 것입니다. 특히 문서 요약 또는 채팅봇 상호작용과 같은 긴 컨텍스트 작업에서 이러한課題가 더욱 두드러집니다. LFMs는 입력 데이터를 효율적으로 압축함으로써 이러한課題를 해결하며, 이는 추론 중에 메모리 사용량을 줄입니다. 이는 모델이 더 긴 시퀀스를 처리할 수 있게 하며, 비싼 하드웨어 업그레이드가 필요하지 않습니다.

예를 들어, LFM-3B는 32k 토큰 컨텍스트 길이를 제공하며, 이는 큰 데이터를 동시에 처리해야 하는 작업에 매우 효율적인 모델로 만듭니다.

혁신적인 아키텍처

LFMs는 전통적인 트랜스포머 모델과 다른 고유한 아키텍처 프레임워크를 기반으로 구축됩니다. 이 아키텍처는 적응형 선형 연산자를 중심으로 하며, 입력 데이터에 따라 계산을 조정합니다. 이 접근 방식으로 Liquid AI는 NVIDIA (NVDA ), AMD, Cerebras (CBRS ) 및 Apple (AAPL ) 하드웨어를 포함한 다양한 하드웨어 플랫폼에서 성능을 크게 최적화할 수 있습니다.

LFM의 디자인 공간에는 토큰 混合과 채널 混合 구조의 새로운 혼합이 포함되어 있으며, 이는 모델이 데이터를 처리하는 방식을 향상시킵니다. 이는 특히 긴 컨텍스트 작업과 멀티모달 애플리케이션에서 우수한 일반화와 추론 능력을 제공합니다.

AI 프론티어 확장

Liquid AI는 LFMs에 대한宏伟한 계획을 가지고 있습니다. 언어 모델을 넘어서, 회사는 다양한 데이터 모달리티, 즉 비디오, 오디오 및 시계열 데이터를 지원하기 위해 자신의 기반 모델을 확장하는 것을 목표로 합니다. 이러한 발전은 LFMs가 여러 산업, 즉 금융 서비스, 생물 기술 및 소비자 전자 제품에 걸쳐 확장할 수 있게 할 것입니다.

회사는 또한 오픈 사이언스 커뮤니티에 기여하는 데 중점을 두고 있습니다. 모델 자체는 현재 오픈 소스화되지 않았지만 Liquid AI는 관련 연구 결과, 방법 및 데이터 세트를 더 넓은 AI 커뮤니티에 공개할 계획이며, 이를 통해 협력과 혁신을 촉진할 수 있습니다.

초기 접근 및 채택

Liquid AI는 현재 다양한 플랫폼을 통해 LFMs에 대한 초기 접근을 제공하고 있습니다. 이는 Liquid Playground, Lambda(채팅 UI 및 API) 및 Perplexity Labs를 포함합니다. 기업은 에지 디바이스에서 온프레미스 솔루션까지 다양한 배포 환경에서 LFMs의 잠재력을 탐색할 수 있습니다.

Liquid AI의 오픈 사이언스 접근 방식은 초기 채택자들이 자신의 경험과 통찰력을 공유하도록鼓励합니다. 회사는 실제 애플리케이션에 대한 모델을 정제하고 최적화하기 위해 피드백을 적극적으로 구하고 있습니다. 개발자와 조직은 이 여정의 일부가 되고 싶다면 적대적 테스트 노력에 기여하고 Liquid AI의 AI 시스템을 개선하는 데 도움을 줄 수 있습니다.

결론

Liquid Foundation Models의 출시로 AI 랜드스케이프에서 중요한 발전이 이루어졌습니다. 효율성, 적응성 및 성능에 중점을 둔 LFMs는 기업이 AI 통합에 접근하는 방식을 재정의할 준비가 되어 있습니다. 더 많은 조직이 이러한 모델을 채택함에 따라 Liquid AI의 확장 가능하고 일반적인 목적의 AI 시스템에 대한 비전은 다음 세대의 인공지능의 핵심이 될 가능성이 있습니다.

LFMs의 잠재력을 탐색하고 싶은 경우, Liquid AI는 조인하고 AI의 미래를 형성하는 초기 채택자 커뮤니티의 일부가 되기를 초대합니다.

자세한 정보는 Liquid AI의 공식 웹사이트를 방문하고 오늘부터 LFMs를 실험해 보십시오.