人工智能

Liquid AI 推出 Liquid Foundation Models:一种革命性的生成式 AI

mm

在一项开创性的公告中,Liquid AI,一家麻省理工学院的分公司,推出了其首批 Liquid Foundation Models (LFMs)。这些模型从第一原则设计,设定了生成式 AI 领域的新标准,提供了无与伦比的性能和可扩展性。LFMs凭借其创新架构和先进能力,已准备好挑战行业领先的 AI 模型,包括 ChatGPT。

Liquid AI 由一组麻省理工学院的研究人员创立,包括 Ramin HasaniMathias LechnerAlexander Amini 和 Daniela Rus。该公司总部位于马萨诸塞州波士顿,其使命是为所有规模的企业创建高效和通用的 AI 系统。该团队最初开创了液态神经网络,一类受脑动力学启发的 AI 模型,现在旨在扩展 AI 系统的能力,从边缘设备到企业级部署。

什么是 Liquid Foundation Models (LFMs)?

Liquid Foundation Models 代表了一代新的 AI 系统,它们在内存使用和计算能力方面都非常高效。基于动态系统、信号处理和数值线性代数的基础,这些模型旨在处理各种类型的序列数据(如文本、视频、音频和信号),并具有显著的准确性。

Liquid AI 已经开发了三种主要的语言模型作为此次发布的一部分:

  • LFM-1B:一个参数为 1.3 亿的稠密模型,针对资源受限的环境进行了优化。
  • LFM-3B:一个参数为 31 亿的模型,适合边缘部署场景,如移动应用程序。
  • LFM-40B:一个参数为 403 亿的 Mixture of Experts (MoE) 模型,旨在处理复杂任务并提供卓越的性能。

这些模型已经在关键 AI 基准测试中展示了最先进的结果,使其成为现有生成式 AI 模型的强大竞争者。

最先进的性能

Liquid AI 的 LFMs 在各个基准测试中提供了最先进的性能。例如,LFM-1B 在其规模类别中优于基于变压器的模型,而 LFM-3B 与更大的模型(如微软的 Phi-3.5 和 Meta 的 Llama 系列)相竞争。尽管 LFM-40B 模型规模较大,但其效率足以与参数更大的模型相媲美,提供了性能和资源效率之间的独特平衡。

LFM 的一些亮点包括:

  • LFM-1B:在 MMLU 和 ARC-C 基准测试中占据主导地位,设定了 1B 参数模型的新标准。
  • LFM-3B:在效率方面超越了像 Phi-3.5 和 Google 的 Gemma 2 这样的模型,同时保持了小的内存占用,使其适合移动和边缘 AI 应用程序。
  • LFM-40B:该模型的 MoE 架构提供了与更大模型相当的性能,每次仅有 12 亿活跃参数。

AI 效率的新时代

现代 AI 面临的一个重大挑战是管理内存和计算,特别是在处理长上下文任务(如文档摘要或聊天机器人交互)时。LFMs 在这一领域表现出色,通过高效地压缩输入数据,从而减少了推理过程中的内存消耗。这使得模型能够处理更长的序列,而无需昂贵的硬件升级。

例如,LFM-3B 提供了 32k 标记上下文长度,使其成为处理大量数据的任务中最有效的模型之一。

革命性的架构

LFMs 采用了一种独特的架构框架,偏离了传统的变压器模型。该架构围绕自适应线性运算符展开,这些运算符根据输入数据调节计算。这种方法使 Liquid AI 能够在包括 NVIDIA、AMD、Cerebras 和 Apple 硬件在内的各种硬件平台上显著优化性能。

LFM 的 设计空间 涉及一种新颖的 标记混合通道混合结构 的融合,这些结构提高了模型处理数据的方式。这种方法带来了卓越的泛化和推理能力,特别是在长上下文任务和多模态应用中。

扩展 AI 边界

Liquid AI 对 LFMs 有着宏伟的志向。除了语言模型外,该公司正在努力将其基础模型扩展到支持各种数据模式,包括视频、音频和时间序列数据。这些进步将使 LFMs 能够跨多个行业扩展,例如金融服务、生物技术和消费电子。

该公司还专注于为开放科学社区做出贡献。虽然目前尚未开源这些模型,但 Liquid AI 计划向更广泛的 AI 社区发布相关研究成果、方法和数据集,以鼓励合作和创新。

早期访问和采用

Liquid AI 目前通过各种平台提供对其 LFMs 的早期访问,包括 Liquid PlaygroundLambda(聊天 UI 和 API)和 Perplexity Labs。希望将尖端 AI 系统整合到其运营中的企业可以在从边缘设备到本地解决方案的各种部署环境中探索 LFMs 的潜力。

Liquid AI 的开放科学方法鼓励早期采用者分享他们的经验和见解。该公司积极寻求反馈,以改进和优化其模型以适应实际应用。有兴趣加入这一旅程的开发人员和组织可以通过红队测试努力为 Liquid AI 的 AI 系统做出贡献。

结论

Liquid Foundation Models 的发布标志着 AI 领域的一个重大进步。凭借其对效率、适应性和性能的关注,LFMs 有望改变企业对 AI 集成的方法。随着更多组织采用这些模型,Liquid AI 关于可扩展和通用 AI 系统的愿景可能将成为下一代人工智能的基石。

如果您有兴趣探索 LFMs 对您的组织的潜力,Liquid AI 邀请您联系并加入日益增长的早期采用者社区,共同塑造 AI 的未来。

如需更多信息,请访问 Liquid AI 官方网站,并开始今天就尝试使用 LFMs。

安托万是一位具有远见的领导者和Unite.AI的联合创始人,他对塑造和推广人工智能和机器人技术的未来充满热情。作为一位连续创业者,他相信人工智能将对社会产生电力的影响一样的颠覆性影响,并经常被发现对颠覆性技术和通用人工智能的潜力大肆赞扬。

作为一位未来学家,他致力于探索这些创新将如何塑造我们的世界。另外,他还是Securities.io的创始人,这是一个专注于投资尖端技术的平台,这些技术正在重新定义未来并重塑整个行业。