AI 模型与平台

Liquid AI 推出 Liquid Foundation Models:一种革命性的生成式 AI

Antoine Tardif
将 Unite.AI 添加到您在 Google 上的首选来源
要点Liquid AI的新型模型以卓越的效率和顶尖的基准性能,向ChatGPT等巨头发起挑战。
查看更多
  • Liquid AI的新型模型以卓越的效率和顶尖的基准性能,向ChatGPT等巨头发起挑战。
  • 其液态基础模型采用创新的自适应架构,在处理长上下文任务时大幅降低内存消耗。
  • 该公司计划将这些高效模型从文本扩展至视频和音频领域,以推动广泛的行业应用。

在一项开创性的公告中,Liquid AI,一家麻省理工学院的分公司,推出了其首批 Liquid Foundation Models (LFMs)。这些模型从第一原则设计,设定了生成式 AI 领域的新标准,提供了无与伦比的性能和可扩展性。LFMs凭借其创新架构和先进能力,已准备好挑战行业领先的 AI 模型,包括 ChatGPT。

Liquid AI 由一组麻省理工学院的研究人员创立,包括 Ramin Hasani、Mathias Lechner、Alexander Amini 和 Daniela Rus。该公司总部位于马萨诸塞州波士顿,其使命是为所有规模的企业创建高效和通用的 AI 系统。该团队最初开创了液态神经网络,一类受脑动力学启发的 AI 模型,现在旨在扩展 AI 系统的能力,从边缘设备到企业级部署。

什么是 Liquid Foundation Models (LFMs)?

Liquid Foundation Models 代表了一代新的 AI 系统,它们在内存使用和计算能力方面都非常高效。基于动态系统、信号处理和数值线性代数的基础,这些模型旨在处理各种类型的序列数据(如文本、视频、音频和信号),并具有显著的准确性。

Liquid AI 已经开发了三种主要的语言模型作为此次发布的一部分:

  • LFM-1B:一个参数为 1.3 亿的稠密模型,针对资源受限的环境进行了优化。
  • LFM-3B:一个参数为 31 亿的模型,适合边缘部署场景,如移动应用程序。
  • LFM-40B:一个参数为 403 亿的 Mixture of Experts (MoE) 模型,旨在处理复杂任务并提供卓越的性能。

这些模型已经在关键 AI 基准测试中展示了最先进的结果,使其成为现有生成式 AI 模型的强大竞争者。

最先进的性能

Liquid AI 的 LFMs 在各个基准测试中提供了最先进的性能。例如,LFM-1B 在其规模类别中优于基于变压器的模型,而 LFM-3B 与更大的模型(如微软的 Phi-3.5 和 Meta 的 Llama 系列)相竞争。尽管 LFM-40B 模型规模较大,但其效率足以与参数更大的模型相媲美,提供了性能和资源效率之间的独特平衡。

LFM 的一些亮点包括:

  • LFM-1B:在 MMLU 和 ARC-C 基准测试中占据主导地位,设定了 1B 参数模型的新标准。
  • LFM-3B:在效率方面超越了像 Phi-3.5 和 Google 的 Gemma 2 这样的模型,同时保持了小的内存占用,使其适合移动和边缘 AI 应用程序。
  • LFM-40B:该模型的 MoE 架构提供了与更大模型相当的性能,每次仅有 12 亿活跃参数。

AI 效率的新时代

现代 AI 面临的一个重大挑战是管理内存和计算,特别是在处理长上下文任务(如文档摘要或聊天机器人交互)时。LFMs 在这一领域表现出色,通过高效地压缩输入数据,从而减少了推理过程中的内存消耗。这使得模型能够处理更长的序列,而无需昂贵的硬件升级。

例如,LFM-3B 提供了 32k 标记上下文长度,使其成为处理大量数据的任务中最有效的模型之一。

革命性的架构

LFMs 采用了一种独特的架构框架,偏离了传统的变压器模型。该架构围绕自适应线性运算符展开,这些运算符根据输入数据调节计算。这种方法使 Liquid AI 能够在包括 NVIDIA 、AMD、Cerebras (CBRS ) 和 Apple 硬件在内的各种硬件平台上显著优化性能。

LFM 的 设计空间 涉及一种新颖的 标记混合 和 通道混合结构 的融合,这些结构提高了模型处理数据的方式。这种方法带来了卓越的泛化和推理能力,特别是在长上下文任务和多模态应用中。

扩展 AI 边界

Liquid AI 对 LFMs 有着宏伟的志向。除了语言模型外,该公司正在努力将其基础模型扩展到支持各种数据模式,包括视频、音频和时间序列数据。这些进步将使 LFMs 能够跨多个行业扩展,例如金融服务、生物技术和消费电子。

该公司还专注于为开放科学社区做出贡献。虽然目前尚未开源这些模型,但 Liquid AI 计划向更广泛的 AI 社区发布相关研究成果、方法和数据集,以鼓励合作和创新。

早期访问和采用

Liquid AI 目前通过各种平台提供对其 LFMs 的早期访问,包括 Liquid Playground、Lambda(聊天 UI 和 API)和 Perplexity Labs。希望将尖端 AI 系统整合到其运营中的企业可以在从边缘设备到本地解决方案的各种部署环境中探索 LFMs 的潜力。

Liquid AI 的开放科学方法鼓励早期采用者分享他们的经验和见解。该公司积极寻求反馈,以改进和优化其模型以适应实际应用。有兴趣加入这一旅程的开发人员和组织可以通过红队测试努力为 Liquid AI 的 AI 系统做出贡献。

结论

Liquid Foundation Models 的发布标志着 AI 领域的一个重大进步。凭借其对效率、适应性和性能的关注,LFMs 有望改变企业对 AI 集成的方法。随着更多组织采用这些模型,Liquid AI 关于可扩展和通用 AI 系统的愿景可能将成为下一代人工智能的基石。

如果您有兴趣探索 LFMs 对您的组织的潜力,Liquid AI 邀请您联系并加入日益增长的早期采用者社区,共同塑造 AI 的未来。

如需更多信息,请访问 Liquid AI 官方网站,并开始今天就尝试使用 LFMs。

安托万是一位富有远见的领导者,也是 Unite.AI 的创始合伙人。他怀着坚定的热情,致力于塑造和推动人工智能与机器人技术的未来。作为一名多次创业的企业家,他相信人工智能将像电力一样深刻地改变社会,并经常热情地谈论颠覆性技术和通用人工智能(AGI)的潜力。

作为一名未来学家,他致力于探索这些创新将如何塑造我们的世界。此外,他还是 Securities.io 的创始人。该平台专注于投资正在重新定义未来、重塑整个行业的前沿技术。