美塔的 Llama 3.2：重新定义开源生成式 AI，具有设备端和多模态能力

美塔最近发布的 Llama 3.2，是其 Llama 系列大型语言模型的最新版本，这是开源生成式 AI 生态系统发展的重要里程碑。这个升级扩展了 Llama 在两个维度的能力。一方面，Llama 3.2 允许处理多模态数据——集成了图像、文本和更多——使高级 AI 能力更容易被更广泛的受众所接受。另一方面，它扩大了其在边缘设备上的部署潜力，创造了令人兴奋的实时、设备端 AI 应用的机会。在本文中，我们将探讨这一发展及其对 AI 部署未来的影响。

Llama 的演进

美塔的 Llama 之旅始于 2023 年初，在那段时间里，该系列经历了爆炸性的增长和采用。从 Llama 1 开始，它仅限于非商业用途，只有少数研究机构可以访问，随着 Llama 2 在 2023 年的发布，该系列进入了开源领域。今年早些时候发布的 Llama 3.1，是演进过程中的一个重要步骤，因为它引入了最大的开源模型，拥有 405 亿参数，这与其专有竞争对手不相上下或更好。最新发布的 Llama 3.2，更进一步引入了新的轻量级和视觉专注模型，使设备端 AI 和多模态功能更容易被访问。美塔致力于开放性和可修改性，使 Llama 成为开源社区中的领先模型。该公司认为，通过致力于透明度和可访问性，我们可以更有效地推动 AI 创新——不仅是为开发人员和企业，也是为世界各地的每个人。

介绍 Llama 3.2

Llama 3.2 是美塔 Llama 系列的最新版本，包括各种语言模型，旨在满足不同需求。最大的和中等大小的模型，包括 90 亿和 11 亿参数，旨在处理多模态数据，包括文本和图像。这些模型可以有效地解释图表、图形和其他形式的视觉数据，使其适合用于构建计算机视觉、文档分析和增强现实工具等领域的应用。轻量级模型，具有 1 亿和 3 亿参数，专门为移动设备设计。这些仅文本的模型在多语言文本生成和工具调用能力方面表现出色，使其非常适合任务，如检索增强生成、摘要和在边缘设备上创建个性化的代理应用。

Llama 3.2 的意义

Llama 3.2 的发布可以从两个关键领域的进步来认可。

多模态 AI 的新时代

Llama 3.2 是美塔的第一个开源模型，既能处理文本也能处理图像。 这是开源生成式 AI 演进过程中的一个重要发展，因为它使模型能够分析和响应视觉输入以及文本数据。例如，用户现在可以上传图像并根据自然语言提示获得详细的分析或修改，例如识别对象或生成字幕。马克·扎克伯格在发布会上强调了这一能力，表示 Llama 3.2 旨在“使许多需要视觉理解的应用变得有趣” 。这一集成扩大了 Llama 在依赖多模态信息的行业中的范围，包括零售、医疗保健、教育和娱乐。

设备端功能以提高可访问性

Llama 3.2 的一个突出特点是其针对设备端部署的优化，特别是在移动环境中。该模型的轻量级版本，具有 1 亿和 3 亿参数，专门设计用于在高通和联发科硬件驱动的智能手机和其他边缘设备上运行。这种实用性使开发人员能够在无需大量计算资源的情况下创建应用程序。此外，这些模型版本在多语言文本处理方面表现出色，并支持最长 128K 个令牌的上下文长度，使用户能够以其母语开发自然语言处理应用程序。另外，这些模型具有工具调用能力，允许用户参与代理应用程序，例如直接在其设备上管理日历邀请和计划行程。
设备端 AI 模型的部署使开源 AI 能够克服云计算的挑战，包括延迟问题、安全风险、高运营成本和对互联网连接的依赖。这种进步有可能改变医疗保健、教育和物流等行业，使它们能够在无需云基础设施或隐私问题的情况下使用 AI，并且能够实时使用。同时，这也为 AI 打开了通往连接有限地区的大门，民主化了对尖端技术的访问。

竞争优势

美塔报告称，Llama 3.2 在性能方面与 OpenAI 和 Anthropic 的领先模型相比具有竞争力。他们声称 Llama 3.2 在包括指令跟随和内容摘要任务在内的各种基准测试中优于竞争对手，如 Claude 3-Haiku 和 GPT-4o-mini。这种竞争优势对于美塔来说至关重要，因为它旨在确保开源 AI 在快速演变的生成式 AI 领域中保持与专有模型的同步。

Llama 栈：简化 AI 部署

Llama 3.2 发布的一个关键方面是 Llama 栈的引入。这个工具套件使开发人员更容易在不同的环境中（包括单节点、本地、云和设备端设置）使用 Llama 模型。Llama 栈包括对 RAG 和工具启用的应用程序的支持，提供了一个灵活、全面的框架，用于部署生成式 AI 模型。通过简化部署过程，美塔使开发人员能够轻松地将 Llama 模型集成到其应用程序中，无论是云端、移动端还是桌面环境。

结论

美塔的 Llama 3.2 是开源生成式 AI 演进过程中的一个重要时刻，开创了新的可访问性、功能性和多样性的基准。凭借其设备端能力和多模态处理，这个模型为各个行业开启了变革性的可能性，从医疗保健到教育，同时解决了隐私、延迟和基础设施限制等关键问题。通过赋予开发人员在本地高效部署高级 AI 的能力，Llama 3.2 不仅扩大了 AI 应用的范围，还使全球范围内能够民主化地访问尖端技术，从医疗保健到教育，同时解决了隐私、延迟和基础设施限制等关键问题。通过赋予开发人员在本地高效部署高级 AI 的能力，Llama 3.2 不仅扩大了 AI 应用的范围，还使全球范围内能够民主化地访问尖端技术。