本地生成人工智能：塑造智能部署的未来

2024 年，生成式人工智能领域将发生重大转变。虽然 GPT-4 等基于云的模型仍在不断发展，但直接在本地设备上运行强大的生成式人工智能正变得越来越可行和有吸引力。这种生成式人工智能的本地执行可以改变小型企业、开发人员和日常用户从人工智能中受益的方式。让我们来探索这一激动人心的趋势的关键方面。

摆脱对云的依赖

传统上，生成式 AI 依靠云服务来获得计算能力。尽管云推动了重大创新，但它在部署生成式 AI 应用程序方面仍面临多项挑战。数据泄露事件的增多加剧了人们对敏感信息安全的担忧。使用设备上的 AI 在本地处理数据可最大限度地减少对外部服务器的暴露。

基于云的 AI 还需要解决延迟问题，这会导致响应速度变慢，用户体验不够流畅。设备上的 AI 可以显著减少延迟，提供更快的响应和更流畅的体验，这对于自动驾驶汽车和交互式虚拟助手等实时应用尤为重要。

基于云的人工智能面临的另一个关键挑战是可持续性。数据中心是 云计算，以高能耗和大量碳足迹而臭名昭著。随着世界努力应对气候变化，减少技术对环境的影响已变得至关重要。本地生成 AI 提供了一个引人注目的解决方案，减少了对能源密集型数据中心的依赖，并最大限度地减少了对持续数据传输的需求。

成本是另一个重要因素。虽然云服务很强大，但它们可能很昂贵，尤其是对于持续或大规模的人工智能操作而言。通过利用本地硬件的强大功能，公司可以降低运营成本，这对于可能发现云计算成本过高的小型企业和初创公司尤其有利。

此外，对互联网连接的持续依赖是基于云的 AI 的一个重大缺点。设备上的 AI 消除了这种依赖，即使在互联网连接较差或没有互联网连接的区域也能不间断地运行。这一方面对于移动应用程序和互联网接入可能不可靠的偏远或农村地区尤其有利。

随着这些因素的融合，我们见证了向本地生成 AI 的显著转变。这一转变有望提高性能、改善隐私并进一步实现 AI 技术的民主化，让更多人无需持续连接互联网即可使用强大的工具。

带有神经处理单元的移动生成人工智能的激增

除了云端生成式人工智能的挑战之外，将人工智能功能直接集成到移动设备中正成为近年来的一个关键趋势。手机制造商越来越多地投资专用人工智能芯片，以提高性能、效率和用户体验。苹果等公司 A系列芯片, 华为及其 Ascend AI 处理器, 三星及其 Exynos 系列以及高通的 六边形神经处理单元 正在领导这项工作。

神经处理单元 （NPU）正在成为专门的人工智能处理器，旨在在移动设备上实现生成式人工智能。这些受大脑启发的处理器可以高效处理复杂的人工智能任务，从而可以直接在移动设备上更快、更准确地处理数据。与其他处理器（包括 CPU 和 GPU）集成到其 SoC 中（系统芯片），NPU 能够高效满足生成式 AI 任务的多样化计算需求。这种集成使生成式 AI 模型能够在设备上更流畅地运行，从而提升整体用户体验。

人工智能电脑的出现，利用生成式人工智能增强日常任务

生成式人工智能越来越多地融入日常应用程序（例如 Microsoft Office 或 Excel），催生了人工智能 PC。人工智能优化 GPU 的重大进步支持了这一发展。最初设计用于 3D 图形， 图形处理单元 （GPU）在运行生成 AI 神经网络方面已被证明非常有效。随着消费级 GPU 在生成 AI 工作负载方面的进步，它们也越来越有能力在本地处理高级神经网络。例如， Nvidia RTX 4080 笔记本电脑 GPU 于 2023 年发布，可利用高达 14 万亿次浮点运算的算力进行 AI 推理。随着 GPU 越来越专注于机器学习，本地生成式 AI 执行将在未来大幅扩展。

针对 AI 优化的操作系统支持这一发展，它大幅加快了生成式 AI 算法的处理速度，同时将这些过程无缝集成到用户的日常计算体验中。软件生态系统一直在不断发展以利用生成式 AI 功能，其中预测文本、语音识别和自动决策等 AI 驱动的功能已成为用户体验的核心方面。

这项技术飞跃对个人消费者和企业都具有深远的影响。对于消费者而言，人工智能电脑因其便利性和增强的功能性而具有巨大的吸引力。对于企业而言，人工智能电脑的潜力更大。为员工授权人工智能服务可能成本高昂，而且人们对于与云人工智能平台共享数据的担忧也是合情合理的。人工智能电脑为这些挑战提供了一种经济高效且安全的解决方案，使企业能够将人工智能功能直接集成到其运营中，而无需依赖外部服务。这种集成降低了成本并增强了数据安全性，使人工智能更易于访问且更适用于工作场所应用。

利用生成式人工智能和边缘计算改变行业

生成式人工智能正在迅速改变全球的各行各业。 边缘计算 使数据处理更接近设备，减少延迟并增强实时决策。生成式人工智能与边缘计算之间的协同作用使自动驾驶汽车能够即时解释复杂场景，智能工厂能够实时优化生产线。这项技术为下一代应用提供支持，例如提供个性化时尚建议的智能镜子和实时分析农作物健康状况的无人机。

根据一个 报告，超过 10,000 家公司在此基础上 NVIDIA Jetson 平台 现在可以利用生成式人工智能来加速工业数字化。应用包括缺陷检测、实时资产跟踪、自主规划、人机交互等。ABI Research 预测 到 10.5 年，生成式人工智能将为全球制造业增加 2033 亿美元的收入。这些报告强调了本地生成式人工智能将在推动经济增长和促进各个领域创新方面发挥越来越重要的作用。

底线

本地生成式人工智能、移动人工智能、人工智能电脑和边缘计算的融合标志着人工智能潜力发挥的关键转变。通过摆脱对云的依赖，这些进步有望提高性能、改善隐私并降低企业和消费者的成本。随着应用从移动设备到人工智能驱动的电脑和边缘支持行业，这种转变使人工智能变得民主化并加速了各个领域的创新。随着这些技术的发展，它们将重新定义用户体验、简化运营并推动全球经济大幅增长。