本地生成式 AI：塑造智能部署的未来

2024 年见证了生成式 AI 景观的显著转变。虽然像 GPT-4 这样的基于云的模型继续演进，但直接在本地设备上运行强大的生成式 AI 正变得越来越可行和有吸引力。这一本地执行生成式 AI 的趋势可以改变小型企业、开发人员和普通用户从 AI 中受益的方式。让我们探索这一令人兴奋的趋势的关键方面。

摆脱云依赖

传统上，生成式 AI 依赖于云服务来获得计算能力。虽然云推动了显著的创新，但在部署生成式 AI 应用程序时面临着几个挑战。数据泄露事件的增加加剧了人们对保持敏感信息安全的担忧。在设备上处理数据可以最小化对外部服务器的暴露。
基于云的 AI 也存在延迟问题，导致响应速度变慢，用户体验不流畅。设备上的 AI 可以显著减少延迟，提供更快的响应和更流畅的体验，这对于实时应用程序（如自动驾驶汽车和交互式虚拟助手）尤其重要。
基于云的 AI 面临的另一个关键挑战是可持续性。数据中心是云计算的骨干，数据中心以高能耗和大量碳排放而闻名。随着世界应对气候变化，减少技术的环境影响变得至关重要。本地生成式 AI 提供了一个有力的解决方案，减少了对能耗高的数据中心的依赖，尽量减少了对不断数据传输的需求。
成本是另一个重要因素。虽然云服务强大，但它们可能很昂贵，尤其是对于持续或大规模的 AI 操作。通过利用本地硬件的力量，公司可以降低运营成本，这对可能发现云计算成本高昂的小型企业和初创企业尤其有益。
此外，持续依赖互联网连接是基于云的 AI 的一个重大缺点。设备上的 AI 消除了这种依赖，即使在互联网连接不良或没有互联网连接的地区，也可以实现无缝功能。这一方面对于移动应用程序和互联网连接不可靠的偏远或农村地区尤其有优势。
当这些因素汇聚时，我们见证了向本地生成式 AI 的显著转变。这一转变承诺了更好的性能、改善的隐私和 AI 技术的更大民主化，使强大的工具可供更广泛的受众使用，无需持续的互联网连接。

移动生成式 AI 与神经处理单元的崛起

除了基于云的生成式 AI 的挑战之外，近年来将 AI 能力直接集成到移动设备中的趋势正在兴起。移动电话制造商越来越多地投资于专用的 AI 芯片，以增强性能、效率和用户体验。像苹果（Apple）拥有其 A 系列芯片，华为（Huawei）拥有其 Ascend AI 处理器，三星（Samsung）拥有其 Exynos 线，以及高通（Qualcomm）拥有其 Hexagon 神经处理单元 正在领导这一潮流。
神经处理单元（NPUs） 正在作为专门的 AI 处理器出现，旨在在移动设备上实现生成式 AI。这些受大脑启发的处理器可以高效地处理复杂的 AI 任务，使移动设备上的数据处理速度更快、更准确。NPUs 与其他处理器（包括 CPU 和 GPU）集成到系统芯片（SoC）中，可以高效地满足生成式 AI 任务的多样化计算需求。这一集成使得生成式 AI 模型可以更顺畅地在设备上运行，增强了整体用户体验。

AI PC 的出现：增强日常任务的生成式 AI

生成式 AI 集成到日常应用程序（如 Microsoft Office 或 Excel）中，催生了 AI PC 的出现。AI 优化的 GPU 支持这一趋势。最初为 3D 图形设计的 图形处理单元（GPUs） 已经被证明在运行生成式 AI 的神经网络方面非常有效。随着消费级 GPU 的进步以支持生成式 AI 工作负载，它们也变得越来越能够处理高级神经网络。在设备上运行生成式 AI 的执行将在未来几天显著扩展。例如，2023 年发布的 Nvidia RTX 4080 笔记本 GPU，利用了高达 14 太浮点运算的能力进行 AI 推理。
AI 优化的操作系统支持这一发展，通过显著加速生成式 AI 算法的处理，同时将这些过程无缝地集成到用户的日常计算体验中。软件生态系统已经演变为利用生成式 AI 的功能，具有预测文本、语音识别和自动决策等 AI 驱动的功能已经成为用户体验的核心方面。
这一技术进步对个人消费者和企业都有深远的影响。对于消费者来说，AI PC 的吸引力很大，因为它们的便利性和增强的功能。对于企业来说，AI PC 的潜力更加显著。为员工许可 AI 服务可能很昂贵，并且存在合理的担忧，即与云 AI 平台共享数据。AI PC 提供了一种经济高效和安全的解决方案，可以将 AI 能力直接集成到业务运营中，而无需依赖外部服务。这一集成降低了成本，增强了数据安全，使 AI 更加容易被企业应用。

通过生成式 AI 和边缘计算转变行业

生成式 AI 正在迅速转变全球各个行业。边缘计算将数据处理带到设备更近的位置，减少延迟并增强实时决策。生成式 AI 和边缘计算之间的协同作用使得自动驾驶汽车能够瞬间解释复杂场景，智能工厂能够实时优化生产线。这项技术赋予了下一代应用程序的能力，例如智能镜子提供个性化的时尚建议，和无人机实时分析作物健康状况。
根据一份 报告，超过 10,000 家公司正在 NVIDIA Jetson 平台 上建设，可以利用生成式 AI 加速工业数字化。这些应用程序包括缺陷检测、实时资产跟踪、自主规划、人机交互等。ABI Research 预测，生成式 AI 将为全球制造业运营增加 10.5 亿美元的收入，到 2033 年。这些报告强调了本地生成式 AI 在推动经济增长和促进各个领域的创新方面将发挥的关键作用。

结论

本地生成式 AI、移动 AI、AI PC 和边缘计算的融合标志着利用 AI 潜力的一个重要转变。通过摆脱云依赖，这些进步承诺了更好的性能、改善的隐私和降低的成本，惠及企业和消费者。这些应用程序涵盖移动设备、AI 驱动的 PC 和边缘启用的行业，这一转变使 AI 更加民主化，促进了各个领域的创新。随着这些技术的演进，它们将重新定义用户体验、简化运营，并推动全球的显著经济增长。