本地生成式人工智能：塑造智能部署的未来

2024 年见证了生成式人工智能领域的重大转变。虽然像 GPT-4 这样的基于云的模型继续演进，但在本地设备上直接运行强大的生成式人工智能变得越来越可行和有吸引力。这一本地执行的生成式人工智能可以改变小型企业、开发人员和普通用户如何从人工智能中受益。让我们探索这一令人兴奋的趋势的关键方面。

摆脱云依赖

传统上，生成式人工智能依赖于云服务来获取计算能力。虽然云计算推动了显著的创新，但它在部署生成式人工智能应用方面面临着几个挑战。数据泄露事件的增加加剧了人们对保护敏感信息安全的担忧。在本地设备上使用本地人工智能可以最小化对外部服务器的暴露。

基于云的人工智能也面临延迟问题，导致响应速度变慢，用户体验不佳。本地人工智能可以显著减少延迟，提供更快的响应和更流畅的体验，这对于实时应用（如自动驾驶汽车和交互式虚拟助手）尤为重要。

基于云的人工智能面临的另一个关键挑战是可持续性。数据中心是云计算的骨干，但它们以高能耗和大量碳排放而闻名。随着世界应对气候变化，减少技术的环境影响变得至关重要。本地生成式人工智能提供了一个有力的解决方案，减少了对耗能数据中心的依赖，尽量减少了对不断数据传输的需求。

成本是另一个重要因素。虽然云服务强大，但它们可能很昂贵，尤其是对于连续或大规模的人工智能操作。通过利用本地硬件的力量，公司可以降低运营成本，这对可能发现云计算成本过高的小型企业和初创企业尤其有益。

此外，持续依赖互联网连接是基于云的人工智能的一个重大缺点。本地人工智能消除了这种依赖，允许即使在互联网连接不佳或没有连接的地区也能实现无间断功能。这一方面对于移动应用和互联网连接不可靠的农村地区尤其有益。

随着这些因素的汇聚，我们正在见证向本地生成式人工智能的显著转变。这一转变承诺提高性能，改善隐私，并使人工智能技术更加民主化，使强大的工具能够在无需不断互联网连接的情况下惠及更广泛的受众。

移动设备上神经处理单元的生成式人工智能的崛起

除了基于云的生成式人工智能的挑战之外，近年来将人工智能能力直接集成到移动设备中的趋势正在兴起。移动电话制造商越来越多地投资于专用的人工智能芯片，以提高性能、效率和用户体验。像苹果公司的 A 系列芯片、华为的昇腾 AI 处理器、 三星的 Exynos 系列和高通的 Hexagon 神经处理单元等公司正在引领这一潮流。

神经处理单元（NPUs）作为专门的人工智能处理器，旨在在移动设备上实现生成式人工智能。这些受大脑启发的处理器可以高效地处理复杂的人工智能任务，使移动设备上的数据处理速度更快、更准确。将 NPUs 与其他处理器（包括 CPU 和 GPU）集成到系统芯片（SoC）中，可以满足生成式人工智能任务的多样化计算需求。这一集成使得生成式人工智能模型可以更顺畅地在设备上运行，增强了整体用户体验。

人工智能电脑的出现：增强日常任务的生成式人工智能

生成式人工智能被集成到日常应用（如 Microsoft Office 或 Excel）中，这使得人工智能电脑的出现成为可能。人工智能优化的显卡支持这一趋势。最初为 3D 图形而设计，图形处理单元（GPUs）已被证明在运行生成式人工智能的神经网络方面非常有效。随着消费级显卡的进步，以支持生成式人工智能工作负载，它们也变得越来越能够在本地处理高级神经网络。例如，2023 年发布的英伟达 RTX 4080 笔记本显卡，利用了高达 14 太浮点运算来实现人工智能推理。随着显卡变得更加专门用于机器学习，本地生成式人工智能执行将在未来几天显著扩大。

人工智能优化的操作系统通过显著加快生成式人工智能算法的处理速度，同时将这些过程无缝地集成到用户的日常计算体验中，支持这一发展。软件生态系统已经演变为利用生成式人工智能的能力，人工智能驱动的功能（如预测文本、语音识别和自动决策）已经成为用户体验的核心方面。

这一技术飞跃对个人消费者和企业都有深远的影响。对于消费者来说，人工智能电脑的吸引力很大，因为它们的便利性和增强的功能。对于企业来说，人工智能电脑的潜力更加显著。为员工许可人工智能服务可能很昂贵，并且存在合理的担忧，即与云人工智能平台共享数据。人工智能电脑提供了一种经济有效和安全的解决方案，允许企业直接将人工智能功能集成到其运营中，而无需依赖外部服务。这一集成降低了成本并增强了数据安全，使人工智能更加容易获取和适用于工作场所应用。

通过生成式人工智能和边缘计算转变行业

生成式人工智能正在迅速改变全球各个行业。边缘计算将数据处理带到设备更近的位置，减少延迟并增强实时决策。生成式人工智能和边缘计算之间的协同作用使得自动驾驶汽车能够瞬间解释复杂场景，并使智能工厂能够实时优化生产线。这项技术赋予了下一代应用的能力，例如智能镜子提供个性化的时尚建议和无人机实时分析作物健康状况。

根据一份报告，超过 10,000 家公司正在使用 NVIDIA Jetson 平台构建，可以利用生成式人工智能来加速工业数字化。这些应用包括缺陷检测、实时资产跟踪、自主规划、人机交互等。ABI Research 预测，生成式人工智能将为全球制造业带来 103 亿美元的收入增加，到 2033 年。这些报告强调了本地生成式人工智能在推动经济增长和促进各个领域创新方面的重要作用。

结论

本地生成式人工智能、移动人工智能、人工智能电脑和边缘计算的融合标志着人工智能潜力的一个重要转变。通过摆脱云依赖，这些进步承诺提高性能、改善隐私和降低成本，惠及企业和消费者。随着这些技术的演进，它们将重新定义用户体验、简化运营，并推动全球显著的经济增长。