Local Generative AI:塑造智能部署的未来

2024 年见证了生成性 AI 的格局发生了显著的转变。虽然像 GPT-4 这样的基于云的模型继续演进，但直接在本地设备上运行强大的生成性 AI 正变得越来越可行和有吸引力。这一本地执行的生成性 AI 可以改变小型企业、开发人员和普通用户如何从 AI 中受益。让我们探索这一令人兴奋的趋势的关键方面。

摆脱云依赖

传统上，生成性 AI 依赖于云服务来获取计算能力。虽然云驱动了显著的创新，但它在部署生成性 AI 应用程序时面临着几个挑战。越来越多的数据泄露事件加剧了人们对保持敏感信息安全的担忧。在设备上处理数据可以最小化对外部服务器的暴露。
基于云的 AI 也存在延迟问题，导致响应速度变慢，用户体验不流畅。设备上的 AI 可以显著减少延迟，提供更快的响应和更流畅的体验，这对于实时应用程序（如自动驾驶汽车和交互式虚拟助手）尤其重要。
基于云的 AI 面临的另一个关键挑战是可持续性。数据中心是云计算的骨干，但它们以高能耗和大量碳排放而闻名。随着世界应对气候变化，减少技术的环境影响变得至关重要。本地生成性 AI 提供了一个有力的解决方案，减少了对耗能的数据中心的依赖，尽量减少了对不断数据传输的需求。
成本是另一个重要因素。虽然云服务很强大，但它们可能很昂贵，特别是对于连续或大规模的 AI 操作。通过利用本地硬件的力量，公司可以降低运营成本，这对可能发现云计算成本过高的小型企业和初创企业尤其有益。
此外，持续依赖互联网连接是基于云的 AI 的一个重大缺点。设备上的 AI 消除了这一依赖，允许即使在互联网连接不良或没有互联网连接的地区也能无缝运行。这一方面对于移动应用程序和互联网连接不可靠的偏远或农村地区尤其有优势。
当这些因素汇聚时，我们正在见证向本地生成性 AI 的显著转变。这一转变承诺了更好的性能、改善的隐私和 AI 技术的更大民主化，使强大的工具在不需要持续互联网连接的情况下可供更广泛的受众使用。

移动生成性 AI 的崛起与神经处理单元

除了基于云的生成性 AI 的挑战之外，近年来将 AI 能力直接集成到移动设备中已成为一个重要趋势。移动电话制造商越来越多地投资于专用的 AI 芯片，以提高性能、效率和用户体验。像苹果（Apple）拥有其 A 系列芯片、华为（Huawei）拥有其 Ascend AI 处理器、三星（Samsung）拥有其 Exynos 线 和高通（Qualcomm）拥有其 Hexagon 神经处理单元 的公司正在领导这一潮流。
神经处理单元（NPUs） 正在作为专门的 AI 处理器出现，旨在在移动设备上实现生成性 AI。这些受大脑启发的处理器可以高效地处理复杂的 AI 任务，使得移动设备上的数据处理速度更快、更准确。将 NPUs 与其他处理器（包括 CPU 和 GPU）集成到其 SoC（系统芯片）中，可以高效地满足生成性 AI 任务的多样化计算需求。这一集成使得生成性 AI 模型可以更顺畅地在设备上运行，从而提高整体用户体验。

AI PC 的出现：增强日常任务的生成性 AI

生成性 AI 集成到日常应用程序（如 Microsoft Office 或 Excel）中，促进了 AI PC 的出现。AI 优化的 GPU 支持这一趋势。最初为 3D 图形设计的 图形处理单元（GPUs） 已被证明在运行生成性 AI 的神经网络方面非常有效。随着消费级 GPU 的进步以支持生成性 AI 工作负载，它们也变得越来越能够处理高级神经网络的本地处理。例如，2023 年发布的 Nvidia RTX 4080 笔记本 GPU 可以利用高达 14 太浮点运算的能力进行 AI 推理。随着 GPU 对机器学习变得更加专业，本地生成性 AI 的执行将在未来几天显著扩展。
AI 优化的操作系统支持这一发展，通过显著加快生成性 AI 算法的处理速度，同时将这些过程无缝地集成到用户的日常计算体验中。软件生态系统正在演变，以利用生成性 AI 的功能，AI 驱动的功能（如预测文本、语音识别和自动化决策）已经成为用户体验的核心方面。
这一技术进步对个人消费者和企业都有深远的影响。对于消费者来说，AI PC 的吸引力很大，因为它们的便捷性和增强的功能。对于企业来说，AI PC 的潜力甚至更大。为员工许可 AI 服务可能很昂贵，并且存在与云 AI 平台共享数据的合理担忧。AI PC 提供了一个经济高效和安全的解决方案，使企业能够直接将 AI 能力集成到其运营中，而无需依赖外部服务。这一集成减少了成本，提高了数据安全性，使 AI 对于工作场所应用程序更加易于获取和实用。

通过生成性 AI 和边缘计算转变行业

生成性 AI 正在迅速改变全球各个行业。边缘计算将数据处理带到设备更近的位置，减少延迟并增强实时决策。生成性 AI 和边缘计算之间的协同作用使得自动驾驶汽车可以瞬间解释复杂场景，智能工厂可以实时优化生产线。这一技术赋予了下一代应用程序的能力，例如智能镜子提供个性化的时尚建议，和无人机实时分析作物健康状况。
根据一份 报告，超过 10,000 家公司正在 NVIDIA Jetson 平台 上建设，可以利用生成性 AI 加速工业数字化。这些应用程序包括缺陷检测、实时资产跟踪、自主规划、人机交互等。ABI Research 预测，到 2033 年，生成性 AI 将为全球制造业带来 105 亿美元的增加收入。这些报告强调了本地生成性 AI 在推动经济增长和促进各个领域创新方面的重要作用。

结论

本地生成性 AI、移动 AI、AI PC 和边缘计算的汇聚标志着利用 AI 潜力的一个重要转变。通过摆脱云依赖，这些进步承诺了更好的性能、改善的隐私和降低成本，惠及企业和消费者。从移动设备到 AI 驱动的 PC，再到边缘启用的行业，这一转变使 AI 更加民主化，促进了各个领域的创新。随着这些技术的演进，它们将重新定义用户体验、简化运营，并推动全球的显著经济增长。