Stardock 的 Clairvoyance 新增 Hivemind，可共享闲置 GPU，为本地 AI 提供算力

Stardock 的 Clairvoyance新增了一种方式，让团队能利用闲置计算机执行 AI 推理。其本地模型管理器 Locama 内置 Hivemind，可在公司各台计算机之间共享本地推理算力；此外还提供一项基准测试，旨在展示特定硬件运行 AI 的表现。

11 月 5 日发布的 Clairvoyance 0.90 将自身定位为一个桌面环境，让用户能够结合使用本地模型和云端模型。Locama 可在 Windows、macOS 和 Linux 上管理本地模型的安装、运行与编排；Hivemind 则将这一理念从单台计算机扩展到团队可用的各台计算机。

Stardock 的目标用户，是采购、供应链、法务运营和财务等领域中需要处理常规、高吞吐量业务的企业。该公司的理由是，其中一些任务可以在组织现有的硬件上运行，从而减少将每个请求都发送到按量计费云服务的需要。

Hivemind 将闲置计算机转变为共享推理算力

Hivemind 让团队成员能够利用公司各台计算机上的闲置 GPU 执行 AI 任务。这在正常工作时间之外可能尤其有用，因为届时原本能够运行本地模型的计算机可能会闲置。

“大多数企业每晚都有性能足够的计算机闲置着，Hivemind 能让它们把这些计算机整合起来投入使用，”Stardock Software 首席执行官 Brad Wardell 表示。

该公司的技术术语将 Hivemind 描述为对等设备之间共享本地推理算力。文件还分别指出，Locama 是推理主机，而名为 Concierge 的路由组件负责为每轮交互选择模型和计算机。

这与认为多台计算机会合并成一块大型加速器的假设有重要区别。在可用计算机之间分配工作可以提高可用算力，但公告并未说明是否支持张量并行执行、是否会合并 GPU 内存，也没有说明如何将一个过大的模型拆分到多个对等设备上。

对于需要决定在哪里运行工作负载的团队而言，值得关注的问题包括：模型是否能装入可用硬件、能否产生可接受的结果，以及将工作路由到另一台计算机所增加的延迟是否会超过它节省的时间。Hivemind 的价值取决于这些因素的综合表现，而不仅仅是 GPU 是否可用。

在同一工作区中使用本地模型和云端模型

Clairvoyance 会将 AI 助手组织为具名的 Staff，让它们处理用户文件并生成文档及其他成果。其文档介绍了如何为不同的 Staff 成员分配不同的服务提供商或本地模型，从而让一个工作区能够混合使用不同的计算选项。

这些选项之间的区别很重要。本地模型运行在由用户或组织控制的硬件上。连接云服务提供商的工具后，用户可通过该提供商的账户和身份验证进行访问；安装 Clairvoyance 并不意味着会自动获得其支持的所有商业模型的无限使用权限。

文档还指出，不同本地模型的工具使用能力各不相同。能够回答问题的模型，未必能够执行团队所需的智能体工作流。因此，选择较小的本地模型是一项针对具体任务的决策，既要考虑能力，也要考虑速度。

这使该产品在员工与底层模型运行时之间发挥了实际作用。该环境不必让每项任务都使用同一个后端，而是可以针对不同工作采用不同方案。此次发布没有提供 Hivemind 部署能够降低云端成本的独立测量数据。

为人们实际拥有的硬件提供基准测试

Locama 还内置了 Clairvoyance Local AI Benchmark。Stardock 将其重点指标“模型速度”描述为：综合计算本地模型处理请求并返回完整响应所需的时间。公开结果可在 clairvoyanceai.com/benchmark 查看，Professional 用户则可以在自己的硬件上运行测试。

该产品的发布说明介绍了多项测量指标，包括提示词预填充、解码、首个词元耗时和内存占用，并包含面向具体任务的检查。预填充是处理输入提示词及其上下文的过程；解码则是生成响应的过程。这两个阶段对硬件的压力可能有所不同。

首个词元生成得快，能让界面显得响应灵敏；对于批处理作业或较长的智能体任务而言，完成任务的总耗时则很重要。将这些指标清晰呈现出来，比只依赖单一硬件规格更能体现基准测试的价值。

结果页面注明，提交数据来自 Clairvoyance 用户，反映的是他们使用的硬件和设置。因此，该数据库提供的是针对特定配置的参考数据，而非在受控条件下进行的独立排名。要进行有意义的比较，仍需考虑所用的模型、精度、上下文、任务和运行时。

与 Qualcomm 的集成增添了另一种本地计算选项

Clairvoyance 与 Qualcomm 的合作早于此次发布。9月23日的 Qualcomm 开发者文章介绍了它如何将芯片制造商的端侧生成式 AI 运行时 GenieX 与 Snapdragon X Series PC 上的 Hexagon NPU 集成。

这项集成将本地推理的应用范围扩展到了传统桌面 GPU 之外。Qualcomm 表示，系统会根据任务需求选择模型和计算资源，并支持本地智能体工作流。但这并不能证明每个本地模型都能在所有任务中取代前沿云端模型。

这与 Hivemind 相关之处，在于其体现了更广泛的硬件策略：通过统一的工作环境，让现有计算资源都能派上用场。不同机器的模型容量、带宽和加速能力可能各不相同，因此软件必须根据可用资源来匹配任务。

定价与硬件再利用的经济效益

Clairvoyance 0.90 正在面向 Windows、macOS 和 Linux 发布。其价格页面列出了供个人和非商业用途使用的免费版本；Professional 每月收费 20 美元，并增加商业许可、Hivemind、面向团队的功能、云同步以及内含的 AI 令牌包。Enterprise 标价为每席位每月 100 美元，并提供额外的组织功能和批量方案。

本地推理可以减少按用量计费的云服务支出，但仍会产生其他成本，包括电力、硬件损耗、管理开销，以及占用设备所带来的机会成本。进行成本比较时，还需要考虑输出质量，以及审核或纠正输出所需的工作。

Stardock 押注于附近现有硬件能够胜任足够多的重复性工作。Hivemind 为团队提供了探索这一设想的途径，而基准测试则为衡量哪些模型和机器适合这类任务提供了起点。