AI 模型与平台
Backboard.io 推出专注于效率、企业控制和主权部署的 AI 基础设施堆栈
将 Unite.AI 添加到您在 Google 上的首选来源
随着组织竞相采用人工智能，讨论的焦点已经从原始模型性能转移到一个更实际的问题：企业如何以较低的成本运行 AI，同时保持对数据的控制？加拿大渥太华的 Backboard.io 认为答案不在于不断扩大的 GPU 集群，而在于使现有的 AI 基础设施更加高效。
在加拿大国庆日，该公司推出了四项重大技术，涵盖模型压缩、AI 辅助软件开发、多模型 AI 访问和长期 AI 内存。虽然这项公告突出了公司的加拿大根源，但更广泛的故事是关于为希望降低 AI 成本同时将敏感工作负载保留在其环境中的企业设计的基础设施。
让现有的 GPU 更进一步
也许最有技术意义的公告是 BackboardQuant (BBQ)，一种模型压缩技术，该公司声称可以将 AI 模型大小减少多达 70%，同时保持几乎相同的输出质量。
模型压缩已经成为人工智能研究中越来越重要的领域，因为组织正在努力应对推理成本的不断增加。较小的模型消耗的内存更少，需要的硬件资源更少，并且可以更快地执行，允许组织在不不断扩大 GPU 容量的情况下部署高级模型。
根据 Backboard.io 的说法，内部测试表明 BBQ 可以实现最高 2.7 倍的推理速度，有效地允许单个 GPU 执行可能需要多个加速器的工作。与其替换现有的基础模型，该技术旨在优化它们以适应生产部署。
在 AI 辅助软件开发中竞争
该公司还推出了 Backboard Studio，一款面向当今最具竞争力的 AI 市场的 AI 编码平台。
Backboard 并没有开发自己的前沿语言模型，而是采用了不同的架构方法。该平台建立在现有模型之上，同时尝试通过编排、上下文管理、递归工作流和令牌优化来提高效率。开发人员可以从领先的商业模型或开源替代品中选择，而该平台则管理项目上下文、工作流执行和面向生产的代码生成。
Backboard 声称该平台实现了与领先编码助手相当的基准结果，同时将令牌使用量减少了多达 30%，这对于企业来说是越来越重要的考虑因素，因为它们试图管理 AI 运营成本。
该公司还强调了企业部署的灵活性。Backboard Studio 可以作为云服务或在组织自己的基础设施中运行，允许专有源代码保留在企业环境中，而不是传输到第三方 AI 提供商。
Nash 整合了数千个 AI 模型
公告的第三个组成部分是 Nash，一个统一的聊天应用程序，通过单一界面提供对数千个文本和图像 AI 模型的访问。
该概念解决了企业日益增长的担忧，即“影子 AI”，员工在未经批准的企业系统之外独立采用消费者 AI 工具。Backboard 将 Nash 定位为一个集中平台，为组织提供对广泛模型的访问，同时保持对用户数据和组织内存的治理。
底层基础设施还支持 自带密钥 (BYOK)、自适应上下文管理和通过单一平台跨数千个可用模型的路由。
将内存视为 AI 基础设施
Backboard 自推出以来一直专注于持久 AI 内存。
大型语言模型仍然本质上是无状态的，这意味着对话、偏好和历史上下文通常会消失，除非开发人员在它们周围构建额外的基础设施。Backboard 将自己定位为一个专用的内存层，跨不同 AI 模型和应用程序工作，而不是将用户锁定在单个生态系统中。
该公司表示，其内存系统目前在 LoCoMo 和 LongMemEval 基准测试中排名第一，这两个基准测试是广泛引用的评估长上下文推理和持久内存性能的指标。今年早些时候，Backboard 将内存描述为基础设施，而不是简单地将其作为一个功能添加到现有模型中。
这种架构允许组织在切换不同语言模型时保留用户历史记录、偏好和上下文知识。
保持在企业边界内的 AI
在所有四项公告中，一个一致的设计理念出现了：企业越来越希望 AI 系统在其自身的治理下运行。
Backboard 的平台可以部署在客户的私有云中，允许组织在使用现代 AI 能力时保留对其数据的所有权。这种方法对于处理敏感信息的行业（包括医疗保健、金融服务、政府和关键基础设施）尤其相关，因为监管要求通常限制了对外部托管 AI 服务的使用。
与其将主权仅视为国家问题，该公司的架构专注于企业控制——在客户管理的环境中保留模型、内存和应用程序数据。
加拿大 AI 基础设施的增长故事
尽管全球 AI 对话的大部分仍然集中在硅谷的基础模型开发者身上，但 Backboard 代表了另一个类别的 AI 公司：专注于使现有模型更适合生产环境的基础设施建设者。
Backboard 由 Rob Imbeault 创立，他之前是加拿大供应链软件公司 Assent 的联合创始人。Backboard 集中于改善企业 AI 的经济性和操作特性，而不是竞争开发下一个前沿语言模型。今年早些时候，该公司完成了一轮种子资金以继续开发其 AI 基础设施平台。
随着企业 AI 的成熟，降低推理成本、改善内存、简化多模型部署以及启用自托管 AI 环境的技术可能会变得越来越重要，伴随着模型能力的进步。Backboard 的最新发布反映了这一更广泛的转变——从构建越来越大的模型转变为构建帮助组织从现有模型中提取更多价值的基础设施。
