AI 模型与平台

企业DB推出“每瓦智能”以减少AI能耗

mm
将 Unite.AI 添加到您在 Google 上的首选来源

EnterpriseDB已宣布其EDB Postgres AI平台的新性能基准和架构改进,引入了“每瓦智能”的概念。该概念旨在解决一个日益增长的挑战:如何在不增加能耗和基础设施成本的情况下扩展AI系统。该公司的最新结果表明,通过优化数据层,可以实现有意义的效率增益,而不是在模型或GPU级别实现。通过优化数据检索、索引和处理,EnterpriseDB声称可以减少令牌使用、缩小基础设施需求并显著降低与AI工作负载相关的排放。

数据层面的性能增益

该公告得到了一系列基准测试的支持,突出了速度和效率的改进。EnterpriseDB报告称,其平台可以加速向量索引,同时使用的内存比传统方法少,并且可以在不明显降低输出质量的情况下减少令牌消耗。

在实际应用中,这意味着AI系统可以使用较少的计算步骤完成相同的任务。由于令牌生成和数据检索直接与计算使用相关,因此这些减少转化为每次交互的能耗降低。

该公司还指出,在分析工作负载方面有更广泛的改进,在这些工作负载中,实时数据操作可以完成得更快。这些增益不仅限于孤立的用例,而且适用于AI、分析和事务系统同时运行的企业环境。

基础设施减少和排放影响

除了工作负载级别的改进外,EnterpriseDB还强调了基础设施级别的减少。在一系列企业部署中,该公司报告称,其平台实现了显著减少计算核心以运行应用程序的需求,从而减少了能耗和相关排放。

在一个涉及大型金融服务环境的例子中,基础设施的减少转化为碳排放量的显著降低。这些节省的规模凸显了数据库层面的效率改进对整个系统的影响,尤其是在运营多个数据中心的组织中。

这种对基础设施和工作负载优化的双重关注构成了“每瓦智能”框架的基础。该想法不仅是使AI更快,还要使其在扩展时更加高效。

AI和数据中心的日益增长的能耗挑战

这些改进的重要性变得更加明显,当人们考虑到数据中心增长的更广泛轨迹时。AI正在迅速增加对计算资源的需求,并随之而来的是电力消耗。

国际能源署预测,全球数据中心电力需求可能到2030年达到约945太瓦时,比当前水平增加一倍。预计AI工作负载将成为这一增加的主要驱动因素。

这种对电力的需求激增具有直接的环境影响。数据中心已经占据了全球电力使用的重要份额,其扩张给能源基础设施和排放目标带来了额外的压力。如果没有效率的改进,扩展AI的成本可能会远远超过经济考虑。

什么是EnterpriseDB以及为什么这很重要

EnterpriseDB长期以来一直与企业级PostgreSQL解决方案相关联,但其演变为数据和AI平台提供商反映了市场的更广泛变化。随着组织将AI集成到核心运营中,数据库和AI系统之间的界限正在消失。

EDB Postgres AI旨在在这一交叉点运行,结合事务处理、分析和AI工作负载到一个统一的系统中。这种方法减少了对多个专用平台的需求,这些平台通常需要在环境之间复制和移动数据。

通过整合这些功能,EnterpriseDB将自己定位为AI基础设施的基础层。其对效率的关注与人们日益认识到扩展AI不仅仅是增加能力,还要以可持续的方式实现这一目标。

这与其他行业努力如何比较

在整个行业中,大多数提高AI效率的努力都集中在硬件和模型优化上。芯片制造商继续开发更高效的处理器,而AI公司正在努力减少模型的大小和计算需求。

云提供商也在大量投资数据中心效率,包括冷却创新和可再生能源集成。与此同时,数据平台正在演变以更直接地支持AI工作负载,通常通过将向量搜索和机器学习功能集成到其系统中。

EnterpriseDB的方法与众不同之处在于其对数据层作为效率的主要杠杆的强调。它不是与GPU或模型架构竞争,而是针对在推理之前和周围发生的操作,在扩展时这些操作可能会积累显著的低效率。

这种观点并不取代硬件或模型改进,而是补充它们。随着AI系统变得更加复杂和自主,底层数据基础设施的效率可能在决定整体性能和成本方面发挥越来越重要的作用。

向衡量AI效率转变

“每瓦智能”的引入反映了企业评估AI系统的方式发生了更广泛的转变。仅凭性能已经不够。组织开始考虑实现这种性能所需的能量以及是否可以在不牺牲质量的情况下减少能耗。

EnterpriseDB的公告表明,AI采用的下一阶段将不仅由系统可以做什么决定,还将由它们如何高效地完成这些任务决定。随着AI代理扩展到数十亿并连续运行,即使小的效率改进也可能具有巨大的累积影响。

在这种情况下,优化数据层不再是次要问题。它正在成为企业AI未来讨论的核心部分。

ently 他们可以做到。随着AI代理扩展到数十亿并连续运行,即使小的效率改进也可能具有巨大的累积影响。在这种情况下,优化数据层不再是次要问题。它正在成为企业AI未来讨论的核心部分。

安托万是一位具有远见的领导者和Unite.AI的联合创始人,他对塑造和推广人工智能和机器人技术的未来充满热情。作为一位连续创业者,他相信人工智能将对社会产生电力的影响一样的颠覆性影响,并经常对颠覆性技术和通用人工智能的潜力大加赞扬。

作为一位未来学家Securities.io的创始人,这是一个专注于投资尖端技术的平台,这些技术正在重新定义未来并重塑整个行业。