当前 RAM 短缺的原因是什么?
作者 Zac Amos 历史上,系统内存一直被视为一种相当可靠的商品。虽然它会受到偶尔的价格波动,但它始终对每个人都可用,从普通的 PC 建筑商到大型企业。然而,今天,这种现实已经发生了变化。随着最近人工智能的发展和广泛采用,市场已经进入了一个前所未有的波动时期。 随着世界各地的技术公司迅速开发大型语言模型(LLM),消费者对随机存取存储器(RAM)的获取正在减少。这一趋势已经造成了一个巨大的全球供应短缺,导致价格不稳定和令人担忧的稀缺,这些专家称之为“RAMAGEDDON”。 人工智能工作负载对内存需求的影响为了了解为什么当地零售商开始为基本的 DDR5 模块收取高价,必须了解当前的超大规模数据中心的状况。 人工智能在许多行业中具有创新性,但 它需要大量的内存来运行。它需要大量的数据始终与处理核心保持接近,而传统计算则依赖于中央处理器的原始速度。 这种操作需求,加上 LLM 使用的激增,已经显著改变了内存的制造和分配方式。其 显著的能耗也引发了人们对可持续性的担忧。 高带宽内存(HBM)在人工智能中的作用RAM 需求的上升和随后的短缺的主要催化剂是人工智能对 HBM 的需求。现代 PC 通常使用 DDR5 RAM,这是一个平坦的模块。相反,HBM 的结构更为垂直,由 DRAM 芯片通过硅通孔堆叠在一起,实现了人工智能处理所需的高操作速度,这是标准 RAM 无法实现的。...