Jin Kim 是 XCENA 的首席执行官和联合创始人，XCENA 是一家位于韩国的无厂半导体公司，专注于为人工智能和大规模数据处理构建下一代内存解决方案。Jin Kim在 SK Hynix 任职期间担任过高级领导职务，是最年轻的公司副总裁之一，他在以数据为中心的计算和半导体架构方面拥有深厚的专业知识。
过去几年，AI基础设施的重点一直放在计算能力上。更多的加速器、更大的集群和更高的FLOPS驱动了对GPU的需求。这一方法在模型进步主要依赖于训练规模时是合理的。现在，随着AI生产部署的优先性，新的限制出现了：内存。 今天，许多最艰难的限制出现在内存容量、带宽、延迟和数据在系统中移动的时间和能耗上。上下文窗口不断扩大，像Anthropic这样的公司现在在其标准定价中提供了百万令牌窗口。推理工作负载正在增长。多代理系统的增长意味着AI...
