HBF,AI存储的下一站?
HBF(高带宽闪存)已有山雨欲来之势。
54分前
来源:中国电子报、电子信息产业网 张心怡  

HBF(高带宽闪存)已有山雨欲来之势。在今年8月初于美国加利福尼亚州举行的2026年全球闪存峰会(FMS 2026)上,SK海力士联手闪迪,通过开放计算项目(OCP)发布了HBF首个标准规范,谷歌、Tenstorrent作为HBF联盟(由SK海力士、闪迪牵头在2026年2月成立)成员参与了这一标准化进程。

作为介于HBM(高带宽内存)与SSD(固态硬盘)之间的存储层级,HBF是存储厂商面向AI推理内存瓶颈的一种破题思路:当智能体导致数据规模激增、KV Cache膨胀,单一存储产品已难以满足AI推理需求,需要整合特性互补的多种存储器、构建多层次的存储体系。

HBF概念图(来源:SK海力士官网)

HBF有望解决什么问题?

智能体的规模化部署,正在推动AI产业进入“超长上下文”时代。相比“听令执行”的大模型,“自主规划”的智能体会对多轮对话和历史信息进行分析,并调用各种工具,带来数倍的上下文膨胀。为此,智能体厂商不断增加上下文窗口的容量,以增强智能体的“记性”和处理能力。

在这一过程中,KV Cache(键值缓存)是智能体流畅处理长上下文的关键。当用户输入文字时,AI会将文字拆解为模型能识别的最小单位Token(词元),上下文越长,生成的Token就越多。而KV Cache能够将已有Token计算得到的Key和Value缓存起来,在后续生成时直接复用,避免重复计算,从而提升AI推理的响应能力和经济性。

HBF聚焦的,就是AI推理中KV Cache的存储需求。

数据显示,当上下文长度从64K增长到1000万Token时,KV Cache容量需求从百GB级跳升至TB级。而当前的存储系统中,HBM带宽高、延时低但容量有限、成本较高,SSD容量高、成本低却带宽不足,均难以满足KV Cache快速膨胀的需求。针对这一瓶颈,产业界也尝试了各种方案,比如将KV Cache“卸载”到SSD上,让GPU通过PCIe通道(如果采用传统路径还需要经过CPU中转)读取,这虽然比HBM容量耗尽后重新计算Token和向量更快,但会增加AI推理延迟;或者扩展GPU数量以增加HBM总容量,但会进一步增加计算集群能耗和成本。

闪迪展示其HBF参数,读取带宽与HBM相当,容量可达HBM的8至16倍(来源:闪迪2026年投资者日)

HBF的出发点,就是将HBM的高带宽与NAND的高容量结合起来。闪迪称,在封装尺寸、堆叠高度、功耗与HBM4基本相当的前提下,HBF容量可达HBM的8~16倍,且成本相近。SK海力士称,HBF不仅具备与HBM类似的高速数据传输能力,还可基于NAND闪存大幅提升容量。根据SK海力士的仿真结果,在Blackwell B200 GPU上,采用8组HBM3E堆栈与8组HBF堆栈的组合配置,相比纯HBM配置,每瓦性能可提升至2.69倍。这意味着,如果HBF能够批量部署,有利于改善AI基础设施效率和Token开支效率。

与HBM联手而非替代

HBF之所以能在保持读取带宽的同时将存储容量做上去,关键在于其“借鉴”了HBM的封装方式:一方面采用硅通孔(TSV)技术将多颗芯片垂直堆叠,同时将堆叠对象从DRAM芯片换成了NAND;另一方面,HBF像HBM一样通过中介层与GPU连接。如此一来,它既继承了HBM靠近计算核心的“区位优势”,又保留了NAND高存储密度、非易失的特点。

虽然HBF具备了NAND的种种优势,但也不可避免地“背负”了NAND的局限性,比如访问延迟较长、写入耐久度有限等。

因而SK海力士、闪迪等主力厂商,暂未产生用HBF替代HBM的激进念头,而是将其作为HBM面向AI“大考”的工作“搭子”。

在今年2月发表于IEEE的论文中,SK海力士提出了H3混合架构,也就是将HBM与HBF整合在同一中介层并同时连接到GPU。其中,HBF负责读取模型权重和预计算的KV缓存,HBM负责存储动态的、频繁更新的数据,两者采用级联方式连接,实现统一地址空间并支持GPU直接访问。这种方式能够将HBM从容量负担中解放出来,专注实时任务处理,从而加速AI推理。

根据该论文数据,在对1000万Token的KV缓存进行测试时,HBM+HBF组合可同时处理的查询数量(即批处理规模)相比纯HBM配置提升了18.8倍。通过采用HBF,原本可能需要32颗GPU及其HBM来处理的工作负载,仅需2颗GPU即可完成,从而显著降低电力消耗。

而闪迪在今年8月的投资者日活动上,展示了HBF的多种部署方式,包括在相似的封装尺寸内直接替代HBM,与HBM混合部署,与HBM分层部署(HBF承载模型权重和KV Cache、容量较小的HBM层作为缓存)等。说明其策略并非简单取代HBM,而是以更加灵活的方式嵌入存储系统。

折射AI时代存储破题新思路

相比一种新的存储产品,HBF更值得咀嚼的产业信号,或许是存储厂商在AI时代的另一种布局思路:当单一存储产品越来越难“扛住”数据规模与KV Cache的膨胀,整合特性互补的多种存储器、构建多层次存储体系,或许是面向未来需求的破题方式。相比“单点性能”,系统级的分层与生态或将成为未来产业的另一个竞争维度。

本次SK海力士、闪迪等企业发布的HBF技术规范,就为HBF与HBM等存储器的衔接预留了空间。该规范定义了围绕HBF技术交互和使用的系统设计指南,包括系统接口、电气等技术要求,涵盖基本性能预期、xPU-HBF主机接口、HBF裸晶堆叠的可靠性与封装指南等。闪迪称,该规范为AI计算系统设计人员提供了更高的灵活性,使其能够构建HBF技术与HBM共存共用的系统,有助于推动生态系统的成熟。

HBF+HBM,或许只是这种分层存储体系的起点。在去年的一档视频节目中,被誉为“HBM之父”的金正浩(Kim Jung-Ho)对未来的多层存储系统进行了设想。在他看来,那时的存储如同“智能图书馆系统”,GPU内部的SRAM将充当桌面上的笔记本,速度最快但容量最小;HBM是近旁的书架,用于快速访问和计算;HBF是地下图书馆,存储深厚的AI知识,并持续向HBM输送数据;云端存储是公共图书馆,通过光网络连接数据中心。

按照目前的时间表,HBF的规模化量产预计在2028年。虽然标准和规范已经“抢跑”在芯片样品之前,但能否如约跨越样品、量产、规模化部署的道道关卡,既要看存储厂商本身的研发和制造能力,又要看下游的AI加速器、云计算厂商是否愿意采纳。毕竟,目前大部分头部AI加速器厂商尚未对HBF具体表态。HBF能否兑现厂商设想的技术定位和市场空间,还需要产业界的紧密衔接和同步探索。

最新文章
1
小米澎湃 OS 4 Beta 版第二批机型已正式开启招募
2
数据跑得快才是真的快 高通新一代Oryon CPU的底牌藏在缓存里
3
HBF,AI存储的下一站?
4
空调走弱 冰洗逆增 从上市公司财报看冰洗板块的结构性破局
5
天马正式发布第二代天工屏:N1原色光谱发光材料首发,护眼与通透不再二选一
6
剑指5GHz时代!小米18 Pro或抢发新骁龙,发布会疑似撞上华为Mate 90
7
苹果、三星称霸!全球最畅销手机前十名已没中国厂商身影
8
华为Mate XT 2三折叠将支持健康监测功能:无需手表/手环
9
AI厨电,“鸡肋”还是“机会”?机构:价格锚点尚未建立
10
手机IT挑战大!上半年营收下滑、由盈转亏,天马如何补短板?
11
厨电穿越周期迷雾:在“好房子”的确定性中,寻找AI落地的烟火气
12
重构厨居价值范式,AI叠加“好房子”解锁厨电行业发展新路径
13
全球推荐增长:卧兔WotoKOL发布AI海外达人营销新方案
14
2026中国国际消费电子博览会即将开幕!
15
月报 | 7月线上消费级摄像头:量额双降加深,分化中寻增量成“下半场”主基调
16
预计9月液晶电视面板价格提前企稳,与8月基本一致
17
Counterpoint:2026全球手机出货大跌14.3%,三星有望重回行业领跑位置
18
索尼Xperia 10 VIII正式发布:屏幕亮度升级,核心硬件延续上代方案
19
iQOO电竞小平板获3C认证:首发第六代骁龙8超级至尊版,内置主动散热风扇
20
美的、奥克斯、TCL 大手笔“砸”向足球豪门
关于我们

微信扫一扫,加关注

商务合作
  • QQ:61149512