HBF,AI存储的下一站?
HBF(高带宽闪存)已有山雨欲来之势。
2026-08-27 11:18:12
来源:中国电子报、电子信息产业网 张心怡  

HBF(高带宽闪存)已有山雨欲来之势。在今年8月初于美国加利福尼亚州举行的2026年全球闪存峰会(FMS 2026)上,SK海力士联手闪迪,通过开放计算项目(OCP)发布了HBF首个标准规范,谷歌、Tenstorrent作为HBF联盟(由SK海力士、闪迪牵头在2026年2月成立)成员参与了这一标准化进程。

作为介于HBM(高带宽内存)与SSD(固态硬盘)之间的存储层级,HBF是存储厂商面向AI推理内存瓶颈的一种破题思路:当智能体导致数据规模激增、KV Cache膨胀,单一存储产品已难以满足AI推理需求,需要整合特性互补的多种存储器、构建多层次的存储体系。

HBF概念图(来源:SK海力士官网)

HBF有望解决什么问题?

智能体的规模化部署,正在推动AI产业进入“超长上下文”时代。相比“听令执行”的大模型,“自主规划”的智能体会对多轮对话和历史信息进行分析,并调用各种工具,带来数倍的上下文膨胀。为此,智能体厂商不断增加上下文窗口的容量,以增强智能体的“记性”和处理能力。

在这一过程中,KV Cache(键值缓存)是智能体流畅处理长上下文的关键。当用户输入文字时,AI会将文字拆解为模型能识别的最小单位Token(词元),上下文越长,生成的Token就越多。而KV Cache能够将已有Token计算得到的Key和Value缓存起来,在后续生成时直接复用,避免重复计算,从而提升AI推理的响应能力和经济性。

HBF聚焦的,就是AI推理中KV Cache的存储需求。

数据显示,当上下文长度从64K增长到1000万Token时,KV Cache容量需求从百GB级跳升至TB级。而当前的存储系统中,HBM带宽高、延时低但容量有限、成本较高,SSD容量高、成本低却带宽不足,均难以满足KV Cache快速膨胀的需求。针对这一瓶颈,产业界也尝试了各种方案,比如将KV Cache“卸载”到SSD上,让GPU通过PCIe通道(如果采用传统路径还需要经过CPU中转)读取,这虽然比HBM容量耗尽后重新计算Token和向量更快,但会增加AI推理延迟;或者扩展GPU数量以增加HBM总容量,但会进一步增加计算集群能耗和成本。

闪迪展示其HBF参数,读取带宽与HBM相当,容量可达HBM的8至16倍(来源:闪迪2026年投资者日)

HBF的出发点,就是将HBM的高带宽与NAND的高容量结合起来。闪迪称,在封装尺寸、堆叠高度、功耗与HBM4基本相当的前提下,HBF容量可达HBM的8~16倍,且成本相近。SK海力士称,HBF不仅具备与HBM类似的高速数据传输能力,还可基于NAND闪存大幅提升容量。根据SK海力士的仿真结果,在Blackwell B200 GPU上,采用8组HBM3E堆栈与8组HBF堆栈的组合配置,相比纯HBM配置,每瓦性能可提升至2.69倍。这意味着,如果HBF能够批量部署,有利于改善AI基础设施效率和Token开支效率。

与HBM联手而非替代

HBF之所以能在保持读取带宽的同时将存储容量做上去,关键在于其“借鉴”了HBM的封装方式:一方面采用硅通孔(TSV)技术将多颗芯片垂直堆叠,同时将堆叠对象从DRAM芯片换成了NAND;另一方面,HBF像HBM一样通过中介层与GPU连接。如此一来,它既继承了HBM靠近计算核心的“区位优势”,又保留了NAND高存储密度、非易失的特点。

虽然HBF具备了NAND的种种优势,但也不可避免地“背负”了NAND的局限性,比如访问延迟较长、写入耐久度有限等。

因而SK海力士、闪迪等主力厂商,暂未产生用HBF替代HBM的激进念头,而是将其作为HBM面向AI“大考”的工作“搭子”。

在今年2月发表于IEEE的论文中,SK海力士提出了H3混合架构,也就是将HBM与HBF整合在同一中介层并同时连接到GPU。其中,HBF负责读取模型权重和预计算的KV缓存,HBM负责存储动态的、频繁更新的数据,两者采用级联方式连接,实现统一地址空间并支持GPU直接访问。这种方式能够将HBM从容量负担中解放出来,专注实时任务处理,从而加速AI推理。

根据该论文数据,在对1000万Token的KV缓存进行测试时,HBM+HBF组合可同时处理的查询数量(即批处理规模)相比纯HBM配置提升了18.8倍。通过采用HBF,原本可能需要32颗GPU及其HBM来处理的工作负载,仅需2颗GPU即可完成,从而显著降低电力消耗。

而闪迪在今年8月的投资者日活动上,展示了HBF的多种部署方式,包括在相似的封装尺寸内直接替代HBM,与HBM混合部署,与HBM分层部署(HBF承载模型权重和KV Cache、容量较小的HBM层作为缓存)等。说明其策略并非简单取代HBM,而是以更加灵活的方式嵌入存储系统。

折射AI时代存储破题新思路

相比一种新的存储产品,HBF更值得咀嚼的产业信号,或许是存储厂商在AI时代的另一种布局思路:当单一存储产品越来越难“扛住”数据规模与KV Cache的膨胀,整合特性互补的多种存储器、构建多层次存储体系,或许是面向未来需求的破题方式。相比“单点性能”,系统级的分层与生态或将成为未来产业的另一个竞争维度。

本次SK海力士、闪迪等企业发布的HBF技术规范,就为HBF与HBM等存储器的衔接预留了空间。该规范定义了围绕HBF技术交互和使用的系统设计指南,包括系统接口、电气等技术要求,涵盖基本性能预期、xPU-HBF主机接口、HBF裸晶堆叠的可靠性与封装指南等。闪迪称,该规范为AI计算系统设计人员提供了更高的灵活性,使其能够构建HBF技术与HBM共存共用的系统,有助于推动生态系统的成熟。

HBF+HBM,或许只是这种分层存储体系的起点。在去年的一档视频节目中,被誉为“HBM之父”的金正浩(Kim Jung-Ho)对未来的多层存储系统进行了设想。在他看来,那时的存储如同“智能图书馆系统”,GPU内部的SRAM将充当桌面上的笔记本,速度最快但容量最小;HBM是近旁的书架,用于快速访问和计算;HBF是地下图书馆,存储深厚的AI知识,并持续向HBM输送数据;云端存储是公共图书馆,通过光网络连接数据中心。

按照目前的时间表,HBF的规模化量产预计在2028年。虽然标准和规范已经“抢跑”在芯片样品之前,但能否如约跨越样品、量产、规模化部署的道道关卡,既要看存储厂商本身的研发和制造能力,又要看下游的AI加速器、云计算厂商是否愿意采纳。毕竟,目前大部分头部AI加速器厂商尚未对HBF具体表态。HBF能否兑现厂商设想的技术定位和市场空间,还需要产业界的紧密衔接和同步探索。

最新文章
1
投影与电视“接不住”的商用场景,TCL新品商用显示器D系列用“简单可靠”稳住“关键现场”
2
空调10月增速转正至4.5%,迎趋势性拐点
3
AI狂飙,阿里云为企业落地破题
4
传统旺季反常遇冷!IDC:Q3全球PC出货量暴跌20.1%
5
国庆期间消费品以旧换新惠及639.2万人次,带动销售额334.8亿元
6
家电领域一条全新的增量路径渐渐清晰
7
一加联合BOE发布第四代东方屏,一加16全球首发硬件级全局高刷兼顾低功耗
8
行业首创阔直板爆火!华为Pura X View销量已突破40万
9
从“缺芯少屏”到“RISC-V第一股”:奕斯伟计算上市,开放计算架构迎来“芯”标杆
10
极米AI眼镜即将开售,投影老大能否打造“第二增长曲线”?
11
BOE(京东方)携手一加发布第四代东方屏 以动态清晰定义中国屏幕新标杆
12
Agent AI “上线难”?亚马逊云科技带来破题新解法
13
果家生态?苹果LG或联手推出智能家居设备
14
8月消费级运动相机线上市场:量额价同比齐升,新品带动高端跃升
15
200个抽查样本,95张3C认证被撤销,厨电真不能再“跑偏”了!
16
维信诺全球首款量产2K 185Hz面板亮相,第四代pTSF技术加持
17
苹果10月新品大爆发!MacBook Pro史诗级升级:首次搭载OLED触控屏
18
小米17 Ultra/徕卡版涨价:全系涨价1000元!
19
电纸书均价近两年首次跌破千元 销量大涨近60%
20
尊界汽车发布回应,释放了哪些信息?
关于我们

微信扫一扫,加关注

商务合作
  • QQ:61149512