HBM宽带技术是什么？HBM宽带技术存在哪些技术难点？

HBM宽带技术的核心优势是通过3D堆叠实现了高密度存储，从而大幅提升了每个存储堆栈的容量和位宽。为增进大家对HBM宽带技术的认识，本文将对HBM宽带技术、HBM宽带技术的难点予以介绍。如果你对HBM宽带技术具有兴趣，不妨继续往下阅读哦。

一、HBM高带宽内存是什么

高带宽存储器（High Bandwidth Memory，HBM）是超微半导体和SK Hynix发起的一种基于3D堆栈工艺的高性能DRAM，适用于高存储器带宽需求的应用场合，像是图形处理器、网络交换及转发设备（如路由器、交换器）等。首个使用HBM的设备是AMD Radeon Fury系列显示核心。2013年10月HBM成为了JEDEC通过的工业标准，第二代HBM —— HBM2，也于2016年1月成为工业标准，NVIDIA在该年发表的新款旗舰型Tesla运算加速卡 —— Tesla P100、AMD的Radeon RX Vega系列、Intel的Knight Landing也采用了HBM2。

存储器是存储指令和数据的计算机部件。有多种类型。中央处理器从存储器中取出指令，按指令的地址从存储器中读出数据，执行指令的操作。存储容量和存储器读写数据周期是存储器的两个基本技术的指标。

高带宽存储器是一种CPU/GPU 内存芯片（即 “RAM”），其实就是将很多个DDR芯片堆叠在一起后和GPU封装在一起，实现大容量，高位宽的DDR组合阵列。HBM 堆栈没有以物理方式与 CPU 或 GPU 集成，而是通过中介层紧凑而快速地连接，HBM 具备的特性几乎和芯片集成的 RAM一样，因此，具有更高速，更高带宽。

HBM的发展包括：

第一，早期，AI处理器架构的探讨源于学术界的半导体和体系架构领域，此时模型层数较少，计算规模较小，算力较低。

第二，模型逐渐加深，对算力需求相应增加，导致了带宽瓶颈，即IO问题，此时可通过增大片内缓存、优化调度模型来增加数据复用率等方式解决

第三，云端AI处理需求多用户、高吞吐、低延迟、高密度部署。计算单元剧增使IO瓶颈愈加严重，要解决需要付出较高代价（如增加DDR接口通道数量、片内缓存容量、多芯片互联）

此时，片上HBM（High Bandwidth Memory，高带宽存储器）的出现使AI/深度学习完全放到片上成为可能，集成度提升的同时，使带宽不再受制于芯片引脚的互联数量，从而在一定程度上解决了IO瓶颈。

二、HBM技术难在哪？

“把DRAM叠起来”听来简单，但实际上存在不少技术难度。Vaidyanathan指出3项关系着良率的技术难点：

首先，是厚度。

HBM厚度仅为人类头发的一半，意味着每一层DRAM的厚度都必须控制，研磨必须相当精细。Vaidyanathan指出：“一旦堆叠层数越多，DRAM就必须做的更薄。”在这样的状况下，企业必须拥有更先进的DRAM制程才可能达成。

其次，是晶圆堆叠的精准度。

HBM的封装是将每一片DRAM晶圆叠齐后再做切割，切割下来的晶粒就是HBM。不过，制造商为了让堆叠更薄，会在硅晶圆上穿孔并以金属物质填满，用以通电，借此取代传统封装的导线架。这样的打洞技术则称为“硅通孔（TSV, Through Silicon Via）。”

倘若是堆叠4层的HBM，从晶圆堆叠切割前开始，就必须精准对齐硅穿孔（TSV），“切的时候也不能移位，否则不能导电。”Vaidyanathan说。硅穿孔需要非常精细的工艺才能做到。

第三，就是堆叠后的散热问题。

HBM之所以被发明，来自于芯片商希望能将存储器和处理器，包含CPU和GPU，全都包在一颗IC中。如此一来，存储器与处理器的距离变得比之前近很多，散热问题更需要被解决。综合三点来看，封装技术的重要性更甚以往。

HBM的应用有哪些？除了AI服务器，还有哪些也会用到HBM？

由于技术难度高，HBM成本也相对高昂。早在2013年HBM就已经诞生，当时AMD与海力士共同研发第一代HBM，却因价格太贵而鲜少被芯片业者采用，直至今日才因为AI应用而受到诸多关注。

业内人士分析，虽然越先进的HBM价格越高，但只要效能够好、够省电，厂商当然愿重本采用。

目前来看，AI服务器会是HBM最重要的市场，美光以及海力士的HBM3e已通过英伟达的验证，市场更盛传英伟达已支付数亿美元的预付款以确保供应。Vaidyanathan指出：“AI服务器所需要的存储器量，是传统服务器的5～6倍。”

除此之外，未来智能驾驶汽车市场也是HBM重要的应用场景。Mordor Intelligence在出版的一份报告中表示，ADAS（自动驾驶辅助系统）正在推升HBM的需求。从这个情况看来，AI服务器＋车用的HBM市场需求，可能将长达10年。

以上便是此次带来的HBM相关内容，通过本文，希望大家对HBM已经具备一定的了解。如果你喜欢本文，不妨持续关注我们网站哦，将于后期带来更多精彩内容。最后，十分感谢大家的阅读，have a nice day!