为什么HBM高带宽内存很重要?看完你就懂了
扫描二维码
随时随地手机看文章
HBM高带宽内存在实际中的应用越来越多,但很多朋友对HBM高带宽内存并不是非常了解。为增进大家对HBM高带宽内存的认识,本文将对HBM高带宽内存以及HBM高带宽内存的重要性予以介绍。如果你对HBM高带宽内存具有兴趣,不妨继续往下阅读哦。
一、高带宽内存(HBM)的介绍
高带宽内存,英文全称:High Bandwidth Memory,简称:HBM,是一种基于3D堆栈工艺的高性能DRAM。具有高性能、高带宽、高容量、低功耗、高可靠性的图形处理器内存,是当前GPU存储单元的理想解决方案,并被广泛应用于高性能计算、人工智能和图形处理等领域。
HBM通过在垂直方向上堆叠多个DRAM芯片来实现高速、高带宽的内存访问。然后再用硅通孔(TSV)和微凸块等先进封装技术,将多个DRAM芯片紧密堆叠在一起,形成大容量、高带宽的DDR组合阵列。类似于堆积木。
相较于传统的GDDR内存,在显存位宽、时钟频率和显存带宽上,HBM均有大幅提升。例如,HBM显存的位宽为1024-bit,是GDDR5显存的32-bit的4倍。
HBM的容量也比传统GDDR内存大得多,可以达到数百GB或数千GB的级别,满足高性能计算、图形处理和数据中心等领域对内存带宽和容量的需求。
HBM采用了新的制造工艺和结构设计,使其能够实现更低的功耗,这不仅可以延长电池寿命,还可以提高设备的稳定性和可靠性。
HBM采用了多层堆叠技术,将多个芯片堆叠在一起,从而减少故障率和提高可靠性。此外,HBM还采用了先进的散热技术,可以有效地降低温度,保护芯片免受过热的影响。
二、为什么HBM很重要
自HBM首次宣布以来的十年里,已有2.5代标准进入市场。在此期间,创建、捕获、复制和消耗的数据量从2010年的2 ZB增加到2020年的64.2 ZB,据Statista预测,这一数字将在2025年增长近三倍,达到181 ZB。
Synopsys的高级产品营销经理Anika Malhotra表示:“2016年,HBM2将信令速率提高了一倍,达到2 Gbps,带宽达到256 GB/s。两年后,HBM2E出现了,实现了3.6 Gbps和460 GB/s的数据速率。性能需求在增加,高级工作负载对带宽的需求也在增加,因为更高的内存带宽是实现计算性能的关键因素。”
“除此之外,为了更快地处理所有这些数据,芯片设计也变得越来越复杂,通常需要专门的加速器、片内或封装内存储器及接口。HBM被视为将异构分布式处理推到一个完全不同水平的一种方式。”
“最初,高带宽内存只是被图形公司视为进化方向上的一步;但是后来网络和数据中心意识到HBM可以为内存结构带来更多的带宽。所有推动数据中心采用HBM的动力在于更低延迟、更快访问和更低功耗。”Malhotra说。“通常情况下,CPU为内存容量进行优化,而加速器和GPU为内存带宽进行优化。但是随着模型尺寸的指数增长,系统对容量和带宽的需求同时在增长(即不会因为增加容量后,对带宽需求降低)。我们看到更多的内存分层,包括支持对软件可见的HBM + DDR,以及使用HBM作为DDR的软件透明缓存。除了CPU和GPU, HBM也很受数据中心FPGA的欢迎。”
HBM最初的目的是替代GDDR等其他内存,由一些领先的半导体公司(特别是英伟达和AMD)推动。这些公司仍然在JEDEC工作组中大力推动其发展,英伟达是该工作组的主席,AMD是主要贡献者之一。
Synopsys产品营销经理Brett Murdock表示:“GPU目前有两种选择。一种是继续使用GDDR,这种在SoC周围会有大量的外设;另一种是使用HBM,可以让用户获得更多的带宽和更少的物理接口,但是整体成本相对更高。还有一点需要强调的是物理接口越少,功耗越低。所以使用GDDR非常耗电,而HBM非常节能。所以说到底,客户真正想问的是花钱的首要任务是什么?对于HBM3,已经开始让答案朝‘可能应该把钱花在HBM上’倾斜。”
尽管在最初推出时,HBM 2/2e仅面向AMD和Nvidia这两家公司,但现在它已经拥有了庞大的用户基础。当HBM3最终被JEDEC批准时,这种增长有望大幅扩大。
以上便是此次带来的HBM高带宽内存相关内容,通过本文,希望大家对HBM高带宽内存已经具备一定的了解。如果你喜欢本文,不妨持续关注我们网站哦,将于后期带来更多精彩内容。最后,十分感谢大家的阅读,have a nice day!