当前位置:首页 > > 21ic电子网
[导读]众所周知,HPC和AI市场正在飞速发展,数据量“飞起”的年代下,系统需要更高的算力,而与此同时也需要更多的内存容量。随着人工智能(AI)训练和推理以及高性能计算的出现,数据中心需要更多使用极速内存,即高带宽内存(HBM)。在这些领域工作的应用架构师需要找到更高的带宽以应对新局面。...

众所周知,HPC和AI市场正在飞速发展,数据量“飞起”的年代下,系统需要更高的算力,而与此同时也需要更多的内存容量。
随着人工智能(AI)训练和推理以及高性能计算的出现,数据中心需要更多使用极速内存,即高带宽内存(HBM)。在这些领域工作的应用架构师需要找到更高的带宽以应对新局面。
事实上,业界普遍认为当前GPU和FPGA加速器中大量计算都受到内存限制。在这种情境下,3D堆叠高带宽内存 (HBM) 获得的高带宽水平,是为庞大的计算引擎提供数据带来更多带宽和更多容量的关键。
据了解,高带宽内存(HBM)起源于2013年,是一种高性能3D堆栈SDRAM构架,数据传输速率大概可以达到1Gbps左右。此后,2016年HBM2正式推出,本代产品为每个堆栈包含最多8个内存芯片,同时将管脚传输速率翻倍,达到了2Gbps。
时间到了2018年末,JEDEC正式宣布HBM2E规范。当传输速率上升到每管脚3.6Gbps时,HBM2E可实现每堆栈461GB/s的内存带宽。此外,HBM2E支持最多12个DRAM堆栈,内存容量高达每堆栈24GB。
当然,HBM的演进并不会止步于此,据规划,更高带宽和内存容量的HBM3早已在规划路线图中清晰地展示,而这种演进也将成为未来HPC和AI市场的关键。

HBM内存的重要性,你绝对想象不到!HBM性能演进(图片来源:Rambus)
作为存储巨头,美光科技(Micron)一直引领着业界,通过不断改善内存解决方案而引领市场发展,并凭借满足新兴市场应用不断变化的需求,从而改变世界。

根据美光的介绍,其HBM2E产品使用硅通孔(TSV)通道来构建垂直堆叠的 DRAM。
而美光研发堆叠 DRAM 已有 20 年的历史,并获得数千项专利。在未来的堆叠式 DRAM 创新研究中,美光计划通过开发新产品以满足更多数据密集型工作负载的高性能和低功耗需求。
HBM内存的重要性,你绝对想象不到!美光用于 HBM2E 的垂直堆叠 DRAM,并通过硅通孔(TSV)通道连接各层
高带宽内存的架构在业界对于带宽、功耗和外形尺寸方面的需求方面被寄予厚望。这一架构现在是 AI 行业标准内存解决方案,并广泛应用于数据中心。HBM2E 是 HBM 系列产品的第三项标准,它提供了非常宽的多通道 I/O——即 1,024 位宽,拥有非常短的物理通道并且能在极小的尺寸上实现极高的内存密度。
HBM2E位于靠近 GPU 或 CPU 的中介层,通常被放置在同一个封装或者散热机箱中。HBM2E 具有极宽的 I/O 总线和更高的密度,为现代数据中心基于加速器的计算模式提供了所需的高性能和高能效。
美光通过提供 GDDR 和 HBM 等超带宽解决方案,赋能分析引擎,帮助 AI 训练算法。例如,一个拥有超过 13 亿参数的 AI 模型无法放入单个 GPU(即使是拥有 32GB 内存)中,但扩展内存容量可以让更大的模型/更多的参数留在离核心计算更近的地方。
通过增加带宽和容量以减少内存和存储解决方案带来的延迟,美光正通过加速实现洞察,帮助客户获得更大的竞争优势。
HBM内存的重要性,你绝对想象不到!


针对这款产品,
美光联合21ic,特别推出了有趣的小游戏,让你边拿奖品边学干货!
HBM内存的重要性,你绝对想象不到!暑夏已过,爽秋来临,

这个秋天,美光要带大家玩点不一样的。

谁说内存与存储的世界只有无趣的代码的和古板的数据,

我们要拒绝平凡、拒绝老套、拒绝平淡无奇,

我们要玩出奇趣、玩出刺激、玩出不一样的精彩。

本次,美光科技为大家带来好玩且刺激的密室逃脱大游戏。

四大关卡,四重奖励,还不赶紧行动起来!



HBM内存的重要性,你绝对想象不到!


游戏说明


1、本游戏共分为4个密室逃脱关卡,每闯过一关均有机会获得论坛打赏,另凭借星还可兑换惊喜礼品。


2、第一次便挑战成功可获得3星,否则获得2星。


3、美光官微关注、转发、评论、点赞等作为加码项目,可额外获得1颗星奖励。


4、凭借星星数目可以申请兑换奖品哦~每件奖品仅可兑换1次。活动结束后系统将在申请兑换的用户中随机抽取幸运用户发放奖品,并于论坛公布。


奖品展示


HBM内存的重要性,你绝对想象不到!


HBM内存的重要性,你绝对想象不到!


↙

点击下方“阅读原文”立即参加活动

21ic电子网

扫描二维码,关注更多精彩内容

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除( 邮箱:macysun@21ic.com )。
换一批
延伸阅读

在系列底层技术文章中,我们先后深入探讨过系统调用实现原理、GDB调试底层逻辑、Linux最大并发数等核心系统主题,而内存交换机制是Linux虚拟内存体系中最容易被普通开发者忽略,却直接决定系统在高内存压力下稳定性的核心机...

关键字: Linux内存 内存

在C语言的标准库中,原生字符串始终以'\0'作为结束标记,这种以字符数组为基础的实现方式存在天生的局限性:开发者很难在运行时动态调整字符串的长度,一旦超出预先分配的固定数组大小,就会触发缓冲区溢出的安全风险。在实际开发中...

关键字: 字符串 内存

很多节点上线头几天一切正常,跑到一两个月后才开始变慢、重启或误报内存不足。边缘计算里的内存风险,常见的不是一次性爆掉,而是碎片和小泄漏长时间叠加后把系统推到边界。

关键字: 边缘计算 内存 碎片

2026年的PC市场,正经历着一场从硬件到软件的全面涨价潮。

关键字: PC 内存 微软 Windows

加利福尼亚州圣何塞2026年8月7日 /美通社/ -- 美国硅谷当地时间8月5日,FMS 2026期间,江波龙首席科学家陈健博士发表《Intelligence at the Edge: Powered by the St...

关键字: FOUNDRY FM AI 内存

“2031年之前中国别想翻盘!”韩国媒体近日借一份市场报告,向全球发出充满火药味的宣示

关键字: 内存 存储 存储芯片

横琴2026年7月31日 /美通社/ -- 澜起科技今日宣布,率先在业界试产CXL® 3.2内存扩展控制器(MXC)芯片。该产品面向人工智能、云计算、数据中心等场景的内存扩展与资源池化需求,旨在通过CXL技术助力...

关键字: 内存 控制器 MX DDR

全新 MRCD 与 MDB 设计提供 12800 MT/s 高速,注入强劲 AI 算力动能 深圳2026年7月30日 /美通社/ -- 全球工业存储及嵌入式外设领导品牌宜鼎国际(Innodi...

关键字: DDR 内存 带宽 AI

内存泄露是C/C++等手动内存管理语言开发中最常见也最头疼的问题之一:程序运行时间越长,占用内存越来越多,最终会把系统内存耗尽,导致程序崩溃或者系统卡死,甚至影响服务器上其他服务的正常运行。很多开发者遇到内存泄露问题,往...

关键字: 内存泄露 内存

虚拟内存是现代操作系统最核心的设计之一,它彻底改变了程序对物理内存的访问方式,让每个进程都拥有了独立、连续的超大地址空间,既实现了进程间的内存隔离,也解决了物理内存容量不足的问题。Linux作为目前应用最广泛的服务器操作...

关键字: 内存 虚拟内存
关闭