在AI算力需求指数级增长的背景下,NVIDIA BlueField-3 DPU凭借其512个NPU核心和400Gbps线速转发能力,为机器学习推理提供了革命性的硬件卸载方案。通过将PyTorch模型量化至INT8精度并结合DPU的硬件加速引擎,某头部云服务商在BlueField-3上实现了ResNet50推理延迟从12ms压缩至2ms的行业突破,同时保持Top-1准确率达75.8%。
在AI训练集群和超算中心场景中,传统CPU处理网络协议栈导致的20μs级延迟和30%的CPU资源占用已成为性能瓶颈。NVIDIA BlueField-3 DPU通过硬件卸载TCP/IP处理,结合内核旁路(Kernel Bypass)和RDMA增强技术,在100Gbps网络下实现6.8μs端到端延迟和3倍吞吐量提升。本文通过实测数据对比、关键优化技术解析、内核模块开发示例,深度揭示DPU加速网络处理的实现原理。
在当今数据爆炸的时代,数据中心面临着前所未有的网络性能挑战。传统的网络处理方式主要依赖CPU,但随着网络流量的急剧增长,CPU在网络协议栈处理上的开销日益增大,导致系统整体性能下降、延迟增加。数据处理单元(DPU)的出现为解决这一问题提供了新的思路。DPU能够将网络协议栈的处理任务从CPU卸载到专门的硬件上,从而释放CPU资源,降低网络延迟,提高系统整体性能。NVIDIA BlueField-3 DPU作为一款先进的DPU产品,具备强大的网络处理能力,本文将深入探讨如何将TCP/IP协议栈卸载到BlueField-3,并对其延迟优化效果进行实测。
2024年9月19日,安谋科技(中国)有限公司(以下简称“安谋科技”)正式推出本土自研的首款“玲珑”D8/D6/D2显示处理器,以及新一代的“玲珑”V510/V710视频处理器。聚焦国内前沿技术趋势,安谋科技自研业务产品矩阵持续扩容,全新亮相的处理器新品能够满足多样化智能应用场景的性能功耗配置需求,助力国产芯片厂商在多媒体技术领域实现创新跃进。
“随着时间来讲,我们可以看到很明显现在RISC-V对于ARM这边的替换在市场上已经在不断的发生,同时也发生在我们这边(DPU和FTTR)。”益思芯科技(上海)有限公司解决方案副总裁唐杰在第四届滴水湖RISC-V产业论坛中说到。
AMD Zen4架构和CCD计算内核设计已经没什么秘密了,但是做辅助的IOD输入输出内核一直比较神秘。
经过前几天的预热,撼迅正式发布了最顶级的RX 7900 XTX Liquid Devil,这也是华擎AUAQ水神之后,第二款水冷版RX 7900系列显卡。
据报道,AMD已经占据了中央处理器单元近三分之一的市场份额,而英国芯片技术公司 Arm Ltd 在 PC 市场的增长在 2022 年第四季度有所放缓。
消费市场下滑,这已经是不争的事实,而相比老对手Intel来说,AMD刚刚交出的业绩是超预期的,所以股价接连大涨,市值也是轻松超越前者。
上周Intel公司发布了22年Q4季度财报,现在轮到AMD的Q4财报了,他们的表现要比友商好得多,营收56亿美元,同比增长了16%,表现超过了预期。
一场始于云计算的软硬件变革,已经蔓延到了芯片行业甚至整个IT产业。没人能否认,新的大幕正徐徐拉开。自研DPU(Data Processing Unit),成为云厂商摆在台面上的要紧事。
在Intel发布不太好看的Q3季度财报之后没几天,AMD的Q3财报也出炉了,收为55.65亿美元,与上年同期的43.13亿美元相比增长29%,在当前的环境下还能逆势增长。
2021年10月至今,中科院计算所面向全行业先后发布了《专用数据处理器(DPU)技术白皮书》和《专用数据处理器(DPU)性能基准评测方法与实现》,两份白皮书较为全面地解释了,DPU为何被定义为数据中心发展的颠覆性技术。
AMD的芯片产品一直被誉为业界良心,这一次AMD又做了一件让用户感觉到AMD Yes的好事,该公司宣布将旗下的赛灵思7系列器件的寿命延长到了2035年,总计提供长达25年的支持,这些产品最早发布于10多年前。
AMD刚刚官方宣布,将于美国东部时间8月29日19点(北京时间8月30日7点)举办发布会,正式推出下一代锐龙7000系列处理器,主题是“together we advance_PCs”(同超越,共成就PC)。
在DPU概念诞生之初,人们争论它“应如何定义”,但后来发现,只有定义,还远不能说明 DPU能做什么、有什么作用、如何与现有系统更好地协同。本文将讨论DPU发展中的四个关键问题:DPU是什么?DPU可以标准化吗?DPU产业化面临哪些挑战?以及是否有“中国方案”?一些问题目前还很难给出确切的答案,但抛砖引玉,希望引起大家的关注。
前几天AMD发布了Q2季度财报,营收大涨70%,旗下的EPYC霄龙及Ryzen锐龙处理器功不可没,其中EPYC这一波涨势喜人,而且跟PC下滑不同,接下来EPYC业务还会继续增长。
Intel公司前几天发布了Q2季度财报,营收及盈利表现不佳,现在轮到AMD发布Q2季度财报,表现却是完全不一样的,AMD实现连续8个季度的增长,季度营收首次突破60亿美元,利润更是翻倍。
这大概是AMD历史上最突然、最神秘、最折腾的一块卡了。
前不久,@AMD中国 官微发布了一条“与蔚来达成合作,旗下EPYC系列处理器赋能蔚来汽车HPC平台”的视频,引起关注,6月8日,蔚来汽车企业传播高级总监马麟回应表示,蔚来与AMD没有合作,更没有授权AMD开展此传播。